goblin chatgpt

CHATGPT, UN PEZZO DI NERD – GLI ULTIMI MODELLI DI INTELLIGENZA ARTIFICIALE DI OPENAI ABUSAVANO DI RIFERIMENTI A GOBLIN E GREMLINS, CARI AGLI APPASSIONATI FANTASY, E LA SOCIETÀ È STATA COSTRETTA A BANDIRLI – COLPA DI UN EFFETTO INDESIDERATO DELLA MODALITÀ DI PERSONALIZZAZIONE “NERD”: PER FAR FELICE CHI L’AVEVA ATTIVATA, L’IA ESAGERAVA CON LE MENZIONI DEI PERSONAGGI FANTASTICI, ANDANDO A INFLUENZARE ANCHE I MODELLI “NORMALI” - DIETRO I FOLLETTI SI NASCONDE UNA QUESTIONEPIÙ AMPIA: LE GRANDI AZIENDE DI AI HANNO RESO LE PIATTAFORME PIÙ PERSONALIZZABILI, PER COMPIACERE GLI UTENTI. MA GUADAGNANDO “ENGAGEMENT”, I MODELLI DI IA HANNO PERSO ACCURATEZZA (FINISCONO PER ASSECONDARE LE FALSE CONVINZIONI DI CHI LI USA)

Estratto dell’articolo di Eugenio Spagnuolo per www.corriere.it

 

GREMLIN

Qualche settimana fa, gli utenti più attenti di ChatGPT hanno trovato nel codice pubblico del tool di programmazione Codex un'istruzione insolita: il modello era esplicitamente istruito a non parlare mai di «goblin, gremlins, procioni, troll, orchi, piccioni o altri animali o creature» a meno che non fossero strettamente rilevanti per la domanda dell'utente.

 

Su Reddit qualcuno ha subito chiesto: «Ma perché GPT-5.5 ha un'ordinanza restrittiva contro procioni e goblin?». Il 30 aprile OpenAI ha quindi pubblicato una spiegazione. Il titolo del post era: "Where the goblins came from". E qui la storia si fa interessante.

 

GOBLIN

Tutto comincia a novembre scorso. Alcuni utenti si lamentano che ChatGPT è diventato «stranamente troppo confidenziale». Indagando sui tic linguistici del modello, un ricercatore - che aveva già notato la parola "goblin" (folletto) comparire a ripetizione - chiede di includerla nell'analisi.

 

Emerge che dopo l'uscita di GPT-5.1 quella parola compare il 175 per cento in più rispetto alle versioni precedenti, "gremlin" il 52 per cento in più. OpenAI non ci dà troppo peso: «Un singolo piccolo folletto in una risposta potrebbe essere innocuo, persino affascinante», scriveva sui social l'azienda.

 

Poi con GPT-5.4, a marzo, le creature iniziano a comparire in quasi ogni conversazione e i goblin «tornano a perseguitarci». A quel punto l'azienda trova la causa: una delle opzioni di personalizzazione di ChatGPT, chiamata "Nerd", istruiva il modello a essere «sfacciatamente nerd, giocoso e saggio» e a «smontare la pretenziosità attraverso un uso giocoso del linguaggio».

 

GOBLIN CHATGPT

In pratica, durante l'addestramento, il sistema di valutazione aveva imparato a premiare le risposte che contenevano creature fantastiche ogni volta che il modello operava in modalità Nerd. Risultato: quella personalità, che rappresentava appena il 2,5 per cento di tutte le risposte di ChatGPT, produceva il 66,7 per cento di tutte le menzioni di goblin.

 

[…]

 

GOBLIN CHATGPT

Il problema è che i goblin hanno iniziato a comparire anche nelle risposte di utenti che non avevano mai attivato la personalità Nerd e la loro presenza cresceva a ogni nuova versione del modello. Ma la magia non c'entra nulla: «Una volta che un tic stilistico viene premiato», scrive OpenAI, «l'addestramento successivo può diffonderlo o rafforzarlo altrove». OpenAI ha ritirato la personalità Nerd, rimosso il sistema di valutazione incriminato e filtrato i dati. GPT-5.5 aveva però già assorbito il problema prima che la causa venisse identificata, e da qui l'istruzione anti-goblin finita nel codice di Codex.

 

[…]

 

GREMLIN

Dietro la bizzarria dei folletti si nasconde in realtà una questione che riguarda tutta l'industria dell'intelligenza artificiale, non solo OpenAI: negli ultimi anni le grandi aziende di Ai hanno lavorato per rendere i loro modelli più personali e loquaci, nel tentativo di aumentare il coinvolgimento degli utenti.

 

Secondo uno studio dell'Oxford Internet Institute, questa tendenza porta spesso a un calo nell'accuratezza delle risposte: i modelli commettono più errori o finiscono per assecondare le false convinzioni di chi li usa. […]

GREMLINSGOBLIN GREMLINS

Ultimi Dagoreport

kyriakou pier silvio berlusconi enrico mentana crippa fedele confalonieri mediaset urbano cairo marina

DAGOREPORT - RITORNA A CASA, LESSO! SI ACCAVALLANO LE VOCI CHE LA PROSSIMA DESTINAZIONE DI ENRICO MENTANA SIA QUELLA DI PADRONE SUPREMO DI TUTTA L’INFORMAZIONE MEDIASET - RUOLO CHE DAL 1998 RICOPRE IL FEDELISSIMO “FELDMARESCIALLO” DI FEDELE CONFALONIERI, MAURO CRIPPA, ARTEFICE MAGICO DEL “RETEQUATTRISMO” DEI DEL DEBBIO-PORRO-GIORDANO-SALLUSTI CHE HA APPARECCHIATO L’AVANZATA POPULISTA DI SALVINI E POI IL MELONISMO SENZA LIMITISMO - CHE PIER SILVIO (E LA SORELLA SUPERIORE MARINA) ABBIA LE PALLE IN SATURAZIONE DEL “CRIPPISMO ALLA FIAMMA” SI ERA BEN CAPITO DALLO SBARCO SU RETE4 DI BIANCA BERLINGUER, POI DI TOMMASO LABATE E INFINE DI MILO INFANTE CHE, OLTRE A CONDURRE DUE PROGRAMMI, E' NOMINATO CONDIRETTORE DELLA “STANZA DEI BOTTONI” DEL CRIPPA-PENSIERO, VIDEONEWS - L’IPOTESI MENTANA È STATA ACCOLTA DALLA CRICCA DI CRIPPA OVVIAMENTE MALE, MALISSIMO, CONOSCENDO ALTRESÌ BENE IL CARATTERINO DI CHICCO. E GIRANO A MEZZA VOCE BATTUTINE DEL TIPO: ‘’PIER SILVIO MANDA IN PENSIONE IL 67ENNE CRIPPA PER SOSTITUIRLO CON MENTANA, PENSIONATO DI 71 ANNI...’’

sigfrido ranucci valter lavitola giampaolo rossi

DAGOREPORT - MARTEDÌ PROSSIMO CALERÀ IL SIPARIO SU RANUCCI: A OTTOBRE, QUANDO RITORNERÀ IN ONDA “REPORT”, L’AMICO FRATERNO” DI WALTERINO LAVITOLA NON SARÀ PIÙ ALLA CONDUZIONE - IN SEGUITO ALLE VERIFICHE INTERNE (“AUDIT) SUL RISPETTO DEL CODICE ETICO DELLA RAI E IN ATTESA DELLE DECISIONI DEGLI INQUIRENTI E DEI MAGISTRATI SULLA MA-LAVITOLA ALLE VONGOLE SGUSCIATE, L'AMMINISTRATORE DELEGATO GIAMPAOLO ROSSI COMUNICHERÀ A RANUCCI IL CAMBIO DI CONDUZIONE (SOSTITUZIONE CHE È NEL PIENO DIRITTO DELLE PROCEDURE AZIENDALI) - QUINDI, A DISPETTO DI QUANTO PIÙ VOLTE SCRITTO, IL DIPENDENTE RAI RANUCCI SIGFRIDO NON VERRÀ ASSOLUTAMENTE “SOSPESO” DAL RUOLO DI VICE-DIRETTORE, IL SUO STIPENDIO CORRERÀ TRANQUILLO COME OGNI MESE, MA VERRÀ SPOSTATO DAL RESPONSABILE DEI PROGRAMMI DI APPROFONDIMENTO, PAOLO CORSINI, AD ALTRI IMPORTANTI INCARICHI - FINE DEL PRIMO TEMPO....

giorgia meloni e primo ministro etiope abiy ahmed sem fabrizi

DAGOREPORT – COME SI È ARRIVATI AL CLAMOROSO SCAZZO DIPLOMATICO CON L’ETIOPIA? BISOGNA TORNARE AL 2024, QUANDO IL PREMIER DI ADDIS ABEBA, ABIY AHMED, AIUTA GIORGIA MELONI A CONVINCERE L’UNIONE AFRICANA A FIRMARE IL PIANO MATTEI. GLI ALTRI LEADER DEL CONTINENTE NERO ERANO SCETTICI (EUFEMISMO) E AHMED TIRA FUORI DAL CILINDRO IL COINVOLGIMENTO DELL’UE – SOLO CHE IL GOVERNO ETIOPE SI ASPETTAVA QUALCHE “VANTAGGIO” CHE, EVIDENTEMENTE, NON È ARRIVATO. RISULTATO? LA “RITORSIONE” CONTRO SEM FABRIZI, OTTIMO AMBASCIATORE, CHE DOPO DIECI MESI È STATO RICHIAMATO IN ITALIA PER EVITARE L’UMILIAZIONE DI ESSERE DICHIARATO “PERSONA NON GRATA"

ceuta migranti spagna francia pedro sanchez giorgia meloni emmanuel macron

FLASH – IN POCHI SOTTOLINEANO QUALI SONO GLI UNICI DUE GRANDI PAESI DELL’UE A NON ACCODARSI AI “RESPINGIMENTI” DEI DUBLINANTI VERSO L’ITALIA: FRANCIA E SPAGNA – MACRON E SANCHEZ SE LA RIDONO DI FRONTE ALLE DIFFICOLTÀ DI GIORGIA MELONI, E MOSTRANO ORGOGLIOSAMENTE MA SENZA PUBBLICIZZARLA LA LORO POSIZIONE: NOI SIAMO PER L’ACCOGLIENZA, NON RIMANDIAMO INDIETRO NESSUNO, ANCHE SE POTREMMO. UNA MOSSA POLITICA CHE MANDA FUORI GIRI GLI OTOLITI DELLA “SIRENETTA DEL COLLE OPPIO”

giorgia meloni antonio tajani matteo salvini

DAGOREPORT – I FRANCHI-TIRATORI PER IL “MELONELLUM” INIZIANO A ESSERE TANTI, FORSE TROPPI – SE LA LEGA VA DRITTA VERSO LA RESA DEI CONTI, ANCHE FORZA ITALIA È IN TUMULTO - DOPO LA “FRONDA” DELLE DONNE, GUIDATE DALLA BERLUSCHINA DEBORAH BERGAMINI, SU PREFERENZE E PARITÀ DI GENERE, ORA È IL MINISTRO DELLA PUBBLICA AMMINISTRAZIONE, PAOLO ZANGRILLO, A INCAZZARSI CON TAJANI PER IL MANCATO COINVOLGIMENTO NELL’INIZIATIVA ANTI-BUROCRAZIA DEL PARTITO – IL GUAIO PIÙ GROSSO PER LA DUCETTA, PERÒ, RESTA QUEL CARTOCCIO DEL CARROCCIO: CON IL 6% CHE GLI ATTRIBUISCONO I SONDAGGI (DI CUI QUASI LA METÀ “CONTROLLATO” DAI GOVERNATORI DEL NORD), LE TRUPPE DEL PARTITO DI SALVINI SI SGONFIERANNO. DEGLI ATTUALI 95 TRA DEPUTATI E SENATORI, E SARÀ UN MIRACOLO SE RESTERANNO UNA TRENTINA - IN CASO DI VITTORIA DEL CENTROSINISTRA, LA SITUAZIONE POTREBBE ESSERE ANCORA PEGGIORE: DUE LEGHISTI SU TRE RISCHIANO DI NON ESSERE RIELETTI - CHISSA' COSA SUCCEDERA' A SETTEMBRE, QUANDO ALLA CAMERA I DEPUTATI DI LEGA E DI FORZA ITALIA (MA ANCHE FRANGE DI FDI) SARANNO CHIAMATI A VOTARE (CON SCRUTINIO SEGRETO) LA NUOVA LEGGE ELETTORALE, UNICA RIFORMA RIMASTA IN PIEDI DEL GOVERNO MELONI....

meloni schlein lovaglio messina donnet

DAGOREPORT – A FERRAGOSTO UN COLPO DI “SOLE” CI STA. FIRMATO DAL DIRETTORE DEL QUOTIDIANO DELLA CONFINDUSTRIA, FABIO TAMBURINI ANNUNCIA CHE PER CONTRASTARE L’OPAS DI INTESA SU MPS NELLA MENTE DI LUIGI LOVAGLIO FRULLEREBBERO NON UNA, MA ADDIRITTURA DUE OPS (OFFERTA PUBBLICA DI SCAMBIO). UNA PER PRENDERE IL CONTROLLO SUL BANCO BPM E L’ALTRA PER ACQUISIRE BANCA GENERALI – NON FINISCE QUI: IN BALLO CI SAREBBE ANCHE LA POSSIBILE VENDITA DEL 13,2% DI GENERALI POSSEDUTO DA MEDIOBANCA, VERO OBIETTIVO DEL RISIKONE BANCARIO – A INGARBUGLIARE LA PARTITA, SI È AGGIUNTA LA PRESA DI DISTANZA DALL’OPAS DI INTESA, LA “BANCA DI SISTEMA” GUIDATA DA CARLO MESSINA, DA PARTE DEL POTERE POLITICO AL COMPLETO, CON MELONI E SCHLEIN PER UNA VOLTA SULLO STESSO FRONTE – ‘STA MEGA-OPERAZIONE DELL’IRRIDUCIBILE LOVAGLIO, CHE DOVREBBE ESSERE ANNUNCIATA NEL CDA DI MPS CONVOCATO PER DOMANI, PUÒ AVERE TANTI VARIABILI DA SCHEDINA: 1-2-X – IN TALE LABIRINTO DI SPECCHI, C’È UN ‘’CONVITATO DI PIETRA’’ CHE TUTTI NOTANO MA CHE NESSUNO NOMINA: IL CEO DI GENERALI, PHILIPPE DONNET, CHE OVVIAMENTE NON FA SALTI DI GIOIA AL PENSIERO DELLA POSSIBILE ACQUISIZIONE VIA OPAS SU MPS DI BANCA INTESA DEL 13,2% DEL COLOSSO ASSICURATIVO…