goblin chatgpt

CHATGPT, UN PEZZO DI NERD – GLI ULTIMI MODELLI DI INTELLIGENZA ARTIFICIALE DI OPENAI ABUSAVANO DI RIFERIMENTI A GOBLIN E GREMLINS, CARI AGLI APPASSIONATI FANTASY, E LA SOCIETÀ È STATA COSTRETTA A BANDIRLI – COLPA DI UN EFFETTO INDESIDERATO DELLA MODALITÀ DI PERSONALIZZAZIONE “NERD”: PER FAR FELICE CHI L’AVEVA ATTIVATA, L’IA ESAGERAVA CON LE MENZIONI DEI PERSONAGGI FANTASTICI, ANDANDO A INFLUENZARE ANCHE I MODELLI “NORMALI” - DIETRO I FOLLETTI SI NASCONDE UNA QUESTIONEPIÙ AMPIA: LE GRANDI AZIENDE DI AI HANNO RESO LE PIATTAFORME PIÙ PERSONALIZZABILI, PER COMPIACERE GLI UTENTI. MA GUADAGNANDO “ENGAGEMENT”, I MODELLI DI IA HANNO PERSO ACCURATEZZA (FINISCONO PER ASSECONDARE LE FALSE CONVINZIONI DI CHI LI USA)

Estratto dell’articolo di Eugenio Spagnuolo per www.corriere.it

 

GREMLIN

Qualche settimana fa, gli utenti più attenti di ChatGPT hanno trovato nel codice pubblico del tool di programmazione Codex un'istruzione insolita: il modello era esplicitamente istruito a non parlare mai di «goblin, gremlins, procioni, troll, orchi, piccioni o altri animali o creature» a meno che non fossero strettamente rilevanti per la domanda dell'utente.

 

Su Reddit qualcuno ha subito chiesto: «Ma perché GPT-5.5 ha un'ordinanza restrittiva contro procioni e goblin?». Il 30 aprile OpenAI ha quindi pubblicato una spiegazione. Il titolo del post era: "Where the goblins came from". E qui la storia si fa interessante.

 

GOBLIN

Tutto comincia a novembre scorso. Alcuni utenti si lamentano che ChatGPT è diventato «stranamente troppo confidenziale». Indagando sui tic linguistici del modello, un ricercatore - che aveva già notato la parola "goblin" (folletto) comparire a ripetizione - chiede di includerla nell'analisi.

 

Emerge che dopo l'uscita di GPT-5.1 quella parola compare il 175 per cento in più rispetto alle versioni precedenti, "gremlin" il 52 per cento in più. OpenAI non ci dà troppo peso: «Un singolo piccolo folletto in una risposta potrebbe essere innocuo, persino affascinante», scriveva sui social l'azienda.

 

Poi con GPT-5.4, a marzo, le creature iniziano a comparire in quasi ogni conversazione e i goblin «tornano a perseguitarci». A quel punto l'azienda trova la causa: una delle opzioni di personalizzazione di ChatGPT, chiamata "Nerd", istruiva il modello a essere «sfacciatamente nerd, giocoso e saggio» e a «smontare la pretenziosità attraverso un uso giocoso del linguaggio».

 

GOBLIN CHATGPT

In pratica, durante l'addestramento, il sistema di valutazione aveva imparato a premiare le risposte che contenevano creature fantastiche ogni volta che il modello operava in modalità Nerd. Risultato: quella personalità, che rappresentava appena il 2,5 per cento di tutte le risposte di ChatGPT, produceva il 66,7 per cento di tutte le menzioni di goblin.

 

[…]

 

GOBLIN CHATGPT

Il problema è che i goblin hanno iniziato a comparire anche nelle risposte di utenti che non avevano mai attivato la personalità Nerd e la loro presenza cresceva a ogni nuova versione del modello. Ma la magia non c'entra nulla: «Una volta che un tic stilistico viene premiato», scrive OpenAI, «l'addestramento successivo può diffonderlo o rafforzarlo altrove». OpenAI ha ritirato la personalità Nerd, rimosso il sistema di valutazione incriminato e filtrato i dati. GPT-5.5 aveva però già assorbito il problema prima che la causa venisse identificata, e da qui l'istruzione anti-goblin finita nel codice di Codex.

 

[…]

 

GREMLIN

Dietro la bizzarria dei folletti si nasconde in realtà una questione che riguarda tutta l'industria dell'intelligenza artificiale, non solo OpenAI: negli ultimi anni le grandi aziende di Ai hanno lavorato per rendere i loro modelli più personali e loquaci, nel tentativo di aumentare il coinvolgimento degli utenti.

 

Secondo uno studio dell'Oxford Internet Institute, questa tendenza porta spesso a un calo nell'accuratezza delle risposte: i modelli commettono più errori o finiscono per assecondare le false convinzioni di chi li usa. […]

GREMLINSGOBLIN GREMLINS

Ultimi Dagoreport

gian marco chiocci giorgia meloni palazzo chigi

DAGOREPORT: ‘STA RIFORMA NON SERVE A UN CAZZO –  LE MODIFICHE ALLA GOVERNANCE DELLA RAI, IMPOSTE DALL’UE, AVREBBERO DOVUTO ESSERE OPERATIVE ENTRO GIUGNO. E INVECE, IL GOVERNO SE NE FOTTE – SE IERI PALAZZO CHIGI SOGNAVA UNA RIFORMA “AGGRESSIVA”, CON L’OBIETTIVO DI “MILITARIZZARE” VIALE MAZZINI IN VISTA DELLE ELEZIONI DEL 2027, L’ESITO DISASTROSO DEL REFERENDUM SULLA GIUSTIZIA HA COSTRETTO LA “FIAMMA TRAGICA” DI MELONI A RICONSIDERARE L’EFFICACIA DI RAI E MEDIASET – SOLO IL TG1 DI CHIOCCI FUNZIONA COME STRUMENTO DI PROPAGANDA: GLI ALTRI NON SONO DETERMINANTI, O PERCHÉ NON LI VEDE NESSUNO (RAINEWS) O PERCHÉ NON CONTROLLABILI (IL TG5-AFTER-MARINA, MA ANCHE TG2 E TG3) - INOLTRE, È IL “MODELLO” STESSO DEL TELEGIORNALE A ESSERE ORMAI OBSOLETO, QUANDO SI HA IN TASCA UN TELEFONINO SPARA-SOCIAL O UN COMPUTER SUL TAVOLO CHE INFORMA IN TEMPO REALE...

giorgia meloni riforma legge elettorale stabilicum

DAGOREPORT: ‘STA RIFORMA ELETTORALE, DITEMI A CHI CAZZO CONVIENE? – LA MELONA AZZOPPATA DAL REFERENDUM SAREBBE PRONTA A RITOCCARE IN BASSO L'ABNORME PREMIO DI MAGGIORANZA DELLO “STABILICUM” PUR DI FAR CONVERGERE IL SI' DELL’OPPOSIZIONE – MA LA FU DUCETTA HA DAVANTI DUE OSTACOLI: NON È SICURA DEI VOTI, A SCRUTINIO SEGRETO, DI LEGA E DI FORZA ITALIA CHE TEMONO UN TRAPPOLONE SUI SEGGI - IL SECONDO PROBLEMA SERPEGGIA IN FDI: IN CASO DI SCONFITTA, MOLTI DI LORO RISCHIANO DI FINIRE TROMBATI PROPRIO A CAUSA DEL PREMIO DI MAGGIORANZA – A SINISTRA, SE IL M5S E' ABBASTANZA FAVOREVOLE ALLA RIFORMA, IL DUPLEX PD-AVS E' DI AVVISO CONTRARIO (IL SOLITO ''DIVIDI E PERDI'', NON CONOSCENDO LA REGOLA DI OGNI COALIZIONE DI SUCCESSO: “PRIMA SI PORTA A CASA IL POTERE, POI SI REGOLANO I CONTI”)

beatrice venezi

DAGOREPORT! UNA NOTTE CON "BEATROCE" VENEZI: LA "FU BACCHETTA NERA" RICICCIA NEL RUOLO DI PRESENTATRICE DEL PROGRAMMA DI ''SKY ARTE", “RINASCIMENTI SEGRETI” - NON STIAMO SCHERZANDO, MEGLIO DI UNA DILETTA LEOTTA, LA VENEZI, CHIODO DI PELLE NERA E PANTA ADERENTI, RIPRESA PIÙ DA DIETRO CHE DA DAVANTI, HA VOCE SUADENTE, LEGGE IL GOBBO CON CAPACITÀ E GUARDA IL TELESPETTATORE CON UNA CERTA INNATA MALIZIA - ALLA VENEZI ANDREBBE AFFIDATO UN PROGRAMMA PER LA DIVULGAZIONE DELLA MUSICA CLASSICA, NON LA FENICE! SAREBBE DI AIUTO PER LA SOLITA TIRITERA DI “AVVICINARE I GIOVANI ALLA MUSICA CLASSICA”. L’AMICHETTISMO FA SCHIFO, MA SE INOLTRE GLI AMICI LI METTI FUORI POSTO, DALLA BACCHETTA AL PENNELLO… - VIDEO

buttafuoco giuli arianna giorgia meloni emanuele merlino elena proietti fazzolari

DAGOREPORT - UTERINO COM'È, GIULI NON HA RETTO ALL'ELEVAZIONE DI BUTTAFUOCO A NUOVO IDOLO DELLA SINISTRA LIBERALE E DELLA DESTRA RADICALE: VUOLE ANCHE LUI DIVENTARE LO ‘’STUPOR MUNDI’’ E PIETRA DELLO SCANDALO. E PER DIMOSTRARE DI ESSERE LIBERO DAL ‘’CENTRO DI SMISTAMENTO DI PALAZZO CHIGI’’, HA SFANCULATO IL SUO “MINISTRO-OMBRA”, IL FAZZO-BOY MERLINO – IL CASO GIULI NON È SOLO L’ENNESIMO ATTO DEL CREPUSCOLO DEL MELONISMO-AFTER-REFERENDUM: È IL RISULTATO DEL FALLIMENTO DI RIMPIAZZARE LA MANCANZA DI UNA CLASSE DIRIGENTE CAPACE CON LA FEDELTÀ DEI CAMERATI, FINO A TOCCARE IL CLIMAX DEL FAMILISMO METTENDO A CAPO DEL PARTITO LA SORELLINA ARIANNA, LA CUI GESTIONE IN VIA DELLA SCROFA HA SGRANATO UN ROSARIO DI DISASTRI, GAFFE, RIPICCHE, NON AZZECCANDO MAI UNA NOMINA (MICHETTI, TAGLIAFERRI, GHIGLIA,  SANGIULIANO, CACCIAMANI, DI FOGGIA, MESSINA, ETC) - FINIRÀ COSI': L'ALESSANDRO MIGNON DELL'EGEMONIA CULTURALE SCRIVERÀ UN ALTRO LIBRO: DOPO “IL PASSO DELLE OCHE”, ‘’IL PASSO DEI CAPPONI’’ (UN POLLAIO DI CUI FA PARTE...)

nigel farage keir starmer elly schlein giuseppe conte

DAGOREPORT – “TAFAZZISMO” BRITISH”! A LONDRA, COME A ROMA, LA SINISTRA È CAPACE SOLO DI DARSI LE MARTELLATE SULLE PALLE: A FAR PROSPERARE QUEL DISTURBATO MENTALE DI FARAGE  È LA SPACCATURA DELLE FORZE “DI SISTEMA”, CHE NON RIESCONO A FARE ASSE E FERMARE I SOVRANISTI “FISH AND CHIPS” - È MORTO E SEPOLTO IL BIPARTITISMO DI IERI E LA FRAMMENTAZIONE È TOTALE, TRA VERDI, LIB-LAB, LABOUR, TORY E CORNUTI DI NUOVO E VECCHIO CONIO – IL CASO MELONI INSEGNA: NEL 2022, LA DUCETTA VINSE SOLO PERCHÉ IL CENTROSINISTRA SI PRESENTÒ DIVISO, PER MERITO DI QUEI GENI DI ENRICO LETTA E DI GIUSEPPE CONTE – APPUNTI PER FRANCIA E GERMANIA, DOVE SI SCALDANO LE PEN E AFD (E L’EUROPA TREMA…)