L’IPNOCRAZIA È NEGLI OCCHI DI GUARDA – L’ESPERIMENTO DELL'EDITORE ANDREA COLAMEDICI, DI TLON, CHE SI È INVENTATO UN FILOSOFO DI HONG KONG, JANWEI XUN, E HA SCRITTO UN SAGGIO SUI RISCHI DELLA MANIPOLAZIONE DEL DIBATTITO PUBBLICO, USANDO L'INTELLIGENZA ARTIFICIALE – PROVOCAZIONE GENIALE? O TRUFFA PER I LETTORI? GIANFRANCO PELLEGRINO (LUISS), PROPENDE PER LA SECONDA: “COME TRUMP, MUSK, PETER NAVARRO, A TLON COMMETTONO IL MISFATTO CHE DENUNCIANO. INDICANO, CON UNA MANO, LA DISONESTÀ DEI POPULISTI, E LUCRANO, CON L’ALTRA, USANDO GLI STESSI MECCANISMI” – LA REPLICA DELL’AUTORE (QUELLO VERO) E IL DIBATTITO SU “APPUNTI”
1. L’ABUSO DEL POTERE CULTURALE
Estratto dell'intervento di Gianfranco Pellegrino su “Appunti”, la newsletter di Stefano Feltri – 11 aprile 2025
[…] In un commento all’articolo di Gloria Origgi sull’ipnocrazia, a partire da Ipnocrazia. Trump, Musk e l’architettura della realtà (Tlon, 2024), di Janwei Xun, già il 5 marzo un lettore manifestava dubbi sulla reale identità dell’autore del libro. Un mese più tardi, l’operazione viene disvelata dall’editore, in una intervista: Janwei Xun non esiste, né esiste la sua agente letteraria.
Il libro è frutto della combinazione, condotta dall’editore Andrea Colamedici, delle risposte di meccanismi di intelligenza artificiale e di citazioni da varie fonti (e riadattamenti e riscritture, s’immagina). L’obiettivo dichiarato è mostrare la teoria del libro in azione: la realtà si può manipolare con una certa facilità, come fanno, per i loro fini, i capi populisti.
IPNOCRAZIA - TRUMP, MUSK E LA NUOVA ARCHITETTURA DELLA REALTA - JIANWEI XUN
[…] Al di là del piccolo stupore, […] ci sono però due problemi, in tutto questo – uno di ordine filosofico, per così dire, e l’altro morale. Il primo problema si può descrivere così: molti […] hanno creduto che l’’autore del libro fosse reale, e realmente dicesse quelle cose. […]
Ma perché quest’ultimo caso funzioni, […] è necessario che, nella maggior parte dei casi, l’espressione delle proprie idee non sia insincera, non sia una menzogna. In altri termini, la bugia funziona su uno sfondo di verità.
I bugiardi fanno aggio sul fatto che la maggior parte delle persone, nella maggior parte dei casi, dicono la verità. La cosa funziona anche se non sono persone a parlare. […] della casa editrice Tlon ci siamo fidati e abbiamo creduto all’esistenza di Janwei Xun perché, di solito, le case editrici pubblicano libri di saggistica di autori reali, anche se, talvolta sotto falso nome. […] Janwei Xun non esiste. Ma il giochetto lo si è potuto fare solo perché altri autori esistono, e la maggior parte dei libri di saggistica non sono prodotto di un inganno. […]
Conta che chi scriveva non era chi diceva di essere, cosa che può avvenire che la bugia sia di fonte umana o artificiale. Pensare che tutto derivi dai successi o dai guasti provocati dall’intelligenza artificiale è un altro errore.
[…] L’operazione condotta da Tlon si avvale, slealmente, del fatto che la maggioranza delle case editrici non fanno cose del genere. Anche chi pubblica Elena Ferrante rispetta certi requisiti di affidabilità. Anche i Wu Ming si assumono certe responsabilità.
L’operazione di cui sto parlando, invece, è più simile alla truffa delle teste di Modigliani. E, come tutte le truffe, è sottilmente sleale, per quanto possa essere divertente.
È un uso di un potere diffuso – il potere di farsi credere, il potere di gestire le informazioni – per fini privati e non legittimi. È un abuso di potere, una sorta di sottile aggiottaggio culturale.
[…] Potrebbe essere un peccato veniale, e potrebbe essere un modo originale e interessante di farci riflettere, oltre a un coraggioso tentativo di vendere qualche copia in più in un mercato saggistico asfittico. Ma rischia anche di essere una complicità con quello che il libro vuol denunciare.
Come Trump, come Musk, come Peter Navarro, Andrea Colamedici e gli altri di Tlon commettono il misfatto che denunciano. Fanno aggio sulla sincerità e onestà della maggior parte delle persone che partecipano alla discussione pubblica – autori e autrici, case editrici, giornalisti e critici – per indicare, con una mano, la disonestà dei populisti, e lucrare, con l’altra, usando gli stessi meccanismi.
Siamo di fronte a uno di quei casi in cui la voglia di verificare una teoria (ammesso che fosse questo, e non solo un escamotage di bassa lega) può andare oltre, e può diventare complicità con l’errore.
Come se uno, per mostrare quanto è spregevole rubare, rubasse. Forse meglio di no. Forse meglio proteggere i valori di fiducia, affidabilità e sincerità che sono centrali per il funzionamento della civilizzazione, nonostante l’attacco populista. Anzi, è difendendoli, non sabotandoli, che possiamo provare a disinnescare l’attacco populista.
2. UN NUOVO PATTO CON IL LETTORE
Estratto della risposta di Andrea Colamedici per “Appunti” – 12 aprile 2025
[…] Gianfranco Pellegrino legge il progetto Ipnocrazia (di cui sono l’autore) come un caso di manipolazione della fiducia del lettore. L’accusa è chiara: creare uno scrittore fittizio per veicolare una narrazione, anche se “a fin di bene” (sebbene l’autore dica, neanche troppo velatamente, di considerare l’ipotesi che il tutto sia una manovra di marketing) significa rompere il patto con il lettore e “rubare per far vedere come rubano gli altri”. Io credo che questa posizione […] rischi di non cogliere il quadro più ampio: il pericolo non è la credulità, ma il cinismo.
Oggi che la manipolazione della percezione è diventata estremamente pervasiva, il patto tra chi scrive e chi legge - infatti - ha bisogno di evolvere.
[…] La fiducia tra chi scrive e chi legge non è mai scontata, e oggi più che mai va ripensata in termini adeguati alla complessità del presente. Quel che è necessario esplorare sono le possibilità di un nuovo patto che siano basate non sulla pretesa di una verità immediata, quanto sulla consapevolezza della natura complessa di ogni verità.
Non un accordo di fiducia cieca, ma un patto di vigilanza condivisa. In questa nuova relazione l’autore non dice semplicemente: “Fidati di me, ti dirò la verità”. Quanto, piuttosto: “Esploriamo insieme come si costruisce la verità nel mondo contemporaneo, e sviluppiamo gli strumenti per affrontare questo processo”.
PETER NAVARRO - DONALD TRUMP - HOWARD LUTNICK
Il lettore, dal canto suo, è invitato a diventare un partecipante attivo dell’esplorazione. Varie critiche al progetto Ipnocrazia sollevano intrinsecamente questa domanda: qual è il patto che lega autore, editore e lettore nell’era della manipolazione algoritmica?
La preoccupazione espressa da Pellegrino si fonda sull’idea che esperimenti come questo minino la fiducia sociale, rompendo un contratto tacito di sincerità che sarebbe alla base di ogni comunicazione autentica.
Eppure questa critica, seppur articolata e legittima nelle sue preoccupazioni, non coglie la proposta di un nuovo patto. Un patto più adeguato al tempo che viviamo, più consapevole delle sfide epistemiche che ci troviamo ad affrontare, più onesto riguardo alle condizioni in cui la verità oggi emerge.
[…] Il patto tradizionale diventa problematico non perché qualcuno lo viola, ma perché le sue premesse fondamentali non corrispondono all’ecosistema informativo e culturale in cui ci si ritrova a operare.
La tradizione letteraria e filosofica è ricca di esperimenti che hanno messo in discussione il patto tradizionale per esplorarne i limiti e le possibilità, fino ai più recenti esperimenti di Luther Blissett e Wu Ming.
Pellegrino - che con queste ultime tradizioni culturali non credo abbia rapporto diretto - sostiene che Jianwei Xun non abbia nulla a che vedere con questo filone di pratica e ricerca, e sia piuttosto affine a una truffa come quella delle teste di Modigliani.
ROBOT GIORNALISTA - IMMAGINE CREATA DALL INTELLIGENZA ARTIFICIALE DI MIDJOURNEY 1
Lo invito, allora, a leggere le riflessioni intorno a Ipnocrazia su L’Espresso di quella che fu la complice di alcune azioni di Luther Blissett, Loredana Lipperini, o quelle scritte da Mariano Tomatis, storico collaboratore del collettivo.
Ad ogni modo, questi esperimenti non sono semplici provocazioni o mistificazioni, ma tentativi […] di creare nuovi spazi di pensiero, nuove modalità di relazione tra autore e lettore, nuove forme di curatela collettiva della verità.
Ipnocrazia si inserisce in questa tradizione, ma con una differenza: mentre gli esperimenti precedenti operavano in un contesto in cui la distinzione tra vero e falso era ancora relativamente stabile, questa agisce in un’epoca in cui quella distinzione è diventata molto più problematica.
Non si tratta di giocare con le convenzioni all'interno di un quadro condiviso, ma di esplorare le possibilità di un nuovo paradigma di riferimento.
Non si è mai trattato, poi, di mostrare la creduloneria del pubblico né, tantomeno, dei giornalisti ed esperti che hanno sostenuto le tesi di Xun.
Giornalisti che, in questo momento storico, non hanno alcun bisogno di essere sottoposti a scherzetti o test di attenzione, vista la mole disumana di informazioni che si trovano a gestire quotidianamente, oltre a compensi, ritmi e modalità di lavoro altrettanto disumani, e andrebbero piuttosto tutelati.
[…] Il fatto è che le tesi di Xun restano valide, non sono una boutade. Interessanti o meno, chi si è rivisto in esse non è stato buggerato. Quelle tesi sono il frutto di una riflessione condotta utilizzando anche l’Intelligenza Artificiale, considerata come una tecnologia con cui analizzare la realtà mentre contribuisce pesantemente a plasmarla.
Sono io ad aver scelto di dire che nella scrittura del libro è stata utilizzata l’IA; non sono stato smascherato da nessuno. E ho scelto di dirlo perché, pur consapevole delle critiche che ne sarebbero venute, ho voluto problematizzare un tema che per me è fondamentale per la natura sperimentale e performativa del progetto: il fatto che stiamo usando male degli strumenti potentissimi, e che questo utilizzo è incredibilmente pericoloso.
Delegare l’esercizio del pensiero ai ChatGPT di turno, utilizzandoli in funzione oracolare e predatoria, produrrà conseguenze cognitive e sociali inimmaginabili.
È per questo che ho voluto portare l’attenzione su un altro modo di usare l’IA […], che si fondi su una pratica contrastiva e riflessiva, e non con l’infinita conferma dei propri bias attraverso un’infrastruttura ideologica e manipolativa qual è invece ChatGPT nel suo utilizzo comune.
[…]
In un’epoca in cui l’IA è già parte integrante della produzione culturale - quasi sempre in modo occulto - è cruciale sperimentare forme di collaborazione consapevole e critica che non deleghino passivamente il pensiero, né rifiutino aprioristicamente l’utilizzo di questi strumenti. Che non ci facciano ricadere né nella tecnofobia né nel tecnoentusiasmo, ma affrontino la sfida di un dialogo complesso tra intelligenze diverse.
Ciò che non colgono alcune critiche di questi giorni, tra le quali quella di Pellegrino è la meglio articolata, è il fatto che Ipnocrazia non ha mirato a smascherare la distrazione, né a denunciare i meccanismi della manipolazione contemporanea - che sono già fin troppo evidenti - ma a sollecitare una riflessione pubblica e a ribadire in maniera performativa le tesi del libro, che non si esauriscono affatto in un “siamo tutti ipnotizzati”.
Non basta dire ai lettori che viviamo tempi di manipolazione algoritmica della realtà; è importante, a mio avviso, che si faccia esperienza diretta di come questa può essere attraversata criticamente, e che si senta il desiderio di farlo.
[…]
Insomma, Ipnocrazia non è un progetto perfetto, né pretende di esserlo. È un esperimento, con tutti i limiti e i rischi che ogni esperimento comporta. Ma è un esperimento che a me è parso e pare tuttora utile, in un’epoca in cui le vecchie mappe non funzionano più, e stiamo provando a disegnare le nuove.
La critica a Ipnocrazia è legittima e necessaria, ma è importante esplorare la possibilità che il progetto non sia una semplice violazione del patto tradizionale.
La domanda per me non è se Ipnocrazia abbia tradito la fiducia dei lettori, ma se la vecchia forma di fiducia che si presuppone tradita sia ancora adeguata al mondo in cui viviamo. E se non lo è, come possiamo svilupparne una diversa, più robusta e consapevole, capace di resistere alle manipolazioni algoritmiche e all’ambiente cognitivo saturo in cui siamo immersi.
Questo è il compito che, a mio avviso, ci attende come docenti, giornalisti, intellettuali, studiosi, cittadini: non difendere nostalgicamente un modello di relazione autore-lettore ormai inadeguato, né abbandonarci al cinismo di un mondo senza verità, ma esplorare insieme le possibilità di un nuovo patto, di una nuova etica della lettura e della scrittura, di una nuova forma di comunità cognitiva.
È difficile, e avevo messo in conto che avrei ricevuto, oltre agli entusiasmi, critiche dure. Va bene così, fa parte del gioco fin dall’inizio. Ma è anche un compito necessario per tutti e, io credo, il più urgente del nostro tempo.
URSULA, LA KAISER DI BRUXELLES - L ACTION FIGURE CREATA CON CHATGPT
Siamo sicuri che Andrea Colamedici esista?
La risposta di Stefano Feltri
Ringrazio Gianfranco Pellegrino e Andrea Colamedici, e prima di loro Gloria Origgi, per aver aperto queste discussione che credo sia utile.
Non ho letto Ipnocrazia, soltanto il pezzo di Gloria Origgi che ne traeva spunto e poi quello di Gianfranco Pellegrino, ma penso di poter rispondere comunque alla domanda che Colamedici solleva:
“La domanda per me non è se Ipnocrazia abbia tradito la fiducia dei lettori, ma se la vecchia forma di fiducia che si presuppone tradita sia ancora adeguata al mondo in cui viviamo. E se non lo è, come possiamo svilupparne una diversa, più robusta e consapevole, capace di resistere alle manipolazioni algoritmiche e all’ambiente cognitivo saturo in cui siamo immersi”.
Rispondo in due parti.
Primo: le regole della fiducia non cambiano al variare della tecnologia. Il fatto di cercare informazioni su Google invece che in qualche archivio o biblioteca non ha emancipato i giornalisti o gli scrittori dal loro patto con il lettore.
Anzi, proprio perché il lettore ha già accesso a quelle quantità infinite di informazioni, l’unica ragione per pagare un mediatore è delegargli la responsabilità di mettere ordine, filtrare, interpretare.
Se il mediatore non rispetta il patto, mette a rischio il proprio senso di esistere. Per questo non ho mai approvato […] le false notizie da pubblicare il primo aprile che per un po’ andavano di moda: se pubblichi notizie false un giorno, instilli il dubbio che puoi farlo sempre.
[…] Migliaia di persone si sottopongono a riti estenuanti come la partecipazione al Salone del Libro o ai mille festival culturali del Paese soltanto per avere la conferma che gli autori dei libri che hanno letto e amato esistono davvero, che ci sono delle persone dietro le pagine.
risposte senza senso date da chatgpt 7
Dunque, per rispondere alla prima domanda di Colamedici: il vecchio rapporto di fiducia è più necessario che mai. La tecnologia ha ridotto la distanza tra autore e lettore, dunque o c’è una fiducia personale, diretta, orizzontale, o non c’è alcun rapporto. E infatti una volta rivelato che l’autore di Ipnocrazia non esiste, dubito che molti altri lo compreranno.
Anche il lettore può usare Google, l’AI, farsi scrivere analisi, poesie, testi divulgativi da qualunque large language model. Se si rivolge a un altro essere umano è per un rapporto personale di stima e delega.
La seconda parte della domanda di Colamedici è come sviluppare un rapporto di fiducia più contemporaneo, adeguato.
Le regole di fondo, come ho detto, sono le stesse. Con qualche piccola variazione che proprio l’esperimento Ipnocrazia rende evidenti.
Ho appena finito di scrivere un libro nel quale ho fatto molto ricorso a ChatGpt: per la correzione dei refusi, per preparare dossier preliminari su alcuni argomenti o personaggi con la funzione Deep Research, per testare alcune parti e avere un feedback.
L’AI è uno strumento, niente di più e niente di meno, con la differenza che può sostituirsi a noi se deleghiamo troppo.
Ma già nell’era di Google qualunque autore poteva copiare e incollare, bruciare sul tempo i concorrenti, appropriarsi spesso senza rischio di sanzione. E perfino nell’età dei libri stampati: anzi, cosa c’era di più facile che saccheggiare qualche saggio straniero, magari non tradotto da lingue poco conosciute, e appropriarsi di quanto c’era di valido? Chi mai se ne sarebbe accorto?
[…] L’AI […]manipola la realtà in modi molto più sottili, con filtri che non percepiamo: replica i bias dei suoi dati di addestramento, incorpora i filtri dei programmatori che ne hanno determinato l’impianto valoriale, aggiunge il mistero delle interazioni tra i vari livelli delle reti neurali che determinano il potere predittivo del modello secondo logiche indecifrabili.
Più interagiamo e più deleghiamo, più accogliamo i suoi bias nel prodotto finito, sostiuendoli ai nostri bias personali (che però sono anche quello che ci rende specifici, forse unici)
Se l’AI ci dia una illusione di conoscenza o aggiunga davvero qualcosa è oggetto di riflessione, ma non sono sicuro che l’operazione Ipnocrazia aggiunga qualcosa a questo dibattito, così come una foto creata da Midjourney che rappresenta un pezzo di mondo inesistente non ci offre una maggiore comprensione della realtà […]
ROBOT GIORNALISTA - IMMAGINE CREATA DALL INTELLIGENZA ARTIFICIALE DI MIDJOURNEY
A me sembra che l’intera operazione di Ipnocrazia confermi la mia tesi che il rapporto con il lettore non è cambiato: in fondo Colamedici ha pubblicato un libro scritto con il supporto dell’AI per la propria casa editrice, Tlon, con l’intento fin dall’inizio di rivelare poi il gioco per aprire una discussione.
Ma tutto questo si fonda sul fatto che esista un rapporto di fiducia tra Colamedici e il suo pubblico, e che Colamedici abbia una sua legittimità a parlare di questi temi che gli deriva anche dalle sue docenze universitarie, e - soprattutto - che il pubblico sappia che Colamedici esiste, è una persona vera, che parla a persone vere.
Se il lettore avesse il dubbio che Colamedici sia un personaggio fittizio, creato da Jianwei Xun dialogando con DeepSeek, per manipolare la discussione social attraverso un progetto di divulgazione filosofica, allora da un lato Colamedici avrebbe ragione, dall’altro nessuno si interesserebbe a Ipnocrazia e a questa discussione.
