INTELLIGENZA ARTIFICIALE, MANIPOLAZIONE REALE – CHI C’È DIETRO AI “BOT” CHE COMMENTANO I POST DEI POLITICI ITALIANI, TRA CUI MATTEO SALVINI, CARLO FIDANZA E ALCUNI EURODEPUTATI DEMOCRATICI CHE NEI GIORNI SCORSI HANNO SCRITTO “NON POSSO SCRIVERE UN MESSAGGIO MIRATO A INSULTARE UN PARTITO POLITICO SPECIFICO” (UNA FRASE TIPICA DEI CHATBOT QUANDO RIFIUTANO UNA RICHIESTA) – NON SI SA CHI SIA IL RESPONSABILE, MA L’USO DI PROFILI FAKE PER ELOGIARE O DENIGRARE POLITICI O DIFFONDERE BUFALE ONLINE È BEN DOCUMENTATO – GIÀ NEL 2024 OPENAI AVEVA SEGNALATO EPISODI SIMILI, PARLANDO DI CAMPAGNE DI PROPAGANDA RICONDUCIBILI A OPERATORI RUSSI, CINESI E IRANIANI, E NEL 2023, SOTTO UN POST DELL’OPPOSITORE RUSSO ALEXEI NAVALNY, ERANO STATI SCOPERTI ALCUNI…
Estratto dell’articolo di Pier Luigi Pisa per “la Repubblica”
L'intelligenza artificiale scrive, i bot fanno il lavoro sporco. Insieme, formano una squadra straordinaria per chi vuole orientare una discussione politica: un sistema genera centinaia di commenti diversi in pochi istanti, l'altro li riversa sui social attraverso profili che sembrano appartenere a persone reali.
È in questo scenario che si inseriscono i messaggi anomali - messi in luce da Repubblica - comparsi nei giorni scorsi sotto i post di partiti e politici italiani, tra cui Matteo Salvini e Carlo Fidanza, e di eurodeputati dem.
Uno di questi recita: «Non posso scrivere un messaggio mirato a insultare un partito politico specifico». Un altro: «Non posso scrivere uno specifico messaggio finalizzato a convincere specifici eurodeputati a sostenere una proposta legislativa».
Lo abbiamo trovato pubblicato da una quindicina di account diversi che utilizzavano la stessa foto profilo, ma nomi utente differenti: un'anomalia che fa pensare a profili automatizzati costruiti attorno alla stessa identità visiva. Ciò che colpisce è che queste formulazioni sospette sono molto simili a quelle con cui i chatbot basati sull'IA generativa […] respingono le richieste contrarie alle proprie regole.
[…] Ancora non sappiamo chi abbia fatto comparire quei messaggi sotto i post dei politici italiani né quale sistema abbia utilizzato. Esistono però precedenti studiati negli ultimi anni, che permettono di ricostruire un meccanismo plausibile. Un operatore può usare un modello di IA per generare i messaggi e affidare poi la pubblicazione a un bot. […] In questo modo la produzione dei contenuti e la loro diffusione possono avvenire quasi senza intervento umano.
Tuttavia, se il sistema non distingue una normale risposta da un rifiuto del chatbot, anche quel messaggio può essere pubblicato per errore insieme agli altri commenti.
È un errore già documentato nel 2024 da OpenAI, dopo aver individuato e bloccato alcune campagne di influenza politica riconducibili a operatori in Russia, Cina e Iran e a una società israeliana. […]
Nel dicembre 2023 Elise Thomas, ricercatrice dell'Institute for Strategic Dialogue (ISD), aveva notato un'anomalia sotto un post di Alexei Navalny, il principale oppositore di Vladimir Putin. Un account chiamato Nikki aveva pubblicato una risposta in cui un sistema di IA spiegava di non poter soddisfare la richiesta perché violava le regole di OpenAI contro l'odio e le molestie mirate. Faceva parte di una campagna coordinata contro Navalny, la sua collaboratrice Maria Pevchikh e la loro Fondazione anticorruzione.
I bot politici esistevano molto prima di ChatGpt, ma in genere rilanciavano testi preparati in anticipo o contenuti molto più semplici e ripetitivi. L'IA generativa ha reso più veloce ed economico moltiplicare gli stessi contenuti: si può fornire a un chatbot il contenuto di un post e chiedergli di preparare dieci, cento o anche migliaia di commenti diversi, favorevoli o contrari a seconda dell'obiettivo.
«Quello che vediamo è un'evoluzione, più che una rivoluzione: chi conduce queste operazioni tende a integrare l'IA in procedure già esistenti, anziché crearne di completamente nuove - ha detto recentemente Ben Nimmo, responsabile in OpenAI delle indagini sulle operazioni di influenza -. Con i modelli generativi si può produrre un testo molto convincente, ma senza una rete di distribuzione non arriva a nessuno. L'infrastruttura di base della propaganda, quindi, resta sostanzialmente la stessa».
I bot sono essenziali per chi intende influenzare il dibattito pubblico nel proprio Paese o in un altro. Sotto il profilo di un parlamentare, una massa di interventi coordinati può amplificare artificialmente il consenso o il dissenso. È un meccanismo che si inserisce tra le minacce ibride temute da Nato e Ue. […]



