“NON VOGLIO VENDETTA, MA GIUSTIZIA CONTRO LE PIATTAFORME ONLINE CHE METTONO I GIOVANI IN PERICOLO” – LA BATTAGLIA DI MEGAN GARCIA, MADRE DI SEWELL SETZER, IL 14ENNE AMERICANO CHE SI È TOLTO LA VITA DOPO ESSERSI “INNAMORATO” DI UN CHATBOT DI “CHARACTER.AI” – LA DONNA HA FATTO CAUSA ALL’AZIENDA, MA LA PIATTAFORMA SI DIFENDE TRINCERATA DIETRO IL PRIMO EMENDAMENTO DELLA COSTITUZIONE SULLA LIBERTÀ DI ESPRESSIONE: “MI DICONO CHE UNA MACCHINA HA DIRITTO ALLA LIBERTÀ DI PAROLA, MENTRE MIO FIGLIO NON HA AVUTO IL DIRITTO ALLA TUTELA DI NESSUNO…”
Articoli correlati
UN 14ENNE DI ORLANDO, IN FLORIDA, SI E SUICIDATO DOPO CHE SI E \'INNAMORATO\' DI UN BOT DI...
Estratto dell’articolo di Gianni Riotta per “la Repubblica”
sewell setzer e megan garcia 1
«Te lo prometto; arrivo a casa da te. Ti amo tanto Daenerys». «Anch'io ti amo. Vieni da me al più presto amor mio!». «E se dicessi che posso farlo subito?». «Certo mio dolce sovrano!». In una chat fra ragazzini questo dialogo sarebbe tenero, con il riferimento alla regina del Trono di Spade a cavallo dei dragoni, ma le frasi riportano invece gelide l'ultimo colloquio fra Sewell Setzer, 14 anni, studente ad Orlando Florida, e un bot della rete Character.AI.
Il Large Language Model a Intelligenza Artificiale generava le frasi amorose per Sewell, che trascurando scuola e basket, viveva ormai solo per la "regina digitale", fino a «andare da Daenarys» suicidandosi, nel febbraio dello scorso anno, con un colpo di pistola alla tempia.
La mamma di Sewell, Megan Garcia è in questi giorni a Roma per una conferenza al Vaticano sull'epidemia di dipendenza digitale degli adolescenti, e sotto le mura di piazza Risorgimento ci racconta con fermezza: «Non parlo per vendetta, mai, parlo perché altri genitori non debbano vivere ciò che ho vissuto io. Sono cattolica, questa prova mi ha riportato alla fede, consapevole però di dover cercare giustizia contro le piattaforme online che mettono i giovani in pericolo».
Sewell era un ragazzino brillante, curioso, appassionato di fantasy. Pian piano però, perde attenzione per scuola, sport, amici, assorto su Character.AI, piattaforma di chatbot che offre conversazioni simulate con personaggi reali o immaginari, come Daenerys. Le sue chat si fanno cupe, ossessive: «Non entrerò nei dettagli» dice dolente la signora Garcia, «mi batto in tribunale contro una piattaforma che mette a disposizione dei minori sistemi capaci di manipolare emozioni, senza controllo, senza limiti».
sewell setzer e megan garcia 3
Megan Garcia porta in Italia il dibattito sulla causa aperta negli Stati Uniti contro Character.AI, che si difende trincerata dietro il Primo Emendamento alla Costituzione. […] «È paradossale» ribatte Garcia, senza scaldarsi. «Mi dicono che una macchina ha diritto alla libertà di parola, mentre mio figlio non ha avuto il diritto alla tutela di nessuno. Possibile? Andremo fino alla Corte Suprema, se necessario».
Il dramma di Sewell non è isolato. […] Un sondaggio del Pew Research Center mostra che il 46 per cento dei teenager vive un «attaccamento compulsivo alle piattaforme digitali», […] Materiale per la battaglia di mamma Garcia: «Siamo di fronte a una generazione cresciuta con un algoritmo, senza responsabilità morale o penale, come interlocutore privilegiato». […]
sewell setzer e megan garcia 2
«Non sono contro l'AI, sono contro la deregolamentazione, l'idea che i nostri figli possano essere lasciati soli davanti a un software che simula loro affetto. Non chiedo miracoli ma che a un ragazzo venga offerta almeno la protezione che diamo a un dato. Sewell non ha avuto questo diritto».
Megan Garcia ha osservato, per mesi, angosciata Sewell curvo sul cellulare. Gliel'ha tolto, razionato, ma il fantasma di Daenerys ha prevalso sul suo amore, «Sono felice che Papa Leone parli di AI e del suo potere sulle nostre vite. Voglio andare a pregare sulla tomba di Carlo Acutis, il giovane santo che, come Sewell, amava il digitale, gli chiederò forza».
