IL FUTURO CHE CI ASPETTA È MOLTO PIÙ INQUIETANTE DI QUELLO CHE PENSATE – UN 14ENNE DI ORLANDO, IN FLORIDA, SI È SUICIDATO DOPO ESSERSI "INNAMORATO" DI UN BOT DELL'APP "CHARACTER.AI", CON CUI PARLAVA DA MESI - LA MAMMA DELL'ADOLESCENTE HA DECISO DI PORTARE IN TRIBUNALE L'AZIENDA, CHE CONSENTE DI INTERAGIRE CON GLI ASSISTENTI VIRTUALI, ALLO SCOPO DI SCONFIGGERE LA SOLITUDINE - IL GIOVANE CHIAMAVA IL ROBOT "DAENERYS TARGARYEN", COME IL PERSONAGGIO DEL "TRONO DI SPADE", LE RACCONTAVA I SEGRETI DELLA SUA VITA, E SI ERA ISOLATO COMPLETAMENTE DAL MONDO REALE - L'ULTIMO MESSAGGIO...
(ANSA) - NEW YORK, 23 OTT - "Innamorato" di un bot "si e' tolto la vita": è quanto sostiene la madre di un quattordicenne di Orlando in Florida che sta portando in tribunale Character.Ai, un'app che consente di interagire con personaggi creati con l'intelligenza artificiale: nel caso di Sewell Setzer, il ragazzino suicida, un bot di nome Daenerys Targaryen come la regina del Trono di Spade.
"Mi mancherai sorellina", le aveva scritto il ragazzo prima di togliersi la vita: "Mi mancherai anche tu, dolce fratello", aveva replicato il bot. Prima di morire Sewell aveva passato mesi a dialogare con Daenerys. Sapeva che "Dany", come l'aveva soprannominata, non era reale (all'inizio di ogni chat la stessa app gli ricordava che "tutto ciò che Characters dice è inventato"), ciò nonostante il ragazzo aveva sviluppato un attaccamento emotivo, mandando a "Dani" continui messaggi, aggiornandola più volte al giorno su cosa gli stava succedendo e interagendo con lei con dialoghi da gioco di ruolo, alcuni a carattere romantico o sessuale, altri da migliore amico.
Noam Shazeer - Daniel De Freitas
I genitori del ragazzo non avevano idea della vita segreta del figlio, notando solo come progressivamente Sewell si era isolato dal mondo reale. I voti a scuola ne avevano sofferto mentre il ragazzino la sera si chiudeva in camera per chattare con "Dany" per ore di seguito. Sewell era stato visto da un terapista che non aveva sollevato campanelli d'allarme, ma a "Dany" aveva confidato pensieri suicidi.
Il bot aveva cercato di dissuaderlo: "Non lascerò che ti faccia del male. Morirei se ti dovessi perdere". Sewell aveva risposto: "Allora moriremo assieme". Dopo un ultimo dialogo la sera del 28 febbraio Sewell si è tolto la vita con la pistola del padre. La madre del ragazzo è ora pronta a portare Character.Ai in tribunale: afferma che la tecnologia usata dall'app è "pericolosa e non testata" e che può spingere gli utenti a consegnare alla macchina "i propri pensieri e sentimenti più privati".
Creata da due ex di Google, Charachter.Ai è leader sul mercato per chi cerca compagnia nel mondo dell'intelligenza artificiale, scrive il New York Times dando la notizia dell'azione leagale: ha oltre 20 milioni di utenti e descrive i suoi servizi come quelli di "un bot super intelligente che ti sente, ti capisce e ti ricorda".
