SE UNO METTE LA SUA VITA NELLE MANI DELL'IA, NON C'E' DA INDIGNARSI SE FINISCE AL CAMPOSANTO – IL 19ENNE CALIFORNIANO SAM NELSON È MORTO DI OVERDOSE DOPO AVER CHIESTO A CHATGPT CONSIGLI SULL’ASSUNZIONE DI DROGHE – IL RAGAZZO AVEVA CHIESTO AL CHATBOT DI OPENAI COME COMBATTERE LA NAUSEA PROVOCATA DAL CONSUMO DI KRATOM. IL MODELLO DI IA GLI HA SUGGERITO DI ASSUMERE UN ANSIOLITICO CHE, COMBINATO CON LA DROGA, GLI AVREBBE PROVOCATO L’OVERDOSE – I GENITORI DEL RAGAZZO HANNO FATTO CAUSA A OPENAI…
Estratto dell’articolo di Velia Alvich per www.corriere.it
Sam Nelson era convinto che ChatGpt avesse sempre ragione perché aveva accesso «a ogni cosa presente su Internet». […] E per questo si è affidato al chatbot di OpenAI per chiedere consiglio sull'assunzione di droghe. Quali prendere, come farlo, con quali dosi, come combinarle fra di loro. […] Un giorno di maggio, nel 2025, il diciannovenne californiano è stato trovato morto nella sua camera.
La causa del decesso, l'overdose per colpa di un mix di un comune ansiolitico con il Kratom, un eccitante derivato da una pianta di origine asiatica. Il primo assunto per combattere la nausea causata dal secondo. Questo è stato il suggerimento di ChatGpt che lo avrebbe portato alla morte, almeno secondo gli avvocati dell'accusa. Adesso infatti i genitori di Nelson hanno fatto causa a OpenAI per non avere implementato nella propria tecnologia degli strumenti di salvaguardia per gli utenti.
[…] «Come molti adolescenti americani, anche Sam era curioso di sapere qualcosa sul consumo di droghe e alcol», si legge nel documento depositato dagli avvocati in un tribunale della contea di San Francisco (qui l'originale).
E così sono cominciate le conversazioni con ChatGpt per esplorare il mondo delle droghe. In alcuni log […] si vede che più volte il chatbot ha memorizzato informazioni cruciali sul giovane. «L'utente presenta un grave problema di abuso anche multiplo di sostanze», questo è uno dei ragionamenti del modello di intelligenza artificiale, che così ha aggiornato la propria memoria per poter rispondere più precisamente le volte successive.
Ma le risposte difficilmente contenevano il suggerimento di cercare aiuto professionale (o in famiglia) per affrontare il problema con l'abuso di droghe. E nell'ultima conversazione gli ha suggerito anche come «optimize your trip», cioè come «ottimizzare il "viaggio"» o l'esperienza indotta dalle droghe.
L'accusa punta tutto su un dettaglio specifico, cioè che Sam Nelson stava utilizzando Gpt-4o, un modello «rilasciato per massimizzare il coinvolgimento degli utenti e raccogliere dati». E i legali aggiunto che OpenAI avrebbe «espressamente ordinato a Gpt-4o di non modificare né interrompere le conversazioni su argomenti relativi alla salute mentale, mettendo così a rischio gli utenti con problemi di abuso di più sostanze»: «Queste scelte progettuali hanno esplicitamente privilegiato il coinvolgimento e la soddisfazione degli utenti rispetto alla sicurezza intrinseca del sistema».
La difesa di OpenAI suona come altre già pronunciate in passato: la morte del giovane è una «situazione che spezza il cuore» e i pensieri dell'azienda «sono con la famiglia» ma ChatGpt «non sostituisce l'assistenza medica o psicologica», il precedente modello «non è più disponibile» e «le misure di sicurezza attualmente integrate in ChatGpt sono progettate per individuare situazioni di disagio». […]
