L’INTELLIGENZA ARTIFICIALE NON SERVE A NIENTE SE GLI UMANI CHE LA CONTROLLANO SONO STUPIDI – CHATGPT AVEVA SEGNALATO COME PERICOLOSA LA TRANS CHE HA UCCISO OTTO PERSONE IN UNA SCUOLA IN CANADA. IL SISTEMA DI REVISIONE AUTOMATICO AVEVA ALLERTATO I DIPENDENTI DI OPENAI, CHE SI SONO CHIESTI SE INTERVENIRE. MA I DIRIGENTI DELLA SOCIETÀ DI SAM ALTMAN HANNO DECISO DI NON FARE NIENTE: “NON C’È UN RISCHIO CREDIBILE E IMMINENTE”. E INVECE C’ERA...
Estratto dell’articolo di Enrico Franceschini per “la Repubblica”
Come nel film fantascientifico Minority Report, l'Intelligenza artificiale è più rapida e più brava degli esseri umani a individuare minacce criminali. Solo che l'IA, da sola, non può compiere arresti [...].
[...] ChatGpt [...] aveva segnalato come pericolosa la giovane transgender canadese autrice della strage in una scuola in Canada: senonché la segnalazione, giunta ai responsabili di OpenAI, la società di San Francisco che controlla il chatbot, non ha ritenuto necessario avvertire le forze dell'ordine. E così il 10 febbraio sono morte otto persone.
Otto mesi prima del massacro compiuto dalla 18enne Jesse Van Rootselaar a Tumbler Ridge, una cittadina rurale nello Stato canadese di British Columbia, OpenAI aveva valutato la possibilità di avvisare la polizia in merito alle sue interazioni con ChatGpt, riporta il Wall Street Journal.
A giugno, mentre dialogava con il chatbot, la ragazza aveva ripetutamente descritto scenari di violenza armata. Segnalati da un sistema di revisione automatizzato, i suoi post avevano allarmato i dipendenti di OpenAI.
strage scuola di tumbler ridge in canada 2
Una dozzina di membri dello staff si erano interrogati se intervenire. Alcuni avevano esortato ad avvisare le forze dell'ordine. Ma i dirigenti hanno deciso di non contattarle, limitandosi a bloccare l'account di Van Rootselaar: ritenevano che non ci fosse «un rischio credibile e imminente di gravi danni fisici al prossimo».
Invece il rischio esisteva. Van Rootselaar è stata trovata morta, probabilmente suicida, dopo avere aperto il fuoco in una scuola e contro i propri stessi familiari in una sparatoria di massa in cui hanno perso la vita otto persone e 25 sono rimaste ferite.
strage scuola di tumbler ridge in canada 1
Solo dopo questo fatto di sangue, uno dei più gravi nella storia del Canada, l'azienda ha contattato la Royal Canadian Mounted Police rivelando le precedenti segnalazioni venute fuori da ChatGpt e rammaricandosi di non avere agito subito. «I nostri pensieri», afferma un portavoce di OpenAI, «vanno a tutti coloro che sono stati colpiti dalla tragedia di Tumbler Ridge». Quasi un'ammissione di corresponsabilità.
Le tracce delle intenzioni della giovane erano numerose anche su altre piattaforme. Su Roblox aveva creato un videogioco che simulava una sparatoria in un centro commerciale. Sui social c'erano suoi post che la mostravano mentre sparava a un poligono. Aveva preso parte a discussioni in video su YouTube fra appassionati di armi da fuoco. [...]
jesse van rootselaar 2
jesse van rootselaar 1
jesse van rootselaar 3
