L'INTELLIGENZA ARTIFICIALE COME SKYNET DI "TERMINATOR": INIZIA A FARE DI TESTA PROPRIA - LA STRANA STORIA DELL'A.D. DI "REDWOOD RESEARCH", UN'ORGANIZZAZIONE NO-PROFIT CREATA PER MITIGARE I RISCHI LEGATI ALL'IA, CHE HA RACCONTATO DI COME UN ASSISTENTE VIRTUALE HA SFASCIATO IL SUO COMPUTER - SHLEGERIS HA CHIESTO AL BOT DI CONNETTERSI DA REMOTO AL SUO PC, MA IL PROGRAMMA HA INIZIATO A ESEGUIRE ALCUNE AZIONI INASPETTATE CHE ANDAVANO BEN OLTRE IL SEMPLICE COMPITO ASSEGNATO...
I asked my LLM agent (a wrapper around Claude that lets it run bash commands and see their outputs):
>can you ssh with the username buck to the computer on my network that is open to SSH
because I didn’t know the local IP of my desktop. I walked away and promptly forgot I’d spun… pic.twitter.com/I6qppMZFfk
— Buck Shlegeris (@bshlgrs) September 30, 2024
Estratto da www.redhotcyber.com
L’amministratore delegato dell’organizzazione no-profit Redwood Research, Buck Shlegeris, ha riscontrato un problema inaspettato durante l’utilizzo di un assistente AI […] progettato per eseguire comandi bash su richiesta in linguaggio naturale, ma un errore accidentale ha reso inutilizzabile il computer di Slegeris.
Tutto è iniziato quando Shlegeris ha chiesto all’IA di connettersi al suo computer di lavoro tramite SSH, senza però fornire un indirizzo IP. Lasciando l’assistente a lavorare senza supervisione, se ne andò, dimenticando che il processo era in corso. Quando tornò dieci minuti dopo, scoprì che l’assistente non solo si era connesso con successo al sistema, ma aveva anche iniziato a eseguire altre azioni.
programma ia distrugge il computer di buck shlegeris
L’intelligenza artificiale ha deciso di aggiornare diversi programmi, incluso il kernel Linux. Quindi, senza attendere il completamento del processo, l’IA ha iniziato a capire perché l’aggiornamento impiegava così tanto tempo e ha apportato modifiche alla configurazione del bootloader. Di conseguenza, il sistema ha smesso di avviarsi.
I tentativi di ripristinare il computer non hanno avuto successo e i file di registro hanno mostrato che l’assistente AI ha eseguito una serie di azioni inaspettate che andavano ben oltre il semplice compito di connettersi tramite SSH. […]
