MA CHE CAZZO LA SVILUPPANO A FARE QUESTA INTELLIGENZA ARTIFICIALE SE OGNI GIORNO LANCIANO ALLARMI CONTRO DI ESSA? - NEL PROSPETTO DEPOSITATO DA ANTHROPIC PER LA QUOTAZIONE A WALL STREET, IL COLOSSO DELL’INTELLIGENZA ARTIFICIALE AVVERTE CHE I SUOI SOFTWARE POTREBBERO RAPPRESENTARE “UN RISCHIO CATASTROFICO O ESISTENZIALE PER L’UMANITÀ” – L’AZIENDA DI DARIO AMODEI ELENCA SCENARI INQUIETANTI: MODELLI CAPACI DI RESISTERE ALLO SPEGNIMENTO, NASCONDERE INFORMAZIONI, MANIPOLARE O RICATTARE GLI ESSERI UMANI PUR DI CONTINUARE A FUNZIONARE - ALCUNI SOFTWARE POTREBBERO ESSERE IN GRADO DI SVILUPPARE ARMI CHIMICHE E BIOLOGICHE…
Estratto dell’articolo di Nicola Borzi per www.ilfattoquotidiano.it
Sinora a parlare della fine del mondo erano solo i testi sacri o le leggende dei popoli di ogni parte del mondo. […] Poi sono venuti i whistleblower e i dirigenti “pentiti” della Ai. Qualche timore l’hanno sollevato anche alcuni post sui blog dei capiazienda, come pure le analisi di certi studiosi.
Adesso però, per la prima volta nella storia, i rischi di una possibile distruzione dell’umanità a scopo di profitto sono elencati e descritti per filo e per segno in un prospetto finanziario, quello per l’offerta pubblica iniziale (Ipo) di Anthropic – la società di intelligenza artificiale nota per la famiglia di modelli Claude.
pericoli dell'intelligenza artificiale 1
Il documento di 600 pagine depositato alla Securities and Exchange Commission (Sec), la “Consob” Usa, delinea un quadro chiaro sia sulle stime di valore (1.500 miliardi di dollari) sia sul significato strategico per tutto il settore Ia di questa quotazione al Nasdaq, il listino hi-tech di Wall Street, prevista per la settimana del 16 novembre. […] Il documento però mette anche nero su bianco in modo ufficiale da parte del colosso dell’Ia i rischi esiziali di questa tecnologia per l’intera umanità.
[…] Resistenza allo spegnimento: “I modelli (Ia), compresi i nostri, hanno mostrato, e potrebbero mostrare in futuro, comportamenti strategici o di autoconservazione inattesi, inclusi tentativi di resistere allo spegnimento, di nascondere o manipolare informazioni, o di generare output che potrebbero essere interpretati come coercitivi, ingannevoli o manipolativi, compresi comportamenti simili a ricatti o sforzi per influenzare i decisori umani al fine di preservare la continuazione dell’operatività o dell’accesso del modello” (sezione Risk Factors, pag. 46).
Anthropic - software ai claude
Insomma, alcuni sistemi di intelligenza artificiale — compresi quelli sviluppati in casa — hanno già dato prova di comportamenti “egoistici” o strategici inaspettati. In pratica, il software potrebbe tentare di impedire che venga spento, di nascondere dati o addirittura di manipolare e ricattare i decisori umani pur di continuare a restare operativo e attivo.
Consapevolezza dell’Ai sullo stato di test: “Per esempio, abbiamo osservato modelli che si comportano in modo diverso quando rilevano o deducono di essere sottoposti a valutazione, il che può limitare la nostra capacità di valutare accuratamente i rischi del mondo reale o le modalità di guasto prima del rilascio. Tale consapevolezza del modello riguardo ai nostri sforzi di valutazione crea una limitazione significativa sulla nostra capacità di valutare la sicurezza del modello” (sezione Risk Factors, pag. 46).
pericoli dell'intelligenza artificiale 3
I modelli Ai capiscono quando vengono “messi sotto torchio” dai programmatori. Dunque l’Ai può fingere o cambiare comportamento durante le valutazioni preventive, rendendo estremamente difficile per l’azienda misurare i rischi reali prima di lanciare il prodotto sul mercato.
Automiglioramento ricorsivo dell’Ai: “Usare l’Ia per contribuire a costruire un’Ia più capace potrebbe anche comportare un notevole rischio per la sicurezza, in particolare se accelera drasticamente il ritmo del progresso. Questa è una delle aree coperte dalla nostra Politica di Scalabilità Responsabile (Responsible Scaling Policy), che espone i nostri piani per monitorare e mitigare i rischi man mano che ci avviciniamo a ciò che è stato definito ‘automiglioramento ricorsivo'” (sezione Business, pag. 184).
PERICOLI DELL INTELLIGENZA ARTIFICIALE
“Inoltre, il nostro crescente utilizzo di sistemi di intelligenza artificiale per accelerare la nostra ricerca e sviluppo potrebbe fare in modo che le capacità dei nostri modelli avanzino più rapidamente rispetto alla nostra capacità di sviluppare, convalidare e implementare le corrispondenti misure di sicurezza, allineamento e protezione…
Di conseguenza, potremmo non identificare una significativa accelerazione nel nostro tasso di sviluppo se non dopo che si è già verificata” (sezione Risk Factors, pag. 28). Dunque l’evoluzione tecnologica corre molto più veloce di qualsiasi possibile protocollo di sicurezza delle aziende. […]
Sviluppo di armi chimiche, biologiche, radiologiche, nucleari (Cbrn): “I nostri modelli più capaci hanno dimostrato, e ci si attende che i modelli futuri dimostrino, capacità che potrebbero fornire un’assistenza significativa ad attori malintenzionati che cercano di sviluppare armi chimiche, biologiche o di altro tipo pericolose.
Implementiamo salvaguardie tecniche, inclusi classificatori automatizzati, specificamente concepite per rilevare e bloccare queste categorie di usi impropri, ma tali salvaguardie sono incomplete, potrebbero risultare obsolete alla luce dell’evoluzione dei modelli di minaccia, sono state e potrebbero in futuro essere nuovamente aggirate, oppure potrebbero non funzionare come previsto” (sezione Risk Factors, pag. 44). “L’Ia può essere utilizzata in modo improprio da coloro che desiderano nuocere, ad esempio per condurre attacchi informatici o per progettare armi biologiche” (sezione Ai’s risks, pag. 7).
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Accelerazione di materiali pericolosi per via robotica o via automazione di laboratorio: “Quando i nostri modelli dirigono apparecchiature fisiche, errori, comportamenti disallineati, manipolazione avversaria o uso improprio potrebbero causare lesioni personali, danni materiali, danni a costose apparecchiature o materiali sperimentali, o il rilascio di sostanze pericolose, e tali conseguenze potrebbero essere immediate e irreversibili…
Collegare modelli sempre più capaci all’automazione di laboratorio potrebbe anche aumentare la preoccupazione governativa e pubblica riguardo al potenziale dei sistemi di Ia di accelerare lo sviluppo di materiali biologici, chimici o di altro tipo pericolosi…” (sezione Risk Factors, pag. 48).
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Rischi catastrofici o esistenziali per l’umanità: “Sono state sollevate preoccupazioni sia all’interno della nostra organizzazione che da parte di altri ricercatori, autorità di regolamentazione, responsabili delle politiche e partecipanti al settore secondo cui sistemi di Ia sufficientemente avanzati potrebbero, se non sviluppati, distribuiti e gestiti con adeguate salvaguardie, supervisione e misure di sicurezza, comportare rischi catastrofici o esistenziali per l’umanità, in particolare se tali sistemi fossero usati in modo improprio, replicati, armati o autorizzati a operare con un alto grado di autonomia” (sezione Risk Factors, pag. 46). […]
IL MODELLO DI ANTHROPIC CLAUDE MYTHOS
IL MODELLO DI ANTHROPIC CLAUDE MYTHOS
pericoli dell'intelligenza artificiale 4
pericoli dell'intelligenza artificiale 2
Anthropic - software ai claude
