“L’INTELLIGENZA ARTIFICIALE PUÒ STERMINARE L’UMANITÀ” – UN RICERCATORE DI ANTHROPIC, JACOB COXON, SI È DIMESSO DALLA SOCIETÀ E SUI SOCIAL HA LANCIATO UN ALLARME: “CHI SVILUPPA L'AI CREDE FERMAMENTE CHE POTREBBE UCCIDERCI TUTTI ENTRO LA FINE DEL DECENNIO. MOLTI DIRIGENTI E RICERCATORI DI ALTO LIVELLO TENDONO A USARE UN LINGUAGGIO PACATO DI FRONTE ALLA STAMPA, MA SENTO LE STESSE PERSONE ESPRIMERE PRIVATAMENTE QUESTA PAURA” – L’ATTACCO SIA A ANTHROPIC CHE A OPENAI: “NON SI STANNO COMPORTANDO IN MODO RESPONSABILE. STANNO CORRENDO A PERDIFIATO VERSO UNA SUPERINTELLIGENZA IN GRADO DI AUTO-MIGLIORARSI E GIOCANO CON LE NOSTRE VITE…”
PERICOLI DELL INTELLIGENZA ARTIFICIALE
(MF-NW) - Un ricercatore di Anthropic, Jacob Coxon, ha rassegnato le dimissioni dalla società citando preoccupazioni legate alla sicurezza dell'intelligenza artificiale. Secondo un suo post condiviso su X, e ripreso e commentato da Evan Hubinger, responsabile dell'allineamento dei modelli AI di Anthropic, la preoccupazione che circola tra i ricercatori dietro le quinte è che l'AI possa sterminare l'umanità e che le aziende che la stanno sviluppando - Anthropic così come OpenAI - non stiano adottando sufficienti guardrail per evitarlo.
"Chi sviluppa l'intelligenza artificiale crede fermamente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello tendono a usare un linguaggio più pacato di fronte alla stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun'altra attività umana presenta un livello di pericolo simile", si legge in un post di Coxon su X.
In un altro post, il ricercatore afferma di aver trascorso gli ultimi tre anni a svolgere ricerche di pre-addestramento dell'AI sia presso OpenAI, sia presso Anthropic. "Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo a perdifiato verso una superintelligenza in grado di auto-migliorarsi e stanno giocando con le nostre vite", ha affermato.
Riprendendo i vari post di Coxon, Hubinger ha commentato che Anthropic sta "facendo del suo meglio" avvertendo però che l'azienda non ha ancora un piano "per risolvere il problema dell'allineamento con la superintelligenza e non siamo chiaramente sulla buona strada per farlo".
Confermando i timori che l'AI potrebbe "sterminare tutta l'umanità", il manager di Anthropic ha citato l'ultimo rapporto sui rischi dell'azienda e ha affermato che la minaccia rappresentata dai modelli di AI attuali è bassa, aggiungendo però che "ciò che mi preoccupa è la superintelligenza derivante dall'auto-miglioramento ricorsivo, che, come abbiamo detto, sta avvenendo più velocemente di quanto pensassimo".
SAM ALTMAN - OPENAI 
PERICOLI DELL INTELLIGENZA ARTIFICIALE
cami clark e dario amodei
