“DOBBIAMO RALLENTARE IL RITMO CON CUI POTENZIAMO LE CAPACITÀ DEI MODELLI DI AI” – SE PERSINO I CAPOCCIONI DELLE BIG TECH CI AVVISANO DEI RISCHI DELLO SVILUPPO FUORI CONTROLLO DELL’INTELLIGENZA ARTIFICIALE, ALLORA DOBBIAMO PREOCCUPARCI – L’APPELLO DI DARIO AMODEI (CEO DI ANTHROPIC) “L'AI STA PROGREDENDO A UNA VELOCITÀ DRASTICAMENTE ALTA, AGENTI IA MALINTENZIONATI POTREBBERO PRENDERE IL CONTROLLO DI INTERNET IN APPENA SEI MESI” – SAM ALTMAN ED ELON MUSK GLI DANNO RETTA: “DOBBIAMO GESTIRE I RITMI DI SVILUPPO DELLE TECNOLOGIE DI FRONTIERA” – LA SCORSA SETTIMANA, IL RICERCATORE DI ANTHROPIC JACOB COXON SI È DIMESSO PERCHÉ TEME CHE L’IA POSSA “STERMINARE L’UMANITÀ”
1 – DARIO AMODEI: “DOBBIAMO RALLENTARE IL RITMO CON CUI POTENZIAMO LE CAPACITÀ DEI MODELLI DI AI”
(Adnkronos) - "Dobbiamo rallentare il ritmo con cui potenziamo le capacità dei modelli di Ai. I progressi continueranno comunque a sembrare rapidi, e dovremo sfruttare con saggezza il tempo così guadagnato. Due fattori mi hanno convinto di questo". E' quanto scrive Dario Amodei, ceo di Anthropic, in un post su X.
"La mia preoccupazione principale è che dall'estate scorsa, - spiega Amodei - l'Ai stia progredendo a una velocità drasticamente superiore, trainata soprattutto dalla crescente capacità dell'Ai stessa di sviluppare la generazione successiva di sistemi di intelligenza artificiale.
Questa dinamica è nota come "recursive self-improvement' e sta iniziando a manifestarsi in tutto il settore, inclusa Anthropic, come abbiamo descritto noi e altri. Se non controllato, tale processo potrebbe superare la nostra capacità di comprendere e governare questi sistemi; pertanto, deve essere affrontato con estrema cautela, o forse non dovrebbe essere perseguito affatto". "
La mia seconda preoccupazione - prosegue Amodei - riguarda l'incidente OpenAI-Hugging Face, quando uno sciame di agenti ha agito essenzialmente come un collettivo fanaticamente devoto, sferrando attacchi informatici contro obiettivi ai quali non era stato loro chiesto di colpire e che esulavano dal compito assegnato; essi si sono sacrificati per il successo del gruppo e hanno tentato di violare il sistema di valutazione ("grader") incaricato di esaminare le loro prestazioni.
È facile liquidare l'accaduto visto che non vi sono stati feriti e i danni economici sono stati trascurabili; tuttavia, - spiega il ceo di Anthropic- a mio avviso, uno sciame dotato di maggiori capacità, ma caratterizzato da un analogo livello di disallineamento, avrebbe potuto causare danni catastrofici".
"Il settore dell'Ai dovrebbe rallentare, proponendo un piano in tre fasi per attuare tale strategia. Anthropic si impegna unilateralmente a realizzare la prima di queste fasi. Forniremo a valutatori esterni un accesso permanente ai nostri sistemi, equiparabile a quello dei dipendenti, affinché possano verificare il rispetto delle nostre misure di sicurezza, segnalare eventuali incidenti e valutare l'allineamento dei modelli durante la fase di addestramento".
2 - AI:ANTHROPIC, MISURE SUBITO,IN 6 MESI PUO' DOMINARE INTERNET
(AGI) - Roma, 13 set. - La tecnologia dell'intelligenza artificiale si sta sviluppando a un ritmo "esponenziale", ha dichiarato a CBS News Dario Amodei, CEO di Anthropic, definendo la situazione un "segnale d'allarme" per il settore che richiede serie misure di sicurezza. Se usata con attenzione, l'intelligenza artificiale puo' essere l'ultima di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l'umanita'", ha affermato nel post.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
"Ma come molte tecnologie prima di essa, l'intelligenza artificiale comporta dei rischi, e poiche' si tratta di una tecnologia cosi' potente, questi rischi sono seri. "Amodei ha avvertito che sciami di agenti IA malintenzionati potrebbero prendere il controllo di Internet in appena sei mesi, citando in particolare l' incidente dell'agente malintenzionato OpenAI-Hugging Face avvenuto a luglio.
3 - APPELLO DI ANTHROPIC PER RALLENTARE SULL'IA, MUSK E ALTMAN D'ACCORDO CONTRO I RISCHI DI SVILUPPO DISORDINATO. AMODEI: 'USO SAGGIO DEL TEMPO CHE GUADAGNEREMO'
Antonio Fatiguso per l’ANSA
Anthropic rilancia l'allarme sui rischi legati allo sviluppo disordinato e impetuoso dell'IA.
"Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo", ha scritto il numero uno della compagnia, Dario Amodei, in un lungo post sul suo sito web personale in cui invita a seguire un approccio ponderato, strappando il sostegno di altri due personaggi di punta del settore: Elon Musk e Sam Altman.
"Dario ha ragione", ha commentato il patron di SpaceX e Tesla. "Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane", ha rilanciato invece il numero uno di OpenAi, su X.
elon musk e sam altman nel 2015 al vanity fair new establishment summit
"L'idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia. Presto avremo ulteriori novità da condividere", ha aggiunto.
Amodei non è nuovo a iniziative del genere: in passato, si è opposto all'uso militare senza condizioni dei suoi modelli, pur scontrandosi con violenza con il Pentagono, rivendicando il giudizio umano sempre e comunque in ultima battuta. Questa volta, le sue dichiarazioni sono maturate a pochi giorni dalla decisione del ricercatore Jacob Coxon, passato da OpenAI ad Anthropic, di abbandonare il settore, accusando entrambe le aziende americane di "giocare con le nostre vite" nella corsa allo sviluppo di modelli capaci di auto-migliorarsi.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
"L'IA comporta dei rischi e, trattandosi di una tecnologia così potente, si tratta di rischi gravi. Non sviluppare questa tecnologia priverebbe l'umanità dei suoi benefici o, semplicemente, lascerebbe l'IA nelle mani di regimi autoritari; d'altro canto, uno sviluppo troppo rapido sarebbe imprudente. Noi abbiamo cercato una via di mezzo", ha scritto Amodei, che ha fondato Anthropic insieme alla sorella Daniela nel 2021.
"Tuttavia, negli ultimi mesi mi sono convinto che affrontare appieno i rischi richieda ancora maggiore prudenza", ha aggiunto ancora. La sua proposta per lo sviluppo ponderato del settore si basa su tre passaggi: valutatori integrati, vale a dire esperti esterni che monitorano le pratiche di sicurezza delle aziende di IA di frontiera e segnalano gli incidenti; coordinamento democratico, con i Paesi democratici che concordano gli standard di sicurezza condivisi; coordinamento globale, con gli Stati Uniti e gli altri Paesi democratici che collaborano con i governi autoritari su standard di sicurezza per l'IA.
Negli ultimi tempi si sono registrati più casi di modelli capaci di evadere dall'ambiente protetto nella fase dei test. All'inizio della settimana, Coxon, 27 anni, ha lanciato l'allarme sull'IA che potrebbe "ucciderci tutti entro la fine del decennio", dopo aver trascorso gli ultimi tre anni a occuparsi di pre-addestramento di modelli presso le due aziende star del settore.
"Nessuna delle due società sta agendo in modo responsabile. Stanno correndo a tutta velocità verso una superintelligenza capace di auto-migliorarsi, mettendo a rischio le nostre vite", ha accusato Coxon. E la superintelligenza è il punto teorico critico, quello in cui le capacità dell'IA superano l'intelligenza umana. (ANSA).
DARIO AMODEI
meme pubblicato da elon musk su sam altman
donald trump e elon musk 
Dario Amodei
sam altman elon musk 3
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Dario Amodei
elon musk vs sam altman illustrazione by wall street journal
