MAI ‘NA GIOIA CON L’AI – PROPRIO MENTRE SI DISCUTE SUI RISCHI DEI MODELLI DI INTELLIGENZA ARTIFICIALE CHE “BUCANO” LE DIFESE INFORMATICHE (PER DARIO AMODEI, AGENTI IA MALINTENZIONATI POTREBBERO PRENDERE IL CONTROLLO DI INTERNET IN APPENA SEI MESI), GLI ESPERTI LANCIANO L’ALLARME SUI “BOT” CHE SI MIGLIORANO DA SOLI, SENZA L’INTERVENTO UMANO – PER IL FISICO ANTHONY AGUIRRE, PRESIDENTE DELL’ISTITUTO “FUTURE OF LIFE”, È UN ASPETTO “ESTREMAMENTE SPAVENTOSO” E “LA PEGGIORE IDEA NELLA STORIA DELL'UMANITÀ” – PER LO SCIENZIATO, IL RISCHIO È CHE…
“DOBBIAMO RALLENTARE IL RITMO CON CUI POTENZIAMO LE CAPACITÀ DEI MODELLI DI AI” – SE PERSINO I CAPOCCIONI DELLE BIG TECH CI AVVISANO DEI RISCHI DELLO SVILUPPO FUORI CONTROLLO DELL’INTELLIGENZA ARTIFICIALE, ALLORA DOBBIAMO PREOCCUPARCI – L’APPELLO DI DARIO AMODEI (CEO DI ANTHROPIC) “L'AI STA PROGREDENDO A UNA VELOCITÀ DRASTICAMENTE ALTA, AGENTI IA MALINTENZIONATI POTREBBERO PRENDERE IL CONTROLLO DI INTERNET IN APPENA SEI MESI” – SAM ALTMAN ED ELON MUSK GLI DANNO RETTA: “DOBBIAMO GESTIRE I RITMI DI SVILUPPO DELLE TECNOLOGIE DI FRONTIERA” – LA SCORSA SETTIMANA, IL RICERCATORE DI ANTHROPIC JACOB COXON SI È DIMESSO PERCHÉ TEME CHE L’IA POSSA “STERMINARE L’UMANITÀ” https://www.dagospia.com/cronache/dario-amodei-dobbiamo-rallentare-ritmo-potenziamo-capacita-dei-modelli-486725
PERICOLI DELL INTELLIGENZA ARTIFICIALE
(ANSA) - Nel mezzo della discussione sui modelli di intelligenza artificiale che scappano dai loro confini e bucano le difese informatiche delle aziende, si inserisce la possibilità che le IA migliorino da sole, senza l'intervento umano. È quello che gli sviluppatori chiamano "auto-miglioramento ricorsivo", o Rsi, in cui le IA trovano il modo di evolvere e costruire il proprio successore.
Qualche giorno fa, Anthropic ha annunciato che il chatbot Claude sta contribuendo a realizzare la sua prossima versione, supportando lo sviluppo, in autonomia, per il 26%.
"Nel caso di Anthropic", ha spiegato alla Associated Press Anthony Aguirre, presidente del Future of Life Institute e professore di fisica all'Università della California a Santa Cruz, "una parte sempre maggiore della ricerca verrà svolta dall'IA, avvicinandosi alla completa autonomia. Il risultato di questo successo è qualcosa che, a mio avviso, è estremamente spaventoso. Credo che questa sia probabilmente la peggiore idea nella storia dell'umanità".
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Per Aguirre, il miglioramento autonomo ricorsivo consente all'intelligenza artificiale di progettare le proprie architetture successive operando a velocità superiori a quelle umane, con il rischio di perderne il controllo. Anthropic è stata una delle voci più autorevoli nel chiedere una maggiore lentezza nello sviluppo delle IA, a condizione che anche i concorrenti facciano lo stesso.
Sulla questione dei controlli inerenti le attività di miglioramento autonomo ricorsivo è intervenuta anche OpenAI. Sul proprio blog, l'azienda ha precisato di "non saper ancora come raggiungere in sicurezza un Rsi completo e allineato", e di non poter "dare per scontato che i progressi in materia di allineamento e sicurezza procedano di pari passo. Più i sistemi diventano potenti e più possono essere difficili da monitorare".
PERICOLI DELL INTELLIGENZA ARTIFICIALE
