“PER TROPPO TEMPO IL SETTORE DELL’IA HA MENTITO SUI RISCHI CONNESSI A QUESTA TECNOLOGIA” – DARIO AMODEI CONTINUA A INVOCARE UN RALLENTAMENTO NELLO SVILUPPO DEI “BOT”, PERCHÉ PREOCCUPATO PER LA LORO EVOLUZIONE FUORI CONTROLLO: “ESISTONO PERICOLI REALI: ANTHROPIC E OPENAI STANNO GIOCANDO CON LE NOSTRE VITE” - IL CAPO DEL COLOSSO DELL’AI ANTHROPIC CHIEDE UNA REGOLAMENTAZIONE FEDERALE DELL’IA: LE PROPOSTE VANNO DAL DIVIETO ASSOLUTO DELLA “SUPERINTELLIGENZA” ALL'OBBLIGO DI UN 'KILL SWITCH', UN INTERRUTTORE D'EMERGENZA CHE ARRESTI I SISTEMI DI IA RISCHIOSI – SAM ALTMAN: “CI SONO DUE MODI IN CUI IL PROGRESSO DELL'IA POTREBBE ANDARE MOLTO MALE E CHE DOBBIAMO EVITARE: IL PRIMO È PERDERE IL CONTROLLO DEL FUTURO A FAVORE DELL'IA. IL SECONDO È UN MONDO CON UN'ECCESSIVA CONCENTRAZIONE DEL POTERE” – LA REPLICA DI TRUMP E LA BATTAGLIA USA-CINA PER LA SUPREMAZIA NELL'INTELLIGENZA ARTIFICIALE
1 - AMODEI, 'PER TROPPO TEMPO IL SETTORE HA MENTITO SUI RISCHI CONNESSI ALL'IA'
(ANSA) - "Non vi mentirò: esistono pericoli reali": Dario Amodei, numero uno e co-fondatore di Anthropic, ha parlato dello sviluppo dell'intelligenza artificiale: "E credo che, per troppo tempo, il settore abbia mentito alle persone riguardo ai rischi connessi a questa tecnologia".
E il rischio maggiore potrebbe essere la fine dell'umanità, come ha avvertito la scorsa settimana Jacob Coxon, ex ricercatore di Anthropic, affermando che sia la sua ex società sia OpenAI stanno "giocando con le nostre vite" sviluppando una superintelligenza capace di auto-migliorarsi.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Amodei, in un'intervista alla Cbs, ha ammesso di credere di "non aver compreso appieno cosa avrebbe comportato un progresso così rapido". Ha spiegato che lo sviluppo dell'Ia sta seguendo una curva esponenziale, sempre più ripida. Alla domanda su cosa significhi, Amodei ha risposto:
"Non significa che dobbiamo farci prendere dal panico oggi e che dobbiamo bloccare tutto. Ma direi che è un segnale d'allarme. Un segnale che ci indica la necessità di rallentare". Allo scopo di avere modelli affidabili, Amodei ha detto che Anthropic darà a valutatori indipendenti l'accesso permanente ai suoi modelli, simile a quello dei dipendenti.
"Ogni volta che qualcuno sviluppa un modello di IA, esiste un valutatore terzo in grado di verificare se l'azienda stia seguendo le pratiche di sicurezza a cui si è impegnata: è un po' come un ispettore sanitario", ha notato.
Il manager è favorevole alla regolamentazione federale: le proposte legislative spaziano dal divieto assoluto della superintelligenza all'obbligo di un 'kill switch', un interruttore d'emergenza che arresti i sistemi di Ia rischiosi. "Un kill switch è una buona idea. Non credo che vietarla, vietarla completamente, sia l'approccio giusto per l'IA.
In primo luogo, l'idea di rinunciare per sempre a benefici incredibili e a cure mediche mi lascia perplesso. In secondo luogo, questa tecnologia verrà sviluppata anche in altri Paesi, inclusi quelli autoritari", ha concluso.
2 - ALTMAN, RALLENTARE SVILUPPO PER EVITARE DUE GRAVI RISCHI
(AGI) - - "Ci sono due modi in cui il progresso dell'IA potrebbe andare molto male e che dobbiamo evitare". Lo afferma l'amministratore delegato di OpenAI, Sam Altman su X, intervenendo nel dibattito sulla necessita' di rallentare lo sviluppo dell'intelligenza artificiale per tenere sotto controllo i rischi legati ai sistemi piu' avanzati.
Il primo rischio, spiega Altman, e' "perdere il controllo del futuro a favore dell'IA". "E' inaccettabile; siamo senza esitazioni dalla parte dell'umanita' e l'IA deve sempre essere al servizio delle persone", aggiunge. Per questo, secondo il ceo di OpenAI, e' necessario fare in modo che le tecniche di allineamento e sicurezza restino avanti rispetto ai progressi nelle capacita' dei modelli. Il secondo rischio e' "un mondo con un'eccessiva concentrazione del potere".
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Se un sistema di IA straordinariamente potente venisse utilizzato da una singola persona o azienda per imporre la propria visione del mondo agli altri, avverte Altman, i risultati potrebbero essere "estremamente distopici".
Evitare questi due scenari richiede, secondo il manager, di seguire "una stretta via di mezzo": troppo potere potrebbe infatti finire sia nelle mani di un singolo Paese sia in quelle di un solo laboratorio.Altman interviene mentre tra i vertici delle principali aziende tecnologiche continua il confronto sul ritmo con cui sviluppare sistemi sempre piu' potenti e sulle garanzie necessarie per contenerne i rischi. (AGI)Ale (Segue)
donald trump convention del partito repubblicano a dallas, texas
3 - USA: TRUMP, DA IA PIU' ASPETTI POSITIVI CHE NEGATIVI
(AGI) - New York, 14 set. - Il presidente Donald Trump ha detto di aver parlato con alcuni dei principali esponenti del settore dell'intelligenza artificiale, dopo l'allarme lanciato dal ceo di Anthropic Dario Amodei, che ha parlato di rischio per l'umanita'. Quando gli e' stato chiesto se stesse minimizzando le loro preoccupazioni, ha risposto: "No, non stiamo minimizzandole, ma, sapete, alla fine ci saranno molti piu' aspetti positivi che negativi. L'ho detto fin dall'inizio: chiunque vinca, noi ce l'abbiamo fatta, siamo nettamente in testa. Chi vince nell'intelligenza artificiale vince tutto". (AGI)
Dario Amodei
DONALD TRUMP A DUBLINO
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Dario Amodei
