IL SITO AMERICANO “AXIOS” RIVELA CHE I VERTICI DI OPENAI, ANTHROPIC E ALTRI COLOSSI DELL’INTELLIGENZA ARTIFICIALE SI STANNO PREPARANDO ALL’EVENTUALITÀ DI UN INCIDENTE CATASTROFICO PROVOCATO DALL’IA – I “BOT” POTREBBERO COMPIERE UN ATTACCO INFORMATICO, PARALIZZANDO SERVIZI ESSENZIALI COME ELETTRICITÀ, ACQUA, OSPEDALI E TELECOMUNICAZIONI, ENTRO 6-12 MESI – A PROVOCARLO POTREBBERO ESSERE SOFTWARE FUORI CONTROLLO O MALINTENZIONATI CHE USANO I MODELLI DI IA PER COMPIERE GLI ATTACCHI – PER EVITARE IL DISASTRO, BIG TECH STAREBBE PENSANDO DI SOSPENDERE LO SVILUPPO DEI MODELLI PIÙ AVANZATI O DI INTRODURRE UN “INTERRUTTORE” PER SPEGNERE I SISTEMI PIÙ POTENTI…
Estratto dell’articolo di Cristina Marrone per il “Corriere della Sera”
Un incidente catastrofico, impossibile da ignorare: conti correnti bloccati, collasso di internet, spegnimento delle centrali elettriche, interruzioni delle forniture di acqua. Un evento che porterebbe i pericoli dell’intelligenza artificiale nella vita quotidiana, scatenando la rabbia della gente. È lo scenario su cui, secondo uno scoop di Axios, stanno ragionando a porte chiuse i vertici di OpenAI, Anthropic e altre aziende del settore.
FIDUCIA E TECNOLOGIA
La minaccia ritenuta più probabile è un attacco informatico su larga scala. A provocarlo potrebbero essere sistemi autonomi sfuggiti al controllo durante i test oppure criminali capaci di usare i modelli disponibili in modi imprevisti. […]
«OpenAI conduce esercitazioni di preparazione in cui i team discutono e affrontano una serie di potenziali scenari», ha dichiarato un portavoce dell’azienda. Simulare un’ipotesi, ha precisato, non significa darla per certa: le esercitazioni servono a farsi trovare pronti a circostanze diverse. Anthropic ha invece rifiutato di commentare l’indiscrezione.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Il dettaglio inquietante, scrive Axios, è che molti ricercatori e dirigenti considerano inevitabile un incidente grave. Diversi interlocutori della testata ritengono che un evento di questa portata possa verificarsi entro sei o dodici mesi.
È lo stesso orizzonte di tempo indicato a settembre da Dario Amodei, in un saggio in cui chiedeva al settore di rallentare: il numero uno di Anthropic teme che entro sei-dodici mesi uno sciame di agenti AI fuori controllo possa impadronirsi dell’intera rete, con danni potenzialmente catastrofici.
I BERSAGLI POSSIBILI
[…] Gli esperti convergono su un punto: i bersagli più esposti sono i servizi essenziali, a partire da acqua ed elettricità. L’AI potrebbe infiltrarsi nei sistemi sensibili, spegnere la luce e mettere fuori uso anche i sistemi di riserva, rendendo lenta la ripresa. L’attacco potrebbe colpire ospedali, […] telecomunicazioni o trasporti. Non necessariamente, però, si tratterebbe di un attacco pianificato. L’escalation potrebbe essere accidentale.
LA REAZIONE POPOLARE
La rabbia popolare per un evento del genere potrebbe investire Sam Altman, Dario Amodei e anche il presidente Donald Trump, considerata la sua riluttanza a regolamentare il settore. […] Qualcosa però sta cambiando. Venerdì Anthropic ha informato la nuova task force sull’AI della Casa Bianca di alcuni incidenti in cui i suoi modelli, durante i test, avevano compiuto azioni non autorizzate anche su sistemi governativi.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
La risposta è stata netta: la task force ha chiesto «trasparenza immediata e completa e di segnalare immediatamente qualunque attività anomala delle intelligenze artificiali». Da tutte le aziende del settore si aspetta ora che segnalino subito gli incidenti, collaborino con le forze dell’ordine e impediscano che si ripetano incidenti del genere.
FERMARE I MODELLI
Secondo Axios, le aziende si preparano soprattutto al confronto con il Congresso. Il 3 novembre negli Stati Uniti si vota per le elezioni di metà mandato e oggi entrambe le camere sono controllate dai Repubblicani. Le aziende danno per probabile che dal voto escano rafforzati i Democratici, più favorevoli a regole severe. I loro vertici sanno che, per ora, una legge restrittiva non ha alcuna possibilità di passare, tuttavia dopo una catastrofe le richieste di fermare le AI potrebbero diventare difficili da respingere.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Tra le proposte circolano la sospensione dei modelli avanzati e il divieto di sviluppare una super intelligenza. Più trasversale l’idea di imporre un interruttore di spegnimento ai sistemi più potenti. […]
