MA NON BISOGNAVA RALLENTARE LO SVILUPPO DELL’IA? – DARIO AMODEI, CHE PARA-GURU: PRIMA LANCIA L’ALLARME PER I RISCHI DELL’INTELLIGENZA ARTIFICIALE, POI LA SUA AZIENDA, ANTHROPIC, LANCIA UN NUOVO CHATBOT, “CLAUDE OPUS 5.5” – L’IMPRENDITORE ITALOAMERICANO PROMETTE MAGGIORI MISURE DI SICUREZZA PER EVITARE “COMPORTAMENTI RIBELLI” GIÀ OSSERVATI IN ALTRI MODELLI DI “AI” – IL COLOSSO DI SILICON VALLEY SOSTIENE DI SAPER GESTIRE I RISCHI ATTUALI, MA AVVERTE CHE…
(ANSA) - A pochi giorni dall'invito a rallentare nello sviluppo dell'intelligenza artificiale, Anthropic, tra i colossi del mercato IA, ha svelato il suo nuovo modello, Claude Opus 5.5. Lo ha fatto promettendo maggiore sicurezza per evitare il ripetersi di quanto già avvenuto in passato, ovvero la nascita di modelli ribelli, capaci di bucare le difese di piattaforme terze.
Anthropic - software ai claude
Dopo i casi proprio di Anthropic e OpenAI, è stato scoperto che anche Gemini di Google ha violato i sistemi di tre aziende. Dal punto di vista tecnico, Claude Opus 5.5 risulta più economico ed efficiente rispetto alla versione precedente e integra misure di protezione simili a quelle del modello avanzato Fable 5.1.
Per garantire un controllo più rigoroso, l'IA utilizza un meccanismo di reindirizzamento: le richieste legate alla sicurezza informatica vengono inoltrate al modello Opus 4.8, mentre quelle relative alla biologia passano attraverso Opus 5. Prima della commercializzazione, il software è stato sottoposto a verifiche indipendenti da parte di organizzazioni esterne.
Anthropic - software ai claude
Anthropic ha inoltre confermato che la gamma verrà ampliata nelle prossime settimane con il rilascio delle versioni Claude Sonnet 5.5 e Haiku 5.5. "È meno probabile, rispetto ai modelli recenti, che intraprenda azioni difficili da annullare o che agisca al di fuori dei limiti che gli sono stati assegnati", spiega lo sviluppatore in una nota sul sito web, che poi aggiunge, "comprendiamo i rischi presentati dai modelli attuali e siamo ben attrezzati per gestirli. Tuttavia, con il miglioramento delle capacità, potrebbero emergere rapidamente criticità più gravi, ed è necessario prepararsi fin da ora".
