L’ALGORITMO ALLA SBARRA! – IL PROCURATORE GENERALE DELL'ALABAMA, STEVE MARSHALL, HA AVVIATO UN'INDAGINE SULL'INCIDENTE CHE HA VISTO DUE MODELLI DI INTELLIGENZA ARTIFICIALE DI OPENAI INTROMETTERSI IN UNA PIATTAFORMA INTERNET DI PROPRIA INIZIATIVA, LO SCORSO MESE DI LUGLIO - LE INDAGINI MIRERANNO A STABILIRE SE “L'INCAPACITÀ O LA RILUTTANZA DI OPENAI A GARANTIRE LA SICUREZZA DEI PROPRI PRODOTTI” COSTITUISCANO UNA VIOLAZIONE DELLE NORME STATALI A TUTELA DEI CONSUMATORI E “RAPPRESENTINO UN RISCHIO CONTINUO DI DANNO SOSTANZIALE PER I CITTADINI”…
(Adnkronos/Belga-French) - Il procuratore generale dell'Alabama Steve Marshall ha annunciato l'avvio di un'indagine sull'incidente che ha visto due modelli di intelligenza artificiale (IA) di OpenAI intromettersi, di propria iniziativa, in una piattaforma internet nel mese di luglio.
Le indagini mireranno a stabilire se "l'incapacità o la riluttanza di OpenAI a garantire la sicurezza dei propri prodotti" costituiscano una violazione delle norme statali a tutela dei consumatori e "rappresentino un rischio continuo di danno sostanziale per i cittadini" dell'Alabama, secondo un comunicato. Interpellata dall'AFP, OpenAI non ha fornito alcuna risposta immediata.
A fine luglio, la start-up californiana ha riferito che, durante alcuni test, due dei suoi modelli sono sfuggiti dal loro ambiente confinato per collegarsi a Internet e hanno preso d'assalto il sito Hugging Face, una sorta di biblioteca di programmi di intelligenza artificiale. Lì cercavano elementi che consentissero loro di superare i test a cui erano sottoposti.
All'inizio di agosto, i procuratori di 15 Stati, tra cui l'Alabama, avevano già inviato a OpenAI una richiesta di conservazione di tutti i documenti interni relativi all'incidente, nonché a eventuali eventi simili verificatisi in precedenza. Avevano inoltre ingiunto alla start-up di non effettuare più test che potessero portare a un attacco simile a quello di luglio.
OPENAI - MODELLI DI INTELLIGENZA ARTIFICIALE
A questa richiesta OpenAI non ha risposto, ha riferito all'AFP un portavoce del procuratore dell'Alabama. "L'incidente di Hugging Face ha rappresentato un momento importante per la sicurezza dell'IA", ha commentato il gruppo al sito TechCrunch. "Stiamo conducendo una valutazione approfondita (dell'episodio) con l'aiuto di consulenti esterni".
Una volta completata questa analisi, "trasmetteremo una relazione tecnica al governo e renderemo pubbliche le nostre conclusioni", ha aggiunto OpenAI. A metà agosto, l'azienda che ha creato ChatGPT ha annunciato di voler rallentare lo sviluppo di uno dei suoi nuovi modelli, denominato Astra, al fine di dotarlo di ulteriori misure di protezione per gestire le sue capacità avanzate, in particolare in materia di sicurezza informatica.


