"LA NOSTRA INTELLIGENZA ARTIFICIALE È ABBASTANZA SICURA" – L’INQUIETANTE DICHIARAZIONE DEL CEO DI OPENIA SAM ALTAMAN, LA BIG TECH CHE HA SVILUPPATO CHATGPT - L’AFFERMAZIONE NON È RASSICURANTE, VISTO CHE OPENAI HA SCIOLTO IL TEAM DEDICATO A COMBATTERE I RISCHI A LUNGO TERMINE DELLA TECNOLOGIA – RICCARDO LUNA SUL CASO DELLA VOCE “RUBATA” DALL’IA A SCARLETT JOHANSSON, CHE AVEVA DETTO NO ALLA RICHIESTA DI ALTMAN: "CI POSSIAMO FIDARE? LO SCOPO DI OPENAI NON È FARCI INNAMORARE MA CREARE UN FETICCIO TECNOLOGICO..."
OPENAI, 'LA NOSTRA INTELLIGENZA ARTIFICIALE È ABBASTANZA SICURA'
(ANSA-AFP) - OpenAI afferma che la sua intelligenza artificiale è "abbastanza sicura". Lo ha detto il Ceo Sam Altman durante un evento di Microsoft - società che finanzia l'azienda - proprio nel mezzo di una polemica su una presunta clonazione della voce di Scarlett Johansson per l'ultima versione di ChatGpt.
"Diamo per scontato" che GPT-4, sebbene "lontano dall'essere perfetto sia generalmente considerato abbastanza robusto e sicuro per un'ampia varietà di usi", ha affermato Altman. "Il mio più grande consiglio - ha poi aggiunto rivolgendosi al pubblico degli sviluppatori - è che questo è un momento speciale, approfittatene". Altman ha poi insistito sul fatto che OpenAI ha svolto "un'enorme quantità di lavoro" per garantire la sicurezza dei suoi modelli.
scarlett johansson alla cena dei corrispondenti
Altman è salito alla ribalta mondiale dopo che OpenAI ha rilasciato ChatGpt nel 2022, ora è alle prese con le tante domande sulla sicurezza dei sistemi di IA. Proprio nei giorni scorsi si è sciolto il team dell'azienda dedicato allo studio dei rischi di questa tecnologia, dopo che sono andati via il co-fondatore dell'azienda Ilya Sutskever e il co-leader del team Jan Leike.
Nelle scorse ore Scarlett Johansson ha espresso indignazione per una voce utilizzata dall'ultima versione di ChatGpt che suona simile alla sua nel film del 2013 Her e per cui ha negato il permesso all'utilizzo. Altman si è scusato con l'attrice, ha messo in pausa la voce, ma ha insistito sul fatto che non era basata sulla sua voce.
MA ADESSO QUALCUNO CI DICA SE POSSIAMO FIDARCI DAVVERO
Estratto dell'articolo di Riccardo Luna per “La Stampa"
sam altman al world economic forum di davos
Che cosa, esattamente, del no di Scarlett Johansson non era chiaro a Sam Altman? Possibile che a una donna non basti mai dire "no" per essere presa sul serio? Cosa pensava, l'amministratore delegato di Open AI? Che l'attrice avesse declinato la sua proposta ma che in fondo fosse d'accordo («Dai che alla fine ci sta…»)? E, soprattutto, possiamo ancora fidarci di Sam Altman?
Questa vicenda - la voce di Scarlett Johansson utilizzata per Chat-Gpt nonostante il suo diniego - rivela le strategie di Open AI ben più dei comunicati ufficiali, e soprattutto misura in maniera impietosa l'etica che guida le scelte della persona che più di altri ha in mano il fuoco di questa tecnologia e può decidere se lo useremo per scaldarci, per difenderci o per bruciare tutto. Per mandare il mondo in malora.
scarlett johansson cannes 2023
Sam Altman cerca da subito, lo scorso settembre, Scarlett Johansson, una circostanza che riduce al rango di pietosa bugia la frase «non era nostra intenzione…» usata dallo stesso Altman e dalla responsabile della tecnologia di Open AI Mira Murati per scagionarsi quando è scoppiato lo scandalo.
E invece era proprio la loro intenzione: volevano la voce suadente di Scarlett, volevano creare quell'effetto per cui non sappiamo più se stiamo dialogando con un meccanismo o un organismo; volevano che qualcuno si innamorasse di Chat-Gpt come nel film preferito di Atman, Her.
Perchè non lo sappiamo: lo scopo di Open AI non è farci innamorare ma creare quel feticcio tecnologico che prende il nome di AGI, l'intelligenza artificiale generale «in grado di fare tutto quello che facciamo noi umani ma meglio». Visto in questa prospettiva, far innamorare un essere umano di un software è forse la più alta forma di manipolazione possibile, il segnale che l'AGI è stata raggiunta.
[…] Nel frattempo ad Open AI fanno passi da gigante: la voce ora è in grado di simulare empatia con chi le parla e i tempi di reazione dimezzano, siamo attorno ai 200 millisecondi, come un essere umano. Due giorni prima del lancio di GPT4o Altman cerca di nuovo l'attrice sperando che abbia cambiato idea, ma poi senza attendere la sua risposta fa un post con l'annuncio, lo intitola Her e dice che è come nel film.
Ora, provare a ridurre il tutto ad un difetto di comunicazione, come stanno facendo ad Open AI, non è accettabile. Qui non è la comunicazione che è mancata, ma è la cultura che c'è dietro ad essere sbagliata e pericolosa. L'abbiamo vista all'opera in questi venti anni di Silicon Valley. […]
Quella visione poi è andata in pezzi, travolta dai vari scandali in cui Facebook è stata coinvolta. Ma a sorpresa l'ha ripresa integralmente da Altman il primo gennaio del 2021, quando su Twitter, invece di fare banalmente gli auguri per l'anno nuovo al mondo, scrisse testualmente: «Muovetevi ancora più velocemente. La lentezza in qualche punto giustifica la lentezza ovunque». La lentezza come male assoluto. E quindi meglio «nel 2021 che nel 2022», meglio «questa settimana invece della prossima, oggi invece di domani».
E se con tutta questa fretta qualcosa si rompe, qualcuno si fa male, basta chiedere scusa: «Scusa Scarlett, non volevamo…» non è un atto di contrizione, è un copione.
I danni fatti dalla fretta di Mark Zuckerberg e degli altri guru della Silicon Valley all'informazione e alla politica sono sotto gli occhi di tutti: per fare più profitti hanno spalancato le porte ai populismi, hanno picconato le già fragili democrazie.
Ora con l'intelligenza artificiale siamo ad un altro bivio: possiamo usarla per creare una società migliore e più inclusiva oppure no.
Ci vorrebbe un po' di lentezza, che non vuol dire spegnere l'innovazione, ma provare a capire che futuro stiamo costruendo. Gli effetti collaterali della rivoluzione social non li abbiamo visti arrivare, questa volta è diverso: l'Ue si è dotata di un pacchetto di regole importanti che ieri hanno avuto l'ultimo ok. Qualcuno a Bruxelles ci dica se possiamo fidarci di Altman e intanto convochi gli ex componenti della sicurezza di Open AI: erano le persone incaricate di far sì che l'intelligenza artificiale non possa fare danni e la settimana scorsa si sono dimessi in blocco. C'è puzza di bruciato.
scarlett johansson a cannes. 
scarlett johansson lucy 
scarlett johansson
