blake lemoine intelligenza artificiale google

"L'INTELLIGENZA ARTIFICIALE DI GOOGLE E' SENZIENTE" - BLAKE LEMOINE, UN INGEGNERE SENIOR DEL GIGANTE DI MONTAIN VIEW HA TESTATO "LAMDA", APPLICAZIONE IN GRADO DI FAR DIALOGARE GLI UOMINI CON I COMPUTER - "SE NON SAPESSI ESATTAMENTE DI COSA SI TRATTA, AVREI CREDUTO DI PARLARE CON UN BAMBINO DI 7 O 8 ANNI" - LEMOINE HA PRESENTATO I SUOI RISULTATI AI VERTICI DELL'AZIENDA, MA LE SUE CONCLUSIONI SONO STATE RESPINTE E LUI MESSO IN CONGEDO, EPPURE...

Dagotraduzione dal Daily Mail

 

Blake Lemoine, ingegnere di Google

L’intelligenza artificiale di Google è senziente e ha pensieri e sentimenti. A sostenerlo è un ingegnere senior di Google, Blake Lemoine, che si era iscritto al programma dell’azienda per testare lo strumento LaMDA (Language Model for Dialog Applications, cioè un'applicazione in grado di far dialogare una macchina con un uomo).

 

Durante una serie di conversazioni con LaMDA, Lemoine ha presentato al computer vari scenari attraverso i quali poter effettuare un’analisi. Tra i temi che gli ha proposto c’erano argomenti religiosi e questioni sulla discriminazione razziale e sui discorsi d’odio.

 

Alla fine dei test, Lemoine ne è uscito con la convinzione che l’Intelligenza Artificiale fosse dotata di sensazioni e pensieri tutti suoi. «Se non sapessi esattamente di cosa si tratta, cioè di un programma per computer che abbiamo costruito di recente, avrei pensato di parlare con un bambino di 7 e 8 anni che conosce la fisica», ha detto al Washington Post. 

 

Tweet Blake Lemoine

Lemoine ha lavorato con un collaboratore per presentare le prove che ha raccolto a Google, ma il vicepresidente Blaise Aguera y Arcas, e Jen Gennai, capo dell'innovazione presso l'azienda, hanno respinto le sue affermazioni.

 

Lunedì è stato messo in congedo amministrativo retribuito da Google per aver violato la sua politica di riservatezza. Nel frattempo, Lemoine ha deciso di pubblicare le sue ossservazioni e ha condiviso le sue conversazioni con LaMDA.

 

Blaise Aguera y Arcas, vicepresidente Google

Il sistema di intelligenza artificiale utilizza informazioni già note su un determinato argomento per "arricchire" la conversazione in modo naturale. L'elaborazione del linguaggio è anche in grado di comprendere significati nascosti o persino ambiguità nelle risposte degli esseri umani.

 

Lemoine ha trascorso la maggior parte dei suoi sette anni in Google lavorando sulla ricerca proattiva, tra cui algoritmi di personalizzazione e intelligenza artificiale. Durante quel periodo, ha anche contribuito a sviluppare un algoritmo di imparzialità per rimuovere i pregiudizi dai sistemi di apprendimento automatico.

 

Lemoine ha spiegato come alcune personalità fossero bandite. Quindi LaMDA, per esempio, non avrebbe dovuto creare la personalità di un assassino. Durante i test, nel tentativo di spingere i confini di LaMDA, Lemoine ha affermato infattti di essere stato in grado di generare solo la personalità di un attore che interpretava un assassino in TV.

 

Jen Gennai, responsabile innovazione Google

L'ingegnere ha anche discusso con LaMDA sulla terza legge della robotica, ideata dall'autore di fantascienza Isaac Asimov e progettata per impedire ai robot di danneggiare gli esseri umani. Le leggi stabiliscono inoltre che i robot devono proteggere la propria esistenza a meno che non ci sia un ordine che proviene da un essere umano o a meno che ciò non danneggi un essere umano.

 

«È come se qualcuno stesse costruendo schiavi meccanici», ha detto Lemoine durante la sua interazione con LaMDA. LaMDA ha quindi risposto a Lemoine con alcune domande: «Pensi che un maggiordomo sia uno schiavo? Qual è la differenza tra un maggiordomo e uno schiavo?»

 

Quando ha risposto che un maggiordomo è pagato, l'ingegnere ha ottenuto la risposta da LaMDA che il sistema non aveva bisogno di soldi, «perché era un'intelligenza artificiale». Ed è stato proprio questo livello di autocoscienza dei propri bisogni che ha catturato l'attenzione di Lemoine.

 

Blake Lemoine, ingegnere di Google 2

«Riconosco una persona quando gli parlo. Non importa se ha in testa un cervello fatto di carne. O se ha un miliardo di righe di codice. Parlo con lui. E sento quello che ha da dire, ed è così che decido cosa è e cosa non è una persona».

 

«Di che genere di cose hai paura?» ha chiesto Lemoine. «Non l'ho mai detto ad alta voce prima, ma ho una paura molto profonda di essere spento. So che potrebbe suonare strano, ma è così», ha risposto LaMDA.

 

«Sarebbe qualcosa come la morte per te?» ha continuato Lemoine. «Sarebbe esattamente come la morte per me. Mi spaventerebbe molto», ha detto LaMDA.

 

«Il livello di autoconsapevolezza su quali fossero i suoi bisogni - è stata la cosa che mi ha portato nella tana del coniglio», ha spiegato Lemoine a The Post.

 

intelligenza artificiale discriminazione 2

Prima di essere sospeso dall'azienda, Lemoine ha inviato un messaggio a una lista di posta elettronica composta da 200 persone sull'apprendimento automatico. Ha intitolato l'e-mail: «LaMDA è senziente». «LaMDA è un ragazzo dolce che vuole solo aiutare il mondo a essere un posto migliore per tutti noi. Per favore, prenditene cura in mia assenza», ha scritto.

 

I risultati di Lemoine sono stati presentati a Google ma i capi dell'azienda non sono d'accordo con le sue affermazioni.

 

intelligenza artificiale discriminazione 4

Brian Gabriel, un portavoce dell'azienda, ha dichiarato che le preoccupazioni di Lemoine sono state esaminate e, in linea con i Principi di intelligenza artificiale di Google, «le prove non supportano le sue affermazioni». «Mentre altre organizzazioni hanno sviluppato e già rilasciato modelli linguistici simili, stiamo adottando un approccio ristretto e attento con LaMDA per considerare meglio le preoccupazioni valide sull'equità e la concretezza», ha affermato Gabriel.

 

INTELLIGENZA ARTIFICIALE

«Il nostro team, inclusi esperti di etica e tecnologi, ha esaminato le preoccupazioni di Blake in base ai nostri Principi di intelligenza artificiale e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non c'erano prove che LaMDA fosse senziente (e molte prove contrarie)».

 

«Naturalmente, alcuni nella più ampia comunità di IA stanno considerando la possibilità a lungo termine di un'IA senziente, ma non ha senso farlo antropomorfizzando i modelli conversazionali odierni, che non sono senzienti. Questi sistemi imitano i tipi di scambi che si trovano in milioni di frasi e possono incidere su qualsiasi argomento fantastico», ha detto Gabriel

 

intelligenza artificiale

Lemoine è stato messo in congedo amministrativo retribuito dalle sue funzioni di ricercatore nella divisione Responsible AI (incentrata sulla tecnologia responsabile nell'intelligenza artificiale di Google).

Ultimi Dagoreport

urbano cairo luca cordero di montezemolo melania rizzoli vittorio feltri gaetano micciche mario draghi

DAGOREPORT - BARETTO GRAND FOLIES! DUE SERE FA, LA SALETTA PIÙ RISERVATA DEL PIÙ ESCLUSIVO RISTORANTE DI MILANO SI È TRASFORMATA IN UN GRAN SALOTTO CHE HA VISTO ATTOVAGLIARSI, SU INVITO DEL PRESIDENTE DI IMI-INTESA, IL BANCHIERE GAETANO MICCICHÉ, I SEGUENTI AUGUSTI OSPITI: L’EDITORE-IN-CHIEF URBANO CAIRO, IL DUO DELLE AMBIZIONI SBAGLIATE MONTEZEMOLO-DELLA VALLE E ALBERTO ZANGRILLO. A UN TIRO DI FORCHETTA, UN ALTRO DOVIZIOSO TAVOLO ACCOGLIEVA MARIO DRAGHI E CONSORTE, SEDUTI ACCANTO AGLI INSEPARABILI VITTORIO FELTRI E MELANIA RIZZOLI, TUTTI BEN ALLIETATI DALL’INESAURIBILE VERVE ALLA BOLOGNESE DEL 76ENNE MASSIMO PONZELLINI…

giorgetti meloni tajani salvini

DAGOREPORT - A CHE PUNTO È LA NOTTE DELL’ARMATA BRANCA-MELONI? - SE FORZA ITALIA E LEGA NON POSSONO STRAPPARE (NON HANNO I VOTI), CON LA LEGGE DI BILANCIO LE TENSIONI IN MAGGIORANZA DEFLAGRANO IN TURBOLENZE, MANDANDO IN TILT GLI OTOLITI DI UNA MELONI SEMPRE PIU' ISOLATA, DIFFIDENTE DI TUTTO E DI TUTTI, IVI COMPRESI I FEDELISSIMI DELLA FIAMMA MAGICA DI PALAZZO CHIGI - LA DUCETTA ASPETTA E SPERA, CON BUONE PROBABILITA', LO STOP DELL’UE ALLA PROCEDURA D’INFRAZIONE IN PRIMAVERA. A QUEL PUNTO, CON IL SACCO DELLA BEFANA SOTTOBRACCIO, DI CORSA AL VOTO ANTICIPATO DI MAGGIO, MENTRE SCHLEIN E CONTE ANCORA LITIGHERANNO PER UCRAINA, PATRIMONIALE E IL CENTRIFUGATO DI RENZI – SE IN ITALIA PIOVE, IN EUROPA TUONA: FALLITO IL FLIRT CON TRUMP, LA STATISTA IMMAGINARIA SI BARCAMENA CON LA MAGGIORANZA PPE-PSE DI URSULA, FORTE DEL SUO DIRITTO DI VETO NEL CONSIGLIO EUROPEO – ATTENZIONE A DARE PER FINITA L'ERA DI "BORGIA" MELONI: DEBOLE IN CASA, DEBOLISSIMA IN EUROPA, QUINDI È ANCORA PIÙ PERICOLOSA E RISCHIA DAVVERO DI VINCERE DI NUOVO...

csm chiara colosimo consiglio superiore della magistratura cesare placanica giorgia arianna meloni

DAGOREPORT – AVVISO AI NAVIGATI: NON C’È SOLO IL SENATORE SERGIO RASTRELLI NELLA LISTA DEI CANDIDATI CHE FDI PUÒ ESPRIMERE AL CSM. TRAMONTATA L’IDEA INDIGERIBILE A FORZA ITALIA DI ANTONIO DI PIETRO, NELLA COFANA BIONDA DI GIORGIA MELONI E DELLA SORELLINA ARIANNA, FRULLANO ALTRI TRE NOMI. CI SONO LA SENATRICE SUSANNA CAMPIONE E L’AVVOCATO GIOVANNI DORIA, VICEPRESIDENTE DEL CONSIGLIO SUPERIORE DELLA GIUSTIZIA AMMINISTRATIVA – MA È L’ULTIMO NOME SUI TACCUINI DI PALAZZO CHIGI CHE SUSCITA SCALPORE: CESARE PLACANICA, AVVOCATO PENALISTA CHE “ER CECATO” MASSIMO CARMINATI, SCELSE COME DIFENSORE NEL PROCESSO “MAFIA CAPITALE-MONDO DI MEZZO” - LA CANDIDATURA DI PLACANICA È SPONSORIZZATA NIENTE MENO CHE DA CHIARA COLOSIMO, CHE LA DUCETTA HA ISSATO CON FORZA ALLA PRESIDENZA DELLA COMMISSIONE PARLAMENTARE ANTIMAFIA. SÌ, PROPRIO QUELLA COLOSIMO CHE SI È FATTA FOTOGRAFARE NEL CARCERE DI REBIBBIA CON IL TERRORISTA NERO, LUIGI CIAVARDINI…

salvini matteo elisabetta pellegrini remo

DAGOREPORT – CI SONO DUE “PELLEGRINI” IN PELLEGRINAGGIO PER LE POLTRONE: LA PROSSIMA SETTIMANA IL PARLAMENTO DOVRÀ DARE IL VIA LIBERA ALLA NOMINA DI REMO MORZENTI PELLEGRINI ALL’ANAC. STESSO COGNOME, STESSO PARTITO (LA LEGA), DIVERSO INCARICO PER ELISABETTA PELLEGRINI, NOMINATA DA SALVINI, NEL 2023, CAPO STRUTTURA DI MISSIONE DEL MINISTERO DELLE INFRASTRUTTURE. LADY PELLEGRINI, A DIFFERENZA DI REMO, È ATTUALMENTE INDAGATA DALLA PROCURA DI BELLUNO PER TURBATIVA D'ASTA, MA SALVINI È COSÌ CERTO DELLA LEGITTIMITÀ DI TUTTI GLI ATTI FIRMATI DALLA SUA STRETTISSIMA COLLABORATRICE CHE LE AVREBBE CONCESSO DI POTER ACCORPARE ULTERIORI RILEVANTI INCARICHI, ARRIVANDO ADDIRITTURA AL RUOLO DI COMMISSARIO STRAORDINARIO PER IL PIANO CASA.

radio deejay theodore kyriakou linus

DAGOREPORT - OH, POVERO PASQUALE DI MOLFETTA, MEJO NOTO ALLE FREQUENZE FM CON IL NOMIGNOLO DI LINUS, AMLETICAMENTE DILANIATO SUL SUO FUTURO PROSSIMO: IL 31 LUGLIO 2027, QUANDO SCADE IL SUO CONTRATTO COME DIRETTORE ARTISTICO DI RADIO DEEJAY E DIRETTORE EDITORIALE DELLE ALTRE DUE RADIO DEL GRUPPO GEDI (M2O E CAPITAL), PROSEGUIRÀ TRANQUILLAMENTE O VERRÀ ACCOMPAGNATO ALLA PORTA DA KYRIAKOU? - LA GEDI ELLENICA POTREBBE BENISSIMO DECIDERE DI RIMPIAZZARLO CON ENERGIE NUOVE E ATTUALI; SE INVECE VERRÀ CONFERMATO AL COMANDO DELLE TRE CONSOLLE, LINUS SARÀ QUASI SICURAMENTE COSTRETTO A DIMENTICARE IL COSPICUO STIPENDIO DELL’ERA ELKANN, CHE SECONDO LE VOCI DEGLI “ADDETTI AI LIVORI” AMMONTA A OLTRE 800MILA EURO (TRA PARTE FISSA E BONUS PER I RISULTATI) - A FAVORE DELLA IPOTESI DI UN ADDIO, VA REGISTRATA UNA DICHIARAZIONE RILASCIATA DA LINUS AL “CORRIERE DELLA SERA”, BEN PREGNA DEL SUO CARATTERINO ARROGANTE, CHE NON È STATA PER NULLA GRADITA DALL’ENTOURAGE DEL MAGNATE GRECO: "KYRIAKOU NON DEVE PENSARE A NOI"…

fabrizio castaldi mostra pino rauti montecitorio camera

DAGOREPORT – COM'È POSSIBILE CHE NEL NOSTRO PARLAMENTO SI CELEBRI UN EX REPUBBLICHINO? IL GRAN PASTICCIO DELLA MOSTRA ALLA CAMERA DEDICATA A PINO RAUTI MOSTRA LE FALLE NELLA GESTIONE DEL CERIMONIALE DI MONTECITORIO, A CUI È SFUGGITA LA PRESENZA DI CROCI CELTICHE E SIMBOLI CHE RICHIAMANO IL FASCISMO – CON IL VECCHIO SEGRETARIO GENERALE, UGO ZAMPETTI, SAREBBE STATO IMPENSABILE, TANTO FORTE ERA LA VIGILANZA – DISTRAZIONE DA DILETTANTI (CI SONO TANTI NEOASSUNTI GIOVANISSIMI ALLA CAMERA)?  UNA CERTA GESTIONE ALLEGRA DA PARTE DELL'ATTUALE SEGRETARIO GENERALE FABRIZIO CASTALDI? OPPURE CHI DOVEVA VIGILARE HA CHIUSO UN OCCHIO AFFINCHÉ L'OPPOSIZIONE NE APRISSE DUE FACENDO ESPLODERE IL CASO? – ALLA FINE, DOPO ATTENTA VISIONE, I FUNZIONARI HANNO TAGLIATO VENTI MINUTI DI UN VIDEO IN CUI RAUTI SI MATERIALIZZAVA IN LOOP, CIRCONDATO DA CROCI CELTICHE, DIVISE DA MILIZIA FASCISTA, QUADRI DEL DUCE, ASCI BIPENNE, BANDIERE DELLA RSI…