IL FUTURO DISTOPICO È GIÀ QUI: FACEBOOK SOSPENDE UN ESPERIMENTO DI INTELLIGENZA ARTIFICIALE PERCHÉ DUE ‘CHAT-BOTS’ AVEVANO SVILUPPATO UN LORO LINGUAGGIO INCOMPRENSIBILE AGLI SCIENZIATI - I VATICINI DI ISAAC ASIMOV, HUXLEY E H.G.WELLS STANNO DIVENTANDO REALTÀ? ‘È UNA COSA CHE SUCCEDE SPESSO, NON C’È DA PREOCCUPARSI’
1. SE IL ROBOT INVENTA UNA LINGUA
Roberto Bertinetti per ‘Il Messaggero’
Dialogano tra loro in una lingua incomprensibile per gli umani. Sono i robot messi a punto dagli scienziati che operano da tempo nel laboratorio dell'intelligenza artificiale di Facebook, ribattezzati Bob e Alice dai loro creatori. Che ora, forse spaventati dal successo, hanno deciso di interrompere le conversazioni, le bot-chat, impostate per avviare una contrattazione, perché non controllabili. L'esperimento, coronato da un risultato ritenuto improbabile in tempi brevi, è ben noto ai cultori della fantascienza. Lo avevano descritto i maestri del genere (Asimov e Ballard, in anni ormai lontani), oppure gli sceneggiatori e i registi di film di grande come Il pianeta della scimmie o Matrix.
Tra i pionieri di quello che i programmatori di Facebook considerano un pericolo ci sono alcuni geniali narratori che pubblicarono romanzi nel Regno Unito all'inizio del secolo scorso: Herbert George Wells, innanzitutto, e in seguito Aldous Huxley. Le loro opere furono definite distopie, ovvero utopie negative, al pari di 1984 di Orwell. Potenziali incubi, si disse all'epoca. Ammonimenti a beneficio dei saggi legislatori che, si aggiunse, avrebbero impedito si trasformassero in pratica abituale.
SVILUPPO
Lo sviluppo tecnologico, ovviamente, ha percorso strade diverse. Perché, da sempre, quello che appare realizzabile deve essere perseguito senza alcuna remora. Si tratta di una scelta antica, condivisa sin dal periodo medievale da chi opera nel campo della ricerca. A dispetto dei costi sul piano emotivo.
Come dimostra, ad esempio, Frankenstein di Mary Shelley, immortale bestseller che ha generato da inizio Ottocento centinaia di variazioni sul tema. Allora si parlava di un ardito sperimentatore che costruisce un individuo pensante. Che insegue sino a lande remotissime il suo creatore in cerca d'affetto. Nei laboratori di Facebook, però, hanno compiuto un netto e decisivo passo in avanti: nessun uomo controlla le macchine. Capaci di scambiarsi messaggi con codici ignoti.
Le notizie arrivate dagli Stati Uniti propongono adesso uno scenario diverso. Da potenziale incubo, sostengono alcuni. In realtà l'autonomia della macchine capaci di agire in maniera autonoma non costituisce una sorpresa. In Cina figura da mesi in testa alle classifiche dei libri più venduti una raccolta di poesie scritte da un robot, il programma di intelligenza artificiale Microsoft Little Ice. Il volume, edito dalla Cheers Publishing, si intitola La luce del sole si dissolse sulla finestra di vetro, è stato realizzato usando un algoritmo che aveva in memoria i testi scritti da cinquecento poeti.
Da questo deposito, il robot ha prodotto diecimila poesie, di cui 139 pubblicate nell'antologia ripartita in dieci capitoli, dedicati a un'emozione dell'animo umano. Il programma Little Ice, spiega il Quotidiano del Popolo, «s'ispira ogni volta che vede' un'immagine, con un processo sostanzialmente uguale a quello di un poeta reale». Il coordinatore del volume Dong Huan, ha garantito alla stampa che «nemmeno una virgola dei testi scritti è stata modificata» e che sono stati mantenuti anche gli eventuali errori grammaticali dei testi di partenza.
Ma i robot hanno agito in autonomia. E se Mark Zuckeberg investe fondi e anima nel progetto di ricerca Facebook Ai, agli addetti ai lavori è nota l'esistenza di Google Brain, la divisione che si occupa di intelligenza artificiale di Google, e che ha ripreso dalle neuroscienze l'idea di rete neurale, per applicarla a tutti i prodotti dell'azienda.
INTERAZIONE
Google Translate non si basa su regole grammaticali precaricate per coppie di lingue. È una sorta di neonato, una filosofica tabula rasa che parte da più indietro ma ha potenzialità enormi. Gli è stato fornito un nuovo cervello di algoritmi per scandagliare migliaia di server in cerca di similitudini tra gli idiomi del mondo. Le regole cerca di dedurle da solo, invece che riceverle dai suoi programmatori, e impara dagli errori commessi.
Come sottolinea Paolo Gallina, il migliore esperto italiano di intelligenza artificiale, l'uomo da tempo si circonda di tecnologia. Ogni volta che usiamo uno strumento deleghiamo parte delle nostre facoltà cognitive: chi usa il navigatore satellitare, dimostrano le ricerche, è meno pronto nell'interpretare una mappa geografica. In futuro, l'interazione con i robot creerà altre forme di dipendenza. Sempre che i robot non divengano autonomi. Se resteranno strumenti di progresso ci saranno molte nuove opportunità ancora ignote persino alla fantascienza.
2. LA RIPETIZIONE DI UN CODICE MA SENZA REGOLE DEFINITE
Andrea Andrei per ‘Il Messaggero’
Parlare, interagire, esprimere opinioni, negoziare. Capacità che erano considerate prerogative dell'uomo. Eppure la cosiddetta intelligenza artificiale, basata sull'idea di trasformare le macchine da mere esecutrici a meccanismi pensanti e in grado di prendere decisioni in autonomia ha caratterizzato buona parte della ricerca tecnologica fino a oggi.
Perciò non c'è poi troppo da sorprendersi se due robot nel laboratorio di ricerca di Facebook FAIR (adibito allo sviluppo dell'intelligenza artificiale per volontà di Mark Zuckerberg) siano stati in grado non solo di comunicare fra loro e intavolare una trattativa, ma addirittura di creare una propria lingua, che man mano è diventata incomprensibile agli stessi scienziati che hanno perciò sospeso l'esperimento.
È un po' come quando due bambini sviluppano tra loro una sorta di linguaggio in codice per non farsi capire dagli adulti o per gioco. Ciò avviene perché proprio nei più piccoli l'utilizzo e le regole dell'espressione sono meno radicate, il che li rende creativi. Se ciò accade nelle macchine, è perché chi le ha programmate non ha insegnato a rispettare le regole della grammatica e della sintassi. È ciò che è accaduto a Bob e Alice, i due chatbot (robot che interagiscono) di Facebook.
L'OBIETTIVO
Il fine dell'esperimento che li riguardava era di far sì che ognuno di loro fosse in grado di negoziare con l'altro. Una capacità tipica dell'essere umano, perché non prevede solo una conoscenza approfondita del linguaggio, ma anche una serie di valutazioni tratte dal vissuto: contrattare vuol dire saper gestire un conflitto, insistere, in caso mentire o esagerare e infine trovare un compromesso. Compiti estremamente complessi che Alice e Bob stavano imparando a svolgere.
Perciò le due macchine sono state messe l'una di fronte all'altra, e a forza di parlare e di confrontarsi, non avendo un limite imposto con precisione sono arrivate a esprimersi in un inglese sempre più simile a un linguaggio binario, solo che invece dell'1 e dello 0 a ripetersi erano una serie di parole. Ogni volta che un robot modificava un termine, l'altro lo imparava e lo registrava come regola da seguire, e in breve tempo il dialogo è diventato totalmente incomprensibile. «Se l'idea che delle macchine possano inventare una loro lingua può sembrare allarmante per chi non è addetto ai lavori - ha spiegato in un post il ricercatore Facebook Dhruv Batra - è una circostanza già osservata in passato negli studi sull'intelligenza artificiale». Che sia una ragione sufficienti per stare tranquilli, è un altro discorso.
3. TEST DI FACEBOOK, LA VERA STORIA DELLA AI RIBELLE
Jaime D'alessandro per www.repubblica.it
“Una copertura irresponsabile e basata sull’inseguire facili click”. Dhruv Batra lo scrive a chiare lettere nella sua pagina di Facebook dopo la tempesta mediatica che lo ha investito. Professore alla Georgia Tech e ricercatore al Facebook Ai Research (Fair), dove si sperimentano nuove forme di intelligenza artificiale, commenta amaro gli articoli che hanno parlato di quanto successo nel suo laboratorio. Batra e il suo team stavano facendo dialogare due intelligenze artificiali allenate alla negoziazione con una serie obbiettivi da raggiungere. Ma le cose non sono andate come sperato.
Quando si parla di negoziazioni, si intendono tutte quelle situazioni nelle quali fra due o più persone si istaura un dialogo per decidere qualcosa. “Dallo scegliere quale programma tv guardare al convincere i propri figli a mangiare la verdura, fino all’ottenere un prezzo migliore da un venditore”, si legge nella relazione del team di Facebook. Ogni "agente" artificiale ha dei valori, quanto tiene ad un certo oggetto ad esempio, e negozia con l’altro per raggiungere un obbiettivo. Si tratta di un esercizio linguistico e di logica.
Test di Facebook, la vera storia della Ai ribelle
Dhruv Batra. Professore alla Georgia Tech e ricercatore al Facebook Ai Research (Fair)
Condividi
I due “agenti” di Batra hanno però iniziato a mutare l’inglese per raggiungere prima l’obbiettivo. A leggere il dialogo delle due Ai non sembra però, ad un occhio profano, che quel linguaggio fosse poi così evoluto. Incompensibile di certo, ma magari anche inutile.
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
A quel punto l’esperimento è stato interrotto, o meglio sono stati cambiati i parametri, perché si basava invece sull’uso dell’inglese. A tutti i non addetti ai lavori è venuto subito in mente Skynet di Terminator o il Master Control Program di Tron (ma la lista potrebbe esser ben più lunga), ovvero un programma che si evolve da solo e sfugge al controllo umano divenendo indipendente. In questo caso dal punto di vista linguistico. Insomma, il primo accenno di “singolarità tecnologica”, l’avvento di un’intelligenza artificiale cosciente e superiore a quella umana. Di qui i titoli di siti e giornali.
Ma Dhruv Batra mette le mani avanti: “Per quanto l’idea che le intelligenze artificiali abbiano inventato un loro linguaggio possa suonare allarmante e inaspettata a chi non è del settore, è un aspetto molto noto e sul quale c’è una corposa letteratura da decenni”. E spiega: “In poche parole, gli agenti in ambienti dove si deve risolvere un compito, spesso troveranno modi non intuitivi per massimizzare la ricompensa.
In secondo luogo la modifica dei parametri di un esperimento non significa che abbiamo “spento tutto” e “scollegato le Ai”. Ogni ricercatore che conclude un esperimento fa esattamente la stessa cosa”. Sul web quindi è andata in scena la negoziazione fra scienza e fantascienza, verrebbe da dire, fra ricercatori e giornali. Anche se poi è il secondo punto di vista ad affasciare di più. Con buona pace di Batra.
