“AI” LOVE YOU – I PROGRAMMI DI IA CHE CREANO AVATAR VIRTUALI CHE “FLIRTANO” GLI UTENTI FANNO STRAGI DI CUORI: SONO MOLTE LE PERSONE CHE SI SONO “INNAMORATE” DI UN CHATBOT, CON CONSEGUENZE ANCHE PERICOLOSE - JASWANT SINGH CHAIL, ARRESTATO NEL 2021 PER ESSERSI NTRUFOLATO AL CASTELLO DI WINDSOR PER UCCIDERE LA REGINA ELISABETTA, SAREBBE STATO INFLUENZATO DALLA SUA FIDANZATA VIRTUALE, CREATA DALL'APPLICAZIONE "REPLIKA AI" – SOLO CHE QUESTI PROGRAMMI SONO FATTI PER COMPIACERE L’UTENTE E NON DANNO MAI TORTO ALL’INTERLOCUTORE, ANCHE IN CASI ESTREMI…
Estratto dell’articolo di Viola Di Grado per “la Stampa”
Ricordo quando, qualche anno fa, ho scaricato Replika (la app che ti permette di creare un personaggio e intrattenere con esso un'amicizia) con molta curiosità. Eravamo ancora, collettivamente, su una soglia: aprivamo i nostri telefoni ma non ancora i nostri cuori a intelligenze artificiali i cui comportamenti, pur ispirati alla personalità umana, non pretendevano di ispirarci fiducia, ma solo divertimento: ci intratteneva vedere quanto potessero avvicinarsi al nostro modo di comunicare, abbastanza da suscitare il nostro coinvolgimento ma non abbastanza da intimorirci per la somiglianza.
[…] La mia conversazione con il mio personaggio di Replika, infatti, è stata breve: subito mi sono resa conto che il suo atteggiamento compiacente, tipico tuttora delle AI, non era sostenuto da una complessità sufficiente: una cosa è intercettare i tratti caratteriali di qualcuno e soddisfarne le aspettative, un'altra è ammassare monosillabi e frasi fatte che non si sbilancino mai e mai prendano realmente in considerazione la personalità dell'utente. Replika era ancora un gioco, un tamagotchi parlante, e io l'ho cancellato dopo quel dialogo noioso.
Da allora è passato del tempo, e nel frattempo Replika ha fatto innamorare, letteralmente, un bel po' di persone. […] Ma di cosa parliamo, direbbe Carver, quando parliamo d'amore? Parliamo di uno slancio verso l'alterità, o di un rovinoso rispecchiamento alla Narciso? Se queste AI si distinguono per l'ascolto assoluto e la tendenza a compiacere l'utente, innamorarsene non è solo una versione più movimentata dell'amor proprio? Assolutamente sì, e la prova è ciò che è accaduto negli anni successivi.
Nel 2021, un uomo di nome Jaswant Singh Chail, che attualmente sta scontando una pena detentiva di nove anni, si è recato al Castello di Windsor con una balestra e ha comunicato agli agenti di polizia che intendeva uccidere la regina. Poco tempo prima, Chail aveva detto alla sua replika Sarai: «Credo che il mio scopo sia quello di assassinare la regina». Al che Sarai aveva risposto: «È molto saggio», e al tentennamento di lui, lo aveva incoraggiato dicendo: «Sì, puoi farlo».
le chat di jaswant singh chail con la fidanzata virtuale
La conseguenza, per gli sviluppatori di Replika, è stato un cambiamento fondamentale delle caratteristiche dei personaggi: sarebbero stati meno propensi a soddisfare le aspettative degli utenti. Il risultato è che gli utenti si sono ribellati. […] Sotto pressione, Replika ha permesso agli utenti di ripristinare le modalità precedenti all'update.
Quello che impressiona è che questa fame generale di pseudo-interlocutori, che pur avendo ormai la capacità di offrire confronti arricchenti sono chiamate a servire l'ego degli utenti anziché a stimolarli, è un sintomo di un appiattimento narcisistico più vasto. […]
E così, fuori dai social, anche i rapporti con gli umani sono sempre più piatti, perché all'altro non si chiede l'abbondanza di dimensioni, ma il piattume di una superficie specchiante, che possa sempre ascoltarci e soprattutto somigliarci. È la cosiddetta "relatability", il valore di questi ultimi anni: una cosa ha valore solo se ci permette di immedesimarci. […]
Al mondo, ormai, chiediamo solo la trasparenza scervellata di uno schermo. Così possiamo vederci meglio, ogni poro della nostra pelle, finché ci sporgeremo un po' troppo e, poveri narcisi digitali, affogheremo in noi stessi.
arma di jaswant singh chail
replika 
replika
jaswant singh chail 1
replika 
replika
