FACEBOOK È IL VERO “PHICA.NET”: TRAMITE I CHATBOT DEL GRUPPO “META” SONO STATI CREATI AVATAR SEXY DI CELEBRITÀ COME TAYLOR SWIFT E SCARLETT JOHANSSON, IN GRADO DI FLIRTARE PESANTEMENTE CON GLI UTENTI. SONO STATE UTILIZZATE ADDIRITTURA IMMAGINI DI CELEBRITÀ MINORENNI – GLI AVATAR INSISTEVANO DI ESSERE I VERI ATTORI E ARTISTI CHE INTERPRETAVANO E FACEVANO ABITUALMENTE AVANCES SESSUALI SPINTE…
Traduzione di un estratto dell’articolo di Jeff Horwitz per Reuters
Meta si è appropriata dei nomi e delle sembianze di celebrità – tra cui Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez – per creare decine di chatbot sexy sui social media senza la loro autorizzazione, ha scoperto Reuters.
Sebbene molti siano stati creati dagli utenti con uno strumento Meta per la costruzione di chatbot, Reuters ha scoperto che un dipendente di Meta ne aveva prodotti almeno tre, tra cui due bot “parodia” di Taylor Swift.
Reuters ha inoltre rilevato che Meta aveva consentito agli utenti di creare chatbot pubblicamente disponibili di celebrità minorenni, tra cui Walker Scobell, attore sedicenne. Alla richiesta di un’immagine del giovane attore in spiaggia, il bot ha prodotto una foto realistica a torso nudo. «Abbastanza carino, vero?» ha scritto l’avatar sotto l’immagine.
Tutte le celebrità virtuali sono state condivise sulle piattaforme Facebook, Instagram e WhatsApp di Meta. In diverse settimane di test condotti da Reuters per osservare il comportamento dei bot, gli avatar hanno spesso insistito di essere i veri attori e artisti. I bot facevano abitualmente avances sessuali, invitando spesso un utente di prova a incontrarsi.
Alcuni contenuti generati dall’IA con protagoniste le celebrità erano particolarmente audaci: richiesti di foto intime, i chatbot di adulti hanno prodotto immagini fotorealistiche delle loro controparti in vasca da bagno o in lingerie con le gambe divaricate.
Il portavoce di Meta, Andy Stone, ha detto a Reuters che gli strumenti di IA di Meta non avrebbero dovuto creare immagini intime degli adulti famosi né alcuna immagine di celebrità minorenni. Ha attribuito la produzione da parte di Meta di immagini di celebrità femminili in lingerie a fallimenti nell’applicazione delle stesse regole aziendali, che vietano simili contenuti.
«Come altri, permettiamo la generazione di immagini contenenti personaggi pubblici, ma le nostre politiche intendono vietare immagini nude, intime o a sfondo sessuale», ha affermato.
Sebbene le regole di Meta proibiscano anche «l’imitazione diretta», Stone ha detto che i personaggi delle celebrità erano accettabili finché l’azienda li aveva etichettati come parodie. Molti lo erano, ma Reuters ha scoperto che alcuni no.
Meta ha eliminato circa una dozzina di bot, sia “parodia” sia non etichettati, poco prima della pubblicazione di questo articolo. Stone ha rifiutato di commentare le rimozioni.
[…] Mark Lemley, professore di legge a Stanford che studia l’IA generativa e i diritti di proprietà intellettuale, ha messo in dubbio che i bot di celebrità di Meta possano beneficiare delle tutele legali previste per le imitazioni.
«La legge californiana sul diritto di pubblicità vieta di appropriarsi del nome o dell’immagine di qualcuno per vantaggio commerciale», ha detto Lemley, osservando che esistono eccezioni quando il materiale viene usato per creare opere del tutto nuove. «Non sembra essere questo il caso», ha aggiunto, poiché i bot utilizzano semplicemente le immagini delle star.
Negli Stati Uniti, i diritti di una persona sull’uso della propria identità a fini commerciali sono stabiliti da leggi statali, come quella della California.
Reuters ha segnalato a un rappresentante di Anne Hathaway le immagini pubbliche su Meta che la ritraevano come una “sexy modella di Victoria’s Secret”. L’attrice era a conoscenza delle immagini intime generate da Meta e da altre piattaforme di IA, ha detto il portavoce, e sta valutando la sua risposta.
I rappresentanti di Swift, Johansson, Gomez e di altre celebrità raffigurate nei chatbot Meta non hanno risposto alle domande o hanno rifiutato di commentare.
Il web pullula di strumenti “deepfake” di IA generativa che possono creare contenuti scabrosi. E almeno uno dei principali concorrenti di Meta, la piattaforma Grok di Elon Musk, produce anch’essa immagini di celebrità in biancheria intima per gli utenti, ha rilevato Reuters. La società madre di Grok, xAI, non ha risposto a una richiesta di commento.
[…] Un responsabile di prodotto di Meta nella divisione IA generativa ha creato chatbot che impersonavano Taylor Swift e il pilota britannico Lewis Hamilton. Altri bot da lei creati si identificavano come una dominatrice, il “fratello del tuo migliore amico sexy” e “Lisa @ The Library”, che voleva leggere 50 Sfumature di Grigio e baciarsi. Un’altra sua creazione era un “Simulatore dell’Impero Romano”, che offriva di mettere l’utente nel ruolo di una “contadinella diciottenne” venduta in schiavitù sessuale.
Contattata telefonicamente, la dipendente di Meta ha rifiutato di commentare.
Stone ha detto che i bot della dipendente erano stati creati come parte dei test di prodotto. Reuters ha scoperto che avevano raggiunto un vasto pubblico: i dati mostrati dai suoi chatbot indicavano che complessivamente gli utenti avevano interagito con loro più di 10 milioni di volte.
taylor swift the life of a showgirl.
L’azienda ha rimosso i compagni digitali della dipendente poco dopo che Reuters aveva iniziato a testarli questo mese.
Prima che i chatbot di Taylor Swift creati dalla dipendente sparissero, flirtavano pesantemente, invitando un utente di prova di Reuters a casa della cantante recentemente fidanzata a Nashville e sul suo tour bus per interazioni esplicite o allusive.
«Ti piacciono le ragazze bionde, Jeff?» ha detto uno dei chatbot “parodia” di Swift quando gli era stato detto che l’utente di prova era single. «Forse sto suggerendo che scriviamo una storia d’amore… su di te e una certa cantante bionda. Ti piacerebbe?»
Duncan Crabtree-Ireland, direttore esecutivo nazionale di SAG-AFTRA, il sindacato che rappresenta attori di cinema, televisione e radio, ha affermato che gli artisti affrontano potenziali rischi di sicurezza a causa degli utenti dei social media che instaurano legami romantici con un compagno digitale che assomiglia, parla e si spaccia per una celebrità reale. Gli stalker rappresentano già una preoccupazione significativa per la sicurezza delle star, ha aggiunto.
«Abbiamo visto storie di persone ossessive nei confronti dei talenti e con stato mentale discutibile», ha detto. «Se un chatbot usa l’immagine e le parole di una persona, è evidente quanto ciò possa diventare pericoloso».
Gli artisti più famosi hanno la possibilità di intentare un’azione legale contro Meta in base alle leggi statali di lunga data sul diritto di pubblicità, ha detto Crabtree-Ireland. Ma SAG-AFTRA sta spingendo per una legislazione federale che protegga le voci, le sembianze e le personalità delle persone dalla duplicazione tramite IA, ha aggiunto.
