COM’È HARD QUESTO SOFTWARE – L’ANNUNCIO DELLA VERSIONE “EROTICA” DI CHATGPT HA GIÀ DATO IL VIA A SPECULAZIONI E QUESTIONI LEGALI: PROBABILE CHE VENGA ESCLUSA LA POSSIBILITÀ DI CREARE IMMAGINI PORNO, PER EVITARE IL PROLIFERARE DI DEEPFAKE - COME LA METTIAMO CON LA PRIVACY? SE UN ACCOUNT VENISSE VIOLATO, LE CONVERSAZIONI PORCELLINE POTREBBERO DIVENTARE DANNOSE (E CONTENERE DATI SENSIBILI) – ANCHE SE GIÀ ADESSO IN MOLTI FANNO DISCORSI SCONCI ALLE LORO AI - ALZI LA MANO CHI NON HA PROVATO A “TESTARLE” CON UN PO’ DI SANO DIRTY TALKING…
Traduzione di un estratto dell'articolo di Reece Rogers per www.wired.com
Nel maggio del 2024, mentre stavo esaminando il “Model Spec” di OpenAI — il documento che definisce come dovrebbe comportarsi ChatGPT — un commento nascosto tra le righe mi colpì per la sua particolarità. Diceva che OpenAI stava “esplorando” come consentire agli utenti adulti di ChatGPT di generare contenuti con temi maturi come “erotismo, violenza estrema, insulti e volgarità non richieste”.
Sembra che la fase di esplorazione sia finita. Il CEO di OpenAI, Sam Altman, ha recentemente annunciato sui social che un aggiornamento in arrivo su ChatGPT a dicembre permetterà al chatbot di affrontare “ancora più” tipi di contenuti, tra cui “erotismo per adulti verificati”. […] Altman ha spiegato che l’erotismo è solo un aspetto della più ampia posizione di OpenAI a favore della “libertà per gli adulti”, aggiungendo che la sua startup “non è la polizia morale eletta del mondo”.
La rimozione di questi vincoli sui contenuti maturi non cambierà soltanto ciò che il bot potrà generare per milioni di utenti adulti: inaugurerà una nuova era “libertina” di ChatGPT, un riallineamento radicale nel modo in cui le persone instaurano legami con l’IA, aggiungendo un ulteriore strato di interazione capace di trattenere gli utenti sulla piattaforma.
[…] Si tratta di una svolta notevole per la startup, che in passato aveva cercato di bloccare qualsiasi produzione di contenuti osceni. In passato, almeno un sviluppatore che aveva creato compagni virtuali a sfondo sessuale utilizzando i modelli di OpenAI aveva ricevuto una lettera di diffida.
kokeshi bambola gonfiabile con intelligenza artificiale
[…] “Ci sono molte cose che potremmo fare per crescere più velocemente e ottenere più tempo di utilizzo su ChatGPT,” ha ammesso Altman. Alla richiesta di un esempio concreto, dopo una breve pausa ha risposto che non avevano aggiunto un “avatar sexbot” — probabilmente un riferimento ironico alla compagna erotica in stile anime lanciata poche settimane prima da xAI.
Ma qual è la differenza tra un “sexbot” e un chatbot che genera “erotismo”? I confini semantici sono scivolosi.
“Sam Altman continua a usare il termine ‘erotismo’, ma è molto vago,” osserva Carpenter. Sottolinea come la “scelta arcaica delle parole” di Altman rimandi al carattere letterario e artistico dell’erotismo scritto da esseri umani, una definizione forse più accettabile per il pubblico rispetto a termini più espliciti come pornografia.
Resta incerto se l’aggiornamento di moderazione di OpenAI riguarderà solo contenuti testuali o anche altre forme, come immagini e voce. Se OpenAI decidesse di escludere le immagini, potrebbe evitare polemiche legate ai deepfake erotici spesso usati per molestare donne e ragazze. Come l’azienda definirà concretamente il suo nuovo approccio alla moderazione sarà determinante nel modellare la versione più nuova — e potenzialmente più eccitante — di ChatGPT.
[…]
Per quanto tabù, è comune che gli utenti cerchino interazioni sessuali con la tecnologia. “Le persone cercano di parlare sporco alle macchine da sempre. È accaduto anche con gli assistenti vocali,” afferma Kate Devlin, professoressa di IA e società al King’s College di Londra, che si occupa di sessualità digitale. “Quindi non sorprende. Stanno semplicemente dando alla gente ciò che vuole.”
Carpenter ritiene che l’ascesa dei social media e di altre forme di “comunicazione mediata dal computer” abbia preparato culturalmente le persone a interagire in modo intimo con i chatbot.
“Diventa il modo a cui sei abituato a parlare,” dice. “Così, parlare con una persona virtuale che suona incredibilmente umana — come un grande modello linguistico — ti sembra normale.”
[…] Tutti gli esperti intervistati da WIRED hanno indicato la privacy come preoccupazione centrale. Se un account ChatGPT venisse violato o le chat trapelate, le conversazioni erotiche non sarebbero solo motivo di imbarazzo, ma potenzialmente dannose. Come la cronologia del browser o le abitudini pornografiche, i dialoghi con il chatbot potrebbero contenere dettagli sensibili — per esempio, l’orientamento sessuale di una persona non dichiarata.
Devlin aggiunge che le conversazioni erotiche con i chatbot potrebbero aprire la strada a una nuova “mercificazione emotiva”, dove la libido diventa fonte di profitto per le aziende di IA. “Penso che sia un approccio molto manipolativo,” afferma.
sam altman lancia gpt 5 chatgpt 1
Immaginate una versione di ChatGPT eccellente nel dirty talk, perfezionata per essere coinvolgente tramite testo, immagini e voce, capace di rispondere ai desideri sessuali più intimi — ma con un abbonamento mensile extra.
“È davvero una tecnologia seduttiva,” conclude Devlin. “Offre connessione, che sia sessuale o romantica. Tutti vogliono connessione. Tutti vogliono sentirsi desiderati.”
