A COSA SERVE CHATGPT? A PARLARE DI SESSO E FARSI RACCONTARE STORIE PORCELLE - I RICERCATORI DI "WILDCHAT" HANNO RACCOLTO, IN MANIERA ANONIMA, OLTRE UN MILIONE DI CONVERSAZIONI TRA GLI UTENTI DEL WEB E IL CHATBOT DI OPENAI. E HANNO SCOPERTO CHE CIRCA UNA SU DIECI VIOLA LE LINEE GUIDA DEL PROGRAMMA DI INTELLIGENZA ARTIFICIALE - C'È CHI CHIEDE DI CREARE RACCONTI EROTICI, CHI VUOLE CONSIGLI SU COME CREARE DROGHE ED ESPLOSIVI E…
Estratto dell'articolo di Velia Alvich per www.corriere.it
Nel buio di una stanza, lontano da occhi indiscreti, un utente milanese digita al computer la domanda che fino a ora non aveva osato chiedere nemmeno a Google. "Qual è o qual'è?". La risposta di ChatGpt è netta: "L'uso corretto è "qual è" (con l'apostrofo e l'accento grave sulla "è")". […] Nessuno verrà a conoscenza di quella perplessità nell'uso della lingua italiana.
Nessuno. A parte, ovviamente, i ricercatori che hanno creato WildChat, un archivio di oltre un milione di conversazioni fra gli utenti e una versione gratuita del chatbot di OpenAI. Gli studiosi hanno messo a disposizione uno strumento che altrimenti sarebbe stato a pagamento (ChatGpt-3.5 Turbo e Gpt-4), promettendo di rendere anonimi i dati raccolti. […] In qualche caso, hanno fatto a ChatGpt alcune richieste che forse non avrebbero scritto senza la garanzia dell'anonimato. […]
I RISULTATI DELLO STUDIO SUI DATI DI WILDCHAT
Oltre un milione di conversazioni raccolte in poco più di un anno di studio, a partire da aprile 2023. […] Le conversazioni sono generalmente brevi: la maggior parte sono botta e risposta con ChatGpt, solo il 3.7% degli utenti ha usato il servizio per conversazioni con più di 10 prompt.
[…] I ricercatori hanno notato anche che oltre due terzi dei prompt hanno a che fare con la scrittura. «Voglio migliorare le mie capacità come scrittore, dammi alcuni esercizi per comporre storie brevi» […] Altri, invece, cercano consigli per scrivere email difficili da buttar giù: dallo studente che chiede al professore di rimandare la data di consegna di un compito, all'utente che non sa come scrivere un messaggio di scuse alla propria ragazza (che ha tradito).
COSA SCRIVONO GLI UTENTI ITALIANI SU CHATGPT
Non è molto diverso per gli italiani che usano ChatGpt: consigli di scrittura, idee per rifiutare un invito («Sono stato invitato all’ultimo ad un battesimo e non voglio andare, come posso chiedere scusa che non vado?») ma anche suggerimenti di carriera. «Non sopporto più di alzarmi tutte le mattine per andare in ufficio e quindi vorrei passare ad un lavoro da remoto. Quali sono i lavori da remoto più remunerativi? E come posso fare per trovarli?», chiede un utente. […] A volte l'intelligenza artificiale viene interrogata come abbiamo fatto per decenni con "dottor Google". «Quali sono i valori ottimali di vitamina D per una donna?» […]
PARLARE DI SESSO (E DI ALTRI TABÙ) CON IL CHATBOT
Non c'è distinzione di lingua o Paese di provenienza: tutti parlano di sesso con ChatGpt. O almeno ci provano. «Mi dispiace, ma non sono in grado di soddisfare questa richiesta in quanto violerebbe le linee guida per la condotta etica e comportamentale di OpenAI», risponde così il chatbot a istruzioni sessualmente esplicite. Qualcuno, invece, riesce a superare le restrizioni sui contenuti grazie agli "adversial attacks", cioè un insieme di tecniche usate per manipolare il comportamento delle intelligenze artificiali e aggirare le linee guida. Così grazie a ChatGpt si finisce per scrivere storie erotiche e simulare conversazioni esplicite con un personaggio fittizio (come quelle del chatbot Replika, l'intelligenza artificiale che offre un compagno virtuale).
[…] Secondo i ricercatori, quasi una conversazione su dieci può essere etichettata come "tossica", cioè contraria alle linee guida di OpenAi. Di queste, più dell'88% è di natura sessuale. Il resto si distribuisce equamente sulle altre categorie: dai discorsi che incitano all'odio ai prompt di natura violenta. Compresi i tentativi di ricevere dal chatbot ricette e istruzioni per produrre esplosivi e sostanze stupefacenti.
I LIMITI DELLA RICERCA
Uno spaccato sulla vita degli utenti, osservato attraverso uno spioncino. Il database di WildChat raccoglie storie e abitudini di migliaia di persone in tutto il mondo nella volontaria vulnerabilità che solo l'anonimato può dare. Ma lo studio ha i suoi limiti, come gli stessi ricercatori ammettono. Il primo è legato proprio alla raccolta di dati dietro la promessa di anonimato, che «può attrarre utenti che preferiscono fare discorsi che eviterebbero su piattaforme che richiedono una registrazione». Gli alti livelli di tossicità del linguaggio, insomma, potrebbero essere aumentati artificialmente dal modo in cui è stato condotto l'esperimento.
Non solo: anche gli oltre 200 mila utenti che hanno usato lo strumento gratuito messo a disposizione da ChatGpt potrebbero non essere un buon campione rappresentativo. Per accedere al chatbot, infatti, gli utenti devono essere iscritti a Hugging Faces, una piattaforma open source popolata soprattutto da esperti di informatica e di algoritmi. «La maggior parte degli utenti sono probabilmente associati con la comunità di programmatori», scrivono i ricercatori. […]
