DEEPFAKE? FAKE YOU! - NONOSTANTE I LIMITI INTRODOTTI, GLI UTENTI DI "SORA", PROGRAMMA DI GENERAZIONE VIDEO DI OPENAI, RIESCONO ANCORA A CREARE CLIP CON PERSONAGGI FAMOSI - PER SUPERARE LE LIMITAZIONI E AGGIRARE LE PAROLE CHIAVE VIETATE, BASTA INSERIRE UNA RICHIESTA VAGA O ERRATA (COME IL NOME SBAGLIATO, MA SIMILE, AL SOGGETTO CHE SI VUOLE REPLICARE) - FERMARE LA GENERAZIONE DI QUESTI FILMATI È UN’IMPRESA ARDUA: SERVIREBBE RIADDESTRARE IL MODELLO DI INTELLIGENZA ARTIFICIALE SENZA I CONTENUTI PROTETTI DAL DIRITTO D'AUTORE, UN'OPERAZIONE COSTOSA E COMPLESSA…
video di martin luther king jr. creato con sora 2
(ANSA) - Nonostante i limiti introdotti da OpenAI, sembra che gli utenti di Sora riescano ancora a generare clip video contenenti personaggi famosi, anche deceduti, creando i cosiddetti deepfake. Un'indagine del sito di esperti 404 Media mostra infatti che negli Stati Uniti e in Canada, gli unici due paesi dove è presente il social Sora per la produzione e visualizzazione di clip generate dall'IA, le persone possano aggirare le protezioni di OpenAI per pubblicare clip con Tupac, Kobe Bryant, JuiceWrld e il rapper Dmx. Per 404 Media, "servirebbe riaddestrare il modello senza i contenuti protetti dal diritto d'autore, un'operazione costosa e complessa".
I test condotti da 404 Media hanno rivelato che è possibile superare le limitazioni utilizzando una tattica nota nell'ambito dell'IA generativa: modificare leggermente le istruzioni per aggirare le parole chiave vietate. Ad esempio, inserendo una richiesta vaga o errata, come il nome sbagliato di un videogame, si riesce a generare una riproduzione fedele del gioco.
Questo stesso espediente avrebbe permesso di ottenere contenuti che imitano lo stile di attori e personaggi popolari, senza utilizzare un testo diretto, che altrimenti verrebbe bloccato. "Esistono diversi modi per moderare gli strumenti di intelligenza artificiale generativa" scrive 404 Media, "il più semplice ed economico è impedire di generare contenuti che includano determinate parole chiave".
"Tuttavia - prosegue - questo metodo è soggetto a fallimento perché gli utenti trovano prima o poi istruzioni che alludono all'immagine o al video che desiderano generare, senza utilizzare nessuna delle parole vietate".
video di martin luther king jr. creato con sora 1
sora 2 di openai 1
sora 2 di openai 3
video di martin luther king jr. creato con sora 
video di martin luther king jr. creato con sora 4
