SENTI CHI PARLA! - L'ULTIMA FRONTIERA DELLE TRUFFE TELEFONICHE: USARE L'INTELLIGENZA ARTIFICIALE PER REPLICARE LE VOCI DI AMICI E PARENTI DELLE VITTIME - SUL WEB SI POSSONO TROVARE DIVERSI SITI, SIA GRATUITI CHE A PAGAMENTO, SPECIALIZZATI NELLA RIPRODUZIONE DELLE VOCI REALI, CHE PARTONO DA FILE AUDIO PER CREARE UNA NUOVA VOCE - LE PERSONE PIÙ A RISCHIO SONO QUELLE CHE PUBBLICANO VIDEO ONLINE, VISTO CHE…
Estratto dell'articolo di Francesco Marino per www.huffingtonpost.it
TRUFFE TELEFONICHE USANDO INTELLIGENZA ARTIFICIALE
[…] Il Washington Post […] racconta come le truffe telefoniche con voci fasulle siano ormai sempre più comuni negli Stati Uniti: secondo dati della Federal Trade Commission, nel solo 2022 ci sono state oltre 36mila segnalazioni di persone spinte a dare denaro a impostori che si spacciavano per parenti o amici. Una situazione che rischia di peggiorare con le nuove evoluzioni dell’intelligenza artificiale: dopo testo e immagini, in effetti, quella dell’audio sembra essere una delle prossime frontiere dell’IA. […]
Come funziona la sintetizzazione vocale
[…]online si trovano già alcuni strumenti decisamente facili da utilizzare, che funzionano soprattutto in lingua inglese. Il più noto è Eleven Labs, che permette, a fronte di un abbonamento da 5 dollari al mese, di clonare qualunque voce in pochi minuti.
Il processo non è immediato, ma abbastanza facile perché possa diventare interessante per chi vuole lavorarci o usarlo per scopi meno legali. Tutto sta nell’inserimento di materiale di apprendimento, che consente all’intelligenza artificiale di imparare e replicare. […]Una volta creata, compare uno spazio bianco, in cui è possibile inserire il testo che si vuol far recitare alla voce artificiale.
Un altro servizio simile è Resemble, che permette gratuitamente di creare una nuova voce con un procedimento simile a quello di Eleven Labs. La differenza è che, in questo caso, la voce si può registrare anche in diretta, ripetendo le frasi (per ora in inglese) proposte dal servizio.
TRUFFE TELEFONICHE USANDO INTELLIGENZA ARTIFICIALE
VOCI FAMOSE E MENO FAMOSE
[…] Un sistema che mette potenzialmente a rischio chiunque, perché la nostra voce è uno dei dati che cediamo online, in particolare nei video pubblicati sui social network: “Un anno fa serviva una quantità enorme di materiale audio per clonare la voce di una persona - ha spiegato Hanih Farid, dell’Università di Berkeley, al Washington Post - Ora, se hai una pagina Facebook, o se hai registrato un TikTok e 30 secondi della tua voce sono online, è diventato piuttosto facile replicarla”.
[…] La stessa Eleven Labs, qualche tempo dopo, è intervenuta in un thread su Twitter per annunciare che le funzionalità di clonazione della voce sarebbero state disponibili solo a pagamento e che, in un prossimo futuro, sarebbe stato introdotto un sistema per segnalare l’audio generato artificialmente.
Il punto è che non sempre è facile distinguere il vero dal falso, anche per chi ha una certa esperienza online. C’è un video su TikTok in cui Taylor Swift commenta in modo quantomeno provocatorio la questione che riguarda il prezzo dei biglietti dei suoi concerti sul rivenditore Ticketmaster: “Non me ne frega niente, non mi esibisco per dei poveracci”, commenta una voce che sembra davvero quella della cantautrice dei record. Non è lei, ma il video a oggi ha quasi 3,5 milioni di visualizzazioni e 8mila commenti: alcuni parlano di intelligenza artificiale, altri però commentano la dichiarazione, come se fosse reale.
