NUOVE EURO-MAGAGNE PER TIKTOK – IL SOCIAL NETWORK CINESE FINISCE, PER L’ENNESIMA VOLTA, NEL MIRINO DI BRUXELLES: PER LA COMMISSIONE EUROPEA, L’ALGORITMO DELLA PIATTAFORMA “INTRAPPOLA” GLI UTENTI CON UN FLUSSO CONTINUO DI VIDEO PERSONALIZZATI, INCLUSI QUELLI CHE RIGUARDANO PROBLEMI DI SALUTE MENTALE, DISTURBI ALIMENTARI O INSICUREZZE SUL POPRIO CORPO – QUANDO UN PROFILO GUARDA UN FILMATO, IL SISTEMA DI RACCOMANDAZIONE DI TIKTOK GLIENE MOSTRA ALTRI SIMILI, ALIMENTANDO L’"EFFETTO TANA DEL BIANCONIGLIO”, OVVERO…
(LaPresse) - La Commissione europea ha rilevato, in via preliminare, che TikTok ha violato il Digital Services Act (Dsa) a causa del cosiddetto 'rabbit hole effect' (effetto tana del bianconiglio) cioè l'effetto spirale di contenuti, del suo sistema di raccomandazione. Il feed 'Per te' di TikTok, viene spiegato, mostra agli utenti un flusso continuo di video personalizzati, inclusi quelli che riguardano difficoltà legate alla salute mentale o all'immagine corporea.
Più un utente interagisce con un determinato tipo di contenuto, più l'algoritmo del feed 'Per te' di TikTok ne propone di simili. Questa impostazione, riferisce l'Esecutivo europeo, può risultare dannosa quando tale esposizione, incessante e ripetuta, riguarda, ad esempio, contenuti incentrati su tristezza, isolamento o immagine corporea.
Secondo la Commissione europea, queste spirali possono avere un impatto negativo sulla salute mentale degli utenti, in particolare di quelli più vulnerabili, inclusi i minori. Le conclusioni preliminari si concentrano quindi sia sulla valutazione dei rischi, sia sulle misure di mitigazione.
La Commissione ha rilevato, in via preliminare, che TikTok non ha valutato adeguatamente in che modo il suo algoritmo di raccomandazione possa condurre gli utenti in 'rabbit holes', mettendone a rischio il benessere. Le conclusioni preliminari indicano che la progettazione dell'algoritmo potrebbe svolgere un ruolo importante nell'emergere di questi fenomeni.
L'algoritmo utilizza informazioni sul coinvolgimento dell'utente, come la visualizzazione di video o l'apposizione di 'mi piace', per personalizzare i contenuti suggeriti. Ad esempio, quando un utente guarda o apprezza ripetutamente contenuti potenzialmente scatenanti — come quelli relativi alla perdita di peso o all'immagine corporea — il sistema interpreta tali interazioni come segnali positivi di interesse e propone ulteriori contenuti analoghi.
L'esposizione ripetuta a tali contenuti può avere gravi ripercussioni negative sul benessere degli utenti, tra cui un aumento di sentimenti di tristezza o ansia, insoddisfazione per il proprio corpo, una minore autostima, oppure l'aggravamento di disturbi alimentari o condizioni di salute mentale preesistenti.
Le conclusioni odierne rilevano inoltre, in via preliminare, che TikTok non ha adottato misure di mitigazione proporzionate, ragionevoli ed efficaci per affrontare tali rischi.Sebbene la piattaforma abbia già introdotto alcuni accorgimenti per mitigare il rischio del cosiddetto 'effetto tana del bianconiglio', la Commissione ha riscontrato, in via preliminare, che tali misure non sono efficaci.
Le soluzioni volte a proporre contenuti diversificati non riducono a sufficienza la frequenza con cui vengono suggeriti materiali simili, inclusi quelli legati a difficoltà di salute mentale o all'immagine corporea. Gli strumenti di controllo non consentono agli utenti di gestire in modo efficace i contenuti proposti.
Ad esempio, l'utilizzo del pulsante 'non mi interessa' potrebbe non essere sufficiente a modificare il flusso dei contenuti visualizzati. L'algoritmo privilegia la presentazione di contenuti basata sul tempo di visione, anteponendola alla scelta dell'utente di visualizzare meno materiale di un certo tipo. In questa fase dell'indagine, la Commissione ritiene che TikTok debba modificare la progettazione del feed 'Per te'.
Nello specifico, la piattaforma dovrebbe basarsi maggiormente sulle preferenze esplicite degli utenti, escludere il tempo di visione come parametro per la raccomandazione dei contenuti, migliorare l'accessibilità e l'usabilità degli strumenti di controllo a disposizione degli utenti e sottoporre regolarmente il proprio algoritmo a test. TikTok ha ora la possibilità di esercitare il proprio diritto alla difesa.
Può esaminare i documenti contenuti nei fascicoli dell'indagine della Commissione e rispondere per iscritto alle conclusioni preliminari di quest'ultima. Parallelamente, verrà consultato il Comitato europeo per i servizi digitali.
Qualora le valutazioni della Commissione venissero infine confermate, quest'ultima potrebbe adottare una decisione di non conformità, che può comportare una sanzione pecuniaria proporzionata alla natura, alla gravità, alla reiterazione e alla durata della violazione, per un importo che può arrivare fino a un massimo del 6% del fatturato annuo totale a livello mondiale del fornitore.
