Adrian Chen per “Wired”
I campus dell’industria del tech sono famosi per le sontuose caffetterie, i trasporti comodi, i servizi di lavanderia interni. Ma alcuni dei lavori più importanti di queste aziende, si svolgono a migliaia di chilometri di distanza, al secondo piano di una ex scuola elementare di Bacoor, un paesino delle Filippine a 13 miglia da Manila.
Mentre salgo per le strette scale, devo stringermi contro il muro per lasciar passare gli impiegati che vanno giù a fare una pausa sigaretta. Passata la sicurezza, c’è uno stanzone dove i tutti maneggiano i PC, poggiati su lunghi tavoli. Qui incontro Michael Baybayan, un ventunenne che è parte della enorme forza-lavoro occupata nel “content moderation” ovvero la rimozione di materiale offensivo per i social network statunitensi.
un impiegata di open access societa di manila che opera nella moderazione di social network
Ormai i social media connettono le persone più intimamente che mai. I nonni sanno usare “Facebook” e comunicano con figli e nipoti, ma sono potenzialmente esposti all’assortimento di razzisti, criminali, strambi e bulli. Non si connetterebbero più, se trovassero foto dei familiari schiacciate fra un raccapricciante incidente stradale in Russia e un video porno hardcore. L’appeal dei social media è dipeso in larga parte dalla capacità delle aziende di mettere dei limiti e di controllare i contenuti generati dagli utenti. Quindi
“Facebook” e “Twitter” si affidano a un esercito di impiegati, vasto e invisibile, che si sorbisce l’umanità peggiore per proteggerci. E’ una legione di circa 100.000 impiegati.
ryan cadeno guadagnava 500 dollari da microsoft
La maggior parte del lavoro viene fatto nelle Filippine, dove i moderatori costano molto meno che in America. In questa ex-scuola, Baybayan e gli altri si occupano in particolare di controllare i contenuti di “Whisper”, dove gli utenti condividono segreti e postano foto anonimamente. Nel caso di questa app la moderazione è attiva e determinante. Per alcune aziende il controllo contenuti avviene solo su segnalazione, si reagisce quando gli utenti si lamentano. Per “Whisper” invece la supervisione è costante e in tempo reale, i moderatori ricevono i post grezzi, fuori da ogni contesto, e sembrano i tic di un malato della sindrome di Tourette: “Nessuna donna bisessuale che voglia chattare a New York?”, “Mi sono scopata il mio patrigno e l’ho ricattato per farmi comprare una macchina”.
Le categorie che cacciano i moderatori sono: porno, gore, minori, immagini sessuali, razzismo. Quando c’è una potenziale violazione, la verificano e la eliminano dall’account. In 25 minuti Baybayan ha cancellato un’impressionante quantità di foto di peni, oggetti esotici infilati nei corpi, odiosi messaggi di derisione e richieste di sesso orale.
moderatore facebook
Non sempre è facile giudicare i contenuti: si tratta della confessione di un desiderio nascosto (permesso) o del tentativo di rimorchiare (vietato)? Baybayan spiega che bisogna distinguere fra pensiero e richiesta. E ha solo pochi secondi per decidere se cancellare o lasciare quel messaggio.
Se gran parte di questo lavoro viene svolto oltreoceano, è pur vero che il restante, quello più complesso, che richiede una certa familiarità culturale, viene fatto negli Stati Uniti, spesso da studenti neodiplomati. Un inesperto moderatore americano guadagna in un’ora
quello che un veterano moderatore filippino guadagna in un giorno. La differenza è che i filippini aspirano a farci carriera lì dentro, mentre per gli americani ci stanno al massimo per cinque mesi.
moderatore di facebook a manila
Rob è diventato content moderator nel 2010, è stato chiamato a moderare i video di
“YouTube” nel quartier generale di San Bruno, i suoi colleghi erano neodiplomati come lui, con un salario che non faceva rimpiangere il fast food, e pasti gratuiti. Per otto ore
Rob sedeva davanti a due monitor: su uno controllava fino a dieci video alla volta, sull’altro faceva quel che voleva. Poteva seguire la serie intera di “Battlestar Galactica” mentre distruggeva i video delle torture e i discorsi di odio razziale. La cosa peggiore era il gore: sevizie sugli animali, attentati suicidi, decapitazioni, suicidi, incidenti terrificanti.
Al tempo c’era la Primavera araba e gli attivisti usavano “You Tube” per mostrare al mondo cosa stava succedendo. Ai moderatori era stato detto di lasciare questi video in quanto degni di attenzione, sebbene violassero le linee guida. Dovevano solo segnalare con un avviso che i contenuti erano forti. I primi piani dei corpi dei manifestanti e le battaglie in strada erano insopportabili per Rob e i suoi colleghi. Insopportabili anche gli abusi sugli animali: spesso chi carica il video è anche il carnefice, ne è orgoglioso, e i moderatori devono partecipare a questo orrore in prima persona. Non è uguale a ricevere la notizia dalla tv.
la strada che porta agli uffici del contractor facebook
Rob ha cominciato a rimuginare su quei video anche fuori dal lavoro. E’ diventato irascibile e introverso, ha cominciato a “curarsi” bevendo e ingrassando. Il giorno in cui ha mollato il lavoro, ha esultato e dormito per tre giorni di fila.
I moderatori possono avere problemi psicologici a lungo termine. Accadde anche con la prima ondata di operazioni anti-pedopornografia, nel 2000: gli investigatori erano sconvolti dalle immagini che vedevano e molti rimasero traumatizzati. Servirebbe una task force di psicologi, professionisti della salute mentale, per sostenere chi lavora in questo campo. Le aziende tech pare non stiano prendendo sul serio il problema.
contenuti facebook
A Manila, Denise fa la psicologa per due aziende che si occupano di “content moderation”: verifica lo stato psicologico degli impiegati e fa consulenza per tamponare l’effetto che le immagini atroci hanno avuto su di loro. Ma fissare la parte oscura dell’uomo ha un costo. Resta traccia nella memoria. Molti impiegati si licenziano perché guardano così tanta pornografia da diventare insensibili e non volere più rapporti sessuali con i partner.
La costante esposizione a questi video li rende paranoici. Ogni giorno hanno la prova dell’infinita varietà della depravazione umana e allora cominciano a sospettare di chiunque nella loro vita, chissà cos’ha nascosto nei computer. Due impiegate non hanno più fiducia nemmeno nelle babysitter e, quando non trovano qualcuno della famiglia che tenga i bambini, preferiscono rinunciare al lavoro.
moderatori
Maria è ossessionata dal video di una ragazzina ammanettata e bendata che urla e piange mentre un uomo pelato mette la testa sulla sua vagina. Ha dovuto guardare mezz’ora di filmato. Non è riuscita ad identificare l’uomo perché non aveva nessun segno particolare. Passi accanto al diavolo in un centro commerciale e non ci fai nemmeno caso.
