Facebook lotta contro il terrorismo, ma un bug rende visibile l'identità moderatori

MENLO PARK - Si fa più dura e più aspra la lotta al terrorismo da parte di Mark Zuckerberg. Una lotta che si gioca anche (e soprattutto) online, il terreno più fertile all’interno del quale nascono le prime cellule terroristiche. Ed è su questa scia che Facebook ha creato una vera e propria squadra a Menlo Park, composta da circa 150 professionisti, impegnati sul fronte anti-terrorismo: ex militanti delle forze dell’ordine, accademici e analisti. A causa di un bug nel sistema, però, Facebook ha commesso un grave errore e ha rivelato l’identità di questi moderatori, esponendoli a potenziali terroristi.

Il bug del sistema di moderazione, utilizzato dai dipendenti di 22 dipartimenti che controllano i contenuti inappropriati, tra cui materiale a sfondo sessuale e propaganda terroristica, è stato scoperto alla fine dell'anno scorso. Tra i dipendenti colpiti da questa violazione dell'identità anche 40 che lavorano nell'unità anti-terrorismo a Dublino. Sei sono ritenute vittime "ad alta priorità" della fuga di informazioni sensibili, secondo Facebook, perché potrebbero essere diventati bersaglio di potenziali terroristi. Il Guardian, che ha scoperto il tutto, ha parlato con uno dei sei moderatori, cittadino irlandese, figlio di rifugiati iracheni, ventenne, si è nascosto in est Europa fuggendo dall'Irlanda per cinque mesi dopo essere venuto a conoscenza del pericoloso bug e del fatto che sette individui legati a un gruppo di presunti terroristi che aveva bannato da Facebook e che sarebbero simpatizzanti dell'Isis, aveva visto il suo profilo personale.

«Teniamo molto a garantire la sicurezza di chiunque lavori per Facebook», ha reso noto la compagnia aggiungendo di aver effettuato delle modifiche tecniche per individuare e prevenire meglio questo tipo di problemi. I moderatori che sono stati identificati hanno iniziato a sospettare che esistesse un problema con la piattaforma dopo aver ricevuto richieste di amicizia da presunti terroristi o appartenenti a gruppi terroristici. Quando a novembre 2016 il problema è venuto alla luce Facebook ha creato una task force e un'email per raccogliere le segnalazioni di coloro che erano stati messi a repentaglio. Il bug, però, è durato altre due settimane e in questo lasso di tempo Facebook aveva provveduto al trasporto in sicurezza di coloro che erano stati "smascherati». Il gigante del social network ha cercato, però, di minimizzare il rischio e ha dichiarato di aver offerto «sostegno, ascolto e i mezzi per garantire la sicurezza" dei moderatori di cui "secondo la nostra inchiesta sono state visibili solo piccole frazioni di nomi e non abbiamo mai avuto prove di minacce di coloro che sono stati colpiti o delle loro famiglie».