Arriva la “Polizia” di Facebook | Zuckerberg dichiara guerra al terrorismo

La lotta al terrorismo passa attraverso i social: Meta ha creato un software per fermare la violenza sul nascere

Il mese prossimo Meta assumerà la presidenza del Consiglio operativo del Global Internet Forum to Counter Terrorism (GIFCT). Il GIFCT è una ONG che riunisce le aziende tecnologiche per affrontare i contenuti terroristici online attraverso la ricerca, la collaborazione tecnica e la condivisione delle conoscenze.

Meta è un membro fondatore del GIFCT, che è stato fondato nel 2017 e si è evoluto in un’organizzazione senza scopo di lucro a seguito dell’appello di Christchurch del 2019, che riunisce le aziende associate, i governi e le organizzazioni della società civile per affrontare i contenuti terroristici e di estremismo violento online.

Un nuovo software

Meta sta anche rendendo disponibile uno strumento software open source gratuito che ha sviluppato e che aiuterà le piattaforme a identificare le copie di immagini o video e ad agire in massa contro di esse.

Questo strumento – chiamato Hasher-Matcher-Actioner (HMA) – verrà adottato da una serie di aziende per aiutarle a fermare la diffusione di contenuti terroristici sulle loro piattaforme, e sarà particolarmente utile per le aziende più piccole che non dispongono delle stesse risorse di quelle più grandi.

HMA si basa sul precedente software open source di Meta per la corrispondenza di immagini e video e può essere utilizzato per qualsiasi tipo di contenuto violato.

Come funziona

Le aziende aderenti al GIFCT utilizzano spesso il cosiddetto database di condivisione degli hash per contribuire a mantenere le loro piattaforme libere da contenuti terroristici. Invece di memorizzare contenuti dannosi o di sfruttamento, come video di attacchi violenti o di propaganda terroristica, il GIFCT memorizza un hash, ovvero un’impronta digitale unica per ogni immagine e video.

Più aziende partecipano al database per la condivisione degli hash, migliore è la sua completezza e migliore è la possibilità di tenere i contenuti terroristici fuori da Internet, soprattutto perché spesso le persone si spostano da una piattaforma all’altra per condividere questi contenuti. Ma molte aziende non hanno le capacità tecnologiche interne per trovare e moderare i contenuti violati in grandi volumi, ed è per questo che l’HMA è uno strumento potenzialmente prezioso.

Meta contro il terrorismo

Meta ha speso l’anno scorso circa 5 miliardi di dollari a livello globale per la sicurezza e ha più di 40.000 persone che vi lavorano. All’interno di questo gruppo, l’azienda ha un team di centinaia di persone che si dedicano specificamente all’antiterrorismo, con competenze che vanno dalle forze dell’ordine e dalla sicurezza nazionale, all’intelligence antiterrorismo e agli studi accademici sulla radicalizzazione.

L’impegno di Meta nell’affrontare i contenuti terroristici fa parte di un approccio più ampio alla protezione degli utenti dai contenuti dannosi presenti sui vari servizi offerti. Importante il contributo Mta nello sviluppo della tecnologia AI per rimuovere i contenuti d’odio su larga scala. I discorsi d’odio vengono ora visualizzati due volte ogni 10.000 visualizzazioni di contenuti su Facebook, rispetto alle 10-11 volte ogni 10.000 visualizzazioni di meno di tre anni fa.

“Prendiamo sul serio questi problemi, – scrive Meta sul suo sito – cerchiamo di agire in modo responsabile e trasparente e investiamo molto per mantenere la nostra piattaforma sicura. Molti di questi problemi vanno ben oltre una singola azienda o istituzione. Nessuno può risolverli da solo, ed è per questo che le collaborazioni intersettoriali e intergovernative come il GIFCT e il Christchurch Call sono così importanti.”