I pericoli dei “Deep Fake” | l’ondata di video falsi è alle porte

I video fake sono una vera minaccia per il web. Diffusi su piattaforme di social media come Whatsapp, Facebook e Twitter, spesso diffondono informazioni errate e false, danneggiando la reputazione e causando persino perdite monetarie per individui, organizzazioni e governi. In particolare, i video deepfake, dove vengono utilizzati lineamenti virtuali per camuffarsi in un’altra persona, creano un vero problema nell’identificare i pericoli.

Rilevare i video deepfake in tempo reale è complicato, perché richiede app di rilevamento che caricano i video per l’analisi, e c’è una lunga attesa di ore per accedere ai risultati.

Intel è la vera difesa

Intel, nell’ambito del lavoro di AI responsabile, ha prodotto “FakeCatcher”. Si tratta di una tecnologia in grado di rilevare i video falsi con una precisione del 96%. L’azienda sostiene che la sua piattaforma di rilevamento dei deepfake è il primo rilevatore di deepfake in tempo reale al mondo che restituisce risultati in pochi millisecondi.

“I video deepfake sono ormai ovunque. Probabilmente li avete già visti: video di celebrità che fanno o dicono cose che in realtà non hanno mai fatto“, afferma Ilke Demir, ricercatore senior dei laboratori Intel. Poiché i video Deepfake sono una minaccia crescente, secondo Gartner le aziende spenderanno in futuro fino a 188 miliardi di dollari in soluzioni di cybersecurity.

Come funziona?

La maggior parte dei rilevatori basati sul deep learning esaminano i dati grezzi per trovare segni di inautenticità e identificare ciò che non va in un video. FakeCatcher, invece, cerca indizi autentici nei video reali valutando ciò che ci rende umani: il sottile “flusso sanguigno” nei pixel di un video, spiega l’azienda. Quando il cuore pompa il sangue, le vene cambiano colore. Questi segnali di flusso sanguigno vengono raccolti da tutto il viso e gli algoritmi li traducono in mappe spazio-temporali. Quindi, utilizzando il deep learning, Intel è in grado di rilevare istantaneamente se un video è reale o falso.

La piattaforma in tempo reale di Intel utilizza FakeCatcher, un rilevatore progettato da Demir in collaborazione con Umur Ciftci della State University of New York di Binghamton. Utilizzando hardware e software Intel, viene eseguito su un server e si interfaccia con una piattaforma web.

Sicurezza in tutti i settori

Intel ritiene che ci siano diversi casi d’uso potenziali per FakeCatcher. Può essere utilizzato dalle piattaforme di social media per impedire agli utenti di caricare video deepfake dannosi. Anche le organizzazioni giornalistiche globali, che effettuano costantemente controlli sui fatti, possono utilizzare il rilevatore per evitare di amplificare inavvertitamente video manipolati. E le organizzazioni non profit potrebbero utilizzare la piattaforma per democratizzare il rilevamento dei deepfake per tutti. Senza contare l’utilizzo nel mondo del gaming, dove spesso si viene adescati in truffe online tramite l’utilizzo di deepfake nelle sessioni di gioco.