Facebook implementa un algoritmo per mettere al bando i Deepfake

Si tratta di un metodo di reverse engineering sviluppato in collaborazione con l’università del Michigan, e servirà a mettere al bando dei particolari video, chiamati Deepfake che vengono utilizzati per diffondere fake news.

Che cos’è la reverse engineering? Come funziona?

Si parte dal risultato e si risale al modello informatico che lo ha generato.

Se non si arriva ad una base di partenza rilevabile, le persone rappresentate saranno vere, non ci sono montaggi fasulli e il video sarà autentico.

Facebook e la Reverse engineering

A quanto spiegato dall’azienda, oltre a rilevare i video costruiti artificialmente, la tecnica permette ai ricercatori di risalire ai modelli unici nella realizzazione dei filmati, e creare così una gerarchia di software che hanno contribuito a realizzare i video.

Per fare questo il sistema cerca tracce digitali condivise dai modelli generativi, elementi e pattern che un occhio non sa riconoscere, e individua le tecniche utilizzate per produrre quei risultati.

Il gruppo ha realizzato un data set composto da 100000 immagini false generate da 100 modelli disponibili pubblicamente. I risultati del test mostrano che il nuovo approccio è drasticamente migliore dei precedenti e “faciliterà il rilevamento e il tracciamento dei deepfake in ambienti reali, in cui il risultato finale è l’unica cosa in cui si può lavorare”.

I deepfake contribuiscono a creare un immaginario distorto per chi non è abituato a riconoscerli che rischia di polarizzare sempre più persone in posizioni radicalizzate.