Future Trends & Tech
Si tratta di un metodo di reverse engineering sviluppato in collaborazione con l’università del Michigan, e servirà a mettere al bando dei particolari video, chiamati Deepfake che vengono utilizzati per diffondere fake news.
Si parte dal risultato e si risale al modello informatico che lo ha generato.
Se non si arriva ad una base di partenza rilevabile, le persone rappresentate saranno vere, non ci sono montaggi fasulli e il video sarà autentico.
A quanto spiegato dall’azienda, oltre a rilevare i video costruiti artificialmente, la tecnica permette ai ricercatori di risalire ai modelli unici nella realizzazione dei filmati, e creare così una gerarchia di software che hanno contribuito a realizzare i video.
Per fare questo il sistema cerca tracce digitali condivise dai modelli generativi, elementi e pattern che un occhio non sa riconoscere, e individua le tecniche utilizzate per produrre quei risultati.
Il gruppo ha realizzato un data set composto da 100000 immagini false generate da 100 modelli disponibili pubblicamente. I risultati del test mostrano che il nuovo approccio è drasticamente migliore dei precedenti e “faciliterà il rilevamento e il tracciamento dei deepfake in ambienti reali, in cui il risultato finale è l’unica cosa in cui si può lavorare”.
I deepfake contribuiscono a creare un immaginario distorto per chi non è abituato a riconoscerli che rischia di polarizzare sempre più persone in posizioni radicalizzate.
