Corporate Innovation
I deepfake sono in circolazione da diverso tempo ormai; ma solo recentemente sono diventati così realistici che è sempre più difficile distinguerne uno da un video originale. Per quelli che non hanno familiarità con l’argomento, un deepfake prende il volto e la voce di una persona famosa e crea un video mentre dice o fa cose che non ha mai fatto. Stiamo parlando di un fenomeno preoccupante per molti, che se usato, ad esempio, durante le elezioni potrebbe influenzare gli elettori e via dicendo.
Di recente Facebook ha annunciato di aver collaborato con i ricercatori della Michigan State University (MSU) per sviluppare un metodo per rilevare e trattare i deepfake. Il noto social network afferma che la nuova tecnica si basa sul reverse engineering; in pratica si procede a ritroso da una singola immagine generata dall’intelligenza artificiale per scoprire il modello generativo utilizzato per produrla.
Oltre a rilevare i deepfake, Facebook afferma che i ricercatori possono anche eseguire l’attribuzione di immagini. In questo modo si può determinare quale particolare modello generativo è stato utilizzato per produrre il falso. Tuttavia, il problema è che la maggior parte di questi video viene creata con modelli sconosciuti al software.
I ricercatori comunque sono a lavoro su ulteriori approfondimenti in materia di attribuzione delle immagini che dovrebbe in qualche modo semplificare il riconoscimento di un video finto.
La nuova tecnica di analisi consente comunque di ottenere maggiori informazioni sul modello utilizzato nella creazione del deepfake; questa cosa potrebbe portare in tempi brevi a stime e rilevamento di video falsi sempre più accurati e precise.
Come già detto il fenomeno dei video falsi è preoccupante. In un periodo come questo dove la rete pullula di fake news, è opportuno cercare di limitarne il più possibile la circolazione. Per questo Facebook e la Michigan State University stanno concentrando i propri sforzi in questa direzione, per rendere la rete un posto sempre più affidabile e meno denso di notizie false.
