Revenge Porn: finalmente la legge. AI e machine learning a supporto

La Camera dei Deputati, lo scorso 2 Aprile, ha approvato all’unanimità l’emendamento al Disegno di Legge “Codice Rosso” (nuovo art. 612-ter del codice penale) che introduce il reato di Revenge Porn.
La pena prevista per chi sarà ritenuto colpevole di questo reato prevede la reclusione da 1 a 6 anni e una multa da 5 a 15 mila euro. Finalmente il legislatore corre ai ripari davanti ad un preoccupante fenomeno che popola la rete da svariati anni.

Cos’è il Revenge Porn?

Cerchiamo di fare chiarezza. Revenge Porn è un’espressione in lingua inglese che indica l’azione di caricare e quindi condividere su Internet immagini o video a sfondo sessuale senza il consenso dei protagonisti, al fine di attuare una vendetta. Solitamente causa scatenante del bieco gesto può essere una relazione finita, oppure la voglia malsana di umiliare una o più delle persone ritratte.
Il Revenge Porn è una drammatica conseguenza del cosiddetto Sexting, fenomeno assai diffuso tra i giovani, ma in rapida crescita anche tra le persone più mature. Il Sexting è la condivisione con il partner, anche conosciuto solo online, di immagini o video intimi.

I dati di un fenomeno in espansione

I dati su questo nuovo reato sono impressionanti ed evidenziano una reale emergenza sociale. Secondo un’indagine del sito Skuola.net infatti 6.500 studenti tra i 13 e i 18 anni hanno ammesso di aver inviato, in genere tramite app di messaggistica come Whatsapp, Messenger e Instagram, immagini intime.
Il 24% di questi ha dichiarato di aver visto le proprie immagini condivise senza il proprio consenso. A tali inesperte condotte possono avere seguito situazioni gravi, non mancano eclatanti casi di cronaca, la gogna mediatica del malcapitato, il quale spesso sviluppa gravi sindromi depressive in seguito all’episodio.

Intelligenza artificiale e machine learning contro il Revenge Porn

La condivisione non autorizzata di immagini, video e altri contenuti è una delle problematiche più gravi per i social network.
In seguito all’introduzione del nuovo reato, Facebook grazie ad intelligenza artificiale e machine learning si è subito mosso attivando all’interno del social network una nuova tecnologia di rilevamento che  vuole identificare le immagini o i video condivisi senza autorizzazione in anticipo, per permetterne la rimozione.
Lo scopo è di migliorare il riconoscimento delle immagini, affiancato da un centro di supporto dal nome “Non senza il mio consenso” per aiutare le persone che subiscono questo tipo di abusi.

Scovare le immagini prima che vengano diffuse

Le vittime che sospettano un caso di Revenge Porn tramite il canale di emergenza sopra citato, possono inviare la foto sospetta al social in modo del tutto sicuro, prima che questa venga diffusa. L’intelligenza artificiale creerà una sorta di “impronta digitale” del soggetto, che servirà da qui in poi da confronto per trovare i contenuti incriminati.
Una volta che l’intelligenza artificiale ha individuato il contenuto, un gruppo di esperti appositamente formati lo esaminerà assicurandosi la violazione o meno delle regole comunitarie. In caso di violazione, il contenuto sarà rimosso e l’account che lo ha caricato senza autorizzazione sarà disabilitato immediatamente.
La responsabile globale della sicurezza di Facebook, Antigone Davis ha annunciato:
“Grazie all’apprendimento automatico e all’intelligenza artificiale, ora siamo in grado di rilevare in modo proattivo immagini o video che vengono condivisi senza autorizzazione su Facebook e Instagram.
Ciò significa che possiamo trovare questi contenuti prima che qualcuno li segnali. Stiamo inoltre lanciando “Non senza il mio consenso”, un centro di supporto alle vittime all’interno del nostro Safety Center che abbiamo sviluppato insieme ad esperti. Qui le vittime troveranno organizzazioni e risorse che possono offrire loro sostegno, compresi gli strumenti da usare per rimuovere un contenuto dalla nostra piattaforma e impedirne l’ulteriore condivisione”.
 
Non possiamo comunque limitarci allo strumento legislativo. Ora è tempo di fare educazione digitale tra i giovani verso questo problema. È tempo di spiegare loro quali drammatiche conseguenze possono avere dei comportamenti incauti. È tempo di riportare il tema della tutela della sfera privata alla loro attenzione. Niente più giovani vite rovinate.