Tiktok, le nuove regole contro i contenuti violenti e offensivi

La rete di TikTok attualmente utilizza un team di sicurezza che decide se i contenuti violano o meno le linee guida della community. Ma questi controlli entrano in azione solo se il software segnala qualcosa per cui è necessaria la revisione. 

Nelle prossime settimane, il celebre social inizierà a utilizzare una tecnologia che ha un’elevata precisione nel rilevamento di tali contenuti e li rimuoverà automaticamente. 

Il team di sviluppo ha dichiarato che inizierà con contenuti che coinvolgono nudità per adulti, attività sessuali, contenuti violenti e espliciti, attività illegali e altri temi che riguardano droghe e armi da fuoco.

La società sta già implementando un’intelligenza artificiale che possa vagliare e rimuovere i post offensivi. Secondo i primi rapporti, sembra per il primo trimestre del 2021, TikTok abbia già rimosso quasi 62 milioni di video per violazione delle linee guida della community o dei termini di servizio. Un numero che fa riflettere; sia in termini di efficienza dell’AI e sia per quanto riguarda la quantità d’odio e di immondizia che ogni giorno ci circonda in rete.

Alcune violazioni dei contenuti, come materiale pedopornografico, rientrano in una politica di tolleranza zero e TikTok rimuoverà automaticamente l’account. L’azienda può anche bloccare un dispositivo in modo che non possa semplicemente creare un altro account.

La società spera che questa automazione consentirà ai membri del team di sicurezza di dedicare più tempo ad aree più sfumate come il bullismo, il comportamento di odio e la disinformazione.

TikTok spiana la strada a un maggiore controllo di contenuti violenti e offensivi

La speranza è che tutti i social network possano gradualmente seguire la direzione indicata da TikTok e garantire agli utenti una “permanenza” più gradevole e meno pericolosa.

Certo non è un discorso semplice, vista anche l’enorme mole di elementi condivisi; però grazie all’intelligenza artificiale e ai sofisticati algoritmi sviluppati appositamente si potrà arrivare al pieno rispetto delle regole della community.

Al momento i social non sono un posto così sicuro come assicurano gli sviluppatori; ma l’idea che gradualmente vengano messi al bando i contenuti violenti fa ben sperare, soprattutto perché molte delle peggiori discriminazioni avvengono proprio sulle loro piattaforme.

Pensiamo a No Vax, complottisti, razzisti, estremisti di qualsiasi genere e via dicendo; tutte persone che diffondono il loro odio proprio sui social e tramite questi riescono a raggiungere un’utenza sempre maggiore.

 Comunque se tutto andrà come previsto, queste persone a breve, torneranno ad essere ignorate come dovrebbe accadere in ogni società civile.