Chi Odia Paga: l’Intelligenza Artificiale combatte l’odio online

Secondo una ricerca Doxa Kids circa il 6% dei ragazzi tra i 9 e i 17 anni denuncia di essere stato vittima di cyberbullismo, mentre i dati di Vox Diritti ci dicono che in Italia viene postato un tweet al minuto contenente razzismo, insulti sulla disabilità, misoginia, islamofobia, omofobia ed antisemitismo. Ad essere più esposte sono le ragazze che, secondo l’Istat, fanno un utilizzo maggiore dello smartphone e hanno quindi più possibilità di essere soggette ad atti di bullismo in rete. L’odio si manifesta in molte forme: può essere un commento sull’aspetto fisico, un insulto al colore della pelle, o ancora una minaccia di morte. Dietro ad uno schermo, alcune persone pensano di poter dire e fare qualsiasi cosa e lo fanno usando strumenti molto diffusi e accessibili a tutti: i social network. Sono proprio questi i teatri in cui vanno in scena ogni giorno atti di cyberbullismo, revenge porn, hate speech, stalking, diffamazione. Molti non sanno però che questi sono tutti reati penalmente perseguibili e punibili con pesanti multe e reclusione fino a 6 anni.

La fine dei leoni da tastiera: arriva Chi Odia Paga

I famosi leoni da tastiera, coloro che pensando di essere coperti dall’anonimato di internet, si permettono di dare sfogo a pensieri e parole cariche di odio e violenza, da oggi non avranno più vita facile. Una startup italiana ha infatti ideato un sistema in grado di individuare i commenti d’odio pubblicati sui social e di avviare immediatamente azioni legali contro gli odiatori seriali. Il progetto, lanciato da Francesco Inguscio, CEO e fondatore dell’acceleratore Nuvolab, si chiama Chi Odia Paga ed è sostenuto dal Ministero dell’Innovazione e Digitalizzazione nel quadro dell’iniziativa Repubblica Digitale, che mira a diffondere l’inclusione sociale attraverso la tecnologia. Queste le parole del ministro Paola Pisano:

Sin dall’inizio del mio mandato, ho creduto che proteggere chi viene colpito dall’odio online e al tempo stesso salvaguardare i principi di libertà di espressione fosse un obiettivo primario. Iniziative come “Chi Odia Paga”, hanno il grande merito di usare la tecnologia per dare risposte etiche e concrete a problemi che la stessa tecnologia pone.

L’Intelligenza Artificiale che riconosce l’odio

Come funziona concretamente la piattaforma? Una volta sul sito, la persona vittima di commenti offensivi deve compilare un questionario interattivo. Un sistema di intelligenza artificiale analizza i dati inseriti e fornisce all’utente un primo feedback legale, indirizzandolo eventualmente verso un’analisi più approfondita. L’IA è stata allenata grazie a un archivio di oltre 1.500 sentenze passate in giudicato e la consulenza di un team di avvocati specializzato sui reati online. La consulenza legale è fornita utilizzando un linguaggio comprensibile, riducendo così la distanza percepita tra cittadino e materia giuridica. L’interfaccia della piattaforma è molto semplice ed intuitiva e questo permette anche a chi non ha grande dimestichezza con il web di poterla usare facilmente. Inoltre è garantita un’assistenza legale in tempi molto brevi, aspetto importantissimo specialmente nelle situazioni più a rischio.

E i giganti del web cosa fanno?

L’attenzione al bullismo online è ormai nell’occhio dei social da diverso tempo e anche i giganti del web si stanno muovendo per introdurre dei sistemi per prevenire la violenza in rete. Instagram, ad esempio, sta sperimentando una nuova funzionalità che avverte gli utenti prima che possano inviare un commento offensivo. Un sistema di machine learning, riconosce le parole violente e con una notifica cercherà di dissuadere l’utente dal pubblicare il commento. A settembre Facebook ha lanciato una nuova policy volta alla rimozione di contenuti in cui erano identificabili dei minori coinvolti nelle proteste di Hong Kong. Sempre il social di Zuckerberg, proprio recentemente ha rimosso il video in cui Salvini citofonava a una famiglia italo-tunisina, per “incitamento all’odio”. La piattaforma di blogging Tumblr ha invece lanciato una campagna chiamata World Wide What composta da sei video che affrontano temi come la disinformazione e il cyberbullismo.

La migliore arma è l’educazione

Bisogna però distinguere l’odio da una frase spiacevole. Il fondatore di COP precisa:

Attenzione, non è sempre tutto odio ciò che urtica. Non sempre ci sono gli estremi per denunciare commenti aggressivi, il nostro obiettivo non è sostituirci agli avvocati ma dare assistenza al cittadino, per capire quando ci sono le condizioni per contattarne uno, solo quando un reato sia stato effettivamente commesso.

Inguscio conclude segnalando infine che “la denuncia è l’ultima difesa da usare contro l’odio, la prima si chiama ‘educazione‘ e deve essere sostenuta supportando tutte le associazioni che fanno sensibilizzazione e formazione su questi temi”. È importante dunque agire all’origine di questa piaga dei tempi moderni, educando alle differenze e diffondendo il concetto di rispetto. Chi si nasconde dietro uno smartphone per rovinare la vita di qualcun altro ha finalmente le ore contate. di Clarice Subiaco