Sulla pubblicità dei lavori:
Semenzato Martina , Presidente ... 2
Audizione di Natalia Re, presidente del MIG-Movimento italiano per la gentilezza, con riferimento al filone di inchiesta sulla violenza di genere on line:
Semenzato Martina , Presidente ... 2 ... 4
Re Natalia , presidente del MIG-Movimento italiano per la gentilezza ... 4
Semenzato Martina , Presidente ... 6
Audizione di Elisabetta Fersini, professoressa associata di informatica presso l'Università degli Studi di Milano Bicocca, con riferimento al filone di inchiesta sulla violenza di genere on line:
Semenzato Martina , Presidente ... 6
Fersini Elisabetta , professoressa associata di informatica presso l'Università degli Studi di Milano Bicocca ... 7
Semenzato Martina , Presidente ... 11
Ascari Stefania (M5S) ... 11
Semenzato Martina , Presidente ... 11
Fersini Elisabetta , professoressa associata di informatica presso l'Università degli Studi di Milano Bicocca ... 12
Semenzato Martina , Presidente ... 12
PRESIDENZA DEL PRESIDENTE
MARTINA SEMENZATO
La seduta comincia alle 8.
Sulla pubblicità dei lavori.
PRESIDENTE. Buongiorno a tutti e a tutte. Avverto che, se non vi sono obiezioni, la pubblicità dei lavori della seduta odierna sarà assicurata anche mediante l'attivazione di impianti audiovisivi a circuito chiuso e la trasmissione diretta sulla web-tv della Camera dei deputati.
Ricordo che la seduta si svolge nelle forme dell'audizione libera ed è aperta alla partecipazione da remoto dei componenti della Commissione. Ricordo, inoltre, che i lavori potranno proseguire in forma segreta sia a richiesta dell'audito che dei commissari, sospendendosi in tal caso la partecipazione da remoto e la trasmissione sulla web-tv.
Faccio presente che poiché tale modalità non è compatibile con la videoconferenza, l'audizione dovrà essere necessariamente rinviata ad altra seduta.
Audizione della presidente del MIG-Movimento italiano per la gentilezza, Natalia Re, con riferimento al filone di inchiesta sulla violenza di genere on line.
PRESIDENTE. L'ordine del giorno reca lo svolgimento dell'audizione della dottoressa Natalia Re, presidente del Movimento italiano per la gentilezza (MIG), con riferimento al filone di inchiesta sulla violenza di genere on line.
A nome di tutte le commissarie e dei commissari le do il benvenuto e la ringrazio per la disponibilità a contribuire ai lavori della Commissione.
Il Movimento italiano per la gentilezza è un'associazione che, con il fine di rendere la gentilezza protagonista della quotidianità, promuove campagne di attenzioni sociali permanenti volte anche a contrastare la violenza di genere. Con la campagna «Basta violenza», «Il silenzio uccide. La gentilezza salva», il Movimento si pone l'obiettivo di rompere il muro del silenzio che spesso accompagna gli atti di violenza, soprattutto quelli domestici o relazionali, che restano nascosti tra le mura della paura e dell'isolamento.
La campagna, particolarmente attiva da ottobre, mese dedicato alla consapevolezza sulla violenza domestica, si realizza attraverso azioni concrete di sensibilizzazione nelle scuole, nei comuni, nei centri culturali, eventi pubblici, incontri e laboratori per educare alla comunicazione non violenta, diffusione di materiale informativo per riconoscere i segnali della violenza e sapere a chi rivolgersi.
Rinnovo, pertanto, il ringraziamento alla dottoressa Re, che di professione è una riconosciuta manager, impegnata sui temi dell'etica ambientale, del lavoro, della sanità, della giustizia, dell'urbanità sostenibile.
Grazie, dottoressa Re. Le lascio la parola.
NATALIA RE, presidente del MIG-Movimento italiano per la gentilezza. Grazie, gentile onorevole presidente, grazie onorevoli membri della Commissione. Buongiorno e anche un buon risveglio, per ciò che mi concerne, ma sono lieta ed onorata di poter contribuire al vostro costante impegno e lavoro.
Il Movimento italiano per la gentilezza nasce nel 2020 come iniziativa civica e Pag. 3culturale in connessione con il World Kindness Movement. La nostra rete internazionale, in fase di riconoscimento presso l'ONU, è nata nel lontano 1987 a Tokyo, promuovendo la gentilezza come valore fondante delle società democratiche e inclusive. Il Movimento si propone di trasformare la gentilezza da gesto individuale a politica pubblica, uno strumento concreto di coesione sociale, responsabilità collettiva e rigenerazione del linguaggio civile.
La partecipazione all'audizione odierna, per la quale ringrazio la presente illustre Commissione, vuole offrirvi una riflessione ed una proposta operativa su come il paradigma della gentilezza possa contribuire in modo strutturale alla prevenzione delle violenze in generale, della violenza di genere negli spazi fisici e della violenza di genere on line, oggi divenuta una delle forme più insidiose di aggressione e di delegittimazione delle donne e in generale dell'individuo, trasversalmente rispetto alle età.
Io, difatti, sono la figlia di Alberto Re, morto suicida a seguito di una campagna social mediatica sulla quale è ancora aperta un'inchiesta per istigazione al suicidio.
La violenza digitale non è un fenomeno nuovo, ma è un'estensione amplificata delle dinamiche di potere e dominio che caratterizzano la violenza di genere. Attraverso parole, immagini, manipolazioni e campagne denigratorie, produce ferite psicologiche e reputazionali profonde, incidendo sulla libertà della persona, sulla dignità e sulla partecipazione civica delle vittime.
Il MIG, attraverso campagne sociali quali quelle citate dalla gentile onorevole presidente, ha raccolto centinaia di testimonianze di donne, di giovani che subiscono o assistono a forme di violenza verbale e relazionale nella rete. Da questa esperienza emerge con forza un principio: il linguaggio è un atto sociale; può costruire ponti e comunità, ma anche distruggere reputazioni, isolare persone e perpetuare culture di esclusione e di violenza.
Contrastare la violenza significa agire prima che accada e dunque il MIG propone un cambio di paradigma attraverso la propria lente di osservazione: dalla punibilità giusta e auspicabile e normata alla prevenzione culturale, dove ancora parecchio si può fare. La gentilezza, in questa prospettiva, non è mera cortesia o buona educazione, ma una competenza civica – e pertanto va allenata, regolata, indotta – che orienta comportamenti, linguaggi e relazioni.
Introdurre la gentilezza come abilità trasversale nei percorsi educativi e professionali significa ridurre i fattori di rischio legati alla violenza, dunque agendo proattivamente sull'aggressività, sulla disconnessione emotiva, sulla cultura dell'odio e dell'umiliazione pubblica.
Il Movimento italiano per la gentilezza ha redatto la proposta di legge denominata «Kindness Act» che sarà a voi consegnata per la prima volta, poiché è rimasta silente ed è stata rimanipolata dalla sottoscritta proprio a seguito degli ultimi accadimenti violenti di Palermo, ovvero l'uccisione del giovane Paolo Taormina.
Il disegno più ampio è quello dell'inserimento della gentilezza come tredicesimo BES, quindi indicatore utile al calcolo del prodotto interno lordo, e mira a inserirla in programmi di educazione civica, cittadinanza digitale e formazione professionale. Il testo si articola in tre direttrici. La prima è l'istruzione, con un collegato, perché introdurre moduli educativi sulla gentilezza relazionale, sulla gestione non violenta del conflitto e la consapevolezza digitale è il punto da cui partire, e oserei dire anche nella fascia che per letteratura è resa più disponibile, quella proprio da zero ai 5 anni, paradossalmente, molto più attenta e capace di essere formata per avere poi, ovviamente, delle conseguenze impattanti positivamente sulle società da qui ai prossimi 15 anni. Ciò non esclude che queste competenze vadano sviluppate in ogni ambito ovviamente della scuola e della formazione.
La seconda è il lavoro, promuovendo ambienti professionali inclusivi e rispettosi, che contrastino molestie, discriminazioni e linguaggi che spesso sono tossici e presso le comunità, sostenendo campagne di alfabetizzazione emotiva e linguistica per adulti e cittadini. Queste azioni rappresentano, dal Pag. 4nostro punto di vista, una vera strategia nazionale di prevenzione, capace di ridurre la violenza agendo sui comportamenti e non soltanto sulle conseguenze degli stessi.
Il MIG propone dunque la creazione di un Osservatorio nazionale della gentilezza e dei comportamenti relazionali, che operi in modo trasversale su età, orientamento sessuale, appartenenza culturale, status sociale. Attualmente questo Osservatorio è nato all'interno del Movimento italiano per la gentilezza e opera nel solco dell'osservazione dei fenomeni, violenti e non solo, quindi di gratificazione laddove si incontrano comunità che virtuosamente praticano la gentilezza, ma ovviamente anche la negazione.
L'Osservatorio avrebbe il compito di monitorare il linguaggio pubblico e digitale, promuovere pratiche educative comunitarie, supportare le istituzioni nella definizione di politiche di prevenzione della violenza, che è sempre relazionale. Il MIG propone, altresì, l'istituzione del Servizio nazionale degli educatori di strada per la gentilezza sociale (SNES), con l'obiettivo di prevenire ogni forma di violenza contro la persona, violenza fisica, psicologica, digitale, economica o simbolica, attraverso un'azione diffusa educativa, costante e capillare, e soprattutto di prossimità.
Il Servizio intende agire in luoghi dove la vita accade e si manifesta, quindi quartieri, luoghi di aggregazione, centri sportivi, famiglie, ambienti digitali, ponendo al centro la figura dell'educatore di strada della gentilezza come presidio umano, culturale e civico, capace di ascoltare, mediare, orientare e formare relazioni.
Diversi Governi nel mondo, tra cui la Svezia, la Danimarca, gli Emirati Arabi Uniti, l'Australia, il Canada, il Regno Unito hanno adottato politiche strutturali legate alla gentilezza, con dipartimenti e finanche ministeri, riconoscendone il valore nella salute pubblica, nella riduzione dei conflitti sociali e nella promozione del benessere collettivo.
Dunque, il Movimento italiano per la gentilezza onorato si dichiara disponibile a mettere a disposizione di questa Commissione la propria esperienza, le proprie campagne e dunque il testo del Kindness Act per un percorso condiviso di adozione istituzionale, laddove fosse da voi ritenuto utile.
Rigenerare il linguaggio e le relazioni è la prima forma di prevenzione della violenza. Ogni parola gentile è un atto politico; ogni gesto rispettoso è un argine contro la sopraffazione. Per questo il MIG considera la gentilezza non solo un valore etico, ma un dispositivo sociale di protezione, uno scudo capace di costruire una solida identità e dunque comunità solidali e libere.
Ad oggi, il mio pensiero va anche alla cara Antonella Alfano, uccisa nel febbraio del 2011 per mano di Salvatore Rotolo, allora suo compagno, padre biologico della figlia, carabiniere. I miei saluti e i miei pensieri vanno alla famiglia. Grazie.
PRESIDENTE. Grazie, dottoressa Re.
Chiedo ai colleghi se ci sono delle domande. Intanto gliene faccio io qualcuna.
Le chiedo di spiegarci come effettivamente funziona l'adesione e la partecipazione al MIG, se c'è un board, come avviene, visto che fa riferimento ad un movimento internazionale, ma avrà ovviamente uno sviluppo nazionale e territoriale.
Inoltre, lei ci ha parlato di interventi sui giovanissimi ma anche sugli adulti. Noi abbiamo visto che gli ultimi episodi di violenza on line hanno visto coinvolti soprattutto gli adulti. Vorrei capire la reattività di una «categoria», se così si può chiamare, e di un'altra.
Do la parola alla dottoressa Re, in attesa di eventuali altre domande da parte dei colleghi.
NATALIA RE, presidente del MIG-Movimento italiano per la gentilezza. Grazie.
Circa l'organizzazione, noi siamo un'estensione del World Kindness Movement, quindi rappresentiamo per l'Italia, con una giurisdizione nazionale e una nostra grande partecipazione come Paese, come Italia, come Movimento italiano per la gentilezza, all'interno del direttivo mondiale del World Kindness Movement, occupandoci soprattutto di ricerca e di osservazione dei fenomeni sociali. Quindi, le nostre campagne Pag. 5vengono adottate dai Paesi membri, poiché ad oggi possiamo dire di essere modello rispetto a questo genere di approccio e di declinazione anche della gentilezza.
La nostra organizzazione nazionale non prevede nell'affiliazione, quindi in termini di attivismo, nessun costo, nessuna partecipazione economica da parte di chicchessia. Chi vuole muoversi all'interno del Movimento, seguendo e potendo socializzare e diffondere le nostre campagne di attenzione sociale permanente o proponendone altre in alternativa, lo fa liberamente potendoci contattare sui nostri canali social. Abbiamo una serie di testimoni che, a livello convenzionale, sono stati da noi individuati su tutto il territorio nazionale, perché sono stati o in maniera individuale spinti a chiedere alla nostra organizzazione di accogliere la loro propensione a sviluppare pratiche gentili oppure perché noi siamo stati in grado di intercettarli, come la scorsa settimana presso l'Ospedale Niguarda, dove siamo stati a conferire un encomio collettivo poiché la cittadinanza aveva segnalato nell'ospedale, ed in particolare nel Blocco 3 Nord, una particolare attenzione da parte di tutto il reparto e di tutto il personale sociosanitario in termini di cura e di empatia.
Dunque, la nostra attenzione è anche andare a cogliere in maniera maieutica e tirar fuori le esperienze più virtuose che vi sono in Italia. Abbiamo anche degli ambasciatori; ambasciatori che lavorano a livello regionale, ambasciatori che lavorano a livello internazionale perché sono stati insigniti, sempre sulla scorta di atteggiamenti virtuosi o pratiche virtuose; ed alcuni dal carattere oserei dire simbolico, ma non tanto, perché nella loro vita accademica, artistica, scientifica hanno lasciato il segno e danno a noi la possibilità di creare quell'effetto di «eco» che è utile alla diffusione dei nostri valori.
C'è una macchina organizzativa, che alla base ovviamente ha un organismo direttivo. Io sono la presidente, abbiamo un vicepresidente, abbiamo un comitato scientifico che si occupa dell'OIGEC, quindi dell'Osservatorio italiano dei comportamenti e della gentilezza, che dà apporti ovviamente di natura tecnico-scientifica, con un board internazionale, perché all'interno abbiamo uno dei massimi esponenti dello studio e della ricerca sull'impatto della gentilezza a livello psicofisico e a livello collettivo. È molto ampia la letteratura sui benefici del praticare gentilezza da un punto di vista psicofisico, lo è meno in termini, invece, psicosociali, quindi quell'impatto e quello auspicio che il MIG invece si propone di avere.
L'indicazione sul BES è da noi stata pensata e su di essa abbiamo incardinato l'undicesima Assemblea mondiale del World Kindness Movement che si è tenuta lo scorso anno a Palermo, dove abbiamo avuto come interlocutore il Ministro della Giustizia Carlo Nordio, che ci ha accompagnati durante l'Assemblea, ottenendo anche la nostra alta attestazione di benemerenza, che viene assegnata solo una volta l'anno a personalità che si sono distinte individualmente o collettivamente per azioni di salvaguardia sociale. Sul tema del BES, noi abbiamo analizzato reati, quindi andando ovviamente ad afferire sul penale, perché è quello che più impatta sulla persona, e abbiamo dedotto le spese che lo Stato italiano si era assunto durante il 2023 proprio sulla fattispecie dei reati contro i minori. Da quel quantum, analizzando la tipologia dei reati, abbiamo calcolato la percentuale di impatto sul prodotto interno lordo, che ovviamente rappresenta un meno. Allora, sulla scorta delle riflessioni tecniche fatte sulla natura del reato, se vi fosse stata un'impronta gentile, di natura educativa, alla base della creazione, della formazione del carattere, del comportamento dei rei, questo meno intuitivamente sarebbe potuto diventare un più. Dunque, a questo punto abbiamo ritenuto che questa potesse essere una grande ambizione del nostro Paese. Da lì lo studio, a livello geopolitico, rispetto ai Governi che si sono impegnati in politiche attive legate proprio alla gentilezza.
Rispetto agli adulti – rispondo, se non traviso, alla domanda che lei mi ha posto – noi abbiamo gestito un'attività di formazione che ha preso a campione individui, cittadini, funzionari, dirigenti, volontari attivi presso le nove province della ProtezionePag. 6 civile regionale siciliana, quindi un campione importante al quale abbiamo proposto il nostro schema di gentilezza. Che cosa abbiamo tratto di riflesso? Una necessità, che poi abbiamo incontrato trasversalmente anche in ambienti privati strutturati, ovvero la richiesta di agire in termini formativi sul tema delle relazioni, della comunicazione e sul linguaggio. Quindi, sia in ambito della pubblica amministrazione che in ambito privato, in ambito lavorativo, è fortemente richiesto come fabbisogno l'aspetto legato all'incapacità relazionale di comunicazione, con risvolti che poi portano alla demotivazione dell'individuo nel luogo di lavoro. Questo è stato uno scenario che potrei riportare anche attraverso altre esperienze molto virtuose, per esempio in Liguria, all'interno dell'Amministrazione comunale di Genova, dove da parecchi anni, con l'ausilio del Movimento italiano per la gentilezza, si è attivata una scuola di formazione che ha come fulcro e soft skill proprio la gentilezza e che sta avendo grande successo in termini di partecipazione da parte dei funzionari, degli addetti ai lavori della pubblica amministrazione. Per questo abbiamo incrociato in qualche modo l'esperienza ligure con l'esperienza meno generosa, poiché non formativa, non già formata, però di denuncia, quindi possiamo dire che il sistema Italia ha necessità di muoversi in tal senso.
Sempre l'attenzione ricade sul linguaggio, il linguaggio all'interno degli spazi fisici, all'interno della rete, perché poi la rete non è altro che un riflesso di quello che accade all'interno di relazioni che sono intrapersonali. Credo vivamente che la violenza che attraversa il digitale non sia avulsa da comportamenti e attitudini violente di coloro che noi definiamo «leoni da tastiera», ma in realtà praticano questa forma di violenza costantemente anche negli spazi fisici, orientandola ormai non più – ahinoi – soltanto rispetto a quegli individui che potrebbero definirsi fragili, quindi osservando i minori con il cyberbullismo o anche noi donne, ma in maniera assolutamente trasversale. Grazie.
PRESIDENTE. Grazie. Non vedo interventi da parte dei colleghi, quindi ringrazio la dottoressa Natalia Re anche per la condivisione della sua esperienza faticosa di vita in famiglia. Aspettiamo il materiale di cui lei ci ha parlato, compresa questa proposta di legge.
Dichiaro chiusa l'audizione.
Audizione di Elisabetta Fersini, professoressa associata di informatica presso l'Università degli Studi di Milano Bicocca, con riferimento al filone di inchiesta sulla violenza di genere on line.
PRESIDENTE. Avverto che, se non vi sono obiezioni, la pubblicità dei lavori della seduta odierna sarà assicurata anche mediante l'attivazione di impianti audiovisivi a circuito chiuso e la trasmissione diretta sulla web-tv della Camera dei deputati.
Ricordo che la seduta si svolge nelle forme dell'audizione libera ed è aperta alla partecipazione da remoto dei componenti della Commissione. Ricordo anche che i lavori potranno proseguire in forma segreta sia a richiesta dell'audita che dei commissari, sospendendosi in tal caso la partecipazione da remoto e la trasmissione sulla web-tv.
L'ordine del giorno reca lo svolgimento dell'audizione di Elisabetta Fersini, professoressa associata di informatica presso l'Università degli studi di Milano Bicocca, con riferimento al filone d'inchiesta sulla violenza di genere on line.
A nome di tutte le commissarie e di tutti i commissari, do il benvenuto alla professoressa Fersini, che ringrazio per la disponibilità a contribuire ai lavori della Commissione. La professoressa, nell'ambito della propria attività accademica, studiando il linguaggio e le sue modalità di espressione on line, si è occupata anche di hate speech e di riconoscimento del linguaggio misogino. La sua ricerca si è concentrata principalmente sull'apprendimento automatico per l'elaborazione del linguaggio naturale dell'intelligenza artificiale. È stata ricercatrice principale in progetti finanziati per l'analisi dei dati e per l'identificazione della misoginia in rete.
Do la parola alla professoressa Fersini.
ELISABETTA FERSINI, professoressa associata di informatica presso l'Università degli Studi di Milano Bicocca. Buongiorno, grazie a tutti e a tutte.
Oggi vorrei ripercorrere, spero con estremo dettaglio, alcune delle informazioni che sono emerse nel corso dei lavori di questi ultimi anni. Come sappiamo, la violenza di genere on line può assumere diverse forme, che possono variare sulle diverse piattaforme per linguaggio e modalità di comunicazione, per cui all'interno delle piattaforme on line, tipicamente le piattaforme sociali, sono emersi in continua crescita molteplici contenuti di varia forma, passando da testi, quindi messaggi, commenti, a immagini esplicite, video, in alcuni casi anche degli audio. All'interno di queste piattaforme, le forme di molestia, le forme di discriminazione e di sessismo sono sostanzialmente disponibili quotidianamente. Quello che le piattaforme oggi mettono a disposizione in realtà sono degli strumenti per le segnalazioni, sono stati attivati meccanismi di segnalazione all'interno di queste piattaforme, che tuttavia molto spesso rappresentano una barriera molto forte per le persone che segnalano questi contenuti che possono essere rappresentate come forme di odio, e in particolare la forma più comune è quella di odio contro le donne. Pertanto, nonostante esistano all'interno delle piattaforme questi meccanismi di segnalazione, tuttavia rimane ancora oggi un grosso problema. Questo ce lo insegna anche il Digital Service Act: nei rapporti che sono stati prodotti fino adesso sono state redatte alcune statistiche che dimostrano che, per quanto riguarda soprattutto il contesto delle lingue minoritarie, tra cui l'italiano, vi è una prevalenza di moderatori molto inferiore rispetto a quella delle lingue padroneggianti, tra cui l'inglese, il francese e il tedesco. Per l'italiano, ancora, qualora ci sia una segnalazione, all'interno di queste piattaforme la presa in carico di questa segnalazione comunque è in capo ad un numero di moderatori che è nettamente inferiore rispetto a quello delle altre lingue.
A livello di costi, per la violenza di genere on line una ricerca del nostro Parlamento europeo ha riportato essere costi molto elevati, che variano, a livello europeo, tra i 49 e gli 89 miliardi di euro, e questi costi si suddividono prevalentemente in costi diretti e indiretti. Quindi, questa violenza on line ha dei costi molto importanti.
Per quanto riguarda il panorama italiano, di questi costi abbiamo una visione parziale. Abbiamo sicuramente un'idea, una stima, in alcuni rapporti che sono stati condotti negli ultimi tre anni, di quanto possa costare in generale la violenza di genere, ma la violenza di genere on line rimane ancora un perimetro che dobbiamo tracciare.
Per quanto riguarda un focus sul territorio italiano, abbiamo i dati che sono stati resi disponibili dall'ultimo rapporto Istat, che ha mostrato come su un piccolo campione si siano manifestati alcuni dei fenomeni di odio on line, all'interno del quale rientrano le molestie, in particolare sui canali sociali on line. In questo rapporto ovviamente compaiono segnalazioni che riguardano il genere maschile e il genere femminile; è evidente che all'interno di questo rapporto vengono segnalate molestie, all'interno di queste piattaforme, prevalentemente per quanto riguarda il genere femminile, quasi il doppio rispetto al genere maschile.
Questo studio è stato condotto su un campione chiaramente molto piccolo, andando a considerare per l'anno 2022-2023 un campione di circa 200 persone coinvolte, suddivise in modo bilanciato tra uomini e donne, con un'età variabile tra i 14 e i 70 anni. Queste statistiche ci mostrano sostanzialmente quanto, all'interno di queste piattaforme on line, sia possibile essere oggetto di queste forme di violenza. Ne è un esempio chiaramente quello che abbiamo osservato prevalentemente con il caso del gruppo Facebook «Mia moglie», che da una parte ha destato grande scalpore, ed è giusto che sia così, dall'altra parte erano già emerse in passato molte segnalazioni presenti all'interno di questo sito che sono state prese in carico solo recentemente, ma fortunatamente, in particolare ad agosto del 2025.Pag. 8
Il gruppo Facebook «Mia moglie» è uno degli esempi che purtroppo alimentano queste piattaforme on line, ma dobbiamo immaginare la tecnologia non solo sostanzialmente come un catalizzatore, un amplificatore di questi fenomeni, ma potrebbe essere vista – e di questo mi occupo nella mia ricerca – come uno strumento per l'ausilio e il contrasto di questi fenomeni.
Per quanto riguarda il come poter dare un segnale positivo in questo settore, il primo scoglio che incontriamo è quello di accesso alle piattaforme. Le piattaforme tecnicamente parlando permettono di accedere legittimamente a contenuti, immagini, commenti che possono essere potenzialmente discriminatori, misogini o sessisti, ma il Digital Service Act ci viene in aiuto. Sono disponibili fondamentalmente due modalità di accesso a queste piattaforme. Tra le modalità ufficiali ritroviamo quelle che in gergo vengono chiamate le API (Application Programming Interface) ufficiali, quindi alcune piattaforme forniscono autonomamente questa possibilità di accedere per via programmativa, direttamente dal proprio computer, a contenuti che possono essere visti come a sessisti o misogini; esistono poi altre vie, chiaramente vietate, tra cui il crawler e lo scraping. Mentre nel primo caso è possibile accedere a contributi pubblici o autorizzati, per cui esiste un'esplicita dichiarazione di contenuto pubblico o di autorizzazione alla concessione del dato, nel caso in cui i contenuti non siano pubblici o non siano autorizzati tecnicamente, sarebbe possibile accedere, tuttavia questo viene normato e viene viene espressamente vietato dai termini di sicurezza delle piattaforme e chiaramente possono incontrare potenziali violazioni del GDPR (General Data Protection Regulation). Ovviamente il Digital Service Act ci viene incontro in questa direzione, perché per ricercatori, Forze dell'ordine e tutte quelle istituzioni che sono perimetrate per avere un'autorizzazione all'accesso questo aiuta.
Com'è possibile andare a fornire degli strumenti, quindi cosa mette a disposizione oggi la tecnologia che arriva sia dagli istituti di ricerca, dalle università, ma parzialmente anche all'interno delle piattaforme stesse? Innanzitutto, per contrastare questo fenomeno, avendo accesso al dato in modo digitale, il primo passo fondamentale è la ricerca e il monitoraggio pubblico, per cui è possibile affiancare alla ricerca manuale sulle piattaforme chiuse o che possono arrivare eventualmente anche a fronte di segnalazione alle forze operative anche una ricerca automatica sulle piattaforme aperte. Questo perché ci sono stati casi pregressi, di cui tra l'altro anche il gruppo Facebook «Mia moglie» ha dato evidenza, per cui i contenuti che tipicamente vengono raccolti e pubblicati all'interno di queste piattaforme non seguono un unico canale di comunicazione, ma vengono in realtà poi suddivisi su molteplici canali. Alcuni di questi sono anche canali aperti, per cui facilmente accessibili o parzialmente accessibili anche per mezzo di ricerche automatiche, con l'ausilio di strumenti di ricerca e quindi della tecnologia.
Oltre a questo primo passaggio, dove si affianca la ricerca manuale con la ricerca automatica, quindi sia su piattaforme chiuse che su piattaforme che possiamo definire come aperte, il secondo passaggio per contrastare questo fenomeno riguarda l'utilizzo di strumenti quali reverse image searche, dove troviamo Google immagini o TinEye, che permettono di trovare copie di immagini che sono state condivise; una volta, quindi, acquisite le immagini potenzialmente misogine, sessiste o che in generale possono avere contenuti inopportuni, questa tipologia di strumenti che sono disponibili alla portata di tutti permette di tracciare la diffusione e individuare ulteriori gruppi e pagine che possono ospitare in modo analogo queste forme.
Oltre a questo, è possibile monitorare delle piattaforme alternative, di cui sono un esempio Telegram e Discord, dove spesso si ricollocano questi contenuti che vengono rimossi dalle piattaforme chiuse e in questo caso è possibile accedervi per vie ufficiali, attraverso quelli che in gergo vengono chiamati client o bot inseriti all'interno di chat e canali pubblici. Anche qui c'è una sorta di processo di accreditamento, ma da un Pag. 9punto di vista meramente tecnico questo è possibile farlo.
Per quanto riguarda il filone più grande, che permetterebbe e permette di contrastare questi fenomeni di violenza di genere on line, sono disponibili diversi strumenti di intelligenza artificiale, alcuni disponibili commercialmente.
Tra le varie piattaforme, di cui sono solo un esempio Google, Amazon e Microsoft, che forniscono dei servizi, alcuni a pagamento, altri liberi, che offrono funzionalità per rilevare contenuti quali ad esempio nudità, contenuti sessualmente espliciti, e possono essere utilizzati come un macro filtro per effettuare una prima limatura di quelli che possono essere i fenomeni più dominanti, quelli chiaramente meno subdoli, che è molto difficile individuare, sono comunque uno strumento importante che permette di navigare all'interno del mare magnum di contenuti a cui si può avere accesso.
Oltre agli strumenti commerciali, esistono anche degli algoritmi, dei modelli di intelligenza artificiale che sono stati definiti nel corso degli ultimi anni, che sono specifici per andare a contrastare e a riconoscere quelle che possono essere potenziali forme di violenza di genere. All'interno di questo bacino di strumenti di intelligenza artificiale, possiamo trovare tre grandi famiglie che possono venirci in aiuto. In gergo, all'interno della comunità scientifica, li definiamo come modelli di visione, modelli di linguaggio e modelli di visione e linguaggio. Qual è la differenza tra questi tre modelli? Mentre i modelli di visione sono stati addestrati specificatamente per identificare la tipologia del contenuto, quindi ad esempio la presenza di soggetti specifici o la distinzione tra una sessualizzazione consensuale e non consensuale, quindi si basano meramente sul sull'analisi delle singole immagini, nel caso dei modelli linguaggio è possibile istruire questi strumenti per analizzare il contenuto testuale tipicamente associato ai commenti. A queste due fonti informative, che sono fondamentali per comprendere il contesto all'interno del quale questi contenuti vengono diffusi soprattutto nei canali on line, vengono poi in aiuto quei modelli di intelligenza artificiale che uniscono le forze, per cui parliamo di modelli di visione e linguaggio, che sono delle reti neurali artificiali molto complesse, che sono preaddestrate o adattate per contenuti eventualmente misogini o sessisti, che vanno a integrare quelli che sono i meccanismi di ragionamento che possiamo impiegare per contenuti testuali e per contenuti visuali.
Chiaramente è necessario che questi modelli apprendano su delle specificità. Il linguaggio misogino contro le donne ha una sua forma e un suo perimetro che sono nettamente diversi rispetto a quello che può essere il linguaggio contro altre categorie target che possiamo avere all'interno della violenza di genere.
Per quanto riguarda l'ultimo passaggio, gli strumenti automatici sono di forte ausilio ma non sono chiaramente sufficienti per completare il percorso di riconoscimento e di miglioramento di questi strumenti. In questa direzione vengono in soccorso gli strumenti che in gergo vengono definiti come di explainability, quindi di spiegabilità del perché un algoritmo di intelligenza artificiale ha rilevato un determinato contenuto, ad esempio sessista o di altro tipo, per cui rendono possibile all'essere umano comprendere il perché di una decisione di un algoritmo. Ovviamente questi algoritmi non sono perfetti, quindi possiamo essere in presenza di falsi positivi e falsi negativi. Fortunatamente, da un punto di vista della ricerca scientifica, abbiamo osservato molti più falsi positivi (significa che questi algoritmi segnalano di più di quello che dovrebbero in realtà segnalare, quindi sono più cautelativi) rispetto ai falsi negativi, quindi contenuti effettivamente misogini, sessisti o di violenza di genere che in realtà vengono persi.
In realtà, da un punto di vista degli strumenti oggi a disposizione direi che siamo ad un buon punto. È evidente che tutti questi algoritmi sono migliorabili e questo è reso possibile solo per mezzo di una supervisione dell'essere umano, che da una parte può svolgere una funzione fondamentale di verifica di quella che è la decisione di un algoritmo e dall'altra parte può produrrePag. 10 raccomandazioni e feedback che possono essere inclusi all'interno dei meccanismi di revisione degli algoritmi di intelligenza artificiale. La strada è quella di un miglioramento incrementale, tenendo l'uomo al centro di questa transizione.
Per quanto riguarda i modelli di intelligenza artificiale ad oggi disponibili sia in letteratura che per quanto riguarda gli strumenti commerciali, tendenzialmente possiamo distinguere i due scenari riguardanti l'inglese e l'italiano, l'inglese perché è la lingua maggiormente parlata all'interno di queste piattaforme, l'italiano perché è quella che ci riguarda da vicino. Per quanto riguarda la copertura linguistica, per la lingua inglese la copertura è molto buona, quindi esistono dei benchmark dello stato dell'arte e degli strumenti che hanno imparato rispetto alla lingua inglese in grado di riconoscere contenuti sessisti, violenti o abusivi. Per l'italiano la copertura linguistica ad oggi possiamo ritenerla molto buona, anche se in via chiaramente di crescita.
Se vogliamo pensare ad un'accuratezza, quindi quanto questi algoritmi di intelligenza artificiale riescono a essere accurati nelle loro decisioni e nel riconoscere o meno un contenuto come abusivo oppure no, chiaramente la lingua inglese essendo più coperta ha una maggiore percentuale di successo (ci aggiriamo intorno al 90 per cento), ma per l'italiano, con gli strumenti ad oggi disponibili, per quanto riguarda contenuti meramente testuali ma anche contenuti sia testuali che visuali (quindi parliamo di immagini, meme, contenuti audio) la percentuale si aggira mediamente intorno all'85 per cento. Quindi, anche in questo caso, per quanto riguarda il panorama italiano, siamo sulla buona strada. Queste percentuali dell'85 e del 90 per cento riguardano quelli che chiamiamo in gergo «test di laboratorio», per cui in un perimetro abbastanza contingentato, in un contesto abbastanza controllato. Se poi li mettiamo a regime e immaginiamo di sfidarli con delle immagini o dei testi che non sono mai stati visti prima, che arrivano da altre piattaforme e che quindi non hanno fatto parte di quel contesto di dati utilizzato per far apprendere questi algoritmi, c'è una lieve flessione ma comunque abbiamo un'accuratezza a mio avviso molto promettente.
Qual è la difficoltà? La difficoltà è quella del rilevamento delle forme implicite. Mentre è tutto sommato abbastanza semplice tecnicamente riconoscere una forma di sessualizzazione, un contenuto misogino chiaramente esplicito, quindi ad esempio un inno alla violenza contro il genere femminile, diventa molto più complesso quando parliamo di forme implicite, in cui chiaramente non c'è un'indicazione semanticamente chiara di quello che è il contenuto stesso.
Quali sono le sfide della ricerca oggi? Ne abbiamo molte. Tra le principali, se guardiamo al contesto italiano, abbiamo ancora la necessità di raccogliere dati e di creare dei benchmark di riferimento per migliorare la nostra copertura linguistica. Questi benchmark possono essere creati affiancando alla ricerca umana strumenti automatici che fanno pre-screening ma anche utilizzando sistemi che raccolgono i dati in modo semiautomatico. La ricerca, soprattutto la ricerca italiana, sta andando nella direzione di creazione di risorse condivisibili, rispettando tutti i perimetri del GDPR e delle normative europee, per creare questi benchmark di valutazione che hanno una doppia funzione: da una parte, istruire gli algoritmi di intelligenza artificiale e, dall'altra, metterli a regime e valutare quanto questi sistemi risultano essere effettivamente accurati in contesti sempre più sfidanti.
Un'altra sfida che viene posta all'interno del panorama sia internazionale sia italiano è quella che in gergo viene identificata come «individuazione del bias». Gli algoritmi e i modelli di intelligenza artificiale possono essere in qualche modo distorti, ossia le loro previsioni possono essere in qualche modo alterate dai campioni, quindi dagli esempi che noi forniamo a questi strumenti per cercare di insegnare loro che cosa è un contenuto sessista, che cosa è un contenuto misogino o un contenuto abusivo. I campioni raccolti possono essere campioni che prediligono una certa popolazione, quindi immaginiamo un linguaggioPag. 11 in cui si associa spesso alla parola «donna» l'appartenenza al luogo domestico: questa associazione e questa correlazione spuria, nel momento in cui si riverbera all'interno dei dati, porta inevitabilmente i modelli a effettuare delle previsioni che possono portare a quelli che prima chiamavamo dei falsi positivi. In questo caso, da un punto di vista scientifico, ci sono delle strategie computazionali che possono essere adottate per mitigare questo problema, ma chiaramente questo rimane ancora una strada aperta.
In ultimo, ne menzionavamo prima, il riconoscimento delle forme implicite ad oggi è la parte più difficile di questo lavoro, perché i modelli ad oggi disponibili, nonostante siano sempre più istruiti e abbiano sempre più dati a disposizione per riconoscere queste forme di violenza di genere on line, ancora faticano a riconoscere forme sottili che possono essere concettualmente molto articolate e, tra l'altro, il cui confine tra le varie forme di odio on line risulta molto labile. In questo caso, la soluzione è avere una continua revisione da parte dell'essere mano e un conseguente aggiornamento dei modelli che sono oggi disponibili.
Questo è un panorama in crescita, sia a livello internazionale che a livello italiano. Diverse iniziative che sono state lanciate negli ultimi periodi hanno l'obiettivo di coprire, tra le varie sfide, quelle menzionate all'interno di questa diapositiva. Chiaramente non si perimetra tutto all'interno di questi semplici tre punti che ho avuto il piacere di illustrarvi, ma il perimetro all'interno del quale ci si muove è molto più ampio. Questa è una panoramica delle principali sfide che oggi dobbiamo affrontare.
PRESIDENTE. Grazie, dottoressa.
Chiedo ai colleghi e alle colleghe se ci sono delle domande. Io ho preferito farla parlare perché questa audizione è talmente precisa e tecnica che è stato un piacere sentirla.
Se non ci sono domande, ne pongo una io, ovviamente un po' faticosa. Ci sono tre inchieste da cui è partita l'analisi di questa Commissione: una riguarda, come giustamente ha detto lei, il sito «Mia moglie», un sito Facebook di utenti privati alcuni dei quali hanno postato foto senza il consenso; l'altra riguarda un sito di natura pornografica dove sono stati messi contenuti sessualmente espliciti, senza sempre il consenso da parte degli autori, e sono state messe foto di persone normali che hanno però dato il via a una serie di commenti misogini; infine, la terza inchiesta riguarda l'acquisizione di filmati intimi, di case, oppure relativi a spa o centri benessere.
Ecco, se lei, di tutta la narrazione robusta che ha fatto oggi, dovesse suggerire un intervento immediato, anche tecnico, dove il grande tema è identificare l'autore o piattaforme che hanno i server all'estero, da tecnica – se posso permettermi di usare questo termine – che cosa suggerirebbe? Può essere un intervento normativo ma può essere anche un intervento tecnico. Di tutta la narrazione (perché lei ha raccontato più interventi) che cosa potrebbe suggerire?
Chiedo infine di raccogliere anche la domanda dell'onorevole Ascari, così poi eventualmente risponde velocemente a entrambe. Ricordo che alle 9 iniziano i lavori dell'Aula.
STEFANIA ASCARI. Grazie. È stata un'audizione veramente molto interessante. Poiché sempre più bambini, fin dalla prima elementare, accedono a piattaforme e anche a siti pornografici, e questa purtroppo è una statistica nazionale, le vorrei chiedere, collegandomi alla domanda della presidente, non solo da un punto di vista normativo ma anche da un punto di vista pratico, cosa si può fare immediatamente? Purtroppo adesso la modalità di comunicazione, di approccio, di relazione è solo attraverso siti, social network. Lei ha aperto veramente uno scenario a 360 gradi. Se fosse possibile, vorremmo sentire anche da parte sua soluzioni tecniche, pratiche, immediate. Anche, secondo me, dal punto di vista [...] normativa, chiedo se oggi è sufficiente o totalmente inefficace. Grazie.
PRESIDENTE. Grazie, onorevole Ascari. La sentivamo a scatti, ma abbiamo capito la domanda. Do la parola alla dottoressa Fersini per la replica.
Pag. 12 ELISABETTA FERSINI, professoressa associata di informatica presso l'Università degli Studi di Milano Bicocca. Cosa sarebbe possibile fare? All'interno dell'Osservatorio sulla violenza di genere, da un punto di vista molto operativo, potrebbe essere istituito, per esempio, un tavolo di lavoro al quale far sedere tecnici che possano monitorare lo stato di fatto della diffusione di questi contenuti. In quest'ottica, il Digital Service Act ci viene incontro. Avere un tavolo di lavoro all'interno dell'Osservatorio sicuramente può aiutare a perimetrare meglio questi fenomeni, di cui in questo momento non abbiamo una visibilità a 360 gradi, ma una visibilità solamente parziale.
Aggiungo che sicuramente portare su tavoli europei come l'Italia può mettere in atto tecnicamente e praticamente l'accesso a queste risorse in questo momento, nonostante ci sia il Digital Service Act, rimane ancora un perimetro non chiaro. Chiaramente per le Forze dell'ordine questo è facilmente eseguibile, ma dall'altro lato, qualora si volesse intervenire, rimane un perimetro parzialmente non chiaro, per cui da un punto di vista normativo si potrebbe introdurre un primo tavolo di lavoro da discutere poi a livello europeo.
Per quanto riguarda brevemente la copertura relativamente ai minorenni, questo è un grossissimo problema perché formalmente le piattaforme fanno una verifica dell'identità, per cui chiedono se il soggetto ha un'età maggiore di 13, 14 anni e quant'altro, ma poi nella pratica tutto viene demandato a chi a quella piattaforma aderisce. Dunque, se un minorenne vuole accedere non ha grosse limitazioni. Una delle principali iniziative – sembra banale – è quella della sensibilizzazione, quindi arrivare a chi questi strumenti li usa per metterli in guardia su quello a cui vanno incontro.
PRESIDENTE. Ringrazio la dottoressa Elisabetta Fersini. Chiedo anche cortesemente la integrazione del materiale, dove lo ritenesse, e delle slide con le sue attività su questo tema.
Non essendovi altri interventi, dichiaro chiusa l'audizione.
La seduta termina alle 9.