PRESIDENZA DEL PRESIDENTE
MARTINA SEMENZATO

La seduta comincia alle 14.05.

Sulla pubblicità dei lavori.

PRESIDENTE. Buongiorno a tutte e a tutti.
Avverto che, se non vi sono obiezioni, la pubblicità dei lavori della seduta odierna sarà assicurata anche mediante l'attivazione di impianti audiovisivi a circuito chiuso e la trasmissione diretta sulla web-tv della Camera dei deputati.
Ricordo che la seduta si svolge nelle forme dell'audizione libera ed è aperta alla partecipazione da remoto dei componenti della Commissione.
Ricordo, inoltre, che i lavori potranno proseguire in forma segreta sia a richiesta dell'audito che dei commissari, sospendendosi, in tal caso, la partecipazione da remoto e la trasmissione sulla web-tv della Camera dei deputati.

Audizione del Direttore Generale dell'Agenzia per l'Italia digitale (AgID), ingegner Mario Nobile.

PRESIDENTE. L'ordine del giorno reca lo svolgimento dell'audizione del direttore generale dell'Agenzia per l'Italia digitale (AgID), ingegner Mario Nobile.
A nome di tutte le commissarie e di tutti i commissari do il benvenuto all'ingegner Nobile, che ringrazio per la disponibilità a contribuire ai lavori della Commissione. Saluto e do il benvenuto anche alla delegazione che accompagna l'ingegnere, la dottoressa Chiara Giacomantonio, dirigente AgID responsabile per la prevenzione della corruzione e per la trasparenza, e l'avvocato Matteo Carabellese.
Con l'audizione di oggi la Commissione avvia l'approfondimento sui margini di impiego di nuove tecnologie e dell'intelligenza artificiale in particolare per la prevenzione della violenza di genere e del femminicidio. Si tratta di un tema che altri Paesi hanno già affrontato, con sviluppi che appaiono davvero interessanti. Mi riferisco in particolare all'algoritmo «VioGén 2», nuovo modello di risposta della polizia alla violenza di genere, di recente lanciato dal Governo spagnolo, dopo un lungo periodo di sperimentazione. In Spagna, dopo l'approvazione della legge organica del 2004, per combattere la violenza contro le donne, il Governo ha riunito esperti di statistica, psicologia e altre discipline per sviluppare una risposta efficace, con l'obiettivo di creare un modello statistico capace di identificare le donne più a rischio di abusi e di stabilire una procedura standardizzata per proteggerle. Il team ha adottato un approccio simile a quello utilizzato dalle compagnie assicurative e dalle banche per prevedere la probabilità di eventi futuri, come incendi domestici o fluttuazioni volontarie. Lo strumento adottato dal Governo spagnolo si basa su un protocollo (Protocollo 25) che ha integrato, riformulato e aggiornato tutte le norme e le istruzioni emanate in materia di contrasto alla violenza di genere, in evidenza analogica con il testo unico che la Commissione ha promosso con la relazione approvata lo scorso 31 luglio 2024 e che il Ministero per le riforme istituzionali e la semplificazione normativa sta elaborando.
Il caso spagnolo rappresenta certamente uno stimolo e una riflessione che vale, a mio avviso, la pena di fare, cercando di cogliere le potenzialità migliori derivanti Pag. 4dalle nuove tecnologie nella prevenzione della violenza maschile contro le donne, anche in linea con l'inchiesta sul diritto comparato.
Fatta questa premessa, rinnovo il ringraziamento all'ingegner Nobile e gli do, quindi, la parola.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Grazie, presidente. Buon pomeriggio a lei e a tutti i membri della Commissione. Il tema è particolarmente delicato, ma non sono io a evidenziarlo, siete voi con le vostre attività. Io ho depositato una brevissima memoria e andrò molto velocemente rispetto ai suoi contenuti. Però, anche in base a quanto poc'anzi detto dalla presidente, vorrei integrare la memoria – lo faremo anche per iscritto – con alcuni elementi di contesto, che sta rapidamente evolvendo.
Chi siamo? L'Agenzia per l'Italia digitale, come voi sicuramente sapete, è un'agenzia tecnica della Presidenza del Consiglio dei ministri che si occupa di definire le strategie del digitale. In altri termini, costruiamo i mattoncini di quella che viene chiamata «infrastruttura digitale pubblica», dall'identità digitale (SPID e CIE) ai pagamenti (piattaforma PagoPA), alle piattaforme di interoperabilità, che consentono di scambiare i dati tra pubbliche amministrazioni, e non solo, alla stessa piattaforma di fatturazione elettronica, il sistema di interscambio fatture (SdI), che ci rende ai primi posti in Europa per le fatture elettroniche. Noi abbiamo un cartaceo molto limitato.
In questa ottica, sempre come elemento di contesto, nell'attuale disegno di legge approvato dal Governo e presentato al Senato, Atto Senato n. 1146, è previsto – ovviamente c'è il passaggio parlamentare al Senato e alla Camera dei deputati – che l'agenzia potrà occuparsi di promozione e sviluppo dell'intelligenza artificiale, mentre i nostri cugini dell'Agenzia per la cyber sicurezza nazionale (ACN) si occuperanno di vigilanza su prodotti e servizi relativi all'intelligenza artificiale.
Prima di parlare di intelligenza artificiale, desidero far presente che il documento strategico che viene approvato dal Sottosegretario alla Presidenza del Consiglio dei ministri, con delega all'innovazione tecnologica e alla transizione digitale, senatore Butti, su delega del Presidente del Consiglio dei ministri, è il Piano triennale per l'informatizzazione della Pubblica amministrazione. Quindi, facciamo strategie, promuoviamo lo sviluppo, ci occupiamo di vigilanza e controllo di alcuni dei servizi che citavo prima: SPID, firme digitali e altri elementi che usiamo ogni giorno in maniera semplice e facile.
Che cosa è successo rispetto a questo viaggio? Ricordo che questo aveva tempistiche compatibili con quello che ho detto, il piano triennale. Una previsione di tre anni era sicuramente una previsione buona per scrivere strategie e fare in modo che tutte le pubbliche amministrazioni e in parte le imprese private si adeguassero a princìpi come il «cloud first», ovvero prima vai sul cloud e non avere i server nei sottoscala. Ciò che sta succedendo nell'ultimo triennio è che le cose vanno molto più velocemente di prima, quindi avere un piano strategico a tre anni è un auspicio, in realtà noi già lo stiamo aggiornando annualmente.
Chi vi parla ha fatto una tesi sulle reti neurali, qualche anno fa purtroppo per me, e il mondo è davvero cambiato con gli ultimi strumenti di intelligenza artificiale generativa. Noi avevamo l'abitudine, da esseri umani, di impostare una serie di regole e una serie di elementi di partenza e utilizzare le macchine per fare i calcoli in maniera più veloce e più accurata. Ciò che, invece, è successo da qualche anno con l'avvento di questi nuovi strumenti è che non è più necessario stabilire a priori e a monte una serie di regole per conoscere le correlazioni, ma in maniera non supervisionata, quindi non necessariamente gestita dall'essere umano, questi sistemi imparano a fare correlazioni. Un esempio che conosciamo tutti è il chatbot, quindi l'oggetto conversazionale: non è dotato di coscienza e conoscenza, fa semplicemente un calcolo di inferenza statistica di quale probabilità è maggiore rispetto alla successiva parola. Quindi, se io in questa sede dicessi «a invarianza di», la parola successiva sarebbePag. 5 «risorse», dal momento che siamo abituati a leggere, scrivere e commentare leggi che hanno questo tipo di frase.
Che cosa sta succedendo? Accade che il chatbot si sta evolvendo e gli analisti parlano di tre fasi dell'intelligenza artificiale per come oggi la conosciamo: una fase attuale, che è definita weak AI, quindi intelligenza artificiale debole; una fase successiva, che è definita AGI, quindi un'intelligenza artificiale generale; un'ultima fase, che è definita ASI, quindi una super-intelligenza artificiale. Questi tre passaggi sono riferiti alla comparazione con un essere umano dotato di formazione universitaria. Quindi, oggi nel primo stadio abbiamo un bambino di sette, otto, dieci o dodici anni, nella fase AGI sarà un essere umano dotato di formazione universitaria, nella fase ASI sarà più di un essere umano dotato di formazione universitaria. Questa cosa potrebbe farci paura, ma in realtà già oggi abbiamo applicazioni di ASI rispetto, ad esempio, al lancio di un razzo lanciatore di satelliti. Non ci sono quattro, cinque o dieci esseri umani che fanno i calcoli rispetto a orbita e traiettorie del razzo, esistono sistemi computazionali molto evoluti che sono in grado di calcolare orbita e traiettorie in tempo reale, con una capacità computazionale molto alta.
Oggi siamo nel punto intermedio tra la weak AI e la AGI, ovverosia stiamo arrivando a questo punto intermedio, quindi al confronto con un essere umano dotato di formazione universitaria. Lo vedete dalle evoluzioni di questi strumenti, che si stanno avvicinando al comportamento di un agente. So che rischio di fare una prolusione accademica, ma ha un senso rispetto a quello che dirò nelle attività di contrasto al femminicidio. Quindi, perdonate la prolissità, ma è necessario fare questo punto, a mio parere. Dicevo, il passaggio tra la weak AI e la AGI viene visto dagli analisti come il comportamento di agenti, che avete già sentito o letto. In qualche maniera il passaggio sarà quello di ricevere una risposta a una domanda (definita prompt in gergo tecnico). Oggi noi riceviamo una risposta preconfezionata e chiusa. Possiamo modulare la nostra domanda in modo da ottenere delle risposte differenti. Ma non abbiamo accesso agli schemi logici usati dal software rispetto alla preparazione della risposta. Ebbene, il punto in cui arriveremo alla AGI sarà quando questi strumenti di intelligenza artificiale ci diranno, rispetto alla nostra domanda, al nostro prompt, come intendono suddividere il problema in schemi razionali e ci consentiranno di modificare alcuni di questi schemi razionali e, quindi, di arrivare a una risposta.
C'è un altro elemento importante: in questo passaggio potremo anche gestire delle fonti esterne. Faccio un esempio molto concreto. Visto che il tema è anche di attualità, parliamo di liste d'attesa e di tempi per una prestazione sanitaria. Oggi c'è un software che organizza gli appuntamenti per una TAC sulla base di una serie di parametri (parametri clinici, medici, di età e di altre funzioni che sono scelte dei medici). Con questi strumenti sarà possibile anche rilevare dei dati in tempo reale sul meteo, sul traffico, su elementi che incidono in questo momento sul percorso che i pazienti dovrebbero fare per ottenere la prestazione.
Arrivo al punto. Oggi, quindi, siamo in grado di stabilire delle correlazioni non preparandole prima in termini di impostazione umana del problema, siamo in grado di avere una capacità computazionale molto alta, in modo da individuare delle correlazioni che apparentemente noi non vediamo. Magari non pensiamo al fatto che le condizioni meteo e le condizioni del traffico incidano sulla prestazione di una macchina che è stata acquistata per lavorare il più possibile. Quindi, se oggi dovesse curare o analizzare venti pazienti, il fatto che se ne presentino quindici significa una perdita di efficienza di quella macchina.
Noi abbiamo analizzato, prima di questa audizione, alcuni progetti, tra cui quello citato dal presidente, e abbiamo visto che l'impostazione, che ovviamente è multidisciplinare, è anche legata ai soggetti ai quali si indirizza la tecnologia, a chi fa analisi, a chi deve fare repressione, a chi deve fare prevenzione. Quindi, ci sono più strumenti tecnologici che possono essere adattati e inseriti a seconda dell'obiettivo e Pag. 6dello scopo. Ciò che, però, mi sento di dire – su questo esprimo la massima collaborazione dell'agenzia, qualora voi lo riteniate utile e opportuno – è che il dato è il primo combustibile di qualunque strumento digitale si possa usare. La qualità del dato è anche uno dei dieci princìpi che abbiamo inserito come AgID nel decalogo per l'uso dell'intelligenza artificiale nella Pubblica amministrazione, ovverosia la qualità delle informazioni che vai a trattare, sia per usare uno strumento digitale classico, anche antiquato, se volete, un foglio di calcolo, sia che tu voglia usare strumenti che cercano correlazioni dove tu non le hai viste o reputi non esistano, fa la differenza.
Quindi, la prima considerazione che mi permetto di sottoporvi è questa. Al di là della scelta degli strumenti tecnologici, quello che è invariante in termini di elemento capace di far arrivare all'obiettivo è la qualità del dato che andiamo ad analizzare. Questo, tendenzialmente, in tutte le attività umane è un problema. Non è un problema solo pubblico, ma è un problema anche delle imprese private, perché non c'è stata la consapevolezza negli anni che i dati sono il vero elemento decisionale. Questa coscienza è arrivata pian piano soltanto negli ultimi anni.
La possibilità, quindi, di analizzare le informazioni in vostro possesso con gli esperti del dominio specifico. Noi, ovviamente, siamo tecnologi, non abbiamo alcuna competenza in materia di femminicidio o di materie sanitarie o di logistica o di altri ambiti sui quali si stanno applicando strumenti e modelli di intelligenza artificiale. Noi potremo suggerire, aiutare e supportare la modulazione della macchina, i cui risultati, però, devono essere analizzati e percepiti da chi è esperto di quella specifica materia.
I sistemi sono tanti. Ci sono, evidentemente, una serie di regole che ci siamo dati come Unione europea. Come sapete, l'AI Act sta entrando in vigore a tappe successive, una delle quali è appena trascorsa. Ci sono, però, anche altri sistemi giuridici nei quali, a livello mondiale, non ci sono le stesse prerogative. Noi, come agenzia, lo troverete nella memoria, stiamo raccogliendo e stimolando tante esperienze di uso di intelligenza artificiale nella Pubblica amministrazione. Potrei citarvi l'INPS, l'Istituto di previdenza sociale, che utilizza sistemi per lo smistamento automatico delle circa 16 mila PEC che riceve ogni giorno; l'INAIL, con altri studi; l'ISTAT; ci sono regioni e anche comuni che utilizzano questi strumenti per la gestione del traffico, per il governo del territorio, per la gestione delle emergenze. Quello che è importante è sempre la qualità del dato che inseriamo nello strumento. Un difetto nella qualità iniziale del dato porta a risultati evidentemente poco utili.
Resto, ovviamente, a vostra disposizione per approfondire gli elementi che ho prima descritto. La nostra disponibilità, presidente e membri della Commissione, è massima con la consapevolezza che più dati di qualità abbiamo, meglio potremo operare e anche con la consapevolezza che, evidentemente, non dobbiamo abbandonare una visione umanocentrica, nella quale ci devono essere psicologi, forze di polizia, parlamentari come voi, persone che hanno una esperienza e una competenza multidisciplinare rispetto a fenomeni che sono molto complessi.

PRESIDENTE. Grazie, ingegner Nobile.
Chiedo ai colleghi e alle colleghe se ci sono delle domande, sennò provo a rompere il ghiaccio io, intanto, con qualche domanda tecnica.
Fatta salva la complessità dell'applicazione pratica della vostra teoria al tema del femminicidio e della violenza di genere, se noi che non siamo addetti ai lavori dovessimo capire la funzione predittiva, come si strutturerebbe questa cosa? Vi è, poi, il grande timore, che abbiamo condiviso con le commissarie e i commissari di questa Commissione, legato al fatto che, fatto salvo che la macchina viene educata dall'uomo, si lavora comunque attraverso un algoritmo, che porta a dare un cartellino verde (lo dico in maniera semplice, perché il tecnico è lei), un cartellino arancio o un cartellino rosso di fronte al caso.
Lei parla di bontà dei dati. La violenza di genere e il femminicidio sono fenomeni complessi e anche differenti nella genesi, Pag. 7nella struttura familiare, nello sviluppo, quindi non c'è una correlazione uguale per tutti. Questa analisi dei dati come viene messa a terra, visto che ci sono tantissime sfumature, anche temporali, anche di reato? Nella sua visione, partendo dal fatto che ci può essere un contenitore di dati importante anche sul tema della violenza di genere e del femminicidio, come sarebbe – e lo spieghiamo ai nostri consulenti, alle nostre colleghe e ai nostri colleghi collegati – una messa a terra di questo lavoro sul tema della violenza di genere e del femminicidio? La nostra difficoltà è capire questa messa a terra dell'intelligenza artificiale o dell'uso dell'intelligenza artificiale, e anche della problematicità nel dare, poi, quella che oggi si chiama «valutazione del rischio», che è in capo a un magistrato che segue, ovviamente, il procedimento, guardando tutto l'iter del processo, le prove e tutto il sistema del caso.
Prego.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Signor presidente, la ringrazio per la domanda. Ha già risposto in parte lei. L'approccio di addestramento o di training (per usare il termine inglese utilizzato a livello internazionale) è la fase più delicata.
Si suppone di avere nel giro di un tempo abbastanza breve (l'ordine di grandezza è di mesi) una raccolta di informazioni sul passato, su quello che è avvenuto e inserendo all'interno di un sistema di intelligenza artificiale informazioni che hanno una serie di campi, quindi di valori riferiti a età, residenza, tipo di matrimonio, convivenza con l'autore della violenza di genere o del femminicidio. Chiaramente questa prima fase è una fase di assetto e ripulitura di informazioni – come nel progetto spagnolo che lei citava – tipicamente correlate a questi fenomeni, sulle quali gli esperti di dominio, i consulenti e gli esperti di questi temi hanno studiato per anni.

PRESIDENTE. Quindi, ingegnere, questa Commissione, queste commissarie e questi commissari dovrebbero redigerle una sorta di questionario – chiamiamolo così – di acquisizione di dati, che poi sottoporrò a lei. Questi dati verranno raccolti con i documenti e lei li inserirà in un database.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Esattamente. Dati su quello che è avvenuto fino a oggi.

PRESIDENTE. Però parte da noi la richiesta delle informazioni, da un soggetto che ha competenza.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Da chi ha queste informazioni.

PRESIDENTE. Io sto facendo domande di pura cultura, per capire come si mette in moto questo meccanismo, perché lo ignoro, come voi.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Faccio un esempio pratico. Se ho informazioni relative a 100 femminicidi o violenze di genere avvenute, l'unica cosa che non mi interessa è il nome e il cognome delle persone coinvolte; al contrario, l'età e gli altri parametri che sono stati considerati da chi ha fatto quei questionari dei progetti italiani e spagnoli (età, reddito, indirizzo di residenza o zona di residenza, eccetera) portano ad avere il primo set di informazioni.
Se l'indice dei trasporti pubblici presenti nella zona di residenza di questa persona offesa oggi non viene considerato come una variabile utile per trovare una correlazione positiva, questo alla macchina interessa poco. Noi, partendo da quelle informazioni, che sono quelle che gli esperti di dominio ritengono, giustamente, legate al fatto, possiamo espandere e cercare di trovare altre correlazioni, come ho detto prima, ad esempio, all'indice dei trasporti, all'indice di disoccupazione, cioè ad altri elementi che apparentemente non ci danno alcun elemento di correlazione. Questi oggetti funzionano così.

PRESIDENTE. Integrate pure. Prego.

Pag. 8

CECILIA D'ELIA. Signor presidente, la ringrazio.
Intanto la ringrazio per questa introduzione generale su un argomento che conosco poco, quindi non ho neanche ben capito a che punto siete con la competenza. Lei ha fatto riferimento a un Atto Senato che deve essere ancora discusso. In questo momento, voi non avete una delega.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Noi in questo momento abbiamo una delega integrata all'interno del CAD, del Codice dell'amministrazione digitale, e del decreto istitutivo di AgID, che parla dell'Agenda digitale italiana e dei piani di sviluppo.

CECILIA D'ELIA. Lei ha fatto esplicito riferimento ai dati in possesso della Commissione. Questa è una Commissione d'indagine, di inchiesta, che da quest'anno è bicamerale. Sostanzialmente, immagino, perché io non conosco l'archivio, ha un archivio che si è costituito negli anni sulla base delle indagini e delle inchieste che la Commissione ha fatto. Quindi, non è un osservatorio sulla violenza, non ha i dati della violenza e dei femminicidi che sono avvenuti in questo Paese, ma ha alcuni dati che sono il frutto di indagini che ha fatto la Commissione. Non è un organo di governo.
I dati di questa Commissione, secondo me, non vanno a costruire un algoritmo, ma sono, in qualche modo, di parte. Non so come dirlo. Sono dati parziali.
Per poter costruire l'algoritmo che si è fatto in Spagna – su cui faremo un lavoro, la Commissione andrà in Spagna e valuteremo; secondo me, è il decisore politico che deve prendere una decisione, noi possiamo dare un input – bisognerebbe intanto fare i famosi decreti attuativi di quella legge sulle statistiche della violenza, perché questo Paese è ancora fermo lì, e forse partire dai dati interni, dai dati di pronto soccorso, se volessimo provare a fare un prototipo. Io sto parlando di cose che veramente conosco poco.
Il mio dubbio è che rischiamo di mettere il carro davanti ai buoi. Dobbiamo ancora capire se vogliamo fare una cosa e se questa cosa ci interessa. Non sono convinta che siano i dati in possesso della Commissione femminicidio quelli giusti per ipotizzarla. Questa è la mia perplessità, ma non su di lei né sull'Agenzia. Vorrei che fosse chiaro. Poi c'è una responsabilità anche della Commissione.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). È stata chiarissima in quanto ha detto. Io all'inizio ho proprio detto che gli strumenti sono diversificati a seconda dell'attore che li utilizza. Ci sono soggetti che sono delegati a reprimere o a prevenire o a studiare o ad analizzare. Dal mio personale punto di vista, i dati che voi avete come Commissione sono importanti anche dal punto di vista del potere legislativo nel quale ci troviamo. Ovviamente, modulare una repressione o una prevenzione o altre azioni di contrasto a questi fenomeni va fatto non usando soltanto lo strumento repressivo, non usando soltanto lo strumento preventivo, non usando soltanto alcune parti di questi strumenti. È chiaro che, rispetto a quello che lei diceva, e che condivido, anche delle applicazioni che sono presenti in alcuni Paesi del mondo, di supporto a donne che vogliono essere aiutate rispetto a fenomeni di violenza di genere, probabilmente esula dal compito della Commissione, immagino, perché non avete il ruolo di proporre app sugli store di iOS o Android.

PRESIDENTE. Possiamo suggerirlo.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Potete?

PRESIDENTE. Le Commissioni d'inchiesta fanno delle inchieste. Le inchieste hanno degli argomenti e alla fine di ogni inchiesta uno può suggerire che ci può essere un intervento legislativo, ci può essere un intervento sociale, ci può essere un intervento con il privato. Quindi, la tipologia di indirizzo è diversa.
Do la parola all'onorevole Ferrari.

SARA FERRARI. Rispetto a quanto oggi lei ci ha detto noi avremo bisogno che Pag. 9questa Commissione rifletta, perché è per noi abbastanza nuovo il tema e sconosciuto, nel senso che forse nessuno di noi è proprio esperto di questo.
Proprio per capire quale può essere il nostro ruolo e quale può essere il vostro, ci serve capire meglio e approfondire il tema.
C'è un tema di fonte dei dati. Faccio un esempio. Quest'anno ricorre il quindicesimo anno da quando il mio territorio, che è la provincia autonoma di Trento, raccoglie i dati della violenza, suddivisi per quegli elementi classici di cui parlava lei prima. Parliamo proprio di un foglio di calcolo base, quindi rapporto tra vittima e maltrattante, le caratteristiche identitarie, anagrafiche, di studio, dati base che si potrebbero, ad esempio, ben comparare con altri elementi che sono quelli comportamentali, che poi possono darci l'elemento predittivo magari sulla valutazione del rischio, non lo so. Sto immaginando quella che lei definiva l'ipotesi che ci mette l'uomo. Io raccolgo sulla base di competenze, perché ciascuno può portare un suo elemento anche alla raccolta dei dati, e poi quei dati vengono analizzati.
Se ho capito bene, la macchina può elaborarli non solo come abbiamo fatto fino ad oggi per fare delle micro statistiche. È evidente che il fatto che ci sia un rapporto di legame affettivo fra i due è l'elemento più indicativo o che emerge maggiormente. Quindi, è uno studio base classico, tradizionale. Ci può dire, però, che ci sono altri elementi per noi sconosciuti che generano un condizionamento, poi, rispetto all'esito, se capisco bene, che noi non potremo immaginarci. La macchina ci dà il risultato soltanto o è, come diceva lei, già in grado di dirci che non ci siamo accorti del fatto che avessero fatto partire un'azione di divorzio oppure no? Sto banalizzando, lì ci arriviamo anche da soli, ma proprio perché non riesco a immaginarlo, non sono la macchina. Ci dà anche l'elemento che noi non immaginavamo come risposta? Non so se mi sono spiegata. L'esito a chi è in mano? La valutazione degli esiti dovrà essere fatta dalle stesse competenze che li hanno inseriti, immagino. Io uso un linguaggio non adeguato, mi rendo conto. Volevo chiedervi, il vostro ruolo, per inquadrare meglio, è un ruolo di ricerca? Qui stiamo, ad esempio, immaginando uno studio. È un lavoro di ricerca o anche di gestione dei dati?
Concludo sul mio timore, che però non è nei vostri riguardi, è un timore filosofico sulla manipolazione degli esiti. Vi spiego una cosa banalissima che mi ha molto toccata e impressionata nella sua banalità. Voi avrete visto quel video che è girato a Natale di tutti questi che si baciavano, i baci improbabili.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Trump e Biden, Schlein e Meloni.

SARA FERRARI. Esatto.
Questa cosa, ben costruita, era per noi evidente che si trattava di un falso. Il mio timore è: se già oggi siamo in grado di fare una cosa del genere – lo dico nella mia totale ignoranza, che sto rendendo evidente – come ci difendiamo da un messaggio, che in quel caso era straordinariamente evidente nella sua falsità, tra due persone qualsiasi, alle quali viene fatta una cosa del genere? Poi sta a loro dimostrare che quella cosa non è vera. Lo so che non c'entra in questo momento, però stiamo parlando di dove andremo a finire.
Mi riferisco alla manipolazione, all'utilizzo anche degli esiti, non soltanto del dato iniziale, ma anche del risultato.

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Grazie per la domanda. Parto dalla seconda. La mia risposta da tecnologo è che non è cambiato molto, eccetto la velocità con la quale dobbiamo adeguarci. Una finta copia di un giornale in carta stampata dei primi del Novecento o una trasmissione famosissima del secolo scorso ha ingenerato gli stessi effetti, ma i tempi per adeguarsi a una finta trasmissione televisiva dove si parlava dell'occupazione della terra da parte di alieni o altro ci ha consentito di ragionare in logica lineare. Noi esseri umani abbiamo l'abitudine a ragionare in termini lineari, ce ne siamo Pag. 10accorti purtroppo con il Covid, dove non capivamo 2, 4, 8, 16, 32. Quelle curve non sono recepite dall'intelligenza umana in maniera semplice. Qui sta succedendo la stessa cosa. Proprio ieri ho ricevuto un messaggio di smishing, dove un asserito mio figlio – ne ho due, ma non era lui – mi segnalava di contattarlo su WhatsApp perché aveva perso il telefono. È una truffa dalla quale ci difendiamo in maniera semplice oggi. Quando, e già sta avvenendo, simuleranno l'audio di uno dei miei figli, o addirittura il video, sarà molto complicato, anche per uno che tendenzialmente dovrebbe essere evoluto dal punto di vista tecnologico, non cadere in queste trappole.
Questo è l'enorme tema delle fake news, della disinformazione, che è molto agevolata da strumenti tecnologici. La mia non è una risposta cerchiobottista, ma è semplicemente un fattore tempo: non sta cambiando molto rispetto a egizi, Impero romano, Medioevo ed era contemporanea, sta cambiando semplicemente la velocità con la quale dobbiamo adeguarci. Quindi, la mia risposta, ed è su questo che noi abbiamo insistito sulla strategia per l'intelligenza artificiale, sono le competenze, che non sono soltanto i prompt engineer che citavo prima o gli alti esperti di informatica che lavorano su questi sistemi, ma sono anche i cittadini, e non la vecchietta, intesa come tipologia, o il vecchietto, ma chiunque di noi, in certi momenti e se sono mancanti certe difese, può cadere in una truffa, in un raggiro, in una fake news o ancor peggio in una disinformazione elettorale.
Ricordate tutti che nel 2024, che era un anno di voti mondiali, il tema è stato affrontato in tutte le sedi internazionali. La mia risposta alla sua seconda domanda, quindi, considerato che il fattore tempo è estremamente accelerato, è che noi dobbiamo fornire competenze, dare piccole pillole di digital divide, quando, ad esempio, la persona non si rende conto che quel video o quell'audio è falso, o non attiva agli strumenti di tutela per rimuovere il rischio, quindi fammi chiamare la stazione dei carabinieri, fammi andare...

SARA FERRARI. Queste competenze di cittadinanza digitale come le trasferiamo alla cittadinanza larga?

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). Per i nostri cugini del Dipartimento trasformazione digitale ci sono dei fondi PNRR allocati in un progetto che si chiama «Fondo Repubblica digitale», insieme alle Acri, insieme alle fondazioni bancarie. È un finanziamento importante.
All'interno della strategia abbiamo inserito questi elementi. Evidentemente, la difficoltà maggiore è creare della consapevolezza diffusa, ma già altri Paesi lo stanno facendo. Diversi Paesi del mondo, del Golfo, arabi, stanno creando programmi di massa di literacy, di alfabetizzazione, perché in qualche maniera devi elevare il livello tecnico di chi mette le mani su questi sistemi, ma devi anche tener conto di decine di milioni di persone che vanno preparate anche con piccoli strumenti didattici. In questo caso stiamo esaminando un po' di progetti che fanno proprio uso di strumenti agili e app per far crescere la competenza nella popolazione. L'ultimo esempio che stiamo analizzando è di uno degli Emirati, Dubai, che ha fatto partire questo sistema di conoscenze diffuse, che ovviamente deve essere alimentato. Sempre per il fattore tempo che dicevo prima, tra un mese uscirà qualcosa che può generare nuovi problemi. Tra un mese dobbiamo essere pronti a scalare e a migliorare quel tipo di competenza.
Rispondendo, invece, alla sua prima domanda, onorevole, il nostro ruolo è quello di sacerdoti della tecnologia, di camici bianchi della tecnologia, completamente inconsapevoli delle dinamiche di dominio che si stanno trattando. Quando noi parliamo con i colleghi delle ASL o degli istituti di ricerca scientifica ovviamente è un tipo di competenza che noi non abbiamo e stiamo in silenzio. Però, tornando al processo che lei stava descrivendo nella sua prima domanda, una volta che c'è un set di dati che ha un soggetto, che ha un compito, può essere un soggetto di Polizia giudiziaria, può essere un Pag. 11soggetto di potere giudiziario, può essere un soggetto di potere legislativo o altri o può essere un soggetto del potere esecutivo che dà degli strumenti per la popolazione. Per questo noi prescindiamo dal ruolo. Una volta che c'è il set di dati, la fase di addestramento è una fase lunga, non dura un minuto. Soprattutto, è brutto e cinico dirlo, si addestra sui casi positivi e negativi, si impara sull'esperienza. A volte l'esperienza può essere letale o fatale.
Questa fase quanto più è lunga quanto più otteniamo risultati migliori. Però, tornando al commento che faceva l'onorevole prima rispetto al timore...

SARA FERRARI (fuori microfono). La lunghezza dipende dalla quantità di dati?

MARIO NOBILE, Direttore Generale dell'Agenzia per l'Italia digitale (AgID). La lunghezza dipende dalla quantità di dati. A noi con il camice bianco non costa inserire delle correlazioni apparentemente non utili, come l'indice di criminalità o l'indice di trasporto pubblico o la presenza di palestre e centri sportivi in quella zona, perché l'incrocio di alcune informazioni come queste, che noi gestiamo come dati aperti, open data – tra l'altro la provincia di Trento ha delle ottime performance sulle forniture di dati aperti –, non richiede un passaggio lento. La macchina lo fa subito. Poi, è chiaro che non possiamo essere noi a dare la risposta che è corretto.
Ricorderete qualche statistico buontempone che, durante il Covid, fece il paragone tra l'andamento del prezzo della banana e l'andamento dei morti mondiali di Covid, e avevano la stessa curva. Lui disse: c'è correlazione? No, perché a volte i numeri sembrano dare la stessa curva, ma non c'è una correlazione causa-effetto.
Il nostro ruolo in quello che dicevamo prima è molto blando in termini di ricerca, molto alto in termini di gestione e di ausilio, nel senso che non dobbiamo andare a cercare i dati di sicurezza sociale, trasporti o altre informazioni apparentemente non correlate andandoli a fabbricare. Quelli li abbiamo già, non completi a volte, non su tutto il territorio nazionale, perché abbiamo 23.000 pubbliche amministrazioni, come sapete, però a domanda dell'esperto di dominio o a nostra proposta «esperto di dominio, inserendo l'indice delle palestre, appare una correlazione», sarà lui poi a valutare nella sua competenza di dominio che questa è una cosa diversa, è la banana con l'andamento dei morti Covid. È una cosa che trascuro. Apparentemente i numeri sono simili, ma questa logica non torna.
Ho citato il fattore tempo perché più addestriamo, più la macchina impara.

PRESIDENTE. Non so se vi sono altre domande da parte dei colleghi collegati.
L'ingegnere ha già prodotto a questa Commissione un testo, che integrerà. Volevo chiederle, vista anche la nostra prossima missione in Spagna in primavera, se magari, da tecnici, voi potete approfondire questo algoritmo spagnolo VioGén 2 e magari integrare la relazione, per farci capire cosa stanno facendo loro. Ovviamente, avrà capito dalle nostre domande che è un argomento per noi difficile da approcciare mentalmente e mettere a terra. Magari ci aiutate a capire la Spagna, che l'ha già deliberato anche dal punto di vista normativo e legislativo, da dove parte, che cosa sta facendo e che cos'è questo algoritmo VioGén.
Ci preparate per la missione, perché così quando andremo in primavera avremo modo di parlare anche con i referenti di questo progetto, magari ci date quelle note tecniche che per noi sono quelle più farraginose. Stiamo facendo anche l'analisi di diritto comparato, di che cosa fanno le altre nazioni e capire cosa accade anche da questo punto di vista.
Tutto questo con la consapevolezza che per il nostro archivio, che per noi è preziosissimo e riservatissimo, è una nostra considerazione quali dati mettere a disposizione ed eventualmente quali altri settori voi dovete andare a scavare.
Il nostro archivio non è una base di partenza. Noi abbiamo sicuramente dei dati, ma, come giustamente ha detto la Pag. 12senatrice D'Elia, partono da alcune inchieste con dei perimetri. Poi è la Commissione che decide che cosa si vuole fare e in quale modo. Intanto, magari, se ci aiutate a capire con questo strumento spagnolo che cosa hanno fatto, potrebbe esserci utile, soprattutto dal punto di vista tecnico della messa a terra.
Se non ci sono altre domande, ringrazio i colleghi e le colleghe, ringrazio naturalmente l'ingegner Nobile, la dottoressa Giacomantonio e l'avvocato Carabellese, e dichiaro conclusa l'audizione.

La seduta termina alle 14.55.