PRESIDENZA DEL PRESIDENTE
ALBERTO LUIGI GUSMEROLI

La seduta comincia alle 13.40.

Sulla pubblicità dei lavori.

PRESIDENTE. Avverto che la pubblicità dei lavori della seduta odierna sarà assicurata anche mediante la resocontazione stenografica e la trasmissione attraverso la web-tv della Camera dei deputati.

Audizione, in videoconferenza, di rappresentanti del Ministero della cultura.

PRESIDENTE. L'ordine del giorno reca, ai sensi dell'articolo 144, comma 1, del Regolamento, l'audizione, in videoconferenza, di rappresentanti del Ministero della cultura nell'ambito dell'indagine conoscitiva sull'intelligenza artificiale: opportunità e rischi per il sistema produttivo.
Invito chi interviene a volerlo fare sinteticamente, in modo da lasciare più spazio possibile alle domande dei commissari, riservando gli ulteriori approfondimenti ad un eventuale contributo scritto, che verrà volentieri acquisito ai lavori della Commissione, focalizzandosi sull'oggetto dell'indagine come definito dal programma.
Do la parola a Salvatore Sica, consigliere giuridico del Ministro della cultura, ricordando che il tempo complessivo a disposizione è di circa otto minuti.

SALVATORE SICA, consigliere giuridico del Ministro della cultura (intervento in videoconferenza). Signor presidente, la ringrazio. È stato già trasmesso un documento del Comitato permanente ministeriale per il diritto d'autore, organismo previsto dalla legge n. 633 del 1941 sul diritto d'autore, di cui in questo momento ho l'onore di essere il presidente.
Il Ministero ha fatto suo questo documento, questa posizione unica votata all'unanimità dal Comitato, che sostanzialmente si focalizza sull'intelligenza artificiale e sul diritto d'autore.
Sotto questo profilo – procederò per flash, scusatemi – segnalo una premessa metodologica: nessuna pretesa di poter bloccare l'evoluzione tecnologica e, men che meno, di poter intervenire in maniera impattante rispetto a questo.
Seconda posizione. L'intervento vuole essere di hard law, come sta avvenendo con il Regolamento europeo, ma anche di soft law, attraverso gli interventi delle Authority, in particolar modo le due Authority più interessate.
Terzo elemento. L'assoluta contrarietà all'attenuazione delle prerogative del diritto d'autore per effetto dell'espansione dell'intelligenza artificiale. Il diritto d'autore – ricordo – non è solo una prerogativa proprietaria, ma è anche strumento di crescita e di sviluppo della creatività. La creatività remunerata crea nuova creatività. Mi scuso per il gioco delle parole, ma era...

PRESIDENTE. Le chiedo scusa. Si sente malissimo, quindi, o lei si avvicina al microfono o si allontana. Deve trovare un modo, perché così l'audizione...

SALVATORE SICA, consigliere giuridico del Ministro della cultura (intervento in videoconferenza). Adesso va meglio?

PRESIDENTE. Sì. Grazie.

SALVATORE SICA, consigliere giuridico del Ministro della cultura (intervento in Pag. 4videoconferenza). Dicevo che il documento del Comitato per il diritto d'autore ha il suo focus sul diritto d'autore e sull'intelligenza artificiale, che è anche il cuore della posizione del Ministero sull'argomento. Il Ministero ritiene che non sia assolutamente ipotizzabile che l'introduzione di strumenti di intelligenza artificiale possa far attenuare le prerogative proprietarie connesse al diritto d'autore. Si badi bene, non sono solo proprietarie, ma sono anche strumento di generazione di nuova creatività. La creatività remunerata determina nuova creatività. È alla base di questo principio.
Sotto questo profilo, i punti critici che vengono segnalati e sui quali si intende mantenere alta l'attenzione...

PRESIDENTE. Le chiedo nuovamente scusa, ma l'audio si sente malissimo si capisce con estrema difficoltà ciò che dice. O si trova una soluzione oppure dovremo interrompere.

SALVATORE SICA, consigliere giuridico del Ministro della cultura (intervento in videoconferenza). Adesso va meglio?

PRESIDENTE. Magari può provare a parlare un po' più piano. Proviamo.

SALVATORE SICA, consigliere giuridico del Ministro della cultura (intervento in videoconferenza). Adesso va meglio? Mi dica se si sente, altrimenti dobbiamo rinviare, purtroppo. Non ho tempo per chiamare i tecnici adesso.

PRESIDENTE. Prego.

SALVATORE SICA, consigliere giuridico del Ministro della cultura (intervento in videoconferenza). Non so quanto si sia sentito, comunque noi abbiamo presentato un documento del Comitato ministeriale per il diritto d'autore, da me presieduto, che sintetizza la posizione del Ministero su intelligenza artificiale e diritto d'autore, che è di assoluta contrarietà a quella che definiamo «ideologia dell'open access», cioè l'attenuazione e l'eliminazione del diritto d'autore per effetto dell'introduzione di meccanismi di intelligenza artificiale.
In particolar modo, l'attenzione deve essere tenuta desta sulla fase di generazione del content da parte dell'intelligenza artificiale, nella quale è praticamente certo che quasi tutti i principali operatori vadano ad accaparrare contenuti coperti dal diritto d'autore.
Sotto questo profilo segnaliamo che questo è un compito del legislatore. È vero che l'emanando regolamento, ormai prossimo alla pubblicazione, è – come è noto – una fonte auto-applicativa, perché non è una direttiva, ma è pur vero che possono esservi più o meno spazi di applicazione nel nostro territorio sui quali può intervenire il legislatore. Tra questi, l'elemento da segnalare fondamentale è quello della retroattività, dell'efficacia temporale retroattiva del regolamento. Davvero in estrema sintesi, se il regolamento dovesse prevedere – auspichiamo di no, nell'attuale wording non è così – che esso non si applica se non per l'avvenire, avremmo una situazione davvero paradossale, che pur affermandosi l'obbligo di trasparenza dei gestori dell'intelligenza artificiale rispetto ai contenuti accumulati in violazione o in compliance con il diritto d'autore, nonostante questa affermazione, se essa è a valere soltanto per l'avvenire (sono ancora più chiaro), nel frattempo miliardi di dati sono stati già incamerati dagli over the top che si occupano di questo settore.
Quindi, per noi e per il legislatore, la segnalazione che possiamo dare, il contributo che possiamo dare è questo: assoluta contrarietà all'open access e tutela autoriale confermata. Non è solo una tutela autoriale dal punto di vista economico, della corrispettività del diritto d'autore, ma è tutela della creatività nuova e anche tutela del diritto morale d'autore. L'intelligenza artificiale può impattare, sostanzialmente, criticamente su tre ambiti: ovviamente, il già segnalato diritto d'autore; la correttezza nell'autenticare l'informazione; la protezione dei dati personali.
Ma quando si tutela il diritto d'autore si tutelano anche altri aspetti. Uno su tutti, un autore potrebbe vedere violato il proprioPag. 5 diritto d'autore non soltanto perché l'intelligenza artificiale lo acquisisce senza pagare il corrispettivo, ma anche perché un pezzo della propria creazione potrebbe vedersi appostato o ricomposto in un'altra creazione che ne altera l'identità originaria.
In estrema sintesi, il focus del Ministero della cultura è assolutamente su intelligenza artificiale e diritto d'autore, in attesa della pubblicazione del testo definitivo del regolamento ma fin da ora, segnalando ciò come massima allerta o attenzione legislativa e, di seguito, amministrativa, in collaborazione con le principali società di raccolta dei diritti, perché l'intelligenza artificiale, oltre agli altri possibili ambiti di pericolosità, non rappresenti anche il de profundis del diritto d'autore.
Non so se sono stato chiaro e, soprattutto, se sono stato ascoltato.

PRESIDENTE. Non essendoci richieste di intervento, ringrazio l'ospite intervenuto e dichiaro conclusa l'audizione.

Audizione, in videoconferenza, di Paolo Benanti, docente di etica della tecnologia alla Pontificia università gregoriana.

PRESIDENTE. L'ordine del giorno reca, ai sensi dell'articolo 144, comma 1, del Regolamento, l'audizione, in videoconferenza, di Paolo Benanti, docente di etica della tecnologia alla Pontificia università gregoriana nell'ambito dell'indagine conoscitiva sull'intelligenza artificiale: opportunità e rischi per il sistema produttivo.
Invito chi interviene a volerlo fare sinteticamente, in modo da lasciare più spazio possibile alle domande dei commissari, riservando gli ulteriori approfondimenti ad un eventuale contributo scritto, che verrà volentieri acquisito ai lavori della Commissione, focalizzandosi sull'oggetto dell'indagine come definito dal programma.
Do la parola a Paolo Benanti, docente di etica della tecnologia alla Pontificia università gregoriana.

PAOLO BENANTI, docente di etica della tecnologia alla Pontificia università gregoriana (intervento in videoconferenza). Signor presidente, grazie per questo invito e per la possibilità di provare a riflettere insieme sulle sfide che l'intelligenza artificiale può avere per il sistema produttivo italiano.
Prima di tutto, mi sembra doveroso inquadrare il tema secondo la prospettiva e le competenze di chi parla. Da accademico che si occupa di etica della tecnologia, che cosa vuol dire guardare l'intelligenza artificiale con un profilo etico? Il primo grande elemento ha a che fare con il tipo di relazione che sussiste quando una forma di innovazione impatta un determinato sistema sociale. Abbiamo vari esempi, magari da passare come innovazione tecnologica, che possono essere utilizzati per descrivere che cosa vuol dire interrogare eticamente una forma di innovazione tecnologica. Uno in particolare potrebbe essere metaforico, per i discorsi che stiamo facendo. Quando negli anni Settanta c'è stato bisogno di una industrializzazione del prodotto agricolo, in California si è moltiplicato il numero di fattorie che producevano pomodori. I pomodori venivano inscatolati e, con l'inscatolamento dei pomodori, si garantiva un accesso a un cibo a basso costo nelle grandi città americane.
All'inizio degli anni Settanta in California c'erano circa 3.200 aziende di pomodori. A metà degli anni Settanta una grande innovazione tecnologica, una raccoglitrice automatica di pomodori, è stata lanciata sul mercato, prodotta dall'università della California nel dipartimento di ingegneria. È interessante vedere che cosa è successo dopo l'introduzione di questa forma di innovazione. Alla fine degli anni Settanta, inizio anni Ottanta, il numero di fattorie che producevano pomodori in California è sceso da 3.200 circa a un numero paragonabile a 240-300, circa un decimo. Potremmo chiederci se il problema è stata una crisi nel consumo e nella raccolta di pomodori o legata ad altro. In realtà, il consumo di pomodori è aumentato, la richiesta di pomodori è aumentata. Quello che è successo è legato direttamente al fattore dell'innovazione tecnologica introdotto in quel sistema produttivo. La macchinaPag. 6 in questione, che era una macchina in grado di passare sulle singole file di pomodori piantati, raccoglierli, estirpare la pianta da buttare e disporre il tutto in cassetta, abbassava il costo di raccolta del pomodoro a due dollari a tonnellata, un costo irrisorio rispetto ai costi precedenti. Il problema vero è che quella macchina costava 175 mila dollari dell'epoca. Tradotti in moneta corrente, circa mezzo milione di dollari. Quel costo d'acquisto non ha consentito a una serie di produttori del sistema agricolo californiano di adeguarsi a quella spesa e, quindi, ha contratto il mercato.
L'innovazione ha sempre un costo e quel costo produce una contrazione del mercato stesso. Quando parliamo di una innovazione legata all'intelligenza artificiale dobbiamo sapere che, siccome questa viene distribuita su grandi piattaforme tecnologiche con pochi grandi player globali che possono fornire questo tipo di innovazione, probabilmente il primo grande impatto che avrà sul sistema sarà quello di ridurre il numero di player che si possono permettere questo strato di innovazione.
Un secondo esempio – sempre sui pomodori – è legato a quello che è accaduto al pomodoro stesso. Quel tipo di pomodoro non era più adatto alla raccolta automatica di un sistema meccanico degli anni Settanta. È stato necessario, per venire incontro a questa nuova competitività dettata da questa forma di innovazione, selezionare un nuovo tipo di pomodoro che sapesse resistere maggiormente alla compressione meccanica dello strumento. Il prezzo – per chi vi parla, probabilmente insostenibile – è stato quello di un pomodoro con molto minore sapore e gusto, a fronte di un pomodoro molto più economico.
L'innovazione non solo costringe il mercato e lascia solo i player che si possono permettere il costo dell'innovazione, ma ha anche la capacità di cambiare la natura di alcuni prodotti. Questo, mutatis mutandis, ci porta a dire che uno dei primi effetti che avrà l'innovazione tecnologica dell'intelligenza artificiale sui vari mercati ai quali essa verrà applicata sarà quello di ridurre il numero di competitor che ci sono e, probabilmente, anche di cambiare la natura di alcuni prodotti. Sopravvivranno quei prodotti che meglio si adattano a una lavorazione più economica e automatica prodotta dagli algoritmi.
Tutto questo sfida un comparto produttivo nel momento stesso in cui, per esempio, è legato a sinonimo di alcune cose che sono eccellenze e altri prodotti che caratterizzano il sistema Paese, anche in confronto a una competizione globale. Questo va anche capito all'interno del fatto che, se dovessimo rimanere sul mercato con prodotti troppo costosi perché non supportati dal processo di automazione, potremmo non essere concorrenziali e potremmo, a nostra volta, subire forme indirette di questa stessa natura e innovazione.
Un secondo tipo di discussione va fatto guardando che tipo di innovazione è l'innovazione dell'intelligenza artificiale. Ogni storico della tecnologia sa che le tecnologie si dividono in due grandi famiglie. Una prima famiglia è quella delle cosiddette «special purpose technologies», una tecnologia che serve a svolgere un compito specifico. Di solito, possiamo capire questo tipo di tecnologie come un qualcosa che l'uomo sviluppa quando ha un bisogno. L'uomo ha fame e sviluppa la zappa, l'aratro a spalle, l'aratro a buoi, il trattore, il trattore a guida autonoma.
Tuttavia, vi è un altro momento, all'interno della storia dello sviluppo umano, in cui sviluppiamo tecnologie che non servono a fare una cosa specifica, che non sono special purpose technologies, ma sviluppiamo tecnologie che cambiano il modo di fare tutte le cose che già facciamo. Si chiamano «general purpose technologies». L'energia chimica, l'energia a vapore, l'energia elettrica sono tecnologie di questo tipo. La corrente elettrica non serve nello specifico a fare qualcosa. Oggi è molto difficile trovare qualcosa che funzioni senza corrente elettrica.
L'intelligenza artificiale ha la caratteristica di essere una general purpose technology. Non serve a fare qualcosa, ma ha la capacità di cambiare il modo con cui facciamo tutte le cose, cioè di infondersi all'interno di tutti i processi produttivi. QuestoPag. 7 ci porta a dire che diventa anche strategico l'approvvigionamento e la capacità di fornire servizi di questo tipo a un'intera platea di servizi produttivi e di ambienti produttivi che caratterizzano anche il nostro sistema Paese.
Quando, in passato, ci siamo trovati di fronte all'elettrificazione della società abbiamo risposto creando anche degli enti che sapessero garantire un approvvigionamento elettrico su tutto il territorio. È nato l'Enel, che ha acquisito al suo interno tutta una serie di altri produttori di corrente elettrica sul territorio nazionale. Tra questi anche la Società idroelettrica piemontese (SIP), che poi si è dovuta rispecializzare sulle telecomunicazioni, dando luogo, poi, ad altri esiti industriali.
Di nuovo, quindi, da eticista, la domanda è come fronteggiare questo tipo di sfida. Di fronte al fatto che avverrà un'innovazione, che l'innovazione non riguarderà una verticalità della produzione, ma sarà trasversale rispetto a tutti gli ambiti della produzione e che questo tipo di innovazione si connette a due elementi, a una capacità computazionale e alla reperibilità e qualità dei dati sulla quale essa si svolge, la domanda è come garantire un'innovazione del sistema produttivo Paese senza rimanere, in qualche misura, vincolati a produttori o a fornitori di servizi che potrebbero, di fatto, non essere in grado di sopperire a quelli che sono i bisogni nazionali. Potenza computazionale, quantità di dati e reperibilità del software diventano requisiti fondamentali per poter garantire alle aziende, alle imprese italiane una ulteriore stagione di competitività rispetto a uno scenario globale che va cambiando.
È evidente che qui c'è un altro problema di natura strategica. Se l'intelligenza diventa uno strato intermedio (middle layer) nell'esecuzione dei vari processi, come lo è la corrente, perché tra l'andare ad un'azione e la sua esecuzione, senza corrente elettrica, questa non avviene, è chiaro che diventa fondamentale poter avere un controllo su quello strato intermedio. Chi controlla quello strato intermedio ha la capacità di controllare o di impedire l'esecuzione dei processi produttivi.
Un ulteriore elemento è l'idea della natura stessa di questa innovazione. È un'innovazione che ha non solo la capacità di surrogare la potenza muscolare, come hanno fatto i precedenti strati dell'automazione. L'energia a vapore surrogava la potenza muscolare all'interno della fabbrica. Ugualmente l'energia chimica, ugualmente l'energia elettrica. Ma l'intelligenza artificiale si presenta come capace di surrogare anche alcune forme di decisioni umane. Sostanzialmente, se prendiamo una delle definizioni di «intelligenza artificiale» che appartengono o sono appartenute a una delle diverse strade di elaborazione dell'AI Act vediamo che si tratta di una definizione molto larga, che rappresenta un sistema che si adatta alle circostanze e che, in qualche misura, è capace di trovare mezzi adeguati per corrispondere a un fine, che è il fine operativo per il quale è progettato.
È chiaro che uno degli elementi etici fondamentali si riassume nel vecchio adagio che non tutti i fini giustificano alcuni mezzi, che i mezzi non sono giustificati dai fini. Quindi, avere un sistema che in automatico sceglie i mezzi per perseguire i fini chiede che quel sistema risponda ad alcune caratteristiche di qualità e di governabilità che devono essere assolutamente prese in carico dal decisore politico. Serve, da questo punto di vista, una sorta di guardrail che impedisca – per usare un'immagine figurata di questa nuova stagione – a questa automobile di andare fuori strada, affinché questa macchina si mantenga all'interno di alcuni canoni e criteri e si evitino incidenti all'interno delle attività produttive che possano mettere in tensione l'esistenza del lavoratore umano con l'esistenza del lavoratore macchinico, dove non si parla solo di danno fisico, ma si parla anche di una rivalità che può spaziare su diversi livelli dell'azione stessa: da una rivalità competitiva su chi è assunto e chi non è assunto fino a una rivalità che può portare anche a eventuali danni personali.
Concludo questa mia breve riflessione e carrellata etica con quello che, forse, potrebbe essere un altro degli elementi principali da valutare eticamente di fronte a questa innovazione dell'intelligenza artificiale.Pag. 8 È un paradosso fatto da uno dei padri fondatori delle discipline informatiche, che si chiama Hans Peter Moravec, il quale sottolinea una caratteristica peculiare di questa forma di innovazione tecnologica: l'intelligenza artificiale è molto capace di surrogare capacità cognitive alte rispetto a capacità cognitive basse. Provo a spiegarlo con un esempio di tutti i giorni. Se provassimo ad andare su un mercato online in internet, troveremmo una calcolatrice solare in grado di fare delle radici quadrate a un prezzo di vendita inferiore a un euro. Se, invece, volessimo una mano robotica in grado di aprire una maniglia, non ci basterebbero, probabilmente, 100 mila euro o dovremmo rivolgerci a un istituto specializzato, come potrebbe essere l'IIT di Genova. Perché questa differenza? La differenza è dovuta al fatto che un calcolo, una capacità cognitiva alta, la macchina lo elabora meglio. Un'azione, un movimento, che, in realtà, per l'uomo è molto più banale, è molto più difficile da realizzare per una macchina. Un bambino di 4-5 anni è capace di aprire la porta di casa e scappare in strada se non stiamo accorti, mentre per fare una radice quadrata dovrà avere almeno 12-13 anni.
Questo cosa significa? Significa che la surrogazione dell'intelligenza artificiale sarà in grado di aggredire soprattutto quei lavori a più alto contenuto cognitivo, che oggi rappresentano i lavori meglio pagati all'interno della distribuzione dei salari sociali. Quindi, l'impatto di questa stagione dell'automazione è da gestire con un altro criterio di urgenza, perché può aumentare le disuguaglianze sociali e la redistribuzione della ricchezza all'interno di un tessuto produttivo.
Questo ci porta a dire che, forse, la prima vera grande questione etica dietro l'intelligenza artificiale è la necessità di una gestione, di un accompagnamento politico di questa forma di innovazione perché questa venga, in qualche misura, contenuta all'interno di argini che consentano al sistema di rimanere stabile, di garantire le qualità e alcune eccellenze di produzione e di garantire gli interessi dei diversi portatori di interessi, cioè aziende e lavoratori, all'interno di un contesto di sfida, di scenario globale che non è esattamente, in questo momento, uno dei contesti più tranquilli e privi di conflittualità.
Mi permetto di dire che, da questo punto di vista, questa va capita anche come una possibilità. Va capita come una possibilità perché, se guardiamo i nostri dati demografici, in questo momento abbiamo circa 40 province in Italia in cui il numero dei pensionati è maggiore del numero dei lavoratori. Questo significa che, per mantenere la competitività globale del sistema Paese, dobbiamo trovare il modo di aumentare la produttività dei lavoratori, e l'intelligenza artificiale potrebbe essere uno strumento che, da questo punto di vista, ci dà un grande aiuto.
Infine, stagioni precedenti di innovazione tecnologica ci hanno detto che esiste uno specifico italiano nell'approcciare al tema stesso dell'innovazione. Quando è stata l'automobile il tema generale dell'innovazione, probabilmente il nostro Paese non è stato competitivo con i grandi numeri del mercato americano, ma abbiamo creato modelli di alta qualità e di altissima riconoscibilità, con tanto valore aggiunto – pensiamo ai grandi modelli di lusso del nostro mercato automobilistico –, che erano caratterizzati per uno speciale tipo di design e per uno speciale tipo di cura dei dettagli e dei particolari che ha contraddistinto il modello produttivo italiano.
Allora, di fronte al fatto che l'intelligenza artificiale è un prodotto, potremmo anche chiederci se può esistere o essere pensato, incentivato o favorito un design italiano di questi prodotti che sappia rispettare quella persona umana, quella parte dell'utente rispetto alla macchina in uno stile, stile che si fa anche erede di una serie di elementi che ci caratterizzano come sistema Paese.
Mi spiace aver portato più domande che soluzioni, ma questo è forse anche il vantaggio di poter fare un mestiere come il mio, che è quello dell'eticista, che ha il lusso di fare domande e di non dover dare risposte. Grazie.

Pag. 9

PRESIDENTE. Do la parola ai colleghi che intendono intervenire per porre questi o formulare osservazioni.

EMMA PAVANELLI. Signor presidente, ringrazio il professor Benanti per la lezione – credo la possiamo definire in questo modo –, che ho trovato piuttosto interessante, anche perché in contrapposizione con altre audizioni che abbiamo avuto in queste ultime settimane, dove invece numerose volte ci è stato detto che grazie all'intelligenza artificiale ci sarà maggiore inclusività, maggiore possibilità per chi magari oggi ha problemi di disabilità e anche di inclusività culturale. Pertanto, è evidente che il tema, a seconda di come lo si vuole vedere o di come lo si vuole capire, rappresenta comunque un tema che apre un dibattito piuttosto forte.
Lei ci ha posto diverse questioni, tra le quali reputo la più importante quella che servono regole di protezione, le stesse che lei ci ha descritto come un guardrail. Sicuramente questa è una delle domande che ci poniamo anche in questa sede, come magari sta capitando anche in altre Commissioni, dove si stanno facendo indagini conoscitive similari alla nostra ma sotto altri punti di vista.
Concordo con lei quando sostiene che sicuramente tanti lavori e tanti processi saranno velocizzati e che l'AI potrebbe rappresentare anche una positività per il nostro Paese, ma mi pongo una domanda, che ho già posto in precedenza a molti auditi: come faranno a sopravvivere soprattutto le piccole e medie imprese, ma anche quei professionisti, quei commercianti, insomma tutta una serie di professionalità, se non diamo loro la possibilità di rimanere sul mercato? Si rischia anche di determinare un problema sociale di desertificazione all'interno delle nostre città e del nostro sistema produttivo, di cui conosciamo le numerose conseguenze.
Vorrei sapere, quindi, se da questo punto di vista lei ha suggerimenti da darci. Proprio ieri, in un'altra audizione, ci è stato detto che nei prossimi dieci anni l'Italia perderà 3,8 milioni di posti di lavoro, per cui dobbiamo trovare un modo per ricollocare questi lavoratori, soprattutto quelli che sono in età avanzata e magari non hanno una formazione digitalizzata. Pertanto, bisogna lavorare moltissimo anche sulla formazione, a tutti i livelli, sia sulla fascia dei più giovani che sulla fascia dei quarantenni e cinquantenni.
I temi sono tantissimi e devono necessariamente riguardare sia la protezione delle imprese che, ovviamente, la protezione del mondo dei lavoratori, ambito in cui rientra anche tutta la parte sociale.
La ringrazio.

ILARIA CAVO. Signor presidente, ringrazio il professor Benanti, che ho avuto modo di incrociare anche nelle altre audizioni in occasione del lavoro fatto dal Comitato di documentazione della Camera dei deputati rispetto all'attività di documentazione della Camera. La ringrazio di questo intervento molto chiaro che ha fatto e degli stimoli che ci ha dato.
Ho una domanda concreta che mi viene da farle, che va a sommarsi in parte a quella della collega. Lei giustamente ha parlato della necessità di questi «guardrail», un'immagine molto stimolante e significativa; le chiedo, senza chiaramente voler sconfinare nel suo ruolo, se ci può dare qualche indicazione specifica di qualche guardrail necessario per evitare che questa macchina sbandi e vada a sbattere, cosa che chiaramente non deve accadere. Quindi, le chiedo se ci può declinare più nello specifico che cosa intende per regole e accorgimenti che bisogna avere.
La seconda domanda riguarda il tema del lavoro. Ci ha spiegato molto bene, e la ringrazio, ed è emerso molto chiaramente, che il tema della surroga è soprattutto sui livelli alti del lavoro, non sui livelli bassi. Ma allora mi viene da chiederle se nelle proiezioni o negli studi funziona, comunque, il meccanismo della sostituzione demografica o meno. D'altronde, se si sostituisce soltanto a livello alto, si riuscirà a compensare con la forza lavoro, che non ci sarà?
Arrivo alla domanda di fondo. Da quello che lei ha detto – questo, almeno, ho compreso io, ovviamente non voglio metterle in bocca nessuna parola – sembra che la sfida dell'intelligenza artificiale sia una Pag. 10sfida che non si possa non accettare, diversamente, come lei ha spiegato, si rimane indietro e non si può rimanere indietro sull'automazione. Ma allora le chiedo: non si può non accettare anche eticamente?
Grazie.

ENRICO CAPPELLETTI. Signor presidente, ringrazio il professor Benanti. Coglierei l'occasione per esprimere una considerazione e poi per fare una domanda.
La mia principale preoccupazione è che l'Italia non sia in grado di cogliere questa opportunità, che rimanga indietro. Lo dico perché il progresso andrà avanti a prescindere e purtroppo nella nostra storia ci sono tanti esempi di occasioni perse. Ne cito un paio che mi hanno, anche personalmente, colpito molto.
È italiano l'inventore del microchip, parlo dell'ingegner Federico Faggin, vivente, eppure in Italia non abbiamo un'azienda che produce microchip. Anzi, abbiamo dovuto subire anche lo smacco del mancato investimento da parte di Intel, che era già stato pianificato, un investimento assolutamente importante, parliamo di 4 miliardi di euro e 5.000 lavoratori diretti, che è sfumato, a vantaggio di Polonia e Germania. È italiano (insegna o insegnava fino a poco tempo fa presso l'Università di Padova) un docente che è stato ispiratore o che, comunque, ha contribuito in maniera significativa alla definizione dell'algoritmo di Google. L'abbiamo vissuto, quel periodo, almeno chi ormai ha superato i cinquant'anni si ricorderà sicuramente che prima di Google vi era una pletora di motori di ricerca che funzionavano, alcuni bene, altri meno, poi c'è stata un'innovazione tale che ha portato sostanzialmente all'acquisizione di una posizione di monopolio. Anche in questo caso abbiamo avuto l'intuizione, però da questo punto di vista siamo rimasti fermi al palo, senza poterla sfruttare, come invece ha fatto Google, che è diventata una potenza a livello mondiale.
Adesso ci troviamo nuovamente in una situazione di questo tipo, per cui dovremmo cercare in qualche maniera di fare tesoro delle esperienze del passato per cercare di trarre giovamento anche noi come Paese, oltre che a livello europeo, da questa innovazione. Però, da una parte c'è una capacità di investimento veramente incredibile. Forse mai nella storia dell'umanità ci siamo trovati di fronte a miliardi e miliardi di investimenti da parte di società private, che si possono porre in essere difficilmente addirittura a livello europeo, non solo nazionale. Dall'altra parte, c'è la possibilità di rendere le nostre imprese, ma anche i nostri cittadini maggiormente in grado di poter sfruttare questa innovazione, perché la differenza la farà chi la saprà utilizzare, potendo così rimanere sul mercato sfruttandone il vantaggio competitivo rispetto a chi rimarrà indietro.
Arrivo alla domanda. Il regolamento che è già stato adottato a livello di Parlamento europeo inerente ai sistemi di intelligenza artificiale già enuncia alcuni princìpi e mette alcuni paletti, e quindi in qualche maniera lo potremmo considerare anche il «guardrail» all'interno del quale andare a intervenire come iniziativa politica. Ebbene, vorrei sapere qual è il punto di vista del professor Benanti rispetto a questo regolamento che potrebbe rappresentare un inizio.
Grazie.

PRESIDENTE. Non essendovi ulteriori richieste di intervento, do la parola al professor Benanti per la replica.

PAOLO BENANTI, docente di etica della tecnologia alla Pontificia università gregoriana (intervento in videoconferenza). Vi ringrazio anche per le domande.
Una prima forma di «guardrail etico», più che come dispositivo giuridico direi come attenzione etica all'implementazione di queste tecnologie, è anche quella di fornire delle alternative. Questo si connette anche a quello che hanno detto gli onorevoli Pavanelli e Cavo, nel senso che il comparto produttivo italiano è molto particolare, perché abbiamo delle eccellenze, ma con una dimensione di azienda che non è senz'altro la dimensione di aziende giganti come altre che se ne trovano da altre parti del mondo.
Questo grande tessuto di PMI, che rappresenta anche la ricchezza del tessuto Pag. 11italiano, non ha la dimensione adeguata per permettersi una ricerca e uno sviluppo interno che gli consenta di sviluppare soluzioni endogene di intelligenza artificiale. Una delle prime cose che potrebbero accadere è che siano costrette a ricorrere a soluzioni esterne. Ma è chiaro che chi fornisce la soluzione a quel punto ha il potere di sottrarre parte dei margini di ricavo stabilendo la tariffa su questo servizio che viene offerto. Questo potrebbe, di fatto, diventare un detrimento enorme alla sussistenza del mercato di queste entità.
Costruire l'alternativa, allora, sarebbe la prima grande sponda da fare. Questo – lo ripeto – è successo in passato: quando il tema sono state le comunicazioni noi abbiamo avuto una grande azienda nazionale, quando il tema è stata l'energia chimica noi abbiamo avuto una grande azienda nazionale, quando il tema è stata l'energia elettrica noi abbiamo avuto una grande azienda nazionale. Non so se dobbiamo pensare, per come è fatto il tessuto produttivo italiano, a una grande soluzione nazionale che possa, di fatto, assumere su di sé i costi di queste innovazioni e riversarli come competitività sul territorio, affinché le aziende le possano sfruttare per rimanere competitive a livello internazionale.
È un'operazione che forse siamo ancora in tempo a fare, non è troppo tardi, ma che garantirebbe a un Paese che ha questa particolare e peculiare costituzione aziendale di poter vivere anche questa stagione da protagonista. Lo ripeto, non siamo aziende che hanno una cubatura tale da potersi permettere di investire per avere un reparto di sviluppo in una nazione che consenta lo sviluppo di soluzioni proprietarie e uniche da quel punto di vista. Avere un qualcosa che, di fatto, è trasversale e afferente a un sistema comune, e in qualche misura prodotto o favorito dal legislatore, potrebbe essere un leverage estremamente importante.
A fianco a questo va messo, sempre come altra grande questione etica, «guardrail etico», quello che potremmo definire un criterio di trasparenza. Quando oggi utilizziamo, per esempio, un macchinario all'interno di un processo produttivo, vi è tutta una serie di norme di sicurezza che impongono dei dati di targa su quel dispositivo. Se io compro una pompa per un processo industriale di qualche tipo, sulla pompa c'è una targhetta che indica i limiti operativi di quello strumento. Oggi questi sono strumenti chiusi, sono strumenti che non sono accessibili e non sono trasparenti, che quindi inducono a forza nell'utilizzatore all'interno del processo di assumersi dei rischi o di dover comprare a scatola chiusa dei sistemi rispetto ai quali non ha controllo, compreso il controllo sulla qualità di estrazione del know-how che questi sistemi stessi possono fare rispetto ai processi produttivi.
Occorre, quindi, mettere in atto una serie di dispositivi che consentano di avere una sorta di grande «direttiva macchine» per questa stagione, che dia garanzie di sicurezza e dia garanzie di trasparenza rispetto a quelli che sono gli strumenti dell'innovazione: questo potrebbe aiutare i diversi player a vincere e a vivere questa stagione.
Penso, quindi, di aver risposto più o meno a tutti e tre gli interventi per quanto riguarda opportunità e «guardrail».
Per quello che riguarda l'AI Act, è un dispositivo giuridico del quale personalmente come cittadino europeo sono molto fiero, ma che va capito anche nella sua natura. L'Europa è molto forte nel creare dispositivi che proteggano il cittadino come consumatore. Il GDPR protegge i miei dati personali, non i dati industriali di un processo di lavorazione. Ebbene, l'AI Act va nella stessa direzione: protegge il cittadino come consumatore da un utilizzo dell'intelligenza artificiale che è definito rischioso su di lui. Ad esempio, una grande compagnia aerea che mi chieda, per fare il check-in, i miei dati biometrici e con quei dati biometrici, elaborati da un sistema che non si sa dov'è, decida se io sono proprio io, perché non si fida del mio documento d'identità, rilasciato dal Governo italiano, ecco che vìola e mette a rischio la mia esistenza come cittadino. L'AI Act mi dà degli strumenti per tutelare i miei diritti. Ma l'AI Act, che ha questa verticalità e questa efficacia enorme nel proteggere la Pag. 12mia individualità di cittadino, la mia consistenza di cittadino, non protegge e non riguarda tutti quelli che sono gli usi industriali. Quindi, vi è tutta un'altra sezione, che sarà da affrontare, sull'utilizzo industriale dell'intelligenza artificiale, ed è una questione sulla quale ancora tutto è da scrivere.
Se è vero, quindi, che questa idea di categorizzare per rischi l'intelligenza artificiale è un'ottima idea per tutelare i diritti fondamentali della persona, tutto quello che riguarda la politica più industriale lì, nell'AI Act, ancora non trova spazio, non è stata ancora negoziata in quel testo. E questa è una parte rispetto alla quale penso che il lavoro della vostra Commissione possa anche prendere delle direzioni che possano anche servire a istruire lavori in altra sede o in altra direzione, come quella europea.

PRESIDENTE. Non essendovi altre richieste di intervento, ringrazio l'ospite intervenuto e dichiaro conclusa l'audizione.

La seduta termina alle 14.30.