ALLEGATO
Proposta di regolamento del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull'intelligenza artificiale (legge sull'intelligenza artificiale) e modifica alcuni atti legislativi dell'Unione. COM(2021) 206 final e allegati.
PROPOSTA DI DOCUMENTO FINALE DELLE RELATRICI
Le Commissioni IX (Trasporti, poste e telecomunicazioni) e X (Attività produttive, commercio e turismo),
esaminata, ai sensi dell'articolo 127, comma 1, del Regolamento la proposta di Regolamento del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull'intelligenza artificiale (legge sull'intelligenza artificiale) e modifica alcuni atti legislativi dell'Unione;
premesso che:
la proposta di regolamento rappresenta il primo tentativo di regolare l'intelligenza artificiale (IA) in un contesto globale caratterizzato dalla sostanziale assenza di discipline normative di carattere generale;
la proposta è stata preannunciata in una serie di documenti programmatici della Commissione europea, tra i quali il Libro Bianco sull'Intelligenza artificiale – Un approccio europeo all'eccellenza e alla fiducia (COM(2020)65), su cui la IX Commissione trasporti ha adottato un documento conclusivo in data 19 maggio 2021;
l'atto della Commissione rappresenta uno dei dossier legislativi che fondano la visione strategica dell'UE sulla trasformazione digitale e le nuove tecnologie, nell'ambito della quale sono state adottate, tra l'altro, le proposte di legge sui servizi digitali, sui mercati digitali e sulla governance dei dati;
è apprezzabile l'approccio antropocentrico alla base della nuova disciplina, in funzione del quale le tecnologie devono essere al servizio delle persone e in linea con i valori, i diritti fondamentali e i principi dell'Unione;
è condivisibile la scelta di introdurre un regime orizzontale volto a garantire sicurezza, affidabilità e conformità al sistema valoriale europeo degli strumenti che rientrano nella gamma della IA, applicabile alla maggior parte dei settori socio-economici, e sul piano soggettivo a tutti i soggetti inclusi nella catena del valore dei sistemi di intelligenza artificiale;
rilevato che:
il concetto di intelligenza artificiale (IA) include un'ampia gamma di tecnologie utilizzate nella maggior parte dei settori socio-economici, tra l'altro dotate di un alto grado di autonomia nelle loro azioni e impiegate per la capacità di elaborare rapidamente ingenti volumi di dati;
l'uso crescente dell'IA può porre una serie di rischi, riconducibili alle modalità specifiche di progettazione, alla tipologia di dati immessi nei sistemi, nonché all'utilizzo degli utenti finali, nell'ambito della catena del valore;
i rischi possono attenere alla sicurezza delle persone, come anche alla protezione dei dati e al diritto alla vita privata, nonché alla discriminazione sociale ed economica in base a distorsioni nell'immissione di dati;
l'esigenza di disciplinare l'IA con un quadro giuridico comune in grado di ridurre al massimo l'esistenza di tali rischi deve essere bilanciata dalla necessità di consentire alle imprese nazionali ed europee di liberare i rispettivi sforzi sul piano dell'innovazione tecnologica pionieristica, Pag. 21al fine di tenere il passo nella concorrenza globale con i maggiori competitor nel settore digitale, USA e Cina;
considerato che:
la proposta introduce un'ampia definizione di IA, basata sul combinato disposto dell'articolo 3, recante una nozione di software che può, per una determinata serie di obiettivi definiti dall'uomo, generare output quali contenuti, previsioni, raccomandazioni o decisioni che influenzano gli ambienti con cui interagiscono, nonché dell'allegato I, che stila una lista di tecniche e approcci con cui tale software può essere sviluppato;
al fine di stabilire un regime tecnologicamente neutro, alla Commissione è attribuito un potere, esercitato mediante atti delegati, di aggiornamento del citato elenco di cui all'allegato I, in funzione degli sviluppi tecnologici e di mercato sulla base di caratteristiche simili alle tecniche e agli approcci ivi indicati;
l'approccio della Commissione europea è volto a graduare i sistemi di IA in relazione al livello di rischio per i diritti fondamentali dell'UE;
in particolare, è istituito un sistema di oneri per i dispositivi di IA ad alto rischio che si traduce, tra l'altro, in una serie di obblighi di certificazione o di autocertificazione in materia di conformità del prodotto ai requisiti stabiliti nel regolamento;
tra gli obblighi di compliance che devono essere rispettati dai sistemi di IA la proposta attribuisce significativa rilevanza agli standard previsti per i set di dati di addestramento, convalida e prova che devono essere, tra l'altro, pertinenti, rappresentativi, esenti da errori e completi;
a tal proposito, è condivisibile l'obiettivo di garantire la qualità dei dati immessi nei sistemi ai fini dell'addestramento, convalida e prova, al fine di evitare la generazione di effetti indesiderati, per esempio in termini di discriminazione sulla base del genere o di altri aspetti attinenti ai diritti fondamentali delle persone;
nonostante la rilevanza fondamentale della qualità dei dati immessi in un sistema ai fini della correttezza dell'output del sistema di IA, in ogni caso il livello di complessità delle tecnologie di IA è tale da imporre una riflessione sul fatto che eventuali distorsioni ed errori possono derivare da scelte progettuali e di design indipendenti dagli standard in materia di dati;
la complessità dell'ecosistema digitale proprio dell'intelligenza artificiale può sfuggire all'impostazione tradizionale basata sul rapporto fornitore-utente ed è pertanto opportuno verificare se è possibile delineare un sistema di responsabilità che tenga maggiormente conto delle modalità di utilizzo e del contesto di esecuzione di un sistema di intelligenza artificiale;
la proposta definisce un complesso sistema di governance che essenzialmente si articola su tre livelli che comprendono la Commissione europea, un comitato europeo per l'intelligenza artificiale, nonché autorità istituite o designate a livello nazionale competenti al fine di garantire l'applicazione e l'attuazione del regolamento;
la disciplina conferisce agli Stati membri un margine di discrezionalità nella scelta di istituire un'autorità ad hoc cui affidare i profili di governance a livello nazionale, oppure attribuire tali compiti ad un organismo esistente;
è condivisibile l'intento della Commissione europea di sostenere l'innovazione, in particolare attraverso la previsione di spazi di sperimentazione normativa per l'IA e altre misure per ridurre gli oneri normativi e sostenere le piccole e medie imprese e le start-up;
ricordato che il Parlamento europeo ha approvato una serie di raccomandazioni su ciò che le norme europee sull'IA dovrebbero ricomprendere, tra l'altro, in materia di etica e responsabilità, e ha proposto delle linee guida per l'uso dell'intelligenza artificiale in campo militare e civile;
preso atto della relazione trasmessa dal Governo ai sensi dell'articolo 6, comma Pag. 225, della legge 24 dicembre 2012, n. 234, sul documento;
preso atto degli elementi di conoscenza e valutazione acquisiti nel corso delle audizioni svolte sul documento;
preso atto altresì del parere favorevole con osservazioni approvato sul documento dalla XIV Commissione Politiche dell'Unione europea nella seduta del 29 marzo 2022;
rilevata, infine, la necessità che il presente documento conclusivo sia trasmesso tempestivamente alla Commissione europea, nonché al Parlamento europeo e al Consiglio, nell'ambito del cosiddetto dialogo politico,
esprimono una
VALUTAZIONE FAVOREVOLE
con le seguenti osservazioni:
a) si valuti l'opportunità di intervenire sul complesso delle disposizioni di cui all'articolo 3 e all'allegato I della proposta, con particolare riguardo alla definizione di «intelligenza artificiale», al fine di stabilire un criterio di individuazione che ponga l'accento non solo sulla modalità tecnica di funzionamento del sistema informatico, ma anche sulle finalità e peculiarità proprie dello strumento, nonché sulla capacità di replicare funzioni, abilità e comportamenti propri delle persone;
b) si valuti la portata della definizione di «intelligenza artificiale», al fine di verificare se talune tecnologie elencate nell'allegato I siano effettivamente riconducibili alla definizione più aggiornata dei sistemi di IA e al perimetro di applicazione del nuovo regime, nonché di evitare profili di incertezza giuridica;
c) pur essendo condivisibile l'obiettivo di rendere il nuovo regime tecnologicamente neutro, abilitandone la capacità di stare al passo con i progressi scientifici ed industriali, è opportuno prevedere che il potere di aggiornamento della definizione di sistema sia esercitato in maniera da consentire il massimo grado di partecipazione degli Stati membri, anche attribuendo considerazione prioritaria alle conseguenze di eventuali modifiche dell'ambito applicativo oggettivo sui rispettivi sistemi produttivi nazionali e sulle loro peculiarità;
d) si valuti l'opportunità di adottare orientamenti comuni circa le facoltà degli Stati membri di prevedere la possibilità di autorizzare in tutto o in parte sistemi di identificazione biometrica remota in tempo reale in spazi accessibili al pubblico a fini di attività di contrasto entro i limiti e alle condizioni stabiliti dal paragrafo 4 dell'articolo 5, al fine di evitare la frammentazione normativa;
e) occorre migliorare le previsioni di coordinamento tra il nuovo regime e le altre discipline, sia a carattere orizzontale (quale il regolamento generale sulla protezione dei dati), sia di tipo settoriale (ad esempio le norme future in materia di finanza digitale), al fine di evitare duplicazioni di oneri, o disallineamenti in grado di compromettere il raggiungimento dei rispettivi obiettivi, con particolare riguardo alla tutela dei diritti fondamentali;
f) appare utile una riflessione sull'effettiva applicabilità del disposto di cui all'articolo 10 relativamente al rispetto dei requisiti di pertinenza, rappresentatività, esenzione da errori e completezza degli standard per quanto riguarda i dati di addestramento, convalida e prova utilizzati dai sistemi di IA ad alto rischio, anche alla luce di quanto recita il considerando 44, il quale richiede che tali set di dati debbano essere sufficientemente pertinenti, rappresentativi e privi di errori, nonché completi alla luce delle finalità previste dal sistema;
g) con riferimento al capo 3, appare utile definire con un maggior grado di precisione un sistema di responsabilità che rifletta il ruolo attivo dei soggetti nella catena del valore dell'IA, inclusi quelli che svolgono un ruolo nell'implementazione di adattamenti e personalizzazioni che modifichino in modo sostanziale le modalità di erogazione o finanche le finalità stesse del sistema originariamente concepite dal fornitore;
Pag. 23h) si rafforzino gli strumenti per migliorare la trasparenza e l'accessibilità alle informazioni relative ai sistemi di IA;
i) per quanto concerne i codici di condotta di cui la Commissione e gli Stati membri incoraggiano l'elaborazione ai sensi dell'articolo 69, appare particolarmente necessario agevolare e promuovere l'adozione di un codice etico di autoregolamentazione da parte dei fornitori di IA, senza però determinare oneri eccessivi per il mercato; a tal fine, sarebbe opportuno istituire un tavolo di lavoro degli stakeholder che potrebbe avviare la discussione di tale codice già nel corso dell'esame della proposta di regolamento presso le istituzioni dell'Unione europea;
l) l'istituzione di spazi di sperimentazione normativa per l'IA nei diversi Stati membri a livello nazionale, già prevista all'articolo 53, dovrebbe essere particolarmente incoraggiata, costruendo un framework il più possibile omogeneo al fine di evitare eccessi di burocratizzazione e scongiurare il rischio di una frammentazione della regolamentazione del mercato, nonché garantire uniformità nelle pratiche amministrative;
m) con riferimento alle opzioni relative al modello di governance da adottare a livello nazionale, secondo quanto previsto dall'articolo 59 della proposta, sia nel caso dell'istituzione di un'autorità di controllo apposita, sia nel caso di conferimento delle rispettive funzioni ad un organismo esistente, è indispensabile dotare tali soggetti delle risorse specialistiche necessarie, oltreché assicurare la necessaria sfera di indipendenza, attesa la rilevanza dei diritti fondamentali, specie quelli individuali, che possono essere incisi da strumenti di IA non in linea con il regolamento;
n) è opportuno sensibilizzare gli Stati membri affinché avviino le attività preparatorie che saranno necessarie per l'implementazione del regolamento, nonché vengano attuate politiche volte a migliorare l'alfabetizzazione digitale, nonché le competenze in materia di IA, in particolare quelle ibride, che sono particolarmente adatte alla complessità delle questioni poste dall'uso dell'intelligenza artificiale; l'accento su tali politiche è, altresì, necessario anche alla luce delle risultanze dell'ultimo DESI (Digital Economy and Society);
o) è opportuno infine che la strategia nazionale sull'IA adottata nel novembre 2021 sia implementata con particolare riguardo agli obiettivi riconducibili alle politiche volte a migliorare le competenze in materia di IA e in raccordo con la futura cornice normativa europea.