Documento

Pag. 2

PARLIAMENTARY ASSEMBLY OF THE COUNCIL OF EUROPE

RESOLUTION 2341 (2020) ⁽¹⁾
Provisional version

Need for democratic governance of artificial intelligence

Parliamentary Assembly,

1. Technology has always had a strong impact on the course of human history. Yet, the pace of technological progress has never been as swift, and its effects on humans as direct, tangible and wide- ranging as they are now, at the edge of the fourth industrial revolution. Artificial intelligence (AI) which is the key driver of it, is broadly considered to be a determining factor for the future of humanity as it will substantially transform individual lives and impact on human communities.
2. AI-powered devices are already widely present in our daily lives and carry out multiple tasks previously fulfilled by human individuals, both in personal and official capacity. Predictive algorithms, inherent to AI, are frequently deployed for important decisions, such as university admissions, loan decisions and human re
(1) Text adopted by the Standing Committee, acting on behalf of the Assembly, on 22 October 2020 (see Doc. 15150, report of the Committee on Political Affairs and Democracy, rapporteur: Ms Deborah Bergamini). See also Recommendation 2181 (2020).
sources management but also for border control (including at airports) and crime prevention (through predictive policing practices and the use, within the criminal justice system, of risk-assessment instruments in repeat offending). As all our societies are struggling to fight the ongoing Covid-19 pandemic, AI is also used to enhance pharmaceutical research and help analyse medical data.
3. However, the long-term effects of AI on humans and society are still far from being clear. While AI may generate great opportunities in advancing economic and social progress, it also presents a series of complex challenges. On the one hand, AI is hoped to bring about a substantial increase in productivity and economic growth, scientific breakthroughs, improving health care, higher life expectancy, security and ever-rising convenience. On the other hand, there are fears that AI might severely disrupt labour markets around the globe, lead to an increased income, wealth and social inequality, and jeopardise social and political stability, as well as international security.
4. AI-based technologies have an impact on the functioning of democratic Pag. 3institutions and processes, as well as on social and political behaviour of citizens. Its use may produce both beneficial and damaging impact on democracy. Indeed, the rapid integration of AI technologies into modern communication tools and social media platforms provides unique opportunities for targeted, personalised and often unnoticed influence on individuals and social groups, which different political actors may be tempted to use to their own benefit.
5. On the positive side, AI can be used to improve government accountability and transparency, help fight corruption and produce many benefits for democratic action, participation and pluralism, making democracy more direct, efficient and responsive to citizens’ needs. AI-based technologies can broaden the space for democratic representation by decentralising information systems and communication platforms. AI can strengthen informational autonomy for citizens, improve the way they collect information about political processes and help them participate in these processes remotely by facilitating political expression and providing feedback channels with political actors. It can also help establish greater trust between the State and the society and between citizens themselves.
6. However, AI can be – and reportedly is – used to disrupt democracy through interference in electoral processes, personalised political targeting, shaping voters’ behaviours, and manipulating public opinion. Furthermore, AI has seemingly been used to amplify the spread of misinformation, «echo chambers», propaganda and hate speech, eroding critical thinking, contributing to rising populism and the polarisation of democratic societies.
7. Moreover, the broad use by States and private actors of AI-based technologies to control individuals such as automated filtering of information amounting to censorship, mass surveillance using smartphones, gathering of personal data and tracking one's activity on- and offline may lead to the erosion of citizens’ psychological integrity, civil rights and political freedoms and the emergence of digital authoritarianism – a new social order competing with democracy.
8. Concentration of data, information, power and influence in the hands of a few big private actors involved in developing and providing AI-based technologies and services, and growing dependence of individuals, institutions and society as a whole on these services, are also a cause for concern. These big companies no longer serve as simple channels of communication between individuals and institutions but play an increasingly prominent role on their own, controlling and filtering information flows, exercising automated censorship of content published on social media, setting the agenda and shaping and transforming social and political models. Acting on the basis of business models prioritising profits of shareholders over common good, these actors may be a threat to democratic order and should not stay beyond democratic oversight.
9. The Assembly notes that, in the last years, governments, civil society, international institutions and companies have been engaged in extensive discussions with a view to identifying a set of commonly accepted principles on how to respond to the concerns related to AI use. It welcomes the fact that the Council of Europe, as a leading human rights organisation, has been actively involved in these discussions on the future of AI and its governance, and in particular the contribution to this process by the Committee of Ministers, the Commissioner for Human Rights and the intergovernmental co-operation bodies.
10. The Assembly considers that self-regulatory ethical principles and policies voluntarily introduced by private actors are not adequate and sufficient tools to regulate AI as they do not necessarily lead to democratic oversight and accountability. Europe needs to ensure that the power of AI is regulated and used for common good.
11. Therefore, the Assembly strongly believes that there is a need to create a cross-cutting regulatory framework for AI, Pag. 4with specific principles based on the protection of human rights, democracy and rule of law. Any work in this area needs to involve all stakeholders, including in particular citizens and major private companies involved in developing and providing AI-based technologies and services.
12. The Council of Europe, as a leading international standard-setting organisation in the field of democracy, must play a pioneering role in designing ways and formats to ensure that AI-based technologies are used to enhance, and not to damage democracy.
13. In this context, it welcomes the setting up, by the Committee of Ministers, of an Ad hoc Committee on Artificial Intelligence (CAHAI), to examine the feasibility and potential elements based on broad multi- stakeholder consultations, of a legal framework for the design, development and application of AI. It calls on the Council of Europe member States and other observer States participating in CAHAI to work together towards a legally binding instrument aimed at ensuring democratic governance of AI and where necessary complement it by sectoral legal instruments.
14. The Assembly deems that such instrument should:
14.1. guarantee that AI-based technologies are designed, developed and operated in full compliance with, and in support of, Council of Europe's standards on human rights, democracy and the rule of law;
14.2. promote a common understanding and provide for the respect of key ethical principles and concepts and the implementation of the above-mentioned standards, including:
14.2.1. transparency, including accessibility and explicability;
14.2.2. justice and fairness, including non-discrimination;
14.2.3. human responsibility for decisions, including liability and the availability of remedies;
14.2.4. safety and security;
14.2.5. privacy and data protection;
14.3. seek to maximise possible positive impact of AI on the functioning of democratic institutions and processes, including, inter alia:
14.3.1. improve government accountability;
14.3.2. help fight corruption and economic crime;
14.3.3. facilitate democratic action, participation and pluralism;
14.3.4. make democracy more direct, efficient and responsive to citizens’ needs;
14.3.5. broaden the space for democratic representation by decentralising information systems and communication platforms;
14.3.6. strengthen informational autonomy for citizens, improve the way they collect information about political processes and help them participate in these processes remotely by facilitating political expression and providing feedback channels with political actors;
14.3.7. improve transparency in public life and help establish greater trust between the State and the society and between citizens themselves;
14.4. contain provisions to prevent and/or limit possibilities that AI is misused to damage and disrupt democracy, including, inter alia, through:
14.4.1. interference in electoral processes, personalised political targeting, shaping voters’ political behaviours, and manipulating public opinion;
14.4.2. amplifying the spread of misinformation, «echo chambers» and propaganda;
14.4.3. eroding individual and societal critical thinking; Pag. 5
14.4.4. contributing to rising populism and the polarisation of democratic societies;
14.5. contain provisions to limit the risks of the use of AI-based technologies by States and private actors to control people, which may lead to an erosion of citizens’ psychological integrity, civil rights and political freedoms;
14.6. contain safeguards to prevent the threat to democratic order resulting from concentration of data, information, power and influence in the hands of a few big private actors involved in developing and providing AI-based technologies and services, and growing dependence of individuals, institutions and society as a whole on these services, and provisions that the activity of such actors is subject to democratic oversight.

15. Furthermore, the Assembly believes that, in order to ensure accountability, the legal framework to be put in place should provide for an independent and proactive oversight mechanism, involving all relevant stakeholders, that would guarantee effective compliance with its provisions. Such mechanism would require a highly competent body (inter alia in technical, legal and ethical terms), capable of following the new developments on digital technology and evaluating accurately and authoritatively its risks and consequences.
16. When it comes to algorithms and social media platforms, the Assembly deems it necessary to:
16.1. make more transparent the decision-making factors behind algorithmically generated content;
16.2. give users more flexibility to decide how algorithms shape their online experience;
16.3. urge platforms to conduct more systematic human rights due diligence in order to understand the social impact of their algorithms;
16.4. consider establishing an independent expert body to provide oversight over tech platforms and the operation of their algorithms;
16.5. tighten privacy controls on user data so that algorithms have less ability to exploit data in the first place.

Pag. 6

ASSEMBLÉE PARLEMENTAIRE DU CONSEIL DE L'EUROPE

RÉSOLUTION 2341 (2020) ⁽¹⁾
Version provisoire

La nécessité d'une gouvernance démocratique de l'intelligence artificielle

Assemblée parlementaire,

1. La technologie a toujours eu une grande incidence sur le cours de l'histoire humaine. Cependant, les progrès technologiques n'ont jamais été aussi rapides, et leurs effets sur les êtres humains aussi directs, palpables et étendus qu'aujourd'hui, à l'aube de la quatrième révolution industrielle. L'intelligence artificielle (IA), qui en est le moteur, est vue au sens large comme un facteur déterminant pour l'avenir de l'humanité, qui transformera en profondeur la vie des individus et retentira fortement sur les communautés humaines.
2. Les appareils dotés de l'IA sont déjà largement présents dans notre quotidien et exécutent de multiples tâches qui étaient autrefois accomplies par des êtres humains, dans la vie privée comme dans le milieu professionnel. Les algorithmes de prédiction, inhérents à l'IA, sont fréquemment employés dans d'importantes décisions comme les admissions à l'université, l'octroi de prêts et la gestion des ressources humaines, mais aussi en ce qui
(1) Texteadopté par la Commission permanente, agissant au nom de l'Assemblée, le 22 octobre 2020 (voir Doc. 15150, rapport de la Commission des questions politiques et de la démocratie, rapporteure: Mme Deborah Bergamini). Voir également la Recommandation 2181 (2020).
concerne les contrôles aux frontières (y compris dans les aéroports) et la prévention des crimes (par le biais de pratiques policières prédictives et l'utilisation, dans le cadre du système judiciaire pénal, d'instruments d’évaluation des risques quant aux récidives). Alors que toutes nos sociétés s'efforcent de lutter contre la pandémie actuelle de covid-19, l'IA est aussi utilisée pour améliorer la recherche pharmaceutique et aider à analyser les données médicales.
3. Cela étant, les effets à long terme de l'IA sur les êtres humains et sur la société sont encore loin d’être clairs. L'IA pourrait certes permettre de grandes avancées économiques et sociales, mais elle pose aussi toute une série de problèmes complexes. D'un côté, on espère qu'elle apportera des gains importants de productivité, de la croissance économique, des avancées scientifiques, des soins médicaux de meilleure qualité, une augmentation de l'espérance de vie, une sécurité et un confort toujours plus grand. D'un autre côté, certains craignent que l'IA déstabilise gravement les marchés du travail partout dans le monde, conduise à une augmentation des inégalités de revenus, de richesse et des inégalités sociales, et mette en danger la stabilité sociale et politique, ainsi que la sécurité internationale. Pag. 7
4. Les technologies fondées sur l'IA ont une incidence sur le fonctionnement des institutions et des processus démocratiques, ainsi que sur le comportement social et politique des citoyens. Son utilisation peut avoir des effets bénéfiques aussi bien que préjudiciables sur la démocratie. De fait, l'intégration rapide des technologies d'IA dans les outils de communication modernes et les plates-formes des réseaux sociaux crée d'incomparables possibilités d'influencer des individus ou des groupes sociaux de manière ciblée, personnalisée et souvent inaperçue; différents acteurs politiques peuvent être tentés d'exploiter ces possibilités à leur avantage.
5. L'aspect positif est que l'IA permet d'améliorer la mise en œuvre de la responsabilité et de la transparence des gouvernements et de contribuer à la lutte contre la corruption, et qu'elle présente de nombreux avantages pour l'action, la participation et le pluralisme démocratiques, rendant ainsi la démocratie plus directe, plus efficace et plus attentive aux besoins des citoyens. Les technologies fondées sur l'IA peuvent aussi permettre d’élargir la représentation démocratique, en décentralisant les systèmes d'information et les plates-formes de communication. L'IA peut renforcer l'autonomie informationnelle des citoyens, améliorer la manière dont ils s'informent sur les processus politiques et les aider à y participer à distance, en facilitant l'expression politique et en fournissant des canaux de communication avec les acteurs politiques. Elle peut aussi contribuer à l'instauration d'une plus grande confiance entre l’État et la société et entre les citoyens eux-mêmes.
6. Cela étant, l'IA peut être utilisée, et, selon certaines sources, est déjà utilisée pour perturber la démocratie par l'ingérence dans les processus électoraux, le ciblage politique personnalisé, le conditionnement du comportement des électeurs et la manipulation de l'opinion publique. De plus, elle a apparemment été employée pour amplifier la diffusion de fausses informations, de propagande, de «chambres d’écho» et de discours de haine, altérant ainsi la pensée critique et contribuant à la montée du populisme et à la polarisation des sociétés démocratiques.
7. De surcroît, certains États et acteurs privés recourent dans une large mesure à des technologies fondées sur l'IA pour contrôler les personnes, par un filtrage automatisé d'informations s'apparentant à de la censure par exemple, ou encore par une surveillance de masse au moyen de smartphones, le recueil de données à caractère personnel et le suivi de l'activité en ligne et hors ligne; ces pratiques risquant de conduire à une érosion de l'intégrité psychologique des citoyens, des droits civiques et des libertés politiques, et à l’émergence d'un autoritarisme numérique – en d'autres termes, à un nouvel ordre social qui entrerait en concurrence avec la démocratie.
8. La concentration de données, d'informations, du pouvoir et des capacités d'influence dans les mains de quelques grands acteurs privés du développement et de la fourniture de technologies et de services fondés sur l'IA, et la dépendance croissante des personnes, des institutions et de la société dans son ensemble vis- à-vis de ces services sont aussi des sources de préoccupation. Ces grandes sociétés ne fonctionnent plus comme de simples canaux de communication entre les individus et les institutions: elles jouent elles-mêmes un rôle de plus en plus important, contrôlent et filtrent les flux d'informations, censurent automatiquement les contenus publiés sur les médias sociaux, définissent l'ordre du jour, façonnent et transforment les modèles sociaux et politiques. Ces acteurs, dont les modèles d'activité privilégient les profits des actionnaires aux dépens du bien commun, pourraient constituer une menace pour l'ordre démocratique et ne devraient pas échapper au contrôle démocratique.
9. L'Assemblée note que, ces dernières années, des gouvernements, la société civile, des institutions internationales et des entreprises ont eu des échanges de vues approfondis dans le but de définir d'un commun accord un ensemble de principes Pag. 8pour répondre aux inquiétudes que suscite l'utilisation de l'IA. Elle se félicite de ce que le Conseil de l'Europe, en tant qu'organisation de premier plan en matière de droits humains, ait activement participé à ces discussions sur l'avenir de l'IA et sa gouvernance, et se réjouit en particulier du fait que le Comité des Ministres, la Commissaire aux droits de l'homme et les organes de coopération intergouvernementale aient contribué à ce processus.
10. L'Assemblée considère que les principes éthiques d'autoréglementation et les politiques mis en place volontairement par des acteurs privés ne sont pas des outils adaptés ni suffisants pour réglementer l'IA, car ils n'entraînent pas nécessairement de contrôle démocratique ni d'obligation de rendre des comptes. L'Europe doit veiller à ce que la puissance de l'IA soit soumise à des règles et soit employée pour le bien commun.
11. Par conséquent, l'Assemblée est fermement convaincue qu'il est nécessaire d'instaurer un cadre réglementaire transversal pour l'IA, définissant des principes spécifiques fondés sur la protection des droits humains, la démocratie et l’État de droit. Toute réflexion dans ce domaine doit associer l'ensemble des parties prenantes, et en particulier les citoyens et les grandes entreprises privées qui prennent part à l’élaboration et à la fourniture de technologies et de services fondés sur l'IA.
12. Le Conseil de l'Europe, en tant qu'organisation internationale de normalisation de premier plan dans le domaine de la démocratie, doit faire œuvre de pionnier en concevant des solutions et des formats permettant de s'assurer que les technologies fondées sur l'IA sont employées non pas pour fragiliser la démocratie, mais pour la renforcer.
13. Dans ce contexte, elle se félicite de la création, par le Comité des Ministres, d'un Comité ad hoc sur l'intelligence artificielle (CAHAI), chargé d'examiner la faisabilité et les éléments potentiels, sur la base de vastes consultations multipartites, d'un cadre juridique pour la conception, le développement et l'application de l'IA. Elle invite les États membres du Conseil de l'Europe et les États observateurs participant au CAHAI à travailler ensemble à l’élaboration d'un instrument juridiquement contraignant et destiné à garantir la gouvernance démocratique de l'IA, et, le cas échéant, de le compléter par des instruments juridiques sectoriels.
14. L'Assemblée estime qu'un tel instrument devrait:
14.1. garantir que les technologies fondées sur l'IA sont conçues, développées et exploitées dans le strict respect et en soutien des normes du Conseil de l'Europe en matière de droits humains, de démocratie et d’État de droit;
14.2. promouvoir une compréhension commune et prévoir le respect de principes et concepts éthiques fondamentaux et la mise en œuvre des normes susmentionnées dont:
14.2.1. la transparence, y compris l'accessibilité et l'explicabilité;
14.2.2. la justice et l’équité, y compris la non-discrimination;
14.2.3. la prise de décision par une personne, qui en est responsable, et la mise à disposition de voies de recours;
14.2.4. la sûreté et la sécurité;
14.2.5. le respect de la vie privée et la protection des données;
14.3. s'attacher à ce que l'IA ait le plus d'effets positifs possibles sur le fonctionnement des institutions et processus démocratiques, notamment à ce qu'elle permette:
14.3.1. de renforcer l'obligation des gouvernements à rendre des comptes;
14.3.2. de lutter contre la corruption et le crime économique;
14.3.3. de faciliter l'action démocratique, la participation et le pluralisme;
14.3.4. de rendre la démocratie plus directe, plus efficace et plus attentive aux besoins des citoyens; Pag. 9
14.3.5. d’élargir la représentation démocratique, en décentralisant les systèmes d'information et les plates-formes de communication;
14.3.6. de renforcer l'autonomie informationnelle des citoyens, d'améliorer la manière dont ils s'informent sur les processus politiques et de les aider à y participer à distance, en facilitant l'expression politique et en fournissant des canaux de communication avec les acteurs politiques;
14.3.7. d'améliorer la transparence dans la vie publique et de contribuer à l'instauration d'une plus grande confiance entre l’État et la société et entre les citoyens eux-mêmes;
14.4. comporter des dispositions visant à prévenir et/ou limiter les risques que l'IA soit utilisée pour fragiliser et perturber la démocratie, notamment par:
14.4.1. l'ingérence dans les processus électoraux, le ciblage politique personnalisé, le conditionnement du comportement politique des électeurs et la manipulation de l'opinion publique;
14.4.2. l'amplification de la diffusion de fausses informations, de la propagande et des «chambres d’écho»;
14.4.3. l'altération de la pensée critique des individus et de la société;
14.4.4. la contribution à la montée du populisme et à la polarisation des sociétés démocratiques;
14.5. comporter des dispositions visant à limiter les risques d'utilisation des technologies fondées sur l'IA par des États et des acteurs privés pour contrôler les personnes, ce qui pourrait conduire à une érosion de l'intégrité psychologique des citoyens, des droits civiques et des libertés politiques;
14.6. comporter des garde-fous pour prévenir les menaces à l'ordre démocratique résultant de la concentration de données, d'informations, du pouvoir et des capacités d'influence dans les mains de quelques grands acteurs privés du développement et de la fourniture de technologies et de services fondés sur l'IA, et de la dépendance croissante des personnes, des institutions et de la société dans son ensemble vis-à-vis de ces services, et comporter également des dispositions visant à garantir que les activités de ces acteurs sont soumises à un contrôle démocratique.

15. En outre, l'Assemblée estime que, pour garantir le respect de l'obligation de rendre des comptes, le cadre juridique à mettre en place devrait prévoir un mécanisme de contrôle indépendant et préventif auquel participent toutes les parties prenantes, qui garantirait le respect effectif de ses dispositions. Ce mécanisme exigerait la présence d'un organe extrêmement compétent (notamment sur le plan technique, juridique et éthique), capable de suivre les nouvelles évolutions de la technologie numérique et d’évaluer avec précision et autorité ses risques et conséquences.
16. En ce qui concerne les algorithmes et les plates-formes de réseaux sociaux, l'Assemblée estime nécessaire:
16.1. de rendre plus transparents les facteurs de décision qui sous-tendent les contenus générés par des algorithmes;
16.2. de donner aux utilisateurs plus de souplesse pour décider de la manière dont les algorithmes façonnent leur expérience en ligne;
16.3. de demander instamment aux plates-formes de faire preuve de diligence plus systématique en matière de droits humains pour comprendre l'impact social de leurs algorithmes;
16.4. d'envisager de créer un organe d'expertise indépendant pour surveiller les plates-formes technologiques et le fonctionnement de leurs algorithmes;
16.5. de renforcer les contrôles de confidentialité des données d'utilisateur, pour que, dès leur conception, les algorithmes soient moins en mesure d'exploiter les données.

Pag. 10

ASSEMBLEA PARLAMENTARE DEL CONSIGLIO D'EUROPA

RISOLUZIONE 2341

La necessità di una governance democratica dell'intelligenza artificiale

Assemblea parlamentare,

1. La tecnologia ha sempre avuto un forte impatto sul corso della storia umana. Tuttavia, il ritmo del progresso tecnologico non è mai stato tanto rapido, e i suoi effetti sugli esseri umani tanto diretti, tangibili e di ampia portata quanto lo sono ora, alle soglie della quarta rivoluzione industriale. L'intelligenza artificiale (IA), che ne è il motore decisivo, è ampiamente considerata un fattore determinante per il futuro dell'umanità poiché trasformerà profondamente le vite dei singoli e inciderà sulle comunità umane.
2. I dispositivi basati sull'intelligenza artificiale sono già ampiamente presenti nella nostra vita quotidiana e svolgono molteplici compiti precedentemente assolti da esseri umani, sia nella sfera personale che in quella lavorativa. Gli algoritmi predittivi, inerenti all'intelligenza artificiale, sono frequentemente impiegati per decisioni importanti, come ammissioni all'università, decisioni sui prestiti e gestione delle risorse umane, ma anche per i controlli alle frontiere (aeroporti compresi) e la prevenzione della criminalità (attraverso pratiche di polizia predittiva e l'uso, nell'ambito del sistema giudiziario penale, di strumenti di valutazione del rischio in caso di recidiva). Adesso che tutte le nostre società si stanno adoperando per combattere la pandemia di Covid-19 in corso, l'IA è usata anche per migliorare la ricerca farmaceutica e contribuire all'analisi dei dati medici.
3. Gli effetti a lungo termine dell'IA sugli esseri umani e sulla società sono però ancora ben lungi dall'essere chiari. Sebbene l'IA possa generare grandi opportunità per far avanzare il progresso economico e sociale, essa presenta anche una serie di problematiche complesse. Da un lato, si spera che l'intelligenza artificiale determini un incremento sostanziale della produttività e della crescita economica, scoperte scientifiche, miglioramenti dell'assistenza sanitaria, una maggiore speranza di vita, sicurezza e comodità in costante aumento. Dall'altro si teme che l'IA possa perturbare gravemente i mercati del lavoro in tutto il mondo, portare a un aumento dei divari di reddito e di ricchezza e della disuguaglianza sociale e mettere a repentaglio la stabilità sociale e politica, nonché la sicurezza internazionale.
4. Le tecnologie basate sull'intelligenza artificiale incidono sul funzionamento delle istituzioni e dei processi democratici, nonché sul comportamento sociale e politico dei cittadini. Il loro utilizzo può produrre effetti sia positivi che dannosi Pag. 11sulla democrazia. In effetti, la rapida integrazione delle tecnologie di intelligenza artificiale nei moderni strumenti di comunicazione e nelle piattaforme delle reti sociali offre opportunità uniche per influenzare in modo mirato, personalizzato e spesso inosservato individui e gruppi sociali, opportunità che diversi attori politici potrebbero essere tentati di utilizzare a proprio vantaggio.
5. Sul versante positivo, l'IA può essere utilizzata per accrescere la responsabilità e la trasparenza dei governi, aiutare a combattere la corruzione e produrre molti vantaggi per l'azione, la partecipazione e il pluralismo democratici, rendendo la democrazia più diretta, efficiente e rispondente alle esigenze dei cittadini. Le tecnologie basate sull'intelligenza artificiale possono ampliare lo spazio per la rappresentanza democratica decentrando i sistemi d'informazione e le piattaforme di comunicazione. L'intelligenza artificiale può rafforzare l'autonomia informativa dei cittadini, migliorare il modo in cui si informano sui processi politici e aiutarli a partecipare a tali processi da remoto agevolando l'espressione politica e fornendo canali di riscontro con gli attori politici. Può anche contribuire a instaurare una maggiore fiducia tra lo Stato e la società e fra i cittadini stessi.
6. Tuttavia, l'intelligenza artificiale può essere utilizzata – e risulta che lo sia – per perturbare la democrazia attraverso l'interferenza nei processi elettorali, gli attacchi politici ad personam, il condizionamento dei comportamenti degli elettori e la manipolazione dell'opinione pubblica. Inoltre, l'IA è stata a quanto pare utilizzata per amplificare la propagazione della disinformazione, delle «casse di risonanza», della propaganda e delle istigazioni all'odio, erodendo il pensiero critico, contribuendo all'ascesa del populismo e alla polarizzazione delle società democratiche.
7. Inoltre, l'ampio utilizzo da parte degli Stati e dei soggetti privati di tecnologie basate sull'intelligenza artificiale per controllare le persone, quali il filtraggio automatico delle informazioni, equivalente alla censura, la sorveglianza di massa tramite gli smartphone, la raccolta di dati personali e il monitoraggio delle attività online e offline, può portare all'erosione dell'integrità psicologica, dei diritti civili e delle libertà politiche dei cittadini e all'emergere di un autoritarismo digitale, vale a dire un nuovo ordine sociale in competizione con la democrazia.
8. Anche la concentrazione di dati, informazioni, potere e influenza nelle mani di pochi grandi soggetti privati coinvolti nello sviluppo e nella fornitura di tecnologie e servizi basati sull'intelligenza artificiale e la crescente dipendenza di individui, istituzioni e della società nel suo complesso da tali servizi destano preoccupazione. Queste grandi aziende non fungono più da semplici canali di comunicazione fra individui e istituzioni, ma svolgono esse stesse un ruolo sempre più preminente, controllando e filtrando i flussi di informazioni, esercitando la censura automatizzata dei contenuti pubblicati nelle reti sociali, fissando l'ordine del giorno e modellando e trasformando i modelli sociali e politici. Agendo in base a modelli di business che privilegiano i profitti degli azionisti rispetto al bene comune, questi soggetti possono rappresentare una minaccia per l'ordine democratico e non dovrebbero essere sottratti al controllo democratico.
9. L'Assemblea rileva che negli ultimi anni i governi, la società civile, le istituzioni internazionali e le aziende sono stati impegnati in ampie discussioni al fine d'individuare un insieme di principi comunemente accettati su come rispondere alle preoccupazioni legate all'uso dell'IA. Si compiace del fatto che il Consiglio d'Europa, in qualità di organizzazione leader nel campo dei diritti umani, sia stato attivamente coinvolto in queste discussioni sul futuro dell'IA e della sua governance, e in particolare del contributo fornito a tale processo dal Comitato dei Ministri, dal Commissario per i diritti umani e dagli organi di cooperazione intergovernativa.
10. L'Assemblea ritiene che i principi etici e le politiche di autoregolamentazione introdotti volontariamente dai soggetti privati Pag. 12non siano strumenti adeguati e sufficienti per regolamentare l'IA, in quanto non conducono necessariamente al controllo e alla responsabilità democratici. L'Europa deve garantire che il potere dell'IA sia regolamentato e utilizzato per il bene comune.
11. L'Assemblea è dunque fermamente convinta che occorra creare per l'IA un quadro normativo trasversale, con principi specifici fondati sulla protezione dei diritti umani, della democrazia e dello Stato di diritto. Qualsiasi iniziativa in tale ambito deve coinvolgere tutte le parti interessate, compresi in particolare i cittadini e le principali società private coinvolte nello sviluppo e nella fornitura di tecnologie e servizi basati sull'IA.
12. Il Consiglio d'Europa, in qualità di organizzazione internazionale leader nella definizione di norme nel campo della democrazia, deve svolgere un ruolo di apripista nella progettazione di modi e formati per garantire che le tecnologie basate sull'intelligenza artificiale vengano utilizzate per migliorare e non per danneggiare la democrazia.
13. In questo contesto, plaude all'istituzione, da parte del Comitato dei Ministri, di un Comitato ad hoc sull'intelligenza artificiale (CAHAI) per esaminare, sulla scorta di ampie consultazioni multilaterali, la fattibilità e i potenziali elementi di un quadro giuridico per la progettazione, lo sviluppo e l'applicazione dell'IA. Invita gli Stati membri del Consiglio d'Europa e gli altri Stati osservatori che partecipano al CAHAI a lavorare insieme per mettere a punto uno strumento giuridicamente vincolante volto a garantire la governance democratica dell'IA corredandolo, se del caso, di strumenti giuridici settoriali.
14. L'Assemblea ritiene che tali strumenti debbano:
14.1 garantire che le tecnologie basate sull'IA siano progettate, sviluppate e gestite nel pieno rispetto delle norme del Consiglio d'Europa sui diritti umani, la democrazia e lo Stato di diritto e a loro sostegno;
14.2 promuovere una comprensione condivisa dei principi e dei concetti etici basilari e prevedere il rispetto e l'attuazione delle norme succitate, fra cui:
14.2.1 la trasparenza, comprese l'accessibilità e la spiegabilità;
14.2.2 la giustizia e l'equità, compresa la non discriminazione;
14.2.3 la responsabilità umana delle decisioni, inclusa la responsabilità legale e la disponibilità di rimedi;
14.2.4 la sicurezza e la protezione;
14.2.5 la tutela della vita privata e la protezione dei dati;
14.3 incrementare al massimo il possibile impatto positivo dell'IA sul funzionamento delle istituzioni e dei processi democratici, e, tra l'altro:
14.3.1 accrescere la responsabilità dei governi;
14.3.2 contribuire alla lotta contro la corruzione e la criminalità economica;
14.3.3 facilitare l'azione democratica, la partecipazione e il pluralismo;
14.3.4 rendere la democrazia più diretta, efficiente e rispondente alle esigenze dei cittadini;
14.3.5 ampliare lo spazio per la rappresentanza democratica decentrando i sistemi d'informazione e le piattaforme di comunicazione;
14.3.6 rafforzare l'autonomia informativa dei cittadini, migliorare il modo in cui si informano sui processi politici e aiutarli a partecipare a tali processi da remoto agevolando l'espressione politica e fornendo canali di riscontro con gli attori politici;
14.3.7 migliorare la trasparenza nella vita pubblica e contribuire a instaurare una maggiore fiducia tra lo Stato e la società e fra i cittadini stessi;
14.4 contenere disposizioni per prevenire e/o limitare le possibilità che l'IA sia utilizzata impropriamente per indebolire Pag. 13e perturbare la democrazia anche, tra l'altro, mediante:
14.4.1 le interferenze nei processi elettorali, gli attacchi politici ad personam, il condizionamento dei comportamenti politici degli elettori e la manipolazione dell'opinione pubblica;
14.4.2 l'amplificazione della diffusione della disinformazione, delle «casse di risonanza» e della propaganda;
14.4.3 l'erosione del pensiero critico individuale e sociale;
14.4.4 il contributo all'ascesa del populismo e alla polarizzazione delle società democratiche;
14.5 contenere disposizioni volte a limitare i rischi dell'uso di tecnologie basate sull'intelligenza artificiale da parte degli Stati e di soggetti privati per controllare le persone, il che può portare all'erosione dell'integrità psicologica, dei diritti civili e delle libertà politiche dei cittadini;
14.6 contenere salvaguardie volte a prevenire la minaccia all'ordine democratico derivante dalla concentrazione di dati, informazioni, potere e influenza nelle mani di pochi grandi attori privati coinvolti nello sviluppo e nella fornitura di tecnologie e servizi basati sull'intelligenza artificiale e dalla crescente dipendenza di individui, istituzioni e della società nel suo complesso da questi servizi, e disposizioni volte ad assoggettare l'attività di tali attori al controllo democratico.

15. L'Assemblea ritiene inoltre che, al fine di garantire l'obbligo di responsabilità, il quadro giuridico da istituire dovrebbe prevedere un meccanismo di controllo indipendente e preventivo, che coinvolgesse tutti i soggetti interessati e garantisse l'effettivo rispetto delle sue disposizioni. Tale meccanismo richiederebbe la presenza di un organo altamente competente (tra l'altro sul piano tecnico, giuridico e etico), in grado di seguire i nuovi sviluppi della tecnologia digitale valutandone accuratamente e autorevolmente i rischi e le conseguenze.
16. Per quanto attiene agli algoritmi e alle piattaforme delle reti sociali, l'Assemblea ritiene necessario:
16.1 rendere più trasparenti i fattori decisionali sottesi ai contenuti generati algoritmicamente;
16.2 dare agli utenti un più ampio margine di decisione riguardo al modo in cui gli algoritmi modellano la loro esperienza online;
16.3 esortare le piattaforme a esercitare in modo più sistematico la dovuta diligenza in materia di diritti umani al fine di comprendere l'impatto sociale dei loro algoritmi;
16.4 prendere in considerazione l'istituzione d'un organo peritale indipendente che vigili sulle piattaforme tecnologiche e sul funzionamento dei loro algoritmi;
16.5 rafforzare i controlli sulla riservatezza dei dati degli utenti in modo che gli algoritmi abbiano in partenza una minore capacità di sfruttare i dati.

Progetto di raccomandazione

1. L'Assemblea parlamentare richiama la sua risoluzione ... (2020) su «La necessità di una governance democratica dell'intelligenza artificiale» e plaude agli sforzi costanti compiuti finora a livello nazionale, europeo e internazionale, nonché a livello del Consiglio d'Europa, al fine di creare un quadro normativo per l'intelligenza artificiale (AI). In assenza di un tale quadro, l'Assemblea rileva che le società private che sviluppano e utilizzano tecnologie basate sull'intelligenza artificiale hanno finora optato in questo campo per una politica di autoregolamentazione attraverso strumenti non vincolanti.
2. L'Assemblea plaude al lavoro svolto dal Comitato ad hoc sull'intelligenza artificiale (CAHAI), incaricato di esaminare, sulla scorta di ampie consultazioni multilaterali, Pag. 14la fattibilità e i potenziali elementi di un quadro giuridico per la progettazione, lo sviluppo e l'applicazione dell'IA, fondato sulle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto.
3. L'Assemblea è convinta che occorra un'azione forte e rapida del Consiglio d'Europa per affrontare le sfide derivanti dall'uso di tecnologie basate sull'IA in grado d'interferire, tra l'altro, con il funzionamento delle istituzioni e dei processi democratici. Gli strumenti non vincolanti e l'autoregolamentazione si sono finora dimostrati insufficienti ad affrontare queste sfide e proteggere i diritti umani, la democrazia e lo Stato di diritto. Il Consiglio d'Europa è strategicamente collocato per fornire la guida e il supporto necessari, in stretta cooperazione e coordinamento con altre istituzioni e organizzazioni europee e internazionali, per giungere alla creazione di un quadro normativo globale per l'IA.
4. Alla luce di quanto sopra, l'Assemblea raccomanda al Comitato dei Ministri di:
4.1 esprimere il suo sostegno all'elaborazione di uno strumento giuridicamente vincolante di regolamentazione dell'intelligenza artificiale, eventualmente sotto forma di convenzione, tenendo conto, tra l'altro, degli elementi contenuti nella risoluzione ... (2020);
4.2 garantire che tale strumento giuridicamente vincolante si fondi su un approccio globale, si occupi dell'intero ciclo di vita dei sistemi basati sull'intelligenza artificiale, si rivolga a tutte le parti interessate e includa meccanismi volti a garantire l'attuazione dello strumento stesso.

Pag. 15Pag. 16