Documento

Pag. 2

PARLIAMENTARY ASSEMBLY OF THE COUNCIL OF EUROPE

RECOMMENDATION 2185 (2020) ⁽¹⁾
Provisional version

Artificial intelligence in health care: medical, legal and ethical challenges ahead

Parliamentary Assembly,

1. Good health is a precondition for more fulfilling individual lives and progress of society as a whole. Artificial Intelligence (AI) is the latest technological innovation fast impacting health care. Like many technological innovations in health care, it harbours major potential to improve both individual and public health, but also presents risks to individual rights and to public health. Furthermore, the speed of the development and deployment of these technological developments is much faster than that of the legal framework regulating them, which requires close attention of policy makers and politicians.
2. AI applications in health care represent the paradigm shift that is shaping up in health care generally, by moving focus from disease and therapy to self-managed health / well-being / prevention, and away from «one-size-fits-all» treatment protocols to precision medicine tailored to the individual. In this developing environment, full respect for human rights, including social rights, needs to underpin public policy making for health care, and guide the further technological progress. This is required to ensure that more mature AI mechanisms can be deployed safely from a human rights perspective, and that benefits from innovation are spread fairly and equitably across society.
3. The Parliamentary Assembly notes that the scientific community has urged public debate on the implications of AI applications in health care and highlighted the need for all stakeholders to be more accountable. Policy makers, including parliamentarians, at national, European and international levels must better understand the wide-ranging risks, socio-economic impacts and opportunities inherent in the design, development and deployment of AI technologies in health care so as to seek pragmatic improvements and propose adequate regulatory options that ensure full respect for human dignity and rights through legal and ethical frameworks – as far as possible with a global reach. This requires a collaborative, multidisciplinary approach to defining AI-related risks and challenges in health care.
4. The Covid-19 outbreak has focused attention on the role AI can play through Pag. 3real-time surveillance, assessment and management of disease data. It has also revived the much-needed debate on acknowledging the right to health as a fundamental human right which should be secured through legal instruments and appropriate health-care systems that are publicly provided and ensure universal access.
5. The Assembly heeds with concern the warning from the World Health Organization (WHO) that the existing digital divide and inequalities (within and between countries, as well as societal groups) coupled with the spread of AI might exacerbate the unequal spread of health care and problems of effective access to health care, reduce the number and skills of health professionals, accentuate bias and increase «disrespectful clinical interactions», thus de facto worsening health-care inequalities and outcomes. The Assembly recalls that there is a broad global consensus around the essential ethical principles of AI. It strongly supports WHO work on developing ethics guidance on Al in health care on the basis of the shared perspectives of various stakeholders, including the Council of Europe and its Assembly.
6. Given that to date the private sector has driven most of the research and development of AI applications for health care, national public health-care authorities should adopt a strategic approach to coordinating digitalisation policies, research and investment, as well as management and exploitation of personal data, with a view to ensuring full protection of fundamental rights and striking a healthy balance between individual, business and public interests. In this context, the Assembly reaffirms its call, in Recommendation 2166 (2019) «Human rights and business – what follow-up to Committee of Ministers Recommendation CM/Rec(2016)3 ?» in order to reflect modern challenges and member States’ obligations under the European Social Charter (ETS Nos. 35 and 163), including the right to health.
7. The Assembly stresses the pertinence of existing Council of Europe legal instruments, in particular the European Convention on Human Rights (ETS No. 5), the Convention on Human Rights and Biomedicine (ETS No. 164, «Oviedo Convention») and the Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data (ETS No. 108) and its amending Protocol (CETS No. 223) in relation to AI-driven transformations in health care. However, it believes that the scope and depth of these transformations and the undeniable impact of AI technology on human dignity and fundamental rights is such that the Council of Europe as the guardian of human rights should develop a dedicated legal instrument on AI. It thus strongly supports the work of the Ad hoc Committee on Artificial Intelligence (CAHAI) towards preparing such a dedicated legal instrument.
8. The Assembly notes that privacy, confidentiality of personal data and informed consent are the cornerstones of patient rights worldwide. At the same time, certain restrictions on the use of personal health data may disable essential data linkages and induce distortions, even errors, in AI-driven analysis. It is debatable whether the anonymisation or pseudonymisation of personal health data are appropriate solutions.
9. The Assembly welcomes the intention of the Council of Europe Committee on Bioethics (DH-BIO) to work on trust, safety and transparency in the application of AI in health care. The Assembly encourages it to take a comprehensive approach, to proceed with this work as a matter of priority, and to seek synergies with other Council of Europe bodies working in this field.
10. Moreover, the Assembly considers that cyber-safety requirements for AI-enabled medical devices (including implantable and wearable health-care products) should further be explored in the framework of the Convention on Cybercrime (CETS No.185), whereas the Expert Committee on human rights dimensions of automated data processing and different forms of artificial intelligence (MSI-AUT) could complement DH-BIO work by helping define the liability of stakeholders – from developers to regulatory authorities, intermediaries and users (including public authorities, health-care professionals, patients Pag. 4and the general public) – with regard to the development, maintenance, use of and any damage from medical AI applications.
11. The Assembly therefore recommends that the Committee of Ministers:
11.1. instruct CAHAI to prepare a dedicated legal instrument on AI, preferably a binding instrument with a global reach, such as a convention open to non-member States, with an emphasis on human rights implications of AI in general and on the right to health in particular;
11.2. involve other relevant Council of Europe bodies in CAHAI work, with a view to adequately covering health-related challenges, notably in terms of privacy, confidentiality and cyber-safety of sensitive personal health data, informed consent and liability of stakeholders;
11.3. mandate the DH-BIO and the Consultative Committee of the Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data to seek synergies in their work towards guiding member States on good governance of health data, with a view to preventing any sovereign or commercial misuse of personal data through medical AI applications;
11.4. update Recommendation CM/Rec(2016)3 on human rights and business in order to reflect modern challenges and member States’ obligations under the European Social Charter (ETS Nos. 035 and 163), including the right to health.

12. The Assembly, furthermore, recommends that the Committee of Ministers encourage member States to:
12.1. build a holistic national approach, involving national parliaments, to the use of AI technology in health-care services based on multi-stakeholder involvement and accountability, as well as adequate evaluation of socio-economic and human rights impacts, with a view to consolidating their population's full access to public health-care services and giving effect to everyone's right to health as set out in the European Social Charter;
12.2. participate more actively in the development and deployment of AI applications for health-care services at national level, and provide for sovereign evaluation and screening of such applications by independent institutions, as well as an exhaustive authorisation-process for their deployment, in particular in public health services, to counter risks to individual rights and public health, in accordance with the precautionary principle;
12.3. examine legal and technical options for certification and validation of both publicly and commercially developed AI applications (covering the end-product and every stage of the AI design process) for health at both national and European levels;
12.4. strengthen their national human rights impact assessment framework for all health-related AI applications;
12.5. guarantee that AI-driven health applications do not replace human judgement completely and that thus enabled decisions in professional health care are always validated by adequately trained health professionals;
12.6. elaborate a legal framework for clarifying the liability of stakeholders for the design, deployment, maintenance and use of health-related AI applications (including implantable and wearable medical devices) in the national and pan-European context, redefine stakeholder responsibility for risks and harms from such applications and ensure that governance structures and law enforcement mechanisms are in place to guarantee the implementation of this legal framework;
12.7. discuss how to bridge the requirement of strong protection of personal data and the need to use certain types of personal health data for the public good in the context of AI-powered enhancements in public health, in a human-rights compliant fashion, including as regards better preparedness of governance structures to Pag. 5anticipate and manage the pandemic response;
12.8. accelerate their accession, if they have not yet done so, to the Oviedo Convention and its protocols, and to the Protocol amending the Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data;
12.9. adapt their education and training systems towards integrating AI-literacy into the curricula of schools and medical training institutions, with an emphasis on the ethical principles of AI and responsible uses of AI applications;
12.10. enhance investments in building the necessary digital infrastructure to overcome the prevailing digital divides and to ensure that AI-driven innovations do not exacerbate existing health inequalities;
12.11. engage a national debate on AI for health in order to raise the population's and health professionals’ awareness of both the risks and the benefits inherent in the use of AI applications for wellness and health care, in particular with regard to certain commercially developed applications already on the market profiting from current legal voids;
12.12. consider options for harmonising interconnectivity of national health data networks and databases so as to enable human-rights compliant data linkages for AI-powered analysis and build «learning health systems».

(1) Text adopted by the Standing Committee, acting on behalf of the Assembly, on 22 October 2020 (see Doc. 15154, report of the Committee on Social Affairs, Health and Sustainable Development, rapporteur: Ms Selin Sayek Böke).

Pag. 6

ASSEMBLÉE PARLEMENTAIRE DU CONSEIL DE L'EUROPE

RECOMMANDATION 2185 (2020) ⁽¹⁾
Version provisoire

Intelligence artificielle et santé: défis médicaux, juridiques et éthiques à venir

Assemblée parlementaire,

1. La bonne santé est une condition préalable à une vie personnelle épanouie et au progrès de la société dans son ensemble. L'intelligence artificielle (IA) est l'innovation technologique la plus récente impactant rapidement la santé publique. À l'instar de nombreuses innovations technologiques dans le domaine de la santé, elle recèle un potentiel considérable d'amélioration de la santé individuelle et publique, mais elle présente aussi des risques pour les droits des personnes et pour la santé publique. En outre, la vitesse du développement et déploiement de ces avancées technologiques est beaucoup plus rapide que celle du cadre juridique qui les régit, ce qui nécessite une attention particulière des décideurs politiques et des élus.
2. Les applications de l'IA dans le secteur des soins de santé témoignent du changement de paradigme qui s'y opère de façon générale, l'accent n’étant plus mis sur la maladie et la thérapie, mais sur la santé/le bien-être/la prévention autogérés, et les protocoles thérapeutiques uniformisés étant progressivement abandonnés au profit d'une médecine de précision adaptée au patient. Dans cet environnement en mutation, le plein respect des droits humains, notamment des droits sociaux, doit servir de fondement à l’élaboration des politiques publiques en matière de soins de santé et guider les avancées technologiques. Ceci est essentiel pour que des mécanismes reposant sur l'IA plus matures puissent être déployés en toute sécurité du point de vue des droits humains et que les avantages apportés par l'innovation soient répartis dans la société de manière juste et équitable.
3. L'Assemblée parlementaire note que la communauté scientifique a instamment demandé un débat public sur les incidences du recours à l'IA dans le domaine de la santé et a souligné la nécessité de renforcer la responsabilité de toutes les parties prenantes. Les décideurs politiques, y compris les parlementaires, aux niveaux national, européen et international doivent mieux comprendre les risques variés, les impacts socio- économiques et les possibilités intrinsèques de la conception, du développement et du déploiement des technologies d'IA dans le domaine de Pag. 7la santé, afin de rechercher des améliorations pragmatiques et de proposer des options adéquates en matière de réglementation garantissant le plein respect de la dignité humaine et des droits humains par la mise en place de cadres éthiques et juridiques ayant, autant que possible, une portée mondiale. Pour déterminer les risques et les défis que pose l'IA pour les soins de santé, il est nécessaire de suivre une démarche collaborative et pluridisciplinaire.
4. La flambée épidémique de covid-19 a attiré l'attention sur le rôle que l'IA peut jouer en facilitant la surveillance, l’évaluation et la gestion en temps réel des données sur la maladie. Elle a aussi ravivé le débat – dont on a grand besoin – sur la reconnaissance du fait que le droit à la santé est un droit humain fondamental qui devrait être garanti par des instruments juridiques et des systèmes de santé adaptés, publics et accessibles par tous.
5. L'Assemblée note avec inquiétude la mise en garde de l'Organisation mondiale de la Santé (OMS), selon laquelle la fracture numérique et les inégalités actuelles (au sein des pays et entre eux, mais aussi dans et entre les groupes sociaux), conjuguées à la progression de l'IA, pourraient exacerber la répartition inégale des soins de santé et les problèmes d'un accès effectif aux soins, entraîner une raréfaction des professionnels de santé et une diminution de leurs compétences, accentuer les préjugés et accroître les «interactions cliniques irrespectueuses», entraînant ainsi de fait un creusement des inégalités en matière de soins et une dégradation des résultats thérapeutiques. L'Assemblée rappelle qu'il existe un large consensus international autour des principes éthiques essentiels de l'IA. Elle soutient fermement les travaux de l'OMS sur l’élaboration de recommandations éthiques sur l'IA dans le domaine de la santé sur la base des avis partagés par diverses parties prenantes, notamment le Conseil de l'Europe et son Assemblée.
6. Étant donné que le secteur privé a jusqu’à présent assuré l'essentiel de la recherche-développement sur les applications de l'IA au domaine de la santé, les autorités publiques nationales responsables de la santé devraient adopter une approche stratégique pour coordonner les politiques de numérisation, la recherche et l'investissement, ainsi que la gestion et l'exploitation des données à caractère personnel, afin d'assurer une protection complète des droits fondamentaux et de trouver un bon équilibre entre l'intérêt des personnes, l'intérêt des entreprises et l'intérêt général. Dans ce contexte, l'Assemblée réitère l'appel qu'elle a fait dans sa Recommandation 2166 (2019) «Droits de l'homme et entreprises: quelles suites donner à la Recommandation CM/Rec(2016)3 du Comité des Ministres ?» pour tenir compte des défis modernes et des obligations incombant aux États membres en vertu de la Charte sociale européenne (STE n^os 035 et 163), notamment le droit à la santé.
7. L'Assemblée souligne la pertinence des instruments juridiques existants du Conseil de l'Europe, en particulier la Convention européenne des droits de l'homme (STE n^o 5), la Convention sur les droits de l'homme et la biomédecine (STE n^o 164, «Convention d'Oviedo») et la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (STE n^o 108) et son Protocole d'amendement (STCE n^o 223, «Convention 108 »), s'agissant des transformations des soins au patient induites par l'IA. Cela étant, elle est convaincue que l’étendue et la profondeur de ces transformations et l'incidence indéniable de la technologie d'IA sur la dignité humaine et sur les droits fondamentaux sont telles que le Conseil de l'Europe devrait, en tant que gardien des droits humains, élaborer un instrument juridique spécifique sur l'IA. L'Assemblée soutient donc vivement les travaux entrepris par le Comité ad hoc sur l'intelligence artificielle (CAHAI) en vue d’élaborer un tel instrument juridique spécifique.
8. L'Assemblée note que le respect de la vie privée, la confidentialité des données à caractère personnel et le consentement éclairé sont les pierres angulaires des droits des patients partout dans le monde. D'un autre côté, certaines restrictions dans l'utilisation des données de santé à caractère personnel peuvent empêcher d’établir des rapprochements essentiels entre les données et causer des distorsions, voire Pag. 8des erreurs, dans les analyses reposant sur l'IA. L'anonymisation ou la pseudonymisation des données de santé à caractère personnel sont des solutions envisageables, mais discutables.
9. L'Assemblée se réjouit de voir que le Comité de bioéthique du Conseil de l'Europe (DH-BIO) a l'intention de travailler sur les questions de confiance, de sécurité et de transparence dans l'application de l'IA aux soins de santé. Elle encourage le Comité à adopter une approche globale, à lancer sans tarder ces travaux prioritaires et à rechercher des synergies avec d'autres organes du Conseil de l'Europe actifs dans ce domaine.
10. De plus, l'Assemblée considère que les exigences en matière de cybersécurité applicables aux dispositifs médicaux utilisant l'IA (notamment les dispositifs implantables et portables) devraient être étudiées plus avant dans le cadre de la Convention sur la cybercriminalité (STE n^o 185), tandis que le Comité d'experts sur la dimension droits de l'homme des traitements automatisés de données et différentes formes d'intelligence artificielle (MSI-AUT) pourrait compléter les travaux du DH-BIO en aidant à définir la responsabilité des différents acteurs – des développeurs aux autorités de réglementations, et des intermédiaires aux utilisateurs (notamment les pouvoirs publics, les professionnels de santé, les patients et le grand public) – en ce qui concerne le développement, la maintenance et l'utilisation des applications médicales de l'IA et tout préjudice causé par ces applications.
11. En conséquence, l'Assemblée recommande au Comité des Ministres:
11.1. de charger le CAHAI d’élaborer un instrument juridique spécifique sur l'IA, de préférence un instrument contraignant de portée mondiale, par exemple une convention ouverte aux États non membres, en mettant l'accent sur les incidences de l'IA sur les droits humains en général et sur le droit à la santé en particulier;
11.2. d'associer d'autres organes pertinents du Conseil de l'Europe aux travaux du CAHAI, dans le but de couvrir de fa on adéquate les problèmes relatifs à la santé, notamment en ce qui concerne le respect de la vie privée, la confidentialité et la cybersécurité des données de santé sensibles à caractère personnel, le consentement éclairé et la responsabilité des parties prenantes;
11.3. de charger le DH-BIO et le Comité consultatif de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel de rechercher des synergies dans leurs activités visant à guider les États membres vers une bonne gouvernance des données de santé, dans le but de prévenir toute utilisation souveraine ou commerciale abusive de données à caractère personnel par des applications médicales de l'IA;
11.4. de réviser la Recommandation CM/Rec(2016)3 «Droits de l'homme et entreprises» afin de prendre en compte les défis actuels et les obligations des États membres envers la Charte sociale européenne (STE no 35 et n^o 163), y compris le droit à la santé.

12. L'Assemblée recommande également au Comité des Ministres d'encourager les États membres:
12.1. à construire une approche nationale holistique, impliquant les parlements nationaux, afin d'utiliser la technologie d'IA dans les services de soins de santé basés sur l'implication et la responsabilité multipartite, ainsi que l’évaluation adéquate des impacts sociaux-économiques et sur les droits humains, en vue de consolider l'accès complet de leur population aux services de santé publique et répondant au droit de chacun à la santé comme énoncé dans la Charte sociale européenne;
12.2. à prendre une part plus active au développement et au déploiement des applications de l'IA pour les services de santé au niveau national, et à prévoir une évaluation et une étude préalable souveraines de ces applications par des institutions indépendantes, ainsi qu'une procédure d'autorisation exhaustive pour Pag. 9leur mise en place, en particulier dans les services de santé publique, afin de parer aux risques de voir menacés les droits individuels et la santé publique, conformément au principe de précaution;
12.3. à examiner les solutions juridiques et techniques de certification et de validation des applications de l'IA pour la santé développées à des fins tant juridiques que commerciales (couvrant le produit final et chaque étape du processus de conception de l'IA) aux niveaux national et européen;
12.4. à renforcer, pour toute utilisation de l'IA en rapport avec la santé, le cadre national d'analyse d'impact;
12.5. à garantir que les applications de santé reposant sur l'IA ne remplacent pas complètement le jugement humain, et donc que les décisions prises avec l'IA dans le cadre des soins de santé professionnels soient toujours validées par des professionnels de santé dûment formés;
12.6. à élaborer un cadre juridique pour clarifier la responsabilité des parties prenantes dans la conception, le déploiement, l'entretien et l'utilisation des applications de l'IA en rapport avec la santé (y compris pour les dispositifs médicaux implantables et portables) dans les contextes national et pan-européen, redéfinir la responsabilité des acteurs pour les risques et préjudices émanant de ces applications et assurer que les structures de gouvernance et des mécanismes d'application de la loi soient en place pour garantir la mise en ouvre de ce cadre juridique;
12.7. à réfléchir à la fa on de concilier d'une part l'exigence d'une grande protection des données à caractère personnel et, d'autre part, la nécessité d'utiliser certains types de données de santé à caractère personnel pour le bien commun dans le contexte des améliorations apportées par l'IA dans le domaine de la santé publique, et ce dans le respect des droits humains, y compris en ce qui concerne une meilleure préparation des structures de gouvernance pour anticiper et gérer la réponse à une pandémie;
12.8. à accélérer leur adhésion, s'ils n'ont pas encore adhéré, à la Convention d'Oviedo et à ses Protocoles, ainsi qu'au Protocole d'amendement à la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel;
12.9. à adapter leurs systèmes d’éducation et de formation pour que soit intégrée l’éducation à l'IA dans les programmes scolaires et les programmes des facultés de médecine, en mettant l'accent sur les principes éthiques de l'IA et sur les usages responsables des applications de cette technologie;
12.10. à appuyer les investissements visant à construire l'infrastructure numérique nécessaire pour surmonter les fractures numériques actuelles et garantir que les innovations menées par l'IA n'exacerbèrent pas les inégalités en soins de santé existantes;
12.11. à lancer un débat national sur l'IA appliquée à la santé afin de sensibiliser l'opinion publique et les professionnels de santé aux risques et aux avantages inhérents à l'utilisation des applications de l'IA pour le bien-être et les soins de santé, en particulier celles développées à des fins commerciales qui, profitant des vides juridiques actuels, sont déjà sur le marché;
12.12. à examiner les différentes possibilités d'harmoniser l'interconnectivité des réseaux et des bases de données de santé nationaux pour permettre des rapprochements de données compatibles avec les droits humains aux fins de l'analyse fondée sur l'IA et bâtir des «systèmes de santé apprenants».

(1) Texte adopté par la Commission permanente, agissant au nom de l'Assemblée, le 22 octobre 2020 (voir Doc. 15154, rapport de la Commission des questions sociales, de la santé et du développement durable, rapporteure: Mme Selin Sayek Böke).

Pag. 10

ASSEMBLEA PARLAMENTARE DEL CONSIGLIO D'EUROPA

RACCOMANDAZIONE 2185 (2020)

Intelligenza artificiale e salute: future sfide mediche, giuridiche ed etiche

Assemblea parlamentare,

1. La buona salute rappresenta la premessa per una vita personale realizzata e per il progresso della società nel suo insieme. L'intelligenza artificiale (IA) è l'innovazione tecnologica più recente che sta avendo un rapido impatto sulla salute pubblica. Come numerose innovazioni tecnologiche nel campo della sanità, essa contiene un considerevole potenziale di miglioramento della salute individuale e pubblica, ma presenta anche dei rischi per i diritti delle persone e per la salute pubblica. Inoltre, la velocità di sviluppo e introduzione di questi progressi tecnologici è molto più rapida rispetto a quella del quadro giuridico che li regolamenta, il che richiede un'attenzione particolare da parte dei decisori politici e dei rappresentanti eletti.
2. Le applicazioni dell'IA nella sanità indicano il cambiamento di paradigma che riguarda questo settore in generale, in quanto non si pone più l'accento sulla malattia e sulla terapia, ma sulla salute/benessere/prevenzione autogestiti e i protocolli terapeutici standardizzati vengono progressivamente abbandonati a vantaggio di una medicina di precisione adattata al paziente. In questo contesto in mutazione, il pieno rispetto dei diritti umani, in particolare dei diritti sociali, deve servire da base per l'elaborazione di politiche pubbliche in materia di cure sanitarie e guidare i progressi tecnologici. Questo è essenziale per l'introduzione, in tutta sicurezza per i diritti umani, di meccanismi basati sull'IA più maturi e per una ripartizione giusta ed equa dei vantaggi portati dall'innovazione.
3. L'Assemblea parlamentare osserva che la comunità scientifica ha chiesto con forza un dibattito pubblico sull'impatto del ricorso all'IA nel campo della sanità e ha sottolineato la necessità di rafforzare la responsabilità di tutte le parti coinvolte. I decisori politici, compresi i parlamentari, a livello nazionale, europeo e internazionale, devono comprendere meglio i vari rischi, le incidenze socio-economiche e le opportunità intrinseche della progettazione, dello sviluppo e dello spiegamento di tecnologie dell'IA nella sanità, per cercare miglioramenti pragmatici e proporre opzioni adeguate in materia di regolamentazione, al fine di garantire il pieno rispetto della dignità umana e dei diritti umani attraverso l'introduzione di quadri giuridici ed etici che abbiano, nella misura Pag. 11del possibile, una portata mondiale. Per determinare i rischi e le sfide che pone l'IA nelle cure sanitarie, è necessario seguire un percorso collaborativo pluridisciplinare.
4. L'epidemia di Covid-19 ha attirato l'attenzione sul ruolo che l'IA può svolgere per facilitare il controllo medico, la valutazione e la gestione in tempo reale dei dati della malattia. Ha anche riacceso il necessario dibattito sul riconoscimento del diritto alla salute come diritto umano fondamentale che dovrebbe essere garantito da strumenti giuridici e sistemi sanitari adeguati, pubblici e accessibili a tutti.
5. L'Assemblea prende nota con preoccupazione dell'avvertimento dell'Organizzazione mondiale della sanità (OMS), secondo cui il divario digitale e le attuali disuguaglianze (all'interno dei paesi e tra essi, ma anche all'interno e tra i gruppi sociali), accompagnate dal progresso dell'IA, potrebbero esacerbare l'iniqua ripartizione delle cure sanitarie e una riduzione dell'effettivo accesso alle cure, determinando una rarefazione degli operatori sanitari e una diminuzione delle loro competenze; potrebbero accentuare i pregiudizi e accrescere le «interazioni cliniche irrispettose», determinando così di fatto un aumento delle disuguaglianze in materia di cure e un peggioramento dei risultati terapeutici. L'Assemblea ricorda che esiste un ampio consenso internazionale sui principi etici essenziali dell'IA. Sostiene fermamente i lavori dell'OMS per l'elaborazione di raccomandazioni etiche sull'IA nel campo della sanità sulla base di pareri condivisi dalle diversi parti coinvolte, in particolare il Consiglio d'Europa e la sua Assemblea.
6. Considerato che il settore privato ha finora assicurato l'essenziale della ricerca-sviluppo sulle applicazioni dell'IA nella sanità, le autorità pubbliche nazionali responsabili della salute dovrebbero adottare un approccio strategico per coordinare le politiche di digitalizzazione, ricerca e investimento, nonché la gestione e l'utilizzo dei dati personali, per garantire la una completa tutela dei diritti fondamentali e trovare un giusto equilibrio tra l'interesse dell'individuo, l'interesse delle imprese e l'interesse generale. In questo contesto, l'Assemblea ripete l'appello lanciato nella Raccomandazione 2166 (2019) «Diritti umani e imprese: quali seguiti dare alla Raccomandazione CM/Rec(2016)3 del Comitato dei Ministri ?» per tener conto delle sfide moderne e degli obblighi che incombono sugli Stati membri in virtù della Carta sociale europea (STE n^o 035 e 163), in particolare il diritto alla salute.
7. L'Assemblea sottolinea la pertinenza dei vigenti strumenti giuridici del Consiglio d'Europa, segnatamente la Convenzione europea dei diritti dell'uomo (STE n^o 005), la Convenzione sui diritti umani e la biomedicina (STE n^o 164, «Convenzione d'Oviedo») e la Convenzione per la protezione delle persone nei confronti del trattamento automatizzato dei dati personali (STE n^o 108) e il suo Protocollo emendativo (STCE n^o 223, «Convenzione 108 »), rispetto alle trasformazioni delle cure al paziente prodotte dall'IA. Ciò detto, è convinta che la portata e la profondità di queste trasformazioni e l'incidenza innegabile della tecnologia dell'IA sulla dignità umana e sui diritti fondamentali sono tali che il Consiglio d'Europa dovrebbe, in quanto custode dei diritti umani, elaborare uno strumento giuridico specifico sull'IA. L'Assemblea sostiene quindi con forza i lavori intrapresi dal Comitato ad hoc sull'intelligenza artificiale (CAHAI) in vista dell'elaborazione di un tale strumento giuridico specifico.
8. L'Assemblea osserva che il rispetto della privacy, la riservatezza dei dati personali e il consenso informato sono pietre angolari dei diritti dei pazienti in tutto il mondo. D'altra parte, alcune restrizioni nell'utilizzo dei dati sanitari di natura personale possono impedire dei raffronti essenziali tra i dati e causare distorsioni o addirittura errori nelle analisi che si fondano sull'IA. È da verificare se l'anonimizzazione o la pseudonimizzazione dei dati sanitari personali rappresentino soluzioni valide.
9. L'Assemblea è lieta di osservare che il Comitato di bioetica del Consiglio d'Europa (DH- BIO) ha intenzione di lavorare Pag. 12sulla questione della fiducia, della sicurezza e della trasparenza nell'applicazione dell'IA alle cure sanitarie. Esorta il Comitato ad adottare una strategia globale, ad intraprendere questi lavori in via prioritaria e a ricercare sinergie con altri organi del Consiglio d'Europa attivi in questo campo.
10. Inoltre, l'Assemblea ritiene che le esigenze in materia di cyber-sicurezza applicabili ai dispositivi medici che utilizzano l'IA (in particolare i dispositivi impiantabili e portabili) dovrebbero essere ulteriormente analizzate nel quadro della Convenzione sulla cybercriminalità (STE n^o 185), mentre il Comitato di esperti sulla dimensione dei diritti umani dei trattamenti dati automatizzati e delle diverse forme di intelligenza artificiale (MSI-AUT) potrebbe completare i lavori del DH-BIO contribuendo a definire la responsabilità dei diversi attori – dagli sviluppatori alle autorità di regolamentazione e dagli intermediari agli utenti (in particolare poteri pubblici, operatori sanitari, pazienti e grande pubblico) – per quanto riguarda lo sviluppo, la manutenzione e l'utilizzo delle applicazioni mediche dell'IA e di qualsiasi danno causato da queste applicazioni.
11. Di conseguenza, l'Assemblea raccomanda al Comitato dei Ministri:
11.1. di incaricare il CAHAI di elaborare uno strumento giuridico specifico sull'IA, preferibilmente uno strumento vincolante di portata mondiale, ad esempio una Convenzione aperta agli Stati non membri, ponendo l'accento sull'incidenza dell'IA sui diritti umani in generale e sul diritto alla salute in particolare;
11.2. di coinvolgere altri organi competenti del Consiglio d'Europa ai lavori del CAHAI, al fine di esaminare in modo adeguato tutte le questioni relative alla sanità, in particolare il rispetto della privacy, la riservatezza e la cyber-sicurezza dei dati sanitari sensibili di natura personale, il consenso informato e la responsabilità delle parti coinvolte;
11.3. di incaricare il DH-BIO e il Comitato consultivo della Convenzione per la protezione delle persone nei confronti del trattamento automatizzato dei dati personali di ricercare sinergie nelle loro attività tese a indirizzare gli Stati membri verso una buona governance dei dati sanitari, al fine di prevenire qualsiasi utilizzo abusivo di dati personali da parte di autorità o imprese commerciali attraverso applicazioni mediche dell'IA;
11.4. di rivedere la Raccomandazione CM/Rec(2016)3 «Diritti umani e imprese» per tener conto delle sfide attuali e degli obblighi degli Stati membri in virtù della Carta sociale europea (STE n^o35 e n^o163), compreso il diritto alla salute.

12. L'Assemblea raccomanda anche al Comitato dei Ministri di incoraggiare gli Stati membri:
12.1. a elaborare una strategia nazionale omnicomprensiva, che coinvolga i parlamenti nazionali, per l'utilizzo della tecnologia di IA nei servizi sanitari basati sul coinvolgimento e la responsabilità di più parti, nonché l'adeguata valutazione dell'impatto socio-economico e sui diritti umani, per consolidare il completo accesso della popolazione ai servizi sanitari pubblici e realizzare il diritto di tutti alla salute, come enunciato nella Carta sociale europea;
12.2. a svolgere un ruolo più attivo nello sviluppo e nello spiegamento delle applicazioni dell'IA nei servizi sanitari a livello nazionale e a prevedere una valutazione e uno studio preliminare ufficiale di queste applicazioni da parte di istituzioni indipendenti, nonché una procedura di autorizzazione esaustiva per la loro introduzione, in particolare nei servizi sanitari pubblici, al fine di controbilanciare i rischi di veder minacciati i diritti individuali e la salute pubblica, conformemente al principio di precauzione;
12.3. a esaminare le soluzioni giuridiche e tecniche di certificazione e convalida delle applicazioni dell'IA alla salute, sviluppate a fini sia giuridici sia commerciali (che coprano il prodotto finale e ogni Pag. 13tappa del processo di progettazione dell'IA) a livello nazionale ed europeo;
12.4. a rafforzare, per qualsiasi utilizzo dell'IA in relazione alla salute, il quadro nazionale di analisi di impatto;
12.5. a garantire che le applicazioni sanitarie basate sull'IA non sostituiscano completamente il giudizio umano e, quindi, che le decisioni assunte con l'IA nel quadro delle cure sanitarie professionali siano sempre convalidate in debita forma da professionisti sanitari;
12.6. a elaborare un quadro giuridico per chiarire la responsabilità delle parti coinvolte nella progettazione, spiegamento, manutenzione e utilizzo delle applicazioni di IA alla salute (compresi i dispositivi medici impiantabili e portabili) nei contesti nazionale e pan-europeo, ridefinire la responsabilità degli operatori per i rischi e i danni derivanti da queste applicazioni e assicurare che esistano strutture di governance e meccanismi di applicazione della legge per garantire l'attuazione di questo quadro giuridico;
12.7. a riflettere in modo da conciliare, da una parte, l'esigenza di una grande protezione dei dati personali e, dall'altra parte, la necessità di utilizzare alcuni tipi di dati personali sanitari per il bene comune nel quadro dei miglioramenti offerti dall'IA nel campo della sanità pubblica, nel rispetto dei diritti umani, anche per quanto riguarda una migliore preparazione delle strutture di governance a prevedere e gestire la risposta a una pandemia;
12.8. ad accelerare l'adesione, per gli Stati che non lo hanno ancora fatto, alla Convenzione di Oviedo e ai suoi Protocolli, nonché al Protocollo emendativo alla Convenzione per la protezione delle persone dal trattamento automatizzato dei dati personali;
12.9. ad adattare i loro sistemi di istruzione e formazione per integrare l'educazione all'IA nei programmi scolastici e nei programmi delle facoltà di medicina, ponendo l'accento sui principi etici dell'IA e sull'uso responsabile delle applicazioni di questa tecnologia;
12.10. a sostenere gli investimenti tesi a costruire l'infrastruttura digitale necessaria per superare il divario digitale attuale e garantire che le innovazioni determinate dall'IA non esacerbino le attuali disuguaglianze nelle cure sanitarie;
12.11. a promuovere un dibattito nazionale sull'IA applicata alla sanità e sensibilizzare l'opinione pubblica e gli operatori sanitari sui rischi e sui vantaggi inerenti all'utilizzo delle applicazioni dell'IA per il benessere e le cure sanitarie, in particolare quelle sviluppate a fini commerciali che, approfittando del vuoto giuridico attuale, sono già sul mercato;
12.12. ad esaminare le diverse possibilità di armonizzare l'interconnettività delle reti e delle banche dati sanitarie nazionali per consentire raffronti di dati nel rispetto dei diritti umani, al fine di condurre un'analisi fondata sull'IA e costruire dei «sistemi sanitari che abbiano la capacità di imparare».