Doc. XII-bis, N. 68
ASSEMBLEA PARLAMENTARE DEL CONSIGLIO D'EUROPA
Raccomandazione n. 2102 (2017)
Convergenza tecnologica, intelligenza artificiale e diritti umani
Trasmessa il 10 maggio 2017
PARLIAMENTARY ASSEMBLY OF THE COUNCIL OF EUROPE
RECOMMENDATION 2102 (2017) (1)
Provisional version
Technological convergence, artificial intelligence and human rights
Parliamentary Assembly
1. The convergence between nanotechnology, biotechnology, information technology and cognitive sciences and the speed at which the applications of new technologies are put on the market have consequences not only for human rights and the way they can be exercised, but also for the fundamental concept of what characterises a human being.
2. The pervasiveness of new technologies and their applications is blurring the boundaries between human and machine, between online and offline activities, between the physical and the virtual world, between the natural and the artificial, and between reality and virtuality. Humankind is increasing its abilities by boosting them with the help of machines, robots and software. Today it is possible to create functional brain-computer interfaces. A shift has been made from the ”treated” human being to the ”repaired” human being, and what is now looming on the horizon is the ”augmented” human being.
3. The Parliamentary Assembly notes with concern that it is increasingly difficult for lawmakers to adapt to the speed at which science and technologies evolve and to draw up the required regulations and standards; it strongly believes that safeguarding human dignity in the 21st century implies developing new forms of governance, new forms of open, informed and adversarial public debate, new legislative mechanisms and above all the establishment of international co-operation making it possible to address these new challenges most effectively.
4. The Assembly recalls the principle enshrined in Article 2 of the Convention on Human Rights and Biomedicine (ETS No. 164, ”Oviedo Convention”) which affirms the primacy of the human being by stating that ”the interests and welfare of the human being shall prevail over the sole interest of society or science.”
5. In this regard, the Assembly welcomes the initiative of the Council of Europe Committee on Bioethics to organise, in October 2017 on the occasion of the 20th anniversary of the Council of Europe Convention on Human Rights and Biomedicine, Pag. 3an international conference to discuss the prospect of the emergence of these new technologies and their consequences for human rights, with a view to developing a strategic action plan during the next biennium 2018-19.
6. In addition, the Assembly considers that it is necessary to implement genuine world internet governance that is not dependent on private interest groups or just a handful of States.
7. The Assembly calls on the Committee of Ministers to:
7.1. finalise without further delay the modernisation of the Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data (ETS No. 108) in order to have new provisions making it possible to put rapidly in place more appropriate protection;
7.2. define the framework for the use of care robots and assistive technologies in the Council of Europe Disability Strategy 2017-2023 in the framework of its objective to achieve equality, dignity and equal opportunities for people with disabilities.
8. In the light of the above, the Assembly urges the Committee of Ministers to instruct the relevant bodies of the Council of Europe to consider how intelligent artefacts and/or connected devices and, more generally, technological convergence and its social and ethical consequences related to the field of genetics and genomics, neurosciences and big data, challenge the different dimensions of human rights.
9. Moreover, the Assembly proposes that guidelines be drawn up on the following issues:
9.1. strengthening transparency, regulation by public authorities and operators’ accountability concerning:
9.1.1. the fact that responsibility and accountability lies with the human being, no matter the circumstances. References to ”independent” decision-making by artificial intelligence systems cannot exempt the creators, owners and managers of these systems from accountability for human rights violations committed with the use of these systems, even in cases where the action that caused the damage was not directly ordered by a responsible human commander or operator;
9.1.2. automatic processing operations aimed at collecting, handling and using personal data;
9.1.3. informing the public about the value of the data they generate, consent to the use of those data and the length of time they are to be stored;
9.1.4. informing everyone about the processing of personal data which have originated from them and about the mathematical and statistical methods making profiling possible;
9.1.5. the design and use of persuasion software and of information and communication technology (ICT) or artificial intelligence algorithms, that must fully respect the dignity and rights of all users and especially the most vulnerable, such as elderly people and people with disabilities;
9.2. a common framework of standards to be complied with when a court uses artificial intelligence;
9.3. the need for any machine, any robot or any artificial intelligence artefact to remain under human control; insofar as the machine in question is intelligent solely through its software, any power it is given must be able to be withdrawn from it;
9.4. the recognition of new rights in terms of respect for private and family life, the ability to refuse to be subjected to profiling, to have one's location tracked, to be manipulated or influenced by a ”coach” and the right to have the opportunity, in the context of care and assistance provided to elderly people and people with disabilities, to choose to have human contact rather than a robot.
10. The Assembly reiterates its call made in Resolution 2051 (2015) on ”Drones and targeted killings: the need to uphold human rights and international law” on all member States and observer States, as well as States whose parliaments Pag. 4have observer status with the Assembly, to refrain from any automated (robotic) procedures for selecting individuals for targeted killings or any sort of injury based on communication patterns or other data collected through mass surveillance techniques. This should be true not only for drones but also for other combat equipment with artificial intelligence systems, as well as other equipment and/or software which might potentially inflict damage on people, property, personal data or information databases, or interfere with privacy, freedom of expression, or the right to equality and non-discrimination.
11. The Assembly calls for close co-operation with the institutions of the European Union and the United Nations Educational, Scientific and Cultural Organisation (UNESCO) to ensure a consistent legal framework and effective supervisory mechanisms at international level.
ASSEMBLÉE PARLEMENTAIRE DU CONSEIL DE L'EUROPE
RECOMMANDATION 2102 (2017) (1)
Version provisoire
La convergence technologique, l'intelligence artificielle et les droits de l'homme
Assemblée parlementaire
1. Les convergences entre les nanotechnologies, les biotechnologies, les technologies de l'information et les sciences cognitives et la vitesse à laquelle les applications des nouvelles technologies sont mises sur le marché ont des incidences non seulement sur les droits de l'homme et la façon dont ils peuvent être exercés, mais aussi sur la définition de la notion fondamentale de ce qui caractérise l’être humain.
2. L'omniprésence des nouvelles technologies et de leurs applications estompe la distinction entre l'homme et la machine, entre les activités en ligne et hors ligne, entre le monde physique et le monde virtuel, le naturel et l'artificiel, entre la réalité et la virtualité. L'homme augmente ses capacités en les dopant grâce aux apports de machines, de robots, de logiciels. On sait aujourd'hui créer des interfaces cerveau/ordinateur fonctionnelles. De l'homme ”soigné”, on est passé â l'homme ”réparé” et se profile aujourd'hui â l'horizon l'homme ”augmenté”.
3. L'Assemblée parlementaire note avec préoccupation que le législateur a de plus en plus de mal â s'adapter â l’évolution de la science et des technologies et â élaborer les textes réglementaires et normatifs qui s'imposent; elle est fermement convaincue que la préservation de la dignité humaine au XXIe siécle suppose le développement de nouvelles formes de gouvernance et de débat public ouvert, éclairé et contradictoire, de nouveaux mécanismes législatifs et surtout l'instauration d'une coopération internationale permettant de relever ces nouveaux défis de la maniére la plus efficace.
4. L'Assemblée rappelle le principe consacré l'article 2 de la Convention sur les droits de l'Homme et la biomédecine (STE n. 164, ”Convention d'Oviedo”), qui affirme la primauté de l’étre humain, en déclarant que”l'intérêt et le bien de l’étre humain doivent prévaloir sur le seul intérêt de la société ou de la science.”
5. A ce sujet, l'Assemblée se félicite de l'initiative du Comité de bioéthique du Conseil de l'Europe d'organiser, en octobre 2017 â l'occasion du 20e anniversaire de la Convention du Conseil de l'Europe sur les droits de l'homme et la biomédecine, une Pag. 6conférence internationale pour examiner les perspectives de l’émergence de ces nouvelles technologies et leurs conséquences sur les droits de l'homme, en vue d’élaborer un plan d'action stratégique au cours du prochain biennium 2018-2019.
6. Par ailleurs, l'Assemblée considére qu'il est nécessaire de mettre en œvre une véritable gouvernance mondiale de l'internet qui ne dépende pas de groupes d'intérêts privés ni de quelques États.
7. L'Assemblée invite le Comité des Ministres:
7.1. à achever sans plus tarder la modernisation de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (STE n. 108) afin d'avoir de nouvelles dispositions permettant la mise en place rapide d'une protection mieux adaptée;
7.2. à définir le cadre de l'utilisation de robots de soins et de technologies d'assistance dans la Stratégie du Conseil de l'Europe sur le Handicap 2017-2023 dont l'un des objectifs est d'assurer aux personnes handicapées l’égalité, la dignité et l’égalité des chances.
8. Compte tenu de ce qui précède, l'Assembleé invite instamment le Comité des Ministres à charger les organes compétents du Conseil de l'Europe d'examiner la manière dont les produits intelligents et/ou les objets connectés et plus généralement la convergence technologique et ses conséquences sociales et éthiques dans les domaines de la génétique et de la génomique, des neurosciences et des mégadonnées (big data) remettent en question les différentes dimensions des droits de l'homme.
9. Par ailleurs, l'Assemblée propose que de lignes directrices soient développées sur les questions suivantes:
9.1. le renforcement de la transparence, de la réglementation des pouvoirs publics et de la responsabilité des opérateurs concernant:
9.1.1. le fait que la responsabilité d'un acte et l'obligation de rendre des comptes à son sujet incombent à un étre humain, indépendamment des circonstances dans lesquelles il a été commis. La mention d'une prise de décision ”indépendante” par des systémes d'intelligence artificielle ne saurait exonérer les créateurs, propriétaires et gérants de ces systémes de leur obligation de rendre des comptes pour les violations des droits de l'homme commises en utilisant ces systémes, méme lorsque l'acte qui a causé le préjudice n'a pas été directement ordonné par un commandant ou opérateur humain responsable;
9.1.2. les opérations de traitements automatisés visant à collecter, manier et utiliser les données caractére personnel;
9.1.3. l'information du public sur la valeur des données qu'il produit, le consentement sur leur utilisation et la fixation de la durée de conservation de ces données;
9.1.4. l'information de toute personne sur le traitement de données personnelles dont elle est la source ainsi que sur les modéles mathématiques et statistiques qui permettent le profilage;
9.1.5. la conception et l'utilisation de logiciels persuasifs et d'algorithmes des technologies de l'information et de la communication (TIC) ou de l'intelligence artificielle respectant pleinement la dignité et les droits fondamentaux de tous les utilisateurs, en particulier les plus vulnérables, dont les personnes âgées et les personnes handicapées;
9.2. un cadre commun de normes à respecter lorsqu'une juridiction a recours à l'intelligence artificielle;
9.3. la nécessité pour toute machine, tout robot ou tout produit doté d'intelligence artificielle de rester sous le contrôle de l'homme; dans la mesure où toute machine n'est intelligente que par son logiciel, tout pouvoir qui lui a été donné doit pouvoir lui être retiré;
9.4. la reconnaissance de nouveaux droits concernant le respect de la vie privée et familiale, pouvoir refuser de faire l'objet de profilage, d’être géolocalisé, Pag. 7d’être manipulé ou sous l'influence d'un ”coach” et d'avoir la possibilité, dans le cadre des soins et de l'assistance octroyés aux personnes âgées et aux personnes handicapées, de choisir le contact humain plutôt que le robot.
10. L'Assemblée réitère l'appel qu'elle avait lancé dans la Résolution 2051 (2015) ”Drones et exécutions ciblées: la nécessité de veiller au respect des droits de l'homme et du droit international” à l'ensemble des États membres et des tats observateurs, ainsi qu'aux tats dont les parlements jouissent du statut d'observateur auprés de l'Assemblée, pour qu'ils s'abstiennent de recourir à toute procédure automatique (robotique) visant à choisir des personnes pour procéder à leur exécution ciblée ou leur causer quelque dommage que ce soit sur la base de modes de communication ou d'autres données collectées par des techniques de surveillance de masse. Cela vaut non seulement pour les drones, mais également pour les autres types de matériel de combat doté de systémes d'intelligence artificielle, ainsi que pour les autres formes de matériel et/ou de logiciels susceptibles de causer un préjudice aux personnes, aux biens et aux bases de données qui comportent des données à caractére personnel ou des informations ou de constituer une ingérence dans le droit au respect de la vie privée, le droit à la liberté d'expression ou le droit à l’égalité et à l'absence de discrimination.
11. L'Assemblée préconise une coopération étroite avec les institutions de l'Union européenne et l'Organisation des Nations Unies pour l’éducation, la science et la culture (Unesco) pour garantir un cadre juridique cohérent et des mécanismes de supervision efficaces au niveau international.
ASSEMBLEA PARLAMENTARE DEL CONSIGLIO D'EUROPA
RACCOMANDAZIONE 2102 (2017) (1)
Versione provvisoria
Convergenza tecnologica, intelligenza artificiale e diritti umani
Assemblea parlamentare
1. La convergenza tra nanotecnologie, biotecnologie, tecnologie dell'informazione e scienze cognitive così come la velocità alla quale le applicazioni delle nuove tecnologie sono immesse sul mercato incidono non solo sui diritti umani e il modo in cui possono essere esercitati, ma anche sulla definizione della nozione fondamentale di ciò che caratterizza l'essere umano.
2. La pervasività delle nuove tecnologie e delle loro applicazioni rende più labile il confine tra l'uomo e la macchina, tra le attività online e offline, tra il mondo fisico e virtuale, tra il naturale e l'artificiale, tra reale e virtuale. L'uomo aumenta le sue capacità, potenziandole con l'aiuto di macchine, robot e software. Oggi è possibile creare interfacce funzionali cervello-computer. Dall'uomo ”curato” si è passati all'uomo ”riparato” e ora si profila all'orizzonte l'uomo ”potenziato”.
3. L'Assemblea parlamentare nota con preoccupazione che per il legislatore diventa sempre più difficile adattarsi alla rapida evoluzione della scienza e delletecnologie ed elaborare le necessarie regole e le norme; crede fermamente che la tutela della dignità umana nel XXI secolo implichi lo sviluppo di nuove forme di governance e di dibattito pubblico aperto, informato e in contraddittorio, nuovi meccanismi legislativi e soprattutto l'introduzione di una cooperazione internazionale che permetta di affrontare queste nuove sfide nel modo più efficace.
4. L'Assemblea richiama il principio sancito all'articolo 2 della Convenzione sui diritti dell'uomo e la biomedicina (STE n 164, ”Convenzione d'Oviedo”), che afferma il primato dell'essere umano, dichiarando che ”l'interesse e il bene dell'essere umano debbono prevalere sul solo interesse della società o della scienza”.
5. A tal proposito, l'Assemblea saluta con favore l'iniziativa del Comitato di bioetica del Consiglio d'Europa di organizzare, nell'ottobre del 2017 in occasione del ventesimo anniversario della Convenzione del Consiglio d'Europa sui diritti dell'uomo e la biomedicina (STE n 164, ”Convenzione di Oviedo”), una conferenza internazionale per discutere dell'emergere di queste nuove tecnologie e delle loro conseguenze sui diritti umani, in vista dell'elaborazione di un piano d'azione strategico nel corso del prossimo biennio 2018-2019.
6. L'Assemblea ritiene, inoltre, necessario porre in essere un'autentica governance mondiale di internet che non dipenda da Pag. 9gruppi di interesse privati né da un esiguo numero di Stati.
7. L'Assemblea invita il Comitato dei Ministri a:
7.1. ultimare senza indugi l'aggiornamento della Convenzione sulla protezione delle persone rispetto al trattamento automatizzato di dati a carattere personale (STE n 108), al fine di avere nuove disposizioni che permettano la rapida predisposizione di una protezione più adeguata;
7.2. definire il quadro per l'utilizzo della robotica in ambito assistenziale e delle tecnologie assistive all'interno della Strategia del Consiglio d'Europa sulla disabilità 2017-2023, fra i cui obiettivi si annovera quello di assicurare alle persone disabili uguaglianza, dignità e pari opportunità.
8. Alla luce di quanto precede, l'Assemblea esorta il Comitato dei Ministri a incaricare gli organi competenti del Consiglio d'Europa di esaminare il modo in cui i prodotti intelligenti e/o i dispositivi connessi e più in generale la convergenza tecnologica e le sue conseguenze sociali ed etiche nei settori della genetica e della genomica, delle neuroscienze e dei mega-dati (big data) rimettono in discussione le diverse dimensioni dei diritti umani.
9. L'Assemblea propone, inoltre, l'elaborazione di linee guida sulle seguenti questioni:
9.1. il rafforzamento della trasparenza, della regolamentazione dei poteri pubblici e della responsabilità degli operatori in materia di quanto segue:
9.1.1. il fatto che la responsabilità di un atto e l'obbligo di riferire ricadono sull'essere umano, indipendentemente dalle circostanze. La menzione di un'assunzione di decisione ”indipendente” da parte dei sistemi di intelligenza artificiale non può esonerare i creatori, proprietari e gestori di questi sistemi dall'obbligo di trasparenza per violazioni dei diritti commessi con l'utilizzo di questi sistemi, anche quando l'atto che ha causato il danno non ha ricevuto ordini diretti da un comandante o operatore umano responsabile;
9.1.2. operazioni di trattamento automatizzato volte a raccogliere, gestire e utilizzare i dati personali;
9.1.3. informazione del pubblico sul valore dei dati da questo generati, il consenso sul loro utilizzo e la fissazione della durata di conservazione di questi dati;
9.1.4. informazione di ogni cittadino sul trattamento dei dati personali di cui l'origine e sui modelli matematici e statistici che permettono la profilazione;
9.1.5. elaborazione e utilizzo di software di persuasione e di algoritmi per le tecnologie dell'informazione e della comunicazione (TIC) o per l'intelligenza artificiale, che rispettino pienamente la dignità e i diritti fondamentali di tutti gli utenti, specie dei più vulnerabili, quali persone anziane e con disabilità;
9.2. un quadro comune di norme cui attenersi quando un tribunale ricorre all'intelligenza artificiale;
9.3. la necessità per qualsiasi macchina, robot o prodotto dotato di intelligenza artificiale di restare sotto il controllo dell'uomo; nella misura in cui la macchina è intelligente solo per il suo software, qualsiasi potere di cui è stata dotata deve poter essere revocato;
9.4. il riconoscimento di nuovi diritti in materia di rispetto della vita privata e familiare, la possibilità di rifiutare di essere oggetto di profilazione, di essere geolocalizzati, manipolati o subire l'influenza di un ”coach” nonché il diritto ad avere la possibilità, nel quadro delle cure e dell'assistenza prestate ad anziani e disabili, di scegliere il contatto umano piuttosto che il robot.
10. L'Assemblea reitera l'appello lanciato con la Risoluzione 2051 (2015) ”I droni e le esecuzioni mirate: la necessità di vigilare sul rispetto dei diritti umani e del diritto internazionale” a tutti gli Stati membri e Stati osservatori, nonché agli Stati i cui parlamenti godono dello status Pag. 10di osservatore presso l'Assemblea, ad astenersi dal ricorrere a qualsiasi procedura automatica (robotica) tesa a scegliere delle persone per procedere a esecuzioni mirate o per causare loro un danno di qualsiasi genere sulla base dei modi di comunicazione o di altri dati raccolti da tecniche di controllo di massa. Ciò vale non soltanto per i droni, ma anche per altri tipi di hardware da combattimento dotati di sistemi di intelligenza artificiale, nonché per altre forme di hardware e/o software suscettibili di causare danno alle persone, ai beni o alle banche dati che contengono dati personali o informazioni o di interferire nel diritto al rispetto della vita privata, nel diritto alla libertà di espressione o nel diritto alla parità e all'assenza di discriminazione.
11. L'Assemblea sollecita una stretta cooperazione con le istituzioni dell'Unione europea e con l'Organizzazione delle Nazioni Unite per l'educazione, la scienza e la cultura (UNESCO) al fine di garantire un quadro giuridico coerente e meccanismi di controllo efficaci a livello internazionale.