Documento

Pag. 2

PARLIAMENTARY ASSEMBLY OF THE COUNCIL OF EUROPE

RESOLUTION 2346 (2020) ⁽¹⁾
Provisional version

Legal aspects of «autonomous» vehicles

Parliamentary Assembly,

1. The circulation of semi-autonomous vehicles on European roads is likely to increase significantly in the coming years, with some believing it possible that completely autonomous vehicles may become available within the next decade. These developments pose questions in relation to criminal and civil liability, the obligations of manufacturers and insurers and the future regulation of road transportation. Important ethical and privacy concerns also arise.
2. In the case of a semi-autonomous vehicle operating under the proper control of an automated driving system (ADS), or of a fully autonomous vehicle, criminal law is not designed to deal with the conduct of non- human actors. This may create a ’responsibility gap’, where the human in the vehicle – the ’user-in-charge’, even if not actually engaged in driving – cannot be held liable for criminal acts and the vehicle itself was opera

1. Text adopted by the Standing Committee, acting on behalf of the Assembly, on 22 October 2020 (see Doc. 15143, report of the Committee on Legal Affairs and Human Rights, rapporteur: Mr Ziya Altunyaldiz).
See also Recommendation 2187 (2020).
ting according to the manufacturer's design and applicable regulations. This may require new approaches to apportioning criminal liability, or alternatives to criminal liability in cases where no human can reasonably be held responsible.
3. Similar concerns apply to civil liability for damages incurred by a vehicle operating under the proper control of an ADS. Current fault-based liability regimes may leave the user-in-charge absolved of any liability, with responsibility shifted to the ADS. This may require new approaches, such as strict liability, to ensure that injured parties receive compensation for the damage they suffer.
4. In cases where road traffic regulations are violated by a vehicle under the proper control of an ADS, whether establishing the facts of a criminal offence or causing damage to third parties, the responsibility of the manufacturer may raise issues of product liability. The complexity of autonomous vehicles, however, may make it difficult to prove the existence and nature of any technical fault. Again, it is important that future regulations do not leave lacunae in this respect.
5. These concerns are closely related to ethical issues that arise in relation to autonomous vehicle technology. Human drivers are regularly required to make ethical decisions, including forced-choice decisions of life and death. ADS will have to make the same decisions, but according Pag. 3to an ethical framework that was defined by their manufacturer. Given that the purchasers of autonomous vehicles may prefer that priority is given to their own safety, competitive market pressures on manufacturers may not generate outcomes that are optimal from a general utilitarian point of view. There may certainly be a need for government regulation to standardise the ethical choices implicit in ADS design, to ensure compatibility with the general public interest.
6. ADS are data-dependent and data-generating, including sensitive personal data relating, for example, to an individual's movements. The data from autonomous vehicles is automatically shared with other autonomous vehicles and with a central system and may need to be shared with regulatory and law enforcement bodies in certain circumstances. Particular care will be needed to ensure a correct balance between data processing that is necessary for the safe operation of autonomous vehicles and respect for and protection of the privacy of drivers, passengers and other users.
7. Modern ADS are distinguished by their reliance on artificial intelligence (AI) systems; indeed, modern autonomous vehicles are, in effect, robots. The introduction of autonomous vehicles means putting AI- controlled robots in charge of fast-moving projectiles in a situation of proven, serious potential risk to their passengers and other road users. The expectation is that autonomous vehicles will have the potential to be significantly safer that those driven by humans. Appropriate regulation will be needed to realise this potential. As a starting point, this regulation must ensure full respect for the right to life; including positive obligations to prevent foreseeable and avoidable threats.
8. The Parliamentary Assembly considers that ethical and regulatory standards applicable to AI in general should also be applied to its use in autonomous vehicles. It therefore considers that the work of the Ad hoc Committee on artificial intelligence (CAHAI) on a possible legal framework for AI will be especially significant, and notes the important contributions to work in this area of other international organisations including the Organisation for Economic Co-operation and Development, the European Union and United Nations bodies.
9. Once fully autonomous vehicles, designed to respect road traffic regulations and avoid any collision, become available, the legislator will have to solve the problems resulting from their coexistence with vehicles driven by humans who may not always respect the rules. The democratic legislator will have to decide on the most appropriate balance between minimising the number of accident victims and allowing for an efficient flow of traffic.
10. The Assembly concludes that the above considerations give rise to a variety of novel challenges to regulatory regimes. It takes note of the work underway in specialised regulatory bodies, including the Working Party on Autonomous and Connected Vehicles (GRVA) of the United Nations Economic Commission for Europe, which is addressing a range of essential technical issues, as well as the European Union and different national authorities. It further notes the work within the Council of Europe on «Artificial intelligence and criminal law responsibility in Council of Europe member States – the case of automated vehicles» underway in the European Committee on Crime Problems (CDPC).
11. The Assembly therefore calls on:
11.1. the member States of the Council of Europe to ensure that the criminal law, civil law and human rights implications of the development and introduction of autonomous vehicles are regulated in accordance with Council of Europe standards on human rights and the rule of law, including respect for the right to life, privacy and the principle of legal certainty;
11.2. the GRVA to conduct a human rights impact assessment as part of its preparatory work on future regulation of autonomous vehicles, as part of a general, comprehensive framework for ensuring that safety in all its forms is maximised during future development and production of autonomous vehicles;
11.3. the CDPC to ensure that possible lacunae in the applicability of criminal Pag. 4law to the operation of autonomous vehicles are identified and addressed;
11.4. the CAHAI to pay particular attention to the application of AI in ADS, where there is a particular risk of adverse consequences for the enjoyment of fundamental human rights, in its mapping of the risks and opportunities of AI and its examination of the feasibility of a legal framework.

Pag. 5

ASSEMBLÉE PARLEMENTAIRE DU CONSEIL DE L'EUROPE

RÉSOLUTION 2346 (2020) ⁽¹⁾
Version provisoire

Aspects juridiques concernant les «véhicules autonomes»

Assemblée parlementaire,

1. La circulation des véhicules semi-autonomes devrait fortement s'intensifier en Europe dans les années à venir; d'aucuns pensent même qu'un véhicule entièrement autonome pourrait être disponible au cours des 10 prochaines années. Ces évolutions soulèvent un certain nombre de questions au sujet de la responsabilité pénale et civile, des obligations imposées aux constructeurs et assureurs et de la future réglementation du transport routier. D'importantes questions d’éthique et de respect de la vie privée se posent également.
2. Lorsqu'il s'agit d'un véhicule semi-autonome dont le fonctionnement est contrôlé par un système de conduite automatisée (SCA) ou d'un véhicule totalement autonome, le droit pénal n'est pas con u pour traiter le comportement d'acteurs non humains. Cette situation peut créer un «vide juridique en matière de responsa
(1) Texte adopté par la Commission permanente, agissant au nom de l'Assemblée, le 22 octobre 2020 (voir Doc. 15143, rapport de la Commission des questions juridiques et des droits de l'homme, rapporteur: M. Ziya Altunyaldiz).
Voir également la Recommandation 2187 (2020).
bilité», dans lequel l’être humain présent à bord du véhicule – «l'utilisateur responsable», même s'il ne conduit pas réellement – ne peut être tenu responsable d'actes pénalement répréhensibles et le véhicule lui-même fonctionne conformément à la conception du constructeur et à la réglementation applicable. Il pourrait donc être nécessaire d'adopter de nouvelles approches pour répartir la responsabilité pénale ou prévoir des alternatives à la responsabilité pénale dans le cas où aucun être humain ne peut raisonnablement être tenu responsable.
3. Ces préoccupations valent également à propos de la responsabilité civile des dommages causés par un véhicule dont le fonctionnement est contrôlé par un SCA. Les régimes actuels de responsabilité pour faute peuvent exonérer l'utilisateur responsable de toute responsabilité, puisque celle-ci est transférée au SCA. Il pourrait donc être nécessaire d'adopter une nouvelle approche, comme la responsabilité objective, afin de garantir que les parties lésées soient indemnisées pour les dommages qu'elles subissent.
4. Lorsqu'un véhicule dont le fonctionnement est contrôlé par un SCA enfreint le code de la route, qu'il s'agisse de la commission d'une infraction pénale ou des dommages causés à des tiers, la responsabilité du fabricant peut soulever un certain nombre de questions de responsabilité Pag. 6du fait des produits. Toutefois, la complexité des véhicules autonomes peut rendre difficile la preuve de l'existence et de la nature d'une quelconque faute technique. Là encore, il importe que la future réglementation ne laisse subsister aucun vide juridique en la matière.
5. Ces préoccupations sont étroitement liées aux questions éthiques qui se posent à propos de la technologie des véhicules autonomes. Les conducteurs humains sont régulièrement amenés à prendre des décisions éthiques, et notamment contraints de prendre des décisions de vie ou de mort. Les SCA devront prendre les mêmes décisions, mais selon un cadre éthique défini par leur constructeur. Comme il est possible que les acheteurs de véhicules autonomes préfèrent donner la priorité à leur propre sécurité, la pression concurrentielle que le marché exerce sur les constructeurs risque de ne pas produire les meilleurs résultats au regard de l'utilité générale. Il est sans doute nécessaire que les pouvoirs publics adoptent une réglementation visant à normaliser les choix éthiques implicites retenus dans la conception des SCA, afin de garantir leur compatibilité avec l'intérêt public général.
6. Les SCA sont tributaires des données et génèrent des données, notamment des données personnelles sensibles relatives, par exemple, aux déplacements d'un individu. Les données provenant de véhicules autonomes sont automatiquement partagées avec d'autres véhicules autonomes et avec un système central et peuvent, dans certaines circonstances, devoir être partagées avec les organes de réglementation et les services répressifs. Il sera donc indispensable de veiller tout particulièrement à ménager un juste équilibre entre, d'une part, le traitement des données nécessaire au fonctionnement en toute sécurité des véhicules autonomes et, d'autre part, le respect et la protection de la vie privée des conducteurs, des passagers et des autres utilisateurs.
7. Les SCA modernes se distinguent par leur recours à des systèmes d'intelligence artificielle (IA); les véhicules autonomes modernes sont, en fait, bel et bien des robots. La mise en circulation de véhicules autonomes revient à ce que des robots contrôlés par l'IA soient en charge de projectiles rapides, alors que cette situation peut présenter un risque grave et avéré pour les passagers de ces véhicules et les autres usagers de la route. On s'attend à ce que les véhicules autonomes puissent être bien plus sûrs que les véhicules conduits par l'homme. La concrétisation de cette possibilité exige l'adoption d'une réglementation adéquate. Pour commencer, cette réglementation doit garantir le plein respect du droit à la vie, et notamment l'obligation positive de prévenir les menaces prévisibles et évitables.
8. L'Assemblée parlementaire estime que les normes éthiques et réglementaires applicables à l'IA en général devraient également être appliquées à son utilisation dans les véhicules autonomes. Elle considère par conséquent que les travaux menés par le Comité ad hoc sur l'intelligence artificielle (CAHAI) sur un possible cadre juridique de l'IA seront particulièrement pertinents et prend note des importantes contributions aux travaux dans ce domaine d'autres organisations internationales, dont l'Organisation de coopération et de développement économiques, l'Union européenne et les organes des Nations Unies.
9. Lorsque des véhicules totalement autonomes, con us pour respecter les règles de la circulation routière et éviter toute collision, seront disponibles, le législateur devra résoudre les problèmes posés par leur coexistence avec des véhicules conduits par l'homme, qui ne respecte pas toujours ces règles. Il appartiendra au législateur démocratique de définir l’équilibre le plus adapté entre la minimisation du nombre de victimes d'accidents et la fluidité de la circulation.
10. L'Assemblée conclut que les considérations qui précèdent donnent lieu à une série de nouveaux défis pour les régimes réglementaires. Elle prend note des travaux en cours dans les organismes de réglementation spécialisés, notamment le Groupe de travail sur les véhicules autonomes et connectés (GRVA) de la Commission économique des Nations Unies pour l'Europe, qui aborde toute une série de questions techniques essentielles, ainsi que l'Union européenne et différentes autorités nationales. Elle observe également, au sein du Conseil de l'Europe, les Pag. 7travaux menés actuellement par le Comité européen pour les problèmes criminels (CDPC) sur «Intelligence artificielle et responsabilité pénale dans les États membres du Conseil de l'Europe – le cas des véhicules autonomes».
11. En conséquence, l'Assemblée appelle:
11.1. les États membres du Conseil de l'Europe à veiller à ce que les implications du développement et de la mise en circulation des véhicules autonomes sur le droit pénal, le droit civil et les droits de l'homme fassent l'objet d'une réglementation conforme aux normes du Conseil de l'Europe en matière de droits de l'homme et d’État de droit, et notamment au respect du droit à la vie, de la vie privée et du principe de sécurité juridique;
11.2. le GRVA à procéder à une évaluation de l'impact sur les droits de l'homme à l'occasion de ses travaux préparatoires sur la future réglementation des véhicules autonomes, qui s'inscrit dans un cadre général approfondi visant à garantir la meilleure sécurité possible lors de la conception et de la production à venir de véhicules autonomes;
11.3. le CDPC à veiller à recenser et à combler les éventuelles lacunes de l'applicabilité du droit pénal au fonctionnement des véhicules autonomes;
11.4. le CAHAI à accorder une attention particulière à l'application de l'IA aux SCA, particulièrement en cas de conséquences néfastes sur la jouissance des droits de l'homme fondamentaux, au cours de son recensement des risques et des opportunités de l'IA et à l'occasion de son examen de la faisabilité d'un cadre juridique.

Pag. 8

ASSEMBLEA PARLAMENTARE DEL CONSIGLIO D'EUROPA

RISOLUZIONE 2346 (2020)
Versione provvisoria

Aspetti giuridici dei «veicoli autonomi»

Assemblea parlamentare,

1. La circolazione di veicoli semi-autonomi sulle strade europee è destinata ad aumentare significativamente nei prossimi anni: secondo alcuni entro il prossimo decennio potrebbero essere disponibili veicoli completamente autonomi. Questi sviluppi pongono interrogativi in relazione alla responsabilità civile e penale, agli obblighi dei costruttori e degli assicuratori e alla futura regolamentazione del trasporto su strada. Sorgono anche importanti questioni etiche e di privacy.
2. Nel caso di un veicolo semi-autonomo che funzioni sotto l'adeguato controllo di un sistema di guida autonomo (ADS, Automated Driving System), o di un veicolo completamente autonomo, il diritto penale non è concepito per trattare la condotta di attori non umani. Ciò può creare un «vuoto di responsabilità», in cui l'essere umano nel veicolo – l’«utente responsabile», anche se non effettivamente impegnato nella guida – non può essere ritenuto responsabile di atti penalmente rilevanti e il veicolo stesso funzionava secondo il progetto del costruttore e le norme applicabili. Ciò può richiedere nuovi approcci per ripartire la responsabilità penale, o soluzioni alternative alla responsabilità penale nei casi in cui nessun essere umano possa essere ragionevolmente ritenuto responsabile.
3. Le stesse preoccupazioni si applicano alla responsabilità civile per i danni subiti da un veicolo che operi sotto l'adeguato controllo di un ADS. Gli attuali regimi di responsabilità per colpa possono assolvere l'utente responsabile da qualsiasi forma di responsabilità e trasferire la responsabilità all'ADS. Ciò può richiedere nuovi approcci, come la responsabilità oggettiva, per garantire che le parti lese ricevano un risarcimento per i danni subiti.
4. Nei casi in cui le violazioni del codice della strada siano operate da un veicolo sotto l'adeguato controllo di un ADS, che abbia posto in essere i fatti di un reato penale o abbia causato danni a terzi, la responsabilità del costruttore può sollevare questioni di responsabilità del prodotto. La complessità dei veicoli autonomi, tuttavia, può rendere difficile provare l'esistenza e la natura di qualsiasi difetto tecnico. Anche in questo caso è importante che le normative future non lascino lacune al riguardo.
5. Queste preoccupazioni sono strettamente legate alle questioni etiche che sorgono in relazione alla tecnologia dei veicoli autonomi. I conducenti umani sono regolarmente tenuti a prendere decisioni etiche, comprese scelte forzate tra Pag. 9la vita e la morte. Gli ADS dovranno prendere le stesse decisioni, ma secondo un quadro etico definito dal loro costruttore. Dato che gli acquirenti di veicoli autonomi possono preferire che venga data priorità alla loro stessa sicurezza, le pressioni concorrenziali del mercato sui costruttori potrebbero generare risultati non ottimali da un punto di vista utilitaristico generale. Potrebbe essere certamente necessaria una disciplina governativa per standardizzare le scelte etiche implicite nella progettazione degli ADS, per garantire la compatibilità con l'interesse pubblico generale.
6. Gli ADS dipendono dai dati e generano dati, compresi i dati personali sensibili relativi, ad esempio, ai movimenti di un individuo. I dati provenienti dai veicoli autonomi sono automaticamente condivisi con altri veicoli autonomi e con un sistema centrale e, in determinate circostanze, possono dover essere condivisi con le autorità di regolamentazione e le forze dell'ordine. Occorrerà prestare particolare attenzione per garantire un corretto equilibrio tra il trattamento dei dati necessario per il funzionamento sicuro dei veicoli autonomi e il rispetto e la protezione della privacy dei conducenti, dei passeggeri e degli altri utenti.
7. I moderni ADS si contraddistinguono per la loro dipendenza dai sistemi di intelligenza artificiale (AI); i moderni veicoli autonomi sono, di fatto, robot. L'introduzione dei veicoli autonomi comporta la collocazione di robot controllati dall'intelligenza artificiale al comando di proiettili in rapido movimento in una situazione di comprovato grave rischio potenziale per i loro passeggeri e gli altri utenti della strada. L'aspettativa è che i veicoli autonomi siano potenzialmente molto più sicuri di quelli guidati da esseri umani. Per realizzare questo potenziale sarà necessaria una opportuna regolamentazione. Come punto di partenza, questa regolamentazione deve garantire il pieno rispetto del diritto alla vita, compresi gli obblighi positivi di prevenire minacce prevedibili ed evitabili.
8. L'Assemblea Parlamentare ritiene che gli standard etici e normativi applicabili all'IA in generale dovrebbero essere applicati anche al suo utilizzo nei veicoli autonomi. Ritiene pertanto che il lavoro del Comitato ad hoc sull'intelligenza artificiale (CAHAI) su un possibile quadro giuridico per l'IA sarà di grande importanza, e prende atto dei significativi contributi al lavoro in questo settore da parte di altre organizzazioni internazionali, tra cui l'Organizzazione per la cooperazione e lo sviluppo economico, l'Unione Europea e gli organismi delle Nazioni Unite.
9. Una volta che saranno disponibili veicoli completamente autonomi, progettati per rispettare il codice della strada ed evitare qualsiasi collisione, il legislatore dovrà risolvere i problemi derivanti dalla loro coesistenza con veicoli guidati da esseri umani che potrebbero non sempre rispettare le regole. Il legislatore democratico dovrà decidere il giusto equilibrio tra la riduzione al minimo del numero delle vittime di incidenti e la possibilità di un flusso di traffico efficiente.
10. L'Assemblea conclude che le considerazioni di cui sopra creano una serie di nuove sfide per i regimi normativi. Essa prende atto del lavoro in corso presso gli organismi di regolamentazione specializzati, tra cui il Gruppo di lavoro sui veicoli autonomi e connessi (GRVA) della Commissione economica per l'Europa delle Nazioni Unite, che si sta occupando di una serie di questioni tecniche essenziali, nonché l'Unione europea e diverse autorità nazionali. Prende inoltre atto dei lavori in corso in seno al Consiglio d'Europa sul tema «Intelligenza artificiale e responsabilità penale negli Stati membri del Consiglio d'Europa – il caso dei veicoli autonomi» in seno al Comitato europeo per i problemi criminali (CDPC).
11. L'Assemblea invita pertanto:
11.1. gli Stati membri del Consiglio d'Europa a garantire che le implicazioni in materia di diritto penale, diritto civile e diritti umani legate allo sviluppo e all'introduzione dei veicoli autonomi siano regolate in conformità con le norme del Consiglio d'Europa sui diritti umani e lo Pag. 10stato di diritto, compresi il rispetto del diritto alla vita, la privacy e il principio della certezza del diritto;
11.2. il GRVA a condurre una valutazione d'impatto sui diritti umani come parte del proprio lavoro preparatorio sulla futura regolamentazione dei veicoli autonomi, come parte di un quadro generale e completo per garantire la massimizzazione della sicurezza in tutte le sue forme durante il futuro sviluppo e la produzione di veicoli autonomi;
11.3. il CDPC a garantire che siano individuate e colmate eventuali lacune nell'applicabilità del diritto penale al funzionamento dei veicoli autonomi;
11.4. il CAHAI a prestare particolare attenzione all'applicazione dell'IA ai sistemi ADS, dove esiste un forte rischio di conseguenze negative per il godimento dei diritti umani fondamentali, nella sua mappatura dei rischi e delle opportunità dell'IA e nell'esame della fattibilità di un quadro giuridico.

Pag. 11Pag. 12