Le remplacement de plus en plus fréquent des humains par des machines ou des algorithmes va poser de nombreux problèmes, à commencer par des problèmes de droit. La SYMOP propose un livre blanc sur le « droit de la robotique ».
On connait les trois lois de la robotique d’Isaac Asimov :
- Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;
- Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
- Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Bien sûr, il faudra aller beaucoup plus loin.
Dans un futur, plus proche qu’on ne le pense, les voitures autonomes sillonneront les routes, les robots réaliseront des opérations chirurgicales, des algorithmes décideront d’accorder des prêts… Bref, les robots et les algorithmes seront immergés dans notre vie quotidienne. Que se passera-t-il en cas d’accident ou de mauvaises décisions ? Qui sera responsable ? Jusqu’ici, le droit de la robotique était relativement vierge.
Des lois devront-elles s’appliquer à eux ? « Cela ne fait aucun doute », considère Alain Bensoussan, avocat spécialisé dans le droit des technologies avancées et co-auteur du livre blanc ? « Il va falloir trouver un cadre juridique adapté », estime-t-il.
Il n’existe pas de régime juridique spécifique aux robots, qu’ils soient industriels ou de service. A ce jour, le robot n’est pas une catégorie juridique à part entière et ne dispose ni de droits propres ni de personnalité. Tel est le constat posé par les auteurs du livre blanc qui propose de combler un vide juridique en apportant les premiers de réflexion sur ce sujet complexe. Fruit d’un travail collaboratif de plus d’un an entre le SYMOP, le cabinet Bensoussan et la société Primnext, il pose une réflexion sur l’état de l’art, les attentes du marché de la robotique et de la machine-outil intelligente ainsi que le cadre juridique existant.
La rupture technologique est en marche depuis plusieurs années. Véritable levier de croissance, la robotique est de plus en plus présente dans les entreprises, et vient ainsi modifier durablement les modes de production ainsi que les modèles économiques. Transport, industrie, agro-alimentaire, en France c’est un parc de 31 600 robots industriels qui est réparti sur tous les secteurs. Et un parc qui va se développer de manière significative dans les années à venir.
C’est face à cette évolution que le SYMOP a pris l’initiative de créer un groupe de travail pour évaluer le régime juridique applicable à la robotique. Un travail de réflexion mené avec des auditions d’industriels, de juristes, d’éthiciens, de roboticiens et de chercheurs, dans un esprit d’innovation et avec une volonté d’accompagner les industriels dans leur utilisation croissante de robots.
« La robotique constitue aujourd’hui un enjeu sociétal important, qui contribue à relever les défis de la mobilité, de la santé, de l’autonomie, du vieillissement et de l’éducation. Or, la robotique ne dispose pas d’un régime juridique qui lui est propre, et dans le cadre actuel, il reste des vides juridiques, notamment sur la responsabilité et l’autonomie, qui nécessitent une adaptation du droit positif. Ce Livre Blanc a ainsi pour objectif de porter une réflexion sur l’encadrement juridique, tout en laissant un champ de liberté à l’innovation et aux créations de valeurs, » explique Jean Tournoux, Délégué général du SYMOP.
Intelligence artificielle, sécurité, conformité, mobilité, etc. – le Livre Blanc examine l’ensemble des enjeux liés à la robotique pour décrypter le marché actuel ainsi que les attentes des industriels, mais également pour appréhender les forces et les faiblesses des positions légales et contractuelles existantes.
Ainsi, le Livre Blanc formule les recommandations suivantes :
- Créer d’un comité national d’éthique de la robotique pour répondre à certaines questions philosophiques et anthropologiques.
- Reconnaître le métier d’intégrateur par la création d’une formation et d’un diplôme spécifiques.
- Accroître la traçabilité des robots en intégrant une boîte noire pour pouvoir répartir proportionnellement la responsabilité entre les différents acteurs et retracer un historique, mais également établir un retour d’expérience.
- Rappeler l’importance de l’analyse des risques pour accompagner l’acceptation des robots.
- Mettre en place une assurance obligatoire face à l’émergence de nouvelles formes de robotiques, sur la base du contrat-type proposé par le SYMOP.
- Obliger la certification des robots.
- Légiférer au cas par cas sur les technologies par secteur et créer de nouveaux statuts
Parmi les autres évolutions à prendre en compte, les robots dans leur forme cobots ou algorithmes vont aider les spécialistes dans leur tâche. Les avocats n’y échapperont sans doute. Un système d’intelligence artificielle a été utilisé dans une expérimentation qui montre des résultats intéressants (voir encadré ci-dessous).
Et pourquoi ne pas imaginer à terme des robots avocats jugés des robots inculpés ? En attendant, peut-on s’attendre à voir un robot devant la justice ? « C’est mon rêve de défendre le premier robot responsable », concluait Alain Bensoussan lors de son interview dans la matinale de RTL.
L’intelligence artificielle rend ses premiers jugements
Les décisions judiciaires de la Cour européenne des droits de l’homme (CEDH) ont été prédit à 79% de précision en utilisant une méthode d’intelligence artificielle (AI) mis au point par des chercheurs de l’UCL, l’Université de Sheffield et l’Université de Pennsylvanie.
« Nous ne voyons pas l’intelligence artificielle remplacer des juges ou des avocats, mais nous pensons qu’ils trouveraient utile pour identifier rapidement les modèles dans les cas qui conduisent à certains résultats. Elle pourrait également être un outil précieux pour la mise en évidence quels cas sont les plus susceptibles d’être des violations de la Convention européenne des droits de l’homme », a expliqué le Dr Nikolaos Aletras, qui a dirigé l’étude à l’UCL Computer Science.
Dans l’élaboration de la méthode, l’équipe de chercheurs a constaté que les arrêts de la Cour EDH sont fortement corrélés à des faits non juridiques plutôt que des arguments directement juridiques, ce qui suggère que les juges de la Cour sont, dans le jargon de la théorie juridique, des « réalistes » plutôt que « formaliste s» . Cela confirme les résultats des études précédentes des processus de prise de décisions des autres tribunaux de haut niveau, y compris la Cour suprême des États-Unis.
« L’étude, qui est la première du genre, corrobore les conclusions d’autres travaux empiriques sur les déterminants de raisonnement effectués par les tribunaux de haut niveau. Elle doit être poursuivie et raffinée, à travers l’examen systématique de plus de données », explique le co-auteur Dr Dimitrios Tsarapatsanis, maître de conférences en droit à l’Université de Sheffield.
« Idéalement, nous aimerions tester et d’améliorer notre algorithme en utilisant les applications faites à la cour plutôt que les jugements publiés, mais sans accès à ces données, nous comptons sur les résumés publiés par les tribunaux de ces communications », a expliqué le co-auteur, le Dr Vasileios Lampos, UCL Computer science.
Ils ont identifié Anglais ensembles de données linguistiques pour 584 cas relatifs aux articles 3, 6 et 8 de la Convention et appliquer un algorithme AI pour trouver des modèles dans le texte. Pour éviter les préjugés et mislearning, ils ont choisi un nombre égal de violation et de non-violation des cas.
Les facteurs les plus fiables pour prédire la décision de la cour se sont révélés être la langue utilisée ainsi que les thèmes et les circonstances mentionnées dans le texte de cas. La section « circonstances » du texte contient des informations sur le contexte factuel de l’affaire. En combinant les informations extraites des « sujets » abstraits que les cas couvrent et « circonstances » à travers les données pour les trois articles, une précision de 79% a été atteint.