lundi 7 mai 2018

Accusé Robot, levez-vous !


Victor Ayoli

Je viens de rencontrer une vieille connaissance. Âgé et ayant récemment été renversé sur un passage protégé, il continue pourtant de conduire. 

« Pas plus de dix kilomètres. Après ça risque d’être dangereux, pour moi… et pour les autres ! » précise-t-il, réaliste et prudent, ajoutant : « J’attends avec impatience la commercialisation des premières voitures sans chauffeur ».
Tu risques de ne pas attendre longtemps, l’ami Henry : elles arrivent. Une enquête récente souligne que les trois quarts des automobilistes pensent que la voiture 100 % autonome sera une réalité dans un avenir proche. Ainsi, « 81 % des automobilistes espèrent en utiliser une avant 10 ans, 52 % se projettent même d’ici à cinq ans », précise l’étude. Espérons que ces voitures robots sauront t’éviter sur les passages protégés, Henry !
La voiture autonome Uber a renversé et tué une passante en mars dernier, en Arizona, aux États-Unis. Qui sera jugé coupable pour la mort de la jeune femme ? Peut-être le propriétaire de la voiture qui, s’il n’a pas touché le volant - après tout, il s’agit d’une voiture autonome - était bien en train de l’utiliser au moment de l’accident. Il serait à ce moment-là déclaré coupable, pour ne pas avoir su appréhender la réaction de son robot.
On touche là un vrai problème. Qui est responsable dans un cas pareil ? Le conducteur, comme dans la législation actuelle ? Il n’y en a pas. Le propriétaire du véhicule ? C’est évidemment le plus facile à trouver et à éventuellement attaquer juridiquement ? Mais c’est foncièrement injuste. Le marchand du véhicule ? Le constructeur ? Le concepteur du logiciel ? Pas facile tout ça…
Les robots sont maintenant partout. Les feux rouges qui règlent la circulation ? Des robots. Les DAB qui vous délivrent de l’argent ? Des robots. Les machines qui encaissent votre fric à la sortie de l’autoroute ? Des robots. Les machines qui conçoivent et qui fabriquent les voitures et autres engins ? Des robots.
Çà, c’est une première génération de robots. La voiture intelligente, c’est déjà autre chose. Et les robots humanoïdes de plus en plus sophistiqués qui voient le jour, c’est encore autre chose. Ils intègrent de plus en plus d’intelligence artificielle, sont de plus en plus autonomes. Il existe déjà des robots humanoïdes d’aide à la personne au Japon. Bientôt un amant infatigable ou une maîtresse ne prononçant jamais la terrible phrase pourvoyeuse de divorces : « Non pas ce soir, je suis fatiguée… » !
L’intelligence artificielle fait des avancées fulgurantes. Les robots combinent efficacité et économies dans de très nombreux domaines. La production en usine mais aussi le transport, l’agriculture, les soins médicaux, l’éducation. Ils sont aussi les bienvenus dans des opérations de dépollution chimique, radioactive ou autres en évitant d’exposer les humains. Bientôt des robots flics chargés du maintien de l’ordre ? Qui sait. Les robots soldats sortent bien déjà, discrètement, des cartons.
Mais parallèlement, les robots remplacent l’homme, ils mettent les ouvriers à la porte des usines, les paysans à la porte des étables, les vendeuses à la porte de la grande distribution. En d’autres temps, les métiers à tisser ont provoqué la révolte des canuts. Y aura-t-il une révolte des humains contre les robots ? Ou bien, ces modernes esclaves permettront-ils un nouvel âge d’or équivalent à celui des Grecs ? Chez les anciens Hellènes, la production était réservée aux seuls esclaves humains. Les citoyens avaient ainsi le temps, la disposition d’eux-mêmes pour se cultiver, réfléchir, développer les arts, la philosophie, voire la guerre, pourvoyeuse… d’esclaves ! Système foncièrement injuste. Système qui s’est prolongé avec le prolétariat : le plus intelligent des esclavagistes n’est-il pas celui qui a commencé à les payer ? Peu, mais assez pour qu’ils puissent vivre mal et rester attachés à leurs maîtres patrons… Mais les robots peuvent remplacer sans problèmes moraux les humains dans la plupart des tâches. Corollaire indispensable sous peine de révoltes graves, il reste à inventer et mettre en place des systèmes de captation et de répartition équitables des bénéfices générés par le travail des esclaves robots. La réflexion est en route avec les divers projets de revenu universel.
Les robots réfléchissent, apprennent, corrigent leurs erreurs. Ils deviennent de plus en plus… humains. Á quand leur prise de conscience de leur propre existence ? Á quand leur possibilité de reproduction ? C’est le progrès. Mouais… Et s’il y avait un bug ? Et si ces robots étaient « hackés », contrôlés à l’insu de leur « propriétaire » par quelqu’un de mal intentionné ? Et s’il leur venait à l’idée de se révolter contre leurs maîtres humains ? Comme Carl 500 (Hal 9 000) dans « L’Odyssée de l’espace » ?
Quant aux robots conçus par et pour les militaires, ils le sont avec des programmations rigoureusement opposés. Leur fonction : tuer…
Il serait peut-être temps de réglementer la construction et l’utilisation de ces drôles mais aussi un peu effrayantes machines, non ? On se bouge dans ce sens en hauts lieux.
Le Parlement européen travaille également sur le sujet. Un rapport sous la direction de Mady Delvaux préconise :
- que la Commission propose une définition européenne commune des différentes catégories de robots autonomes et intelligents, compte étant tenu des caractéristiques suivantes des robots intelligents (acquisition d’autonomie grâce à des capteurs et/ou à l’échange de données avec l’environnement et interconnectivité) ; échange et analyse de données, capacité d’autoapprentissage, présence d’une enveloppe physique, adaptation du comportement et des actes à l’environnement)
- la création d’un registre des robots avancés,
- la mise au point d’un cadre éthique pour la conception, la fabrication et l’utilisation des robots qui complète utilement les recommandations juridiques du présent rapport ainsi que l’acquis national et de l’Union existant ; propose, en annexe à la présente résolution, un tel cadre, sous forme de charte établissant un code de conduite pour les ingénieurs en robotique, une déontologie pour les comités d’éthique de la recherche lorsqu’ils examinent les protocoles de robotique, et un ensemble de licences type pour les concepteurs et les utilisateurs,
- la création d’une agence européenne pour la robotique et l’intelligence artificielle,
- l’adoption d’une approche équilibrée en matière de droits de propriété intellectuelle et l’introduction, en accord avec les principes de nécessité et de proportionnalité, de garanties de protection de la vie privée et des données lors de l’élaboration de toute politique de l’Union en matière de robotique.
Mais encore, la responsabilité civile des robots étant une question cruciale, face à la complexité de l’imputabilité des dommages causés par des robots de plus en plus autonomes, il convient de travailler à la mise en place d’un régime d’assurance obligatoire. Mais également, la création d’un numéro d’immatriculation individuel, inscrit dans un registre spécifique de l’Union, afin de pouvoir toujours associer un robot au fonds dont il dépend ; ce numéro permettrait à toute personne interagissant avec le robot de connaître la nature du fonds, les limites en matière de responsabilité en cas de dommages matériels, les noms et les fonctions des contributeurs et toute autre information pertinente.
Enfin, est évoquée la création d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques dotées de droits et de devoirs bien précis, y compris celui de réparer tout dommage causé à un tiers ; serait considéré comme une personne électronique tout robot qui prend des décisions autonomes de manière intelligente ou qui interagit de manière indépendante avec des tiers.
Une lettre ouverte de plus de 200 juristes et scientifiques a récemment alerté sur la proposition de la Commission européenne visant à accorder une "personnalité juridique" aux robots dotés d’intelligence artificielle. N’est-ce pas une embrouille pour permettre aux constructeurs de ces machines de se dédouaner de leurs responsabilités ? Ainsi l’utilisateur risque d’être tenu pour responsable en cas de dommages causés par son robot, exonérant ainsi le fabricant, pourtant le seul en situation de corriger la conception de la machine.
Mais si on donne une personnalité juridique au bout de fer « intelligent » afin de pouvoir lui attribuer une responsabilité, cela revient à lui reconnaître des droits.
Ceux qui se penchent sur la question devraient s’inspirer d’Isaac Asimov, le maître de la Science-fiction qui y a pensé. Il en a établi plusieurs lois fondamentales :
1 - Un robot ne peut attenter à la sécurité d’un être humain, ni, par inaction, permettre qu’un être humain soit mis en danger.
2 - Un robot doit obéir aux ordres d’un être humain, sauf si ces ordres entrent en conflit avec la première loi.
3 - Un robot doit protéger sa propre existence tant que cela n’entre pas en conflit avec la première ou la deuxième loi. (Voir I. Asimov, Cercle vicieux (Runaround, 1942)).
Et puis la loi 0 - Un robot ne peut faire de mal à l’humanité, ni, par inaction, permettre que l’humanité soit mise en danger.

Accusé Aspi-Rateur-Robot, levez-vous ! Est-ce utopique ?

Sources


Publié par à
Libellés :

Aucun commentaire:

Enregistrer un commentaire

Inscription à : Publier les commentaires (Atom)