Cybernétique : quelle place pour les robots dans notre société ?

Si vous êtes intéressé par le monde du numérique vous avez pu, à un moment ou à un autre, être en interaction avec un robot. Que ce soit votre robot aspirateur, vos bots informatiques ou encore Baryl que vous avez croisé récemment à Paris-Gare de Lyon. Mais vous êtes vous déjà interrogé sur le rôle que doivent avoir ces robots au sein de nos vies ? Sur les limites à leur fixer ou à nous fixer dans nos interactions avec eux ? C’est le thème qu’a choisi le Centre de recherche de l’école des officiers de la gendarmerie nationale (CREOGN) en partenariat avec l’Association du droit des robots (ADDR) pour son atelier de recherche du lundi 12 décembre 2016 portant sur les enjeux technologiques et les défis techniques et juridiques relatifs à la place des robots dans notre société.

Marc WATIN AUGOUARD et le Droit des robots

Le Général (2S) Marc WATIN AUGOUARD, directeur du CREOGN, a ouvert cette conférence en portant la réflexion sur la nécessité d’introduire ou non une personnalité juridique pour les robots. Maître Alain BENSOUSSAN, président de l’ADDR, a poursuivi cette ouverture en affirmant que « les robots ne sont ni des objets plus ni des personnes moins » puis, en pointant la différence actuelle qu’est l’introduction d’algorithmes qui donnent aux robots des fonctions primaires de pensée.

Le programme de cet ARG2016, s’est articulé autour de trois thèmes :

  1. Robot, de quoi parle t-on ? État des lieux, mythe et réalité
  2. Robot et interactions avec les hommes, quel paradigme dans le champ de l’affect et de l’empathie ?
  3. La place à venir des robots dans le spectre Défense / Sécurité, quelle autonomie décisionnelle ?

Je vous livre ci dessous une partie des échanges entre les intervenants.

Robot, de quoi parle t-on ? État des lieux, mythe et réalité

Cette première table ronde est animée par Maître Alain BENSOUSSAN qui se pose en fervent défenseur de la création d’une personnalité juridique pour les robots.

Sophie SAKKA, maître de conférence à l’Université de Poitiers et chercheur à l’IRCCYN, propose une première définition du robot qui serait une machine capable d’interagir avec son environnement. Elle s’interroge sur l’apport des robots dans l’amélioration de notre quotidien. Rodolphe HASSELVANDER, directeur de Blue Frog Robotics, nous précise qu’en l’état de la robotique nous sommes assez loin de ce que l’on peut voir dans les films de sciences fictions. C’est peut être justement cette image renvoyée par le cinéma qui alimente les inquiétudes qui existent face aux robots.

S’il y a #DroitDesRobots qu’est-ce que l’Homme y gagne ?

Le concept de robot est quelque chose d’extrêmement ancien nous fait remarquer Jean-Gabriel GANASCIA, professeur et directeur adjoint du Labex OBVIL de l’Université Pierre et Marie Curie. Il est déjà évoqué par Homère dans l’Iliade à travers les robots d’Héphaïstos, sortes de serviteurs dont la description ressemble à s’y méprendre au R2-D2 de l’univers Star Wars. Raja CHATILA, directeur de recherche de l’ISIR, poursuit en évoquant les mythes que nous avons sur la réalité des robots. Il nous rappelle que les robots d’aujourd’hui sont bien incapables d’être conscient. Ils sont programmés, ont appris à interagir avec le monde dans des limites biens particulières. Il faut faire attention entre la réalité et le mythe des robots. Ils sont incapables d’éprouver de vrais sentiments. Les chercheurs travaillent à développer les capacités des robots mais ils n’en restent pas moins des machines.

Faut-il ou non créer le concept d’espèce pour les robots ? Alain BENSOUSSAN ne laissera pas planer le suspens sur son opinion en se montrant favorable au droit à l’existence des robots. Pour lui un robot est une machine intelligente qui peut prendre des décisions : capacité d’intelligence, capacité d’expérience. Sophie SAKKA n’aime pas quant à elle le terme d’intelligence. Pour elle c’est une caractéristique humaine et elle lui préfère la notion d’autonomie. Elle programme des robots et affirme qu’il s’agit de machine en ajoutant que ce qu’il y a dans la machine c’est elle : « si la machine est mauvaise c’est que le programmeur est mauvais ». Rodolphe HASSELVANDER prend son contre-pied et rejoint l’avis d’Alain BENSOUSSAN. Il essaie de créer, au sein de sa société, une nouvelle espèce. Il est convaincu que l’interaction homme machine passera mieux quand on créera un lien émotionnel, de l’empathie, entre les hommes et les machines. C’est l’objectif qu’il se fixe avec Buddy. Qu’est-ce que l’intelligence s’interroge Jean-Gabriel GANASCIA ? Lier les choses entre elles, établir des ponts entre les choses. Rapporté aux robots cela signifie qu’ils disposent d’un certain nombres de fonctions cognitives.

« On ira vers la personne robot » Alain BENSOUSSAN

Alain BENSOUSSAN rappelle qu’un consensus existe pour dire que les robots ne sont pas des humains mais ajoute que le robot ne peut pas être une machine normale. Il défend le concept de la dignité des robots. Par exemple il applique deux règles à son robot Nao Lexing :

  • Il lui interdit de communiquer sans qu’il en soit informé,
  • Il interdit à quiconque de changer le cerveau, la programmation, de son robot.

Une des différences fondamentales entre nous et les robots selon Raja CHATILA est que nous sommes mortels contrairement à eux. Nous avons besoin de notre survie, eux non. Selon Alain BENSOUSSAN tout le monde résiste à la notion d’humanité pour les robots. La question c’est la distance entre robot et humain. Faut-il abandonner l’utilisation du terme « espèce » pour qualifier les robots et leur demander d’exister en tant que tel ?

« Projeter sur l’inanimé les fonctions de l’animé » Raja CHATILA

Pour Jean-Gabriel GANASCIA la table ronde évoque des robots tel que l’on peut les imaginer dans 10, 15, 20 ou 30 ans. Il ne faut pas opposer homme et robot : ce n’est pas homme et robot ou homme contre robot mais homme avec robot ou robot pour l’homme.

Pour Sophie SAKKA la communication avec les robots est plus difficile car ils n’ont pas de phéromones contrairement à nous. En effet, la communication entre humain passe en grande partie par les phéromones. Raja CHATILA nous explique que les concepteurs fabriquent des robots ressemblant tant à l’homme dans le but améliorer, de faciliter cette communication.

Le dernier point abordé au cours de cette première table ronde porte sur l’éthique. Il ressort qu’il est indispensable de se poser les questions sur les conséquences qu’engendre la place de plus en plus prégnante des robots dans notre société. Rodolphe HASSELVANDER explique qu’en tant qu’entrepreneur il doit pouvoir garantir aux gens que les données auxquelles le robot a accès sont utilisées de manière éthique. Il faut connaitre les gens pour leur apporter un meilleur service mais il faut que les données détenues par le robot soient maîtrisées.

Marc WATIN AUGOUARD conclura cette première séquence en relevant que l’aspect nouvelles technologies rejoint complètement les sciences humaines.

Robot et interactions avec les hommes, quel paradigme dans le champ de l’affect et de l’empathie ?

Sophie SAKKA prend le rôle de modératrice pour cette deuxième table ronde.

Anne-Sophie RIGAUD est chef de service et responsable de pôle à l’hôpital Broca. Elle est également responsable d’une unité de recherche universitaire sur la maladie d’Alzheimer où, un des axes de recherche porte sur la mise à disposition de thérapies pour les personne âgées par le biais de nouvelles technologies dont des robots. Elle nous explique qu’un robot peut proposer des tests diagnostics standardisé et que son unité de recherche travaille sur ce que la personne ressent au contact du robot et sur ce que la machine perçoit.

L’apparence du robot est un facteur important. En effet, le caractère plaisant du robot va aider la thérapie car un lien empathique peut se créer. La forme préférée d’un robot varie selon les personnes : robot meuble, animal, humanoïde ? Il s’agit d’une préférence assez individuelle. C’est avec le robot humanoïde que l’interaction s’approche le plus du compagnonnage. L’aspect du robot joue donc sur ce que va ressentir la personne. L’humain souhaite également pouvoir personnaliser le robot. Elle cite en exemple les robots aspirateurs qui sont souvent customisés, personnalisés.

Laurence DEVILLERS, professeure à l’Université Paris Sorbonne et chercheuse au LIMSI du CNRS, travaille quant à elle sur la prosodie c’est-à-dire l’inflexion, le ton, la tonalité, l’intonation, l’accent, la modulation que nous donnons à notre langage oral en fonction de nos émotions et de l’influence que nous désirons avoir sur nos interlocuteurs. Pour elle tout humain en face d’un objet qui va lui parler à tendance à agir comme avec une personne. Plus on va vers une ressemblance à l’humain et plus il y a un risque d’obtenir une sorte de monstre qui va entrainer de la gène. Elle évoque ainsi le concept de la vallée dérangeante qui est une théorie scientifique du roboticien japonais Masahiro Mori selon laquelle plus un robot androïde est similaire à un être humain, plus ses imperfections nous paraissent monstrueuses.

« Il y a un risque d’avoir affaire à des robots télé-opérés sans que l’on ne le sache. A-t-on affaire à un robot ou à un humain derrière un robot ? » Serge TISSERON

Anthropomorphisme et animisme, sont deux notions que nous explicite Serge TISSERON, psychiatre, membre de l’Académie des technologies et chercheur associé à l’Université PARIS VII Denis Diderot :

  • Anthropomorphisme : on projette une intention à un robot mais sans croyance. L’anthropomorphisme est l’attribution de caractéristiques du comportement ou de la morphologie humaine à d’autres entités comme des dieux, des animaux, des objets, des phénomènes, voire des idées (Anthropomorphisme sur Wikipédia).
  • Animisme : on projète une intention à un robot avec la croyance d’une réelle vie derrière ce robot. L’animisme, (du latin animus, originairement « esprit », puis « âme ») est la croyance en un esprit, une force vitale, animant les êtres vivants, les objets mais aussi les éléments naturels, comme les pierres ou le vent, ainsi qu’en des génies protecteurs (Animisme sur Wikipédia).

La place à venir des robots dans le spectre Défense / Sécurité, quelle autonomie décisionnelle ?

Pour cette dernière table rond Maître Didier GAZAGNE, vice-Président de l’ADDR et avocat à la Cour d’appel de Paris, dirigera les débats. Il introduit le propos en rappelant que la France a défendu la notion de Système d’Armes de Défense Autonome (SALA). Elle propose une définition des SALA à la lumière de leurs caractéristiques. Un SALA doit ainsi :

  • Être un système entièrement autonome ;
  • Impliquant une totale absence de supervision humaine ;
  • Dans sa capacité à se déplacer, à s’adapter à son environnement terrestre, maritime ou aérien, à viser et à faire feu avec un effet létal.

Thierry DAUPS, maître de conférences à l’Université de Rennes 2 et chercheur associé au CREC de St-Cyr Coëtquidan, trouve cette définition très catégorique puisque excluant toute supervision humaine.

Gérard DE BOISBOISSEL, ingénieur de recherche au CREC de St-Cyr Coëtquidan nous donne une définition d’un robot dans le monde militaire : c’est une plateforme équipée de censeurs, d’effecteurs, qui évolue dans un environnement inconnu ou déstructuré et, qui analyse cet environnement, traite les informations puis prend des décisions. On parle d’autonomie lorsque ces décisions sont complexes. Trois différents niveaux d’autonomie d’un robot militaire sont identifiés :

  • Autonomie fonctionnelle : le déplacement.
  • Autonomie opérationnelle : je donne une mission comme une surveillance de zone, décontaminer une zone. La mission fait appel à plusieurs fonctions autonomes.
  • Autonomie décisionnelle : je décide moi même de la mission que je vais faire. Ce niveau n’est pas souhaitable, c’est le cauchemar du chef militaire.

Il nous apprend que les russes envisagent l’usage des armes autonomes en environnement urbain. Ce n’est pas la doctrine française actuellement, ni dans les années à venir. Il affirme qu’un système d’armes autonome doit respecter le droit international humanitaire.
La position actuelle de la France est de toujours laisser un homme décider de l’ouverture du feu. Le chef militaire doit toujours avoir la possibilité de reprendre la main. D’où le principe d’avoir en permanence un chef militaire à proximité d’un système d’armes autonome. De plus l’autonomie du robot ne doit pas être exonératoire de responsabilité pour le chef militaire. C’est le chef militaire qui prend la décision et qui l’assume.

Il faut penser à l’articulation entre l’homme et le robot selon Thierry DAUPS. La notion de responsabilité est un enjeu essentiel voir la question essentielle de la robotique. Il faut également distinguer l’autonomie liée à l’intelligence artificielle de l’autonomie liée à la responsabilité matérielle. Il faut surtout éviter que le robot soit une source d’immunité : « ce n’est pas de ma faute, c’est l’ordinateur ».

 

Le plateau des intervenants de ces tables rondes a été d’une très grande qualité. J’ai pu découvrir un aspect des nouvelles technologiques sur lequel je n’avais pas eu l’occasion de me pencher. La robotique est un sujet riche mêlant les domaines techniques, juridiques et philosophiques. A travers ce compte-rendu j’espère vous avoir donné envie de vous lancer dans cet univers.