L’Homo Cyberneticus

Par son ampleur, sa portée, sa célérité, la transformation numérique bouleverse jusqu’à notre rapport au monde et à notre humanité. Une « robolution » est en cours, portée par la convergence des avancées de la robotique et de la transformation numérique. Janus à la face engageante de l’homme « augmenté » comme à celle grimaçante de l’homme asservi, voire remplacé, cette « robolution » pose le défi clef du rapport de subordination entre l’homme et le robot. Cet article explore avec rigueur et met en perspective les différents aspects interdépendants de ce défi, qu’ils soient technique, juridique, politique, éthique, existentiel même. A l’instar de la bioéthique, il plaide pour le développement d’une cyber-éthique, surplomb de légitimité indispensable aux choix futurs, politiques et juridiques.

Marc WATIN-AUGOUARD

——————————————————————————————————————————————-

Les opinions exprimées dans cet article n’engagent pas le CSFRS.

Les références originales de ce texte sont: Marc Watin-Augouard, « L’Homo cyberneticus », Revue de la Gendarmerie Nationale, octobre 2017.

Ce texte, ainsi que d’autres publications, peuvent être visionnés sur le site du CREOGN

——————————————————————————————————————————————

L’Homo Cyberneticus

Introduction

La transformation numérique, par l’effet cumulatif des nouvelles technologies, bouleverse nos modes de vie, nos rapports à la santé, au travail, à la création, à la formation, à l’information, etc. Elle bouleverse surtout le rapport de l’homme au monde et avec lui-même. L’homme « augmenté » sera-t-il « diminué » face à des robots qui pourraient le dominer ? Que restera-t-il de son identité, de son autonomie, de son intimité dans un environnement où tout ce qu’il pensera, dira, fera, utilisera sera capté, mesuré, évalué et, le cas échéant, automatiquement sanctionné ? Avec la « robolution », l’homme sera-t-il servi ou asservi ? Du « robot-homme » à « l’homme-robot », existe-t-il une barrière infranchissable ?  Plus que jamais vont se trouver posées des questions  d’éthique, de déontologie. La réponse qui leur sera apportée sera déterminante pour l’avenir de l’individu et de la société.

L’homme augmenté

L’Homo cyberneticus, pour les plus optimistes, sera un « homme augmenté ». Ainsi, le cyberespace pourrait donner des ailes au courant transhumaniste, dont la doctrine est clairement explicitée, en 1999, dans la Déclaration de l’Association transhumaniste mondiale : « 1/ Les transhumanistes prônent le droit moral, pour ceux que le désirent, de se servir de la technologie pour accroître leurs capacités physiques, mentales ou reproductives et d’être davantage maîtres de leur propre vie. Nous souhaitons nous épanouir en transcendant nos limites biologiques actuelles. 2/ Nous prônons une large liberté de choix quant aux possibilités d’améliorations individuelles. Celles-ci comprennent les techniques afin d’améliorer la mémoire, la concentration et l’énergie mentale, les thérapies permettant d’augmenter la durée de vie ou d’influencer la reproduction, la cryoconservation et beaucoup d’autres techniques de modification et d’augmentation de l’espèce humaine ».

Une utopie ? Sans doute pas, si l’on se réfère au  rapport de Mihail Rocco et de William Bainbridge sur les Technologies convergentes pour l’amélioration de la performance humaine publié^[1], en 2002, par la National Science Foundation (NSF) de Washington et le Département du Commerce américain. Ces technologies, regroupées sous l’acronyme NBIC, sont  les nanotechnologies, les biotechnologies, l’informatique et les sciences cognitives, dont l’intelligence artificielle et les sciences du cerveau^[2]. Pour la NSF, « Une théorie computationnelle de l’esprit peut nous permettre de développer de nouveaux outils pour guérir ou maîtriser les effets des maladies mentales. Elle sera certainement à même de nous fournir une appréciation plus profonde de ce que nous sommes et sur la place que nous occupons dans l’univers. Comprendre l’esprit et le cerveau nous permettra de créer une nouvelle espèce de machines intelligentes, capable de produire une richesse économique sur une échelle jusqu’alors inimaginable. L’ingénierie de l’esprit est donc beaucoup plus que la poursuite d’une curiosité scientifique, beaucoup plus qu’un monumental défi technologique. C’est l’occasion d’éradiquer la pauvreté et d’ouvrir un âge d’or pour l’humanité tout entière ».

La recherche de l’homme « augmenté » n’est plus de la science-fiction, ni le fruit des élucubrations d’originaux, mais un axe de réflexion et d’action pour les services et organismes les plus sérieux.

Google a bien compris cette opportunité. L’entreprise de Mountain View, que certains prennent encore pour un simple moteur de recherche, a bien d’autres ambitions qui s’affichent dans l’acquisition ou la création d’entreprises NBIC, le parrainage de la Singularity University, qui forme des spécialistes NBIC, et la création en 2013 de Calico, start-up qui a pour objectif d’augmenter la durée de la vie de vingt ans d’ici à 2035… Google, que le visionnaire Ray Kurzweil^[3] a rejoint, en 2012, pour travailler sur l’apprentissage automatisé et le traitement du langage, annonce pour 2060 l’avènement d’une intelligence supérieure à l’intelligence humaine.

Le projet Avatar 2045 du milliardaire russe Itskov Dmitri donne une idée de l’ambition pharaonique qui guide les transhumanistes  rassemblés lors du Congrès International « Global Future 2045 », en juin 2013, à New York. Le calendrier est explicite :

Entre 2015 et 2020, réalisation d’une copie robotique du corps humain contrôlée à distance par une interaction cerveau-ordinateur ;

Entre 2020 et 2025, création d’un avatar dans lequel un cerveau humain pourra être créé : un cerveau biologique dans un corps artificiel ;

Entre 2030 et 2035, création d’un avatar avec un cerveau artificiel dans lequel pourra être transplantée la personnalité d’un être humain à la fin de sa vie ;

Entre 2040 et 2045, création d’un avatar hologramme…

Si l’augmentation par l’informatique et la techno-médecine demeure dans le champ de l’humain, dès lors qu’il s’agit de réparer des organes défaillants ou de faciliter la mobilité (exosquelette), les évolutions escomptées sont d’un tout autre ordre^[4]. Elles auront pour conséquence, si l’on n’y prend garde, un changement radical de l’humanité. Comme le souligne le philosophe Jean-Michel Besnier, « on est en train de préparer une humanité à deux vitesses. La fracture ne sera plus entre le nord et le sud, mais au sein même des sociétés »^[5]. Qui va-t-on augmenter ? A quel coût ? Selon quel choix ? « Être ou ne pas être augmenté, voilà la question ! ». Tout cela doit être pris au sérieux.  Le premier salon transhumaniste TransVision 2014 s’est tenu en France du 20 au 22 novembre 2014. Didier Renard, premier diplômé français de la Singularity University, déclare : «  Bientôt vous pourrez sauvegarder votre mémoire cérébrale sur un support électronique. Ce jour-là, vous aurez envie d’un cloud souverain, un coffre-fort inviolable de votre identité géré par des organisations qui auront le sens de l’État avant d’avoir celui des affaires. Nous n’avons pas les ressources financières et humaines pour proposer un projet de société alternatif, cela dépasse clairement notre mission. Mais nous avons l’ambition d’être ce refuge quand cela sera nécessaire. D’ici là, l’État devra avoir défini l’acceptable, l’éthique et le responsable, le tout dans un cadre législatif et juridique imposé à tous, y compris, et bon gré mal gré, aux libertariens et autres transhumanistes qui veulent nous imposer leur propre vision du progrès et de l’humanité »^[6].

La « robolution » : l’homme servi ou asservi ? Du « robot-homme » à « l’homme-robot »

Avec la transformation numérique, la robotique connaît une impulsion sans précédent. Mais le robot sera-t-il un auxiliaire de l’homme, l’égal de l’homme ou supérieur à l’homme ? Tel est l’enjeu majeur de la « robolution » que nous allons vivre.

Les robots en quête d’autonomie

La robotique est déjà entrée en application, notamment dans l’industrie. La France bénéficie d’ailleurs d’une capacité d’innovation reconnue dans le monde qui a motivé la création, en mars 2014, du fonds d’investissement capital-risque « Robolution Capital » pour favoriser le développement d’une filière.

Comme le souligne Bruno Bonnell, initiateur du fonds, tous les secteurs vont être touchés par cette forme d’intelligence apportée aux machines. Le robot classique a permis de libérer le travail des tâches les plus répétitives et d’améliorer la qualité du produit fini. Le robot du futur aura une tout autre performance. S’effectuera en effet, le passage de la génération des robots Automates programmés industriels (API) à celle des robots dotés d’une intelligence artificielle, capables d’apprendre eux-mêmes grâce à un processus d’apprentissage automatique et d’accomplir des tâches que ne peuvent autoriser les traitements algorithmiques classiques. C’est ce que l’on appelle le machine learning qui s’appuie notamment sur le traitement de mégadonnées. Le deep learning (apprentissage en profondeur) est une forme encore plus élaborée de machine learning qui veut agir comme le cerveau humain avec un système de type neuronal. Le programme informatique se perfectionne sans intervention de l’homme par un apprentissage non supervisé^[7]. Selon Yann Le Cun^[8],  « La technologie du deep learning apprend à représenter le monde. C’est-à-dire comment la machine va représenter la parole ou l’image ? ».

On peut attendre de ces robots « intelligents » des progrès considérables dans le domaine de l’assistance aux personnes, de la sécurité, de la surveillance, tant du point de vue qualitatif que du point de vue quantitatif.

Par exemple, Dubaï envisage de mettre en œuvre des patrouilles de robots policiers autonomes dans les centres commerciaux et d’autres lieux lors de l’Exposition universelle de 2020… En juillet 2016, à Dallas, pour neutraliser l’auteur du meurtre de cinq policiers retranché dans un parking, la police américaine a fait usage d’un robot télécommandé équipé d’un explosif^[9]. Il s’agit vraisemblablement d’un robot déjà utilisé par l’armée américaine en Irak. Certes, en l’occurrence, il s’agit d’un engin dépendant de l’action humaine, puisque télécommandé, mais on peut imaginer demain des robots entrant en action proprio motu. Cette utilisation offensive d’un robot renvoie au rapport,  publié le 9 mars 2015^[10], par l’ONG Human Right Watch et l’université d’Harvard^[11], qui demande à l’ONU de se saisir de la question des robots « tueurs » pour définir la responsabilité juridique : l’État, le fabricant, une tierce personne ? Le Centre de recherche des écoles de Coëtquidan (CREC) approfondit la réflexion sur la robotique du champ de bataille, notamment avec le Combat Studies Institute de l’US Army.

Vers un statut juridique du robot ?

Le robot va-t-il remettre en cause tous les principes sur lesquels reposent aujourd’hui les règles de responsabilité civile ou pénale et créer des déséquilibres, notamment financiers ? En mai 2016, Mady Delvaux^[12] a déposé un rapport, à destination de la Commission européenne, relatif à un projet  de directive sur les règles de droit civil de la robotique. Parce que « le développement de la robotique et de l’intelligence artificielle pourrait avoir pour conséquence l’accomplissement par des robots d’une grande partie des tâches autrefois dévolues aux êtres humains », elle préconise, en particulier, de leur faire payer des cotisations sociales à la place des humains dont ils auront pris l’emploi et de créer un revenu universel de base pour tous ceux qui n’auront plus accès au marché de l’emploi. La députée européenne considère que « grâce aux impressionnants progrès de la technique au cours des dix dernières années, non seulement les robots contemporains sont capables de mener à bien des tâches qui relevaient autrefois exclusivement de la compétence humaine, mais encore que la mise au point de fonctionnalités autonomes et cognitives (comme la capacité de tirer des leçons de l’expérience ou de prendre des leçons indépendantes) rapprochent davantage ces robots du statut d’acteurs interagissant avec leur environnement et pouvant le modifier de manière significative ; que dans un tel contexte , la question de la responsabilité juridique en cas d’action dommageable d’un robot devient cruciale ». Faut-il un droit « des robots » ou un droit « pour les robots » ? En appelant « à trancher la question fondamentale de l’octroi ou non d’une personnalité juridique aux robots », Mady Delvaux donne une résonance à la position d’Alain Bensoussan, avocat spécialisé dans les nouvelles technologies, qui, le premier, a réclamé cette personnalité juridique pour les robots, à l’instar de celle attribuée aux personnes morales^[13]. Aujourd’hui « objets de droits »^[14], ils doivent, selon lui, devenir « sujets de droit » ou, au moins, relever d’un droit spécifique^[15], car les robots, contrairement aux automates, possèdent une forme d’intelligence, de capacité de compréhension, voire de perception des sentiments^[16]. Ils peuvent, de ce fait, acquérir une autonomie qui leur permet de prendre des décisions à caractère juridique, par action ou abstention et donc être à l’origine d’un préjudice qu’il faudra couvrir^[17]. Lorsque l’intelligence artificielle générera une nouvelle intelligence artificielle sans intervention humaine, les robots franchiront le seuil de singularité technologique. Maître Bensoussan souligne que les robots peuvent être des « concentrateurs d’intimité »^[18], capables de capter, traiter, échanger des données à caractère personnel et notamment médicales des personnes qu’ils assistent. Le robot devrait, selon lui, avoir un nom et même un genre, avec un numéro d’immatriculation^[19]. Cette personnalité robotique est contestée par d’autres juristes qui  considèrent que les règles de droit existantes sont suffisantes et qu’une telle disposition aurait pour effet de déresponsabiliser leurs propriétaires^[20].

La première approche nous semble plus conforme à une réalité qui se dessine et qui ne relève pas de l’utopie ! La réflexion relative au droit civil peut être élargie à la responsabilité pénale. La multiplication de machines dans l’espace public, notamment avec des liaisons sans fil, peut engendrer le risque d’une prise de contrôle malveillante ou d’un accident : qui sera responsable pénalement ? Le concepteur, le fabricant, celui qui l’a acquise, celui qui l’utilise, ou le robot ? Lors d’une exposition « The Darknet : From Memes to Onionland » qui s’est tenue à Zurich du 5 au 11 janvier 2015, deux artistes suisses du Mediengruppe Bitnik ont présenté un robot automatisé « Random Darknet Shopper » qui  fait des achats sur le Darknet, sur le site  AlphaBay, à travers le réseau TOR, avec un budget de 100 dollars en bitcoins par semaine. Certaines de ces acquisitions, livrées et exposées au Kunst Halle St.Gallen, soulèvent évidemment des problèmes de droit : un sac Louis Vuitton ou un polo Lacoste contrefait, 10 pilules d’ecstasy, des cigarettes de contrebande, un faux passeport hongrois, etc. Qui est responsable pénalement ? Les artistes qui ont mis le robot en situation d’accomplir un acte illicite ?  Aujourd’hui, sans aucun doute, même si la justice leur a finalement rendu leur robot confisqué, mais qu’en sera-t-il demain si le robot acquiert une véritable autonomie, grâce à l’intelligence artificielle qui lui donnera une capacité de discernement, élément clef de la responsabilité pénale ? De même qu’il existe une responsabilité pénale des personnes morales, on peut imaginer une responsabilité pénale des personnes électroniques. Un robot devant des juges, au pénal comme au civil, est-ce une vue de l’esprit ou une réalité dans les dix prochaines années^[21] ?

L’homme remplacé ?

La « robolution » va créer la symbiose entre l’homme et la machine, grâce à des interfaces (Brain Computer Interfaces). Le dialogue homme/machine pourrait s’accompagner du transfert de l’intelligence humaine vers cette dernière. Le téléchargement de l’esprit (Mind Uploading) vise à transférer le contenu d’un cerveau humain sur un ordinateur, sa dématérialisation dans le cloud et sa réimplantation dans un robot. Tel est l’objectif du projet Blue Brain lancé en 2005 par l’École Polytechnique de Lausanne.

Mais, les capacités n’étant pas limitées (semble-t-il), la machine pourrait devenir plus intelligente que l’homme. Ces robots seront-ils “humains”, capables d’avoir des émotions, de percevoir celles des personnes, d’exprimer des sentiments ?

Pour Ray Kurzweil, les robots seront proches des humains en 2029…Selon lui, ils seront « capables d’intelligence émotionnelle, d’être drôles, de comprendre des blagues, d’être sexy, aimants et de comprendre l’émotion humaine »^[22]. Le 27 juin 2015, deux robots japonais, Frois et Roborin, ont été « mariés » selon le rite traditionnel avec comme témoin Pepper, un autre robot. Softbank, le fabricant japonais de Pepper, conçu par la société française Aldebaran Robotics, stipule dans le manuel d’instruction qu’il est interdit d’avoir des comportements sexuels et indécents avec son robot… Mais l’entreprise canadienne Abyss Creation a annoncé qu’elle allait mettre sur le marché un « robot sexuel » en 2017^[23].

Asimov, le prophète

Prophète, Asimov, auteur américain d’origine russe, l’est sans doute, car les lois qu’il énonce semblent écrites pour le XXIe siècle. Elles viennent en réaction à l’image du robot tueur véhiculée par la science-fiction des années trente. Pour lutter contre le complexe de Frankenstein, il publie, en 1940, un roman, Robbie, qui a pour héros un robot sympathique et noble qui s’occupe d’un enfant. Asimov écrit des nouvelles pour le magazine Astounding Science Fiction, dirigé par John Campbell. De leur dialogue va naître la question des relations entre l’homme et le robot au travers de la formulation de trois lois, exposées dans la nouvelle Runaround (1942), et qui doivent « être intégrées au plus bas niveau du cerveau positronique ». En 1948, dans Les Humanoïdes, Jack Williamson, applique les trois lois aux robots qu’il met en scène. Près d’un demi-siècle plus tard, Asimov ajoute la « zéroième loi », par l’intermédiaire du robot Daneel Olivaw^[24] : « Un robot ne peut porter atteinte à l’humanité, ni, restant passif, permettre qu’un être humain soit exposé au danger ». En 2014, le chercheur en robotique Alan Winfield a expérimenté la première loi d’Asimov en plaçant un robot devant un trou pour empêcher d’autres robots de tomber dedans. L’expérience montre que le robot est confronté à des difficultés de choix dès que le nombre de robots à protéger augmente.

LES TROIS LOIS D’ISAAC ASIMOV (ROMANCIER)

-Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger ;

– Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;

– Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Vers une cyberéthique ?

L’homme « augmenté » sera-t-il, en vérité, un homme diminué, asservi ? Au-delà du droit, la « Robolution » soulève des questions existentielles qui relèvent de l’identité de l’homme, de son unicité, de sa capacité à décider de manière autonome. Comme l’affirme Gilles Babinet^[25], « les critiques à l’égard de Kurzveil ou de la logique libertarienne et utilitariste en vogue outre Atlantique n’auront de pertinence que si nous parvenons à être capables de leur opposer un modèle qui ne soit pas, d’une façon ou d’une autre, un refus manichéen de la modernité ». Pour Stephen Hawking, astrophysicien britannique, enseignant à Cambridge, l’intelligence artificielle menace le genre humain : « Les formes primitives d’intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à la race humaine. […] Une fois que les hommes auraient développé l’intelligence artificielle, celle-ci décollerait seule et se redéfinirait de plus en plus vite. Les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés »^[26]. Lors de la conférence Zietgeist 2015, à Londres, il ajoute « nous devons absolument nous assurer que les objectifs des ordinateurs sont les mêmes que les nôtres ».

On ne peut, de toute évidence arrêter le progrès, mais il existe déjà des situations contemporaines pour lesquelles le droit pénal met un coup d’arrêt aux applications scientifiques les plus folles. Entre ce que l’on sait faire et ce que l’on a le droit de faire, il peut exister un écart, celui établi par la loi et, tout particulièrement dans le cas qui nous intéresse, par le respect de principes généraux qui transcendent les choix et leur confèrent une légitimité. Depuis la loi du 6 août 2004, le code pénal contient des dispositions relatives à la bioéthique médicale. Il interdit, par exemple, le clonage d’êtres humains ou certaines recherches sur l’embryon^[27]. Il y aura sans doute dans quelques années un chapitre du code pénal consacré à la « cyberéthique ». Ce chapitre pourrait notamment comprendre les infractions à la loi informatique et liberté de 1978 qui sont déjà des règles d’éthique. Dans sa déclaration du 25  novembre 2014 (art.3), le G29 souligne que la technologie est un moyen qui doit demeurer au service de l’homme : « Le fait qu’un  traitement de données soit techniquement faisable, qu’il puisse parfois révéler des informations utiles au renseignement ou permettre le développement de nouveaux services n’implique pas qu’il soit de ce fait acceptable sur les plans social et éthique, ni qu’il soit raisonnable ou conforme à la loi » (article 3 de la déclaration). La cyberéthique rejoindra la bioéthique car des recherches sont également entreprises par des israéliens et des américains pour développer un ordinateur biologique, fabriqué à partir de matériel humain, de l’ADN et de l’ARN. Le « transcriptor », nom donné au transistor biologique, permet de créer un ordinateur dans une cellule vivante. Selon Drew Endy, responsable de la recherche, « les ordinateurs biologiques peuvent être utilisés pour étudier ou reprogrammer les systèmes vivants, surveiller l’environnement et améliorer les thérapies cellulaires »^[28]. Mais il ne suffit pas de créer le droit, il faut aussi le faire appliquer, tâche beaucoup plus complexe dans le monde immatériel que dans le monde réel. Paraphrasant Malraux on pourrait affirmer que « Le XXIe siècle sera celui de la cyberéthique ou ne sera pas ! ».