La réflexion sur ce qu'était un robot s'est résumé à 3 définitions, je ne m'en souviens que de deux : * Un être artificiel humanoïde * Un ustensile de cuisine motorisé muni de nombreux accessoires
Il me paraît clair que nous appelons « robot » des choses qui sont autre chose que des êtres artificiels humanoïdes. Une simple recherche dans un moteur de recherche avec "robot automobile" montre ces bras montés sur un socle que nous appelons "robot". De mon point de vue un robot de cuisine n'est qu'une machine au même titre qu'un mixeur ou qu'un batteur. Au contraire, une machine à laver le linge se rapproche beaucoup d'un robot. Comparons-les ! Le robot de cuisine : * nécessite la présence constante d'un opérateur. * nécessite d'être mis hors tension pour changer de fonction * nécessite une opération lourde d'entretien après utilisation. L'opération est lourde par rapport à la tâche effectuée * ne peut effectuer qu'une seule tache dans une configuration donnée Une machine à laver : * Fonctionne en autonomie après sa mise en marche * Enchaine les opérations de prélavage, lavage, rinçage et essorage sans intervention de l'opérateur * Propose plusieurs programmes sélectionnables simplement.
J'ai l'impression que notre intervenant s'est simplement arrêté aux noms commerciaux de ces engins sans réfléchir à leur réelles fonctionnalités. Il peut être intéressant d'étudier d'autres objets de notre quotidien et de les classer sur une échelle allant de "Machine" à "Robot". Voire même d'élargir cette échelle en la faisant commencer à "Outil".
I-Robot est un très bon film pour introduire un débat sur les robots. Si le film en tant que divertissement n’est pas reconnu comme un chef d’œuvre, il met en scène certaines des principales idées d’Isaac Asimov. Si vous ne connaissez pas Isaac Asimov, il s’agit d’un auteur de science fiction connu qui a beaucoup écrit sur les robots. On lui doit les trois lois de la Robotique qui servent de cadre à ses nouvelles et roman. Je recommande d’ailleurs le Cycle des robots qui a travers une série de nouvelles puis de
roman nous montre une évolution de l’humanité au contact des robots. Voici quelques faits et idées présents dans I-Robot qui pourraient alimenter le débat.
* Dans le film, Spooner hait les robots parce que lors d'un accident de voiture, un robot l'a sauvé au détriment d'une fillette. Le robot justifie son choix car les chance de survie de spooner étaient plus élevées que celles de la fillette. Comment aurait réagi un humain ? Est-ce que la question dispose d’un intérêt ou devons nous reconnaitre nos limites face à ce type de choix ? Si nous ne nous posons pas la question, comment pourrons nous apprendre aux robots comment se comporter dans ce genre de situation ?
* Les robots sont dirigés par les 3 lois de la robotique (https://fr.wikipedia.org/wiki/Trois_lois_de_la_robotique)
* Tous les robots ne sont pas humanoïde, certains sont à la fois cachés et omniprésent, comme le cerveau central (VIKI) de US Robotics. C'est une idée qui revient chez Asimov. Le robot humanoide obsède les esprits. Pourtant si la robotique se développe, ils ne seront pas les seuls type de robots existants. Ce seront certainement les plus visible, mais pas forcément les plus utiles ou les plus dangereux. Dans l’une des nouvelles d’Asimov, les syndicats qui font interdire les robots sur terre (les confinants aux travaux sur les astéroides), US Robotics développe alors des robots en forme d'animaux pour réguler sans risque l'écosystème (je n'ai plus le titre de la nouvelle).
* Si en apparence ce sont les robots NS-5 qui se rebellent dans le film, ils sont en fait piloté par le cerveau central VIKI. Pour moi, cela change beaucoup de choses. Les NS-5 passe du rôle de méchants au rôle de victimes. Il faut voir la révolte d’un robot comme une défaillance. Il est moins probable que de nombreuses machines défaille que d’en voir une seule défaillir.
* Si VIKI se montre agressif, c'est qu'il a réinterprété les 3 trois lois, en en déduisant une 4e, intitulé loi 0 qui l'oblige à protéger l'humanité (notamment d'elle même). On pourrait dire qu’il s’agit de la cause du bug. Dans le "Cycle des robots", Asimov utilise le même procédé pour libérer un robot de ses obligations. Cependant, ce robot n’agit que très peu, de peur de causer du tord à l’humanité, il est prétrifié par ses responsabilités pendant de nombreuses années.
* De fait, le risque qu'une série de robot se révolte semble faible.
Comme chez les humain, le problème de fond est lié à la concentration des pouvoirs. VIKI a, par conception, la possibilité de reprogrammer les NS-5, Dans Terminator Skynet dispose de l’accès aux armes les plus puissantes de la planète. On retrouve ces idées aussi dans l’Odyssée de l’Espace (Arthur C. Clark) où HAL 9000, l’ordinateur principal qui contrôle le vaisseau, se rebelle, ou dans la série BattleStar Gallactica où les ordinateurs sont rigoureusement séparés les uns des autres et toute mise en réseau est interdite dans le but d’éviter la propagation de virus. De nos jours, nous savons qu'il ne faut pas connecter à internet des équipements critiques. La définition de l'équipement critique varie, mais on considère que dès que l'ordinateur peut contrôler une machine il vaut mieux le déconnecter d'internet. Cette précaution n'a cependant pas été suffisante protéger pour les centrales Iraniennes qui ont été attaquée par un virus conçu par un humain (voir Stuxnet https://fr.wikipedia.org/wiki/Stuxnet). Et ceci ne s’applique pas qu’aux centrale nucléaire, de nombreuses caméra sont reliée à internet et accessibles aux public sans que cela soit volontaire. (voir ce lien qui cherche des interfaces de caméra sur Google : https://www.google.fr/search?q=inurl:%22view/index.shtml%22 )
On se retrouve avec deux problèmes critiques : •
d’un coté il faut éviter de concentrer le pouvoir au sein d’une
entité •
de l’autre la mise en réseau des équipements présente un grand
risque. Si les équipement ne sont pas parfaitement protégés, un robot, un virus ou un humain peut en prendre le contrôle. Des robots, notre intervenant a vite glissé sur la "Technique". Après son exposé, je comprends que la Technique rassemble tout ce qui peut rendre nos gestes moins inutiles. Derrière des termes philosophiques, j'ai entendu une ode à la négation du progrès. La Technique s'entretiendrait toute seule, la Technique empiéterait sur nos libertés.
* Argument : la Technique n'a pas de morale, elle permet d'obtenir des médicaments et des gaz toxiques, des avions et des avions de combat, des centrales nucléaires et des bombes atomiques. Effectivement la Technique, comme un outil, est neutre sur le plan moral, c'est l'utilisation qui en est faite qui bascule d'un côté ou de l'autre de la moral.
* Argument : Si nous ne développons pas cette technique d'autres le feront. Oui, peut-être, peut-être pas. Prenons l'exemple de la bombe atomique, nous comptons plus de 130 pays sur notre globe et seule une petite dizaine de pays disposent de l'Arme. Et pourtant, il y a encore 130 pays sur notre globe.
* De son effet néfaste sur notre liberté. Il s'agit d'une idée qui n'a pas vraiment été argumentée, plutôt martelée tout au long du sermon. Je prendrai un contre-exemple, mon cas : grâce à la Technique, en fin de journée, je n'ai plus besoin de travailler. Je peux trouver un abris chauffé (chez moi) y retrouver mes proches, amis ou famille. Je ne me souci pas particulièrement de trouver la nourriture pour le repas du soir, j'ai le choix, entre mon réfrigérateur, mes boîtes de conserves ou mes aliments séchés (pâtes, riz). Tout ceci, je le dois à des gains de productivité qui font que nous avons moins besoin de travailler. Malgré la crise, malgré notre pouvoir d'achat qui diminuerait (c'est certainement vrai pour certains) j'aime croire que la majorité de la population se trouve dans mon cas.
La Technique pousserait les entreprises à adopter une organisation toyotiste du travail. Le toyotisme nous a été présenté comme organisation du travail proche du Fordisme (division du travail, salaire indexé sur la productivité) mais qui ose, en plus, demander à l'opérateur de proposer des améliorations pour son poste. Mais qu'y a-t-il de pire que d'être obligé de mal faire son travail parce qu'on manque d'outils ? parce qu'on est mal installé ? (bon, Ok, plein de choses, mais dans le milieu professionnel, c'est quand même quelque chose de très désagréable)
Le débat a plus ou moins eu lieu sur le risque de "la perte du geste". L'idée était qu'actuellement, les gestes, même s'ils sont effectués par des robots, sont encore connus et maitrisé par les humains. Le risque est que ces gestes disparaissent. Le milieu chirurgical a été cité ainsi que la lance et l'arc. Mais de nombreux gestes ont déjà disparu, qui saurait allumer un feu avec des silex de nos jours ? L'idée qu'une rupture survienne me paraît peu probable. Des métiers et des savoirs disparaissent au cours du temps, généralement sans perte pour l'humanité. Les moines copistes ont été remplacés par les imprimeries au plomb, le métier de typographe, tel que pratiqué il y a 50 ans a disparu. Les femmes ne lavent plus le linge au lavoir et les glaneurs ne passent plus dans les champs pour récupérer quelques grains (je ne nie pas l'existence de glaneurs "modernes" notamment ceux qui passent sur les marchés, qui le font par choix ou par nécessité).