Thema Pour la Science n°8 : l'intelligence artificielle

Informatique LA RÉVOLUTION DE L’APPRENTISSAGE PROFOND

Société LES VRAIS DANGERS DE L’INTELLIGENCE ARTICIFIELLE

Neurosciences LES MACHINES AURONT-ELLES BIENTÔT UNE CONSCIENCE ?

L’INTELLIGENCE ARTIFICIELLE

Quand les machines apprennent à apprendre

ÉDITO

L’INTELLIGENCE ARTIFICIELLE, ENTRE FANTASMES ET VRAIS DANGERS

I

Philippe Ribeau

Responsable éditorial web

l y a encore une décennie, il était impensable qu’une machine fût sur le point de battre les champions de poker ou de jeu de go, de reconnaître automatiquement n’importe quelle image, traduire des romans entiers en une fraction de seconde ou de parler avec son propriétaire.

C’est aujourd’hui une réalité. Les progrès de l’intelligence artificielle ont été spectaculaires ces dernières années. La clé, c’est une nouvelle technique, l’apprentissage profond, dans laquelle des réseaux de neurones artificiels s’inspirant du cortex humain apprennent, en se confrontant à d’énormes masses de données, à devenir des experts de telle ou telle tâche.

Les performances de l’intelligence artificielle sont telles que certains redoutent qu’elle dépasse bientôt celle de l’homme, voire que les machines deviennent conscientes.

Il faut cependant relativiser ces craintes. L’intelligence artificielle n’est pas infaillible. Les machines peuvent échouer à des tâches très simples et intuitives pour l’homme, et peuvent être trompées.

Et même si les robots commencent à pouvoir imiter certains comportements sociaux, ils sont loin d’avoir de vraies émotions ni de conscience, faute des structures cérébrales nécessaires.

Le vrai danger de l’intelligence artificielle est plutôt à chercher dans son utilisation. Du livreur à l’avocat, il n’est que peu de métiers qui ne soient bouleversés par l’automatisation. Et les objectifs et valeurs sous-jacents à ces algorithmes sont souvent peu clairs.

Comme souvent, le danger ne vient pas de la technologie, mais de l’usage qui en est fait !

Suivez-nous sur

Thema / Intelligence artificielle

2

Pour la Science 170 bis boulevard du Montparnasse - 75014 Paris

Tél. : 01 55 42 84 00

Directrice des rédactions : Cécile Lestienne Pour la Science Rédacteur en chef : Maurice Mashaal Rédactrice en chef adjointe : Marie-Neige Cordonnier Rédacteur : François Savatier, Sean Bailly Conception graphique : Pauline Bilbault Directrice artistique : Céline Lapert Maquette : Pauline Bilbault, Raphaël Queruel, Ingrid Leroy Réviseuse : Anne-Rozenn Jouble Développement numérique : Philippe Ribeau-Gésippe Marketing & diffusion : Arthur Peys Chef de produit : Charline Buché Presse et communication : Susan Mackie susan.mackie@pourlascience.fr Tél. : 01 55 42 85 05 Directeur de la publication et gérant : Frédéric Mériot Publicité France Stéphanie Jullien stephanie.jullien@pourlascience.fr Tél. : 06 19 94 79 25 © Pour la Science S.A.R.L. Tous droits de reproduction, de traduction, d’adaptation et de représentation réservés pour tous les pays. Certains articles de ce numéro sont publiés en accord avec la revue Spektrum der Wissenschaft (© Spektrum der Wissenschaft Verlagsgesellschaft, mbHD-69126, Heidelberg). En application de la loi du 11 mars 1957, il est interdit de reproduire intégralement ou partiellement la présente revue sans autorisation de l’éditeur ou du Centre français de l’exploitation du droit de copie (20, rue des Grands-Augustins - 75006 Paris).

Crédit couverture : Shutterstock.com/Phonlamai Photo EAN : 370 01907 0150 9 Dépôt légal : Mars 2019

SOMMAIRE

P/4/LA RÉVOLUTION DE L’APPRENTISSAGE PROFOND YOSHUA BENGIO

P/15/QUAND LES MACHINES APPRENDRONT COMME DES ENFANTS ALISON GOPNIK P/25/L’INTELLIGENCE ARTIFICIELLE CHAMPIONNE DE GO SEAN BAILLY P/28/GOOGLE DUPLEX, L’ILLUSION D’HUMANITÉ JEAN-LUC SCHWARTZ

P/4

P/45

P/35/IA : UN APPRENTISSAGE PAS SI PROFOND JEAN-PAUL DELAHAYE P/45/IL FAUT ÉVALUER LES CAPACITÉS ÉMOTIONNELLES DES ROBOTS LAURENCE DEVILLERS P/54/LES MACHINES PEUVENT-ELLES DEVENIR CONSCIENTES ?

GUILLAUME JACQUEMONT

P/56/PLUS HUMAINS GRÂCE AUX ROBOTS GÉRALD BRONNER

P/28

P/56

Thema / Intelligence artificielle

3

P/59/QUELS SONT LES VRAIS DANGERS DE L’INTELLIGENCE ARTIFICIELLE ? ENTRETIEN AVEC

FRÉDÉRIC ALEXANDRE ET SERGE TISSERON

YOSHUA BENGIO

Thema / Intelligence artificielle

© Shutterstock.com/kc look

La révolution de l’apprentissage profond

Pour créer une intelligence artificielle, pourquoi ne pas s’inspirer d’une intelligence naturelle ? C’est le pari des réseaux multicouches de neurones artificiels, des « machines » qui apprennent à partir de grandes quantités de données. Leurs succès sont saisissants !

E

n 2016, le programme AlphaGo, mis au point par Google DeepMind, faisait sensation en battant au jeu de go, par le score de 4 à 1, le Sud-Coréen Lee Sedol, réputé le meilleur joueur du monde. Un an après, en octobre 2017, AlphaGo s’est fait humilier avec un score de 100 à 0 par… AlphaGo Zéro, le nouveau logiciel de Google DeepMind !

La différence entre les deux logiciels ?

Là où AlphaGo a été nourri par des millions de parties humaines, AlphaGo Zéro s’est contenté des règles du jeu et des positions des pierres sur le plateau. Il a appris

en jouant des millions de parties contre lui-même, d’abord au hasard, puis en affinant sa stratégie. En quarante jours, il est devenu le meilleur !

Les deux logiciels ont toutefois un point commun : ils fonctionnent grâce à l’apprentissage profond, aboutissement de décennies de recherche sur l’intelligence artificielle. Aujourd’hui, les machines apprennent grâce à une architecture inspirée de celle du cerveau et d’un nombre considérable de données (AlphaGo Zéro les a générées lui-même). Un retour historique s’impose.

Thema / Intelligence artificielle

5

Dans les années 1950, le programme élaboré par Arthur Samuel pour jouer aux dames commence à damer le pion de joueurs de bon niveau. Stupéfaction dans le monde de l’informatique naissante. Le programme en question est le premier à inclure un autoapprentissage.

L’enthousiasme voire l’euphorie gagne les laboratoires. La conférence de Dartmouth de 1956 consacre la naissance de l’ « intelligence artificielle ». L’un des pionniers, Marvin Minsky – en 1951, il avait construit la première machine à réseau neuronal, le Snarc – n’hésite pas à déclarer en 1970, dans Life : « Dans trois à huit ans nous aurons une machine avec l’intelligence générale d’un être humain ordinaire. » Cet optimisme était un tantinet précipité…

La chasse au Snarc Les logiciels de l’époque, par exemple pour aider les médecins dans leur diagnostic, n’ont pas tenu leurs promesses. Les algorithmes étaient trop simples et manquaient des données nécessaires pour parfaire leur apprentissage. La puissance de traitement informatique était également

Quand les machines apprendront comme des enfants

© Simon Prades

ALISON GOPNIK

Thema / Intelligence artificielle

Si l’intelligence artificielle a connu récemment un grand essor, c’est grâce à des approches ayant des points communs avec l’apprentissage des jeunes enfants – qui surpassent encore de loin les machines !

S

i vous passez beaucoup de temps avec de jeunes enfants, vous êtes sans doute émerveillé par leur capacité à apprendre et par la rapidité de cet apprentissage, et vous vous demandez comment cela est possible. Les philosophes, à commencer par Platon, se sont également posé la question, sans trouver de réponse satisfaisante.

Mon petit-fils de 5 ans, Augie, a acquis des connaissances sur les plantes, les animaux et les horloges, sans parler des dinosaures et des vaisseaux spatiaux. Il est également capable de deviner ce que d’autres personnes veulent, ce qu’elles pensent et ce

qu’elles ressentent. Il peut utiliser ces connaissances pour classer ce qu’il voit et entend, et faire de nouvelles prédictions.

Par exemple, Augie a dernièrement proclamé que l’espèce de titanosaure récemment découverte et exposée au Muséum américain d’histoire naturelle à New York est un herbivore, et que cet animal n’est donc pas si effrayant que cela.

Et pourtant, pour l’essentiel, Augie ne reçoit de son environnement que des photons venant frapper la rétine de ses yeux et des vibrations de l’air atteignant le tympan de ses oreilles. À partir de ces informations,

Thema / Intelligence artificielle

16

son cerveau parvient d’une façon ou d’une autre à faire des prédictions sur les titanosaures herbivores.

Des ordinateurs électroniques pourraient-ils en faire autant ? Depuis une quinzaine d’années, des informaticiens et des psychologues essaient de trouver une réponse. Comprendre comment fonctionne le cerveau des enfants pour ensuite en créer une version logicielle qui fonctionne aussi bien reste un défi pour les informaticiens. Mais entre-temps, ils commencent à développer des intelligences artificielles qui incorporent une partie de ce qu’on sait des mécanismes d’apprentissage chez les humains.

Passé l’enthousiasme des années 1950 et 1960, le domaine de l’intelligence artificielle a longtemps stagné. Mais il a connu ces dernières années des progrès remarquables, en particulier dans le domaine de l’apprentissage automatique.

De nombreuses prédictions utopistes ou apocalyptiques ont émergé concernant la signification de ces avancées. Selon les points de vue, optimistes ou pessimistes, on imagine que ces développements

SEAN BAILLY

Thema / Intelligence artificielle

Bruno Bourgeois

L’intelligence artificielle championne de go

Le jeu go représente un défi de taille pour l’intelligence artificielle et restait l’un des domaines où l’on pensait que l’ordinateur ne pourrait pas battre l’homme de sitôt.

Mais le logiciel AlphaGo de Google, fondé sur la méthode de l’apprentissage profond, vient de vaincre le champion d’Europe. Une petite révolution.

E

n octobre 2015, lorsque Fan Hui, le champion d’Europe de go, un Français d’origine chinoise, aborde son match contre AlphaGo, le programme de la société DeepMind (une filiale de Google), il est convaincu qu’il va gagner. Il a déjà joué contre des logiciels, et ceux-ci restaient bien en dessous du niveau des joueurs professionnels humains. Pourtant cette fois-ci, il en va tout autrement. Le score est sans appel : le champion d’Europe s’incline 5-0 contre la machine. Ce résultat représente une étape symbolique dans la progression de l’intelligence artificielle. Derrière cette performance

se cache une technique en plein essor : l’apprentissage profond. Explications.

Le jeu de go est apparu il y a près de 4 000 ans en Chine. La simplicité des règles et la richesse du jeu contribue à sa popularité, notamment en Asie de l’Est. Deux joueurs s’affrontent en disposant chacun leur tour des pierres noires et blanches sur un plateau, le goban, constitué d’une grille de 19 lignes et 19 colonnes. L’objectif est de délimiter et contrôler un maximum de « territoires ».

Malgré la simplicité des règles, le jeu de go est un défi pour les informaticiens qui

Thema / Intelligence artificielle

26

tenetn développer un programme informatique capable de jouer avec un bon niveau.

En effet, il y a environ 10170 configurations possibles ! Impossible pour un programme de les passer toutes en revue pour trouver la meilleure stratégie. Le jeu d’échecs offre lui aussi trop de possibilités (mais beaucoup moins que le go) pour pouvoir être attaqué par la force brute, mais on peut se contenter d’estimer, à l’horizon de quelques tours, les coups qui mettent le joueur en position de force. Au go, il est bien plus difficile d’évaluer si une position est avantageuse ou non. L’influence d’une pierre à un endroit donné peut se répercuter très loin sur le goban. Cette différence structurelle de complexité explique pourquoi dès 1997, le programme d’échecs DeepBlue d’IBM fut capable de battre le champion russe Garry Kasparov alors que les programmes de go n’étaient pas encore capable de dépasser le niveau d’un bon joueur amateur.

La plupart des programmes de jeu de go reposent sur la recherche arborescente de type Monte-Carlo, un algorithme qui consiste à choisir aléatoirement un certain nombre de coups possibles et d’évaluer

Google Duplex : l’illusion d’humanité

© Getty Images/ Justin Sullivan / Employé

JEAN-LUC SCHWARTZ

Thema / Intelligence artificielle

Si l’interface vocale Google Duplex est une indéniable réussite technologique et un joyau de l’intelligence artificielle, elle n’a rien saisi du langage humain ni de l’humanité de nos voix.

R

écemment, une vidéo a fait le tour d’Internet et des réseaux sociaux. On y voyait un développeur de chez Google faire une démonstration de la nouvelle interface vocale Google Duplex, lors d’un de ces grands shows qu’affectionne le groupe, au mois de mai. Le public était médusé.

Le système présenté lors de cette grandmesse était un assistant téléphonique automatique capable de discuter avec les propriétaires d’un salon de coiffure ou d’un restaurant pour prendre rendez-vous pour ses clients. Il s’exprimait comme l’aurait fait une véritable personne souhaitant se rendre

chez le coiffeur ou réserver sa table préférée avec des amis, en employant un ton et des inflexions de la voix absolument typiques de celles que nous employons dans la vie de tous les jours. L’illusion était parfaite.

Les personnes chargées de prendre les appels dans le salon de coiffure ou au restaurant étaient persuadées d’avoir affaire à un vrai client, et non un robot. Parmi la foule rassemblée dans ce temple high-tech qu’est le rendez-vous annuel de deux jours des aficionados de Google à San Francisco, des cris d’admiration ont fusé de toutes parts. L’assemblée était fascinée, parcourue

Thema / Intelligence artificielle

29

d’un frisson d’admiration et d’inquiétude mêlées : ça y est, s’est-on dit, nous y sommes, la voix est donnée à un robot, et la voix c’est la vie, les secrets les plus intimes de notre humanité pensante et parlante dévoilés. Google aurait-il compris ce qui fonde notre humanité et notre identité vocale ?

Et au-delà de cela, est-on en train de s’acheminer, pièce par pièce, vers la création d’un être humain complet ?

Nous allons voir qu’il y a loin de la coupe aux lèvres, et qu’il n’y a même pas de lèvres du tout, ni de corps, ni quasiment de cerveau chez cet assistant vocal stupéfiant.

D’une certaine manière, si Google Duplex est une indéniable réussite technologique et un joyau de l’intelligence artificielle, il n’a en réalité saisi que peu de choses de nos capacités à comprendre le langage et en tout cas, rien pour ainsi dire de l’humanité de nos voix.

Ce qui nous abuse dans ces démonstrations très médiatisées, c’est la confusion que nous faisons facilement entre l’automate qui « fait comme » l’humain, et celui qui fait semblant. La nuance est d’importance, comme nous allons le voir. Pour la

JEAN-PAUL DELAHAYE Thema / Intelligence artificielle

©Shutterstock.com/Connect world

IA : un apprentissage pas si profond

Les systèmes de reconnaissance automatique ont d’étonnantes faiblesses. Exploiter ces failles permet de s’amuser, mais aussi d’améliorer les procédures d’apprentissage… ou de concevoir de nouvelles attaques informatiques.

L’

apprentissage automatique à l’aide de réseaux neuronaux « profonds » est à la mode. Comme souvent quand il s’agit d’intelligence artificielle, il y a ceux qui perçoivent raisonnablement les capacités des nouvelles idées et il y a ceux qui imaginent bien plus. Cet enthousiasme excessif s’est produit avec les premiers succès des méthodes d’apprentissage automatique dans la décennie 1950 ; cela a recommencé avec les systèmes experts dans les années 1980 ; puis quelque temps après avec les réseaux de neurones ; et maintenant, c’est une forme de ces

réseaux qui fait croire que nous sommes sur le point de mettre dans nos ordinateurs une intelligence générale susceptible de nous surpasser.

Le présent article n’a pas pour objectif de dénigrer une remarquable technique qui a récemment triomphé au jeu de go, qui aide à concevoir des véhicules autonomes, qui améliore la traduction automatique et qu’on maîtrise de mieux en mieux ; les livres d’Aurélien Géron vous initieront à cette science nouvelle. Nous cherchons ici à remettre les pieds sur terre à ceux qui l’imaginent comme une panacée informatique.

Thema / Intelligence artificielle

36

Les neurones formels proposés en 1959 sont des modèles informatiques et simplifiés des neurones de notre cerveau. On conçoit des programmes qui en simulent un grand nombre en les regroupant en couches successives, comme les neurones du cerveau humain. Les neurones formels de la couche d’entrée du réseau reçoivent des informations, par exemple sous la forme d’images décomposées en pixels : chaque pixel est une entrée. En fonction de leurs paramètres internes, les neurones de cette première couche envoient des signaux aux neurones de la seconde couche, qui eux-mêmes, en fonction de leurs paramètres internes, envoient des signaux à la troisième couche, etc.

Les influx de sortie, c’est-à-dire de la dernière couche, désignent les réponses possibles. Ce sont par exemple des lettres A, B, C... : si les images données en entrée sont des lettres manuscrites et imprécises, le but recherché est que le réseau, une fois instruit, sache correctement reconnaître les lettres qui lui sont proposées. La phase d’apprentissage consiste à ajuster les paramètres internes de chaque neurone pour que le

LAURENCE DEVILLERS

Thema / Intelligence artificielle

© Studiostock/Shutterstock.com

Il faut évaluer les capacités émotionnelles des robots

Dialoguer, apprendre, détecter l’état émotionnel de ses interlocuteurs, faire de l’humour… : certaines machines le font déjà. Mais il sera indispensable de bien évaluer ces capacités si l’on veut utiliser et côtoyer des robots en toute confiance.

L’

époque où une demande de renseignements par téléphone exigeait de taper sur des touches de son appareil avant d’obtenir l’information enregistrée ou de joindre le bon interlocuteur humain s’achève. De plus en plus, nous tombons sur des répondeurs « intelligents » auxquels on s’adresse en parlant naturellement, et qui nous renseignent aussi en langage naturel.

Et la conversation avec une machine est loin de se limiter à des échanges téléphoniques.

On peut aujourd’hui parler à son téléphone portable ou à son ordinateur pour lui demander de retrouver l’adresse d’un ami,

d’envoyer un courriel, d’ouvrir telle ou telle application, de se connecter à tel ou tel site, voire de converser, tout simplement.

Plus généralement, interagir et dialoguer avec une machine, qu’il s’agisse d’un téléphone, d’un appareil domestique ou d’un robot industriel devient de plus en plus banal. Ce qui sous-entend certaines capacités élaborées de la machine, ou plus exactement des logiciels dont elle est munie. Les systèmes les plus avancés de ce type sont aujourd’hui composés de plusieurs modules, tels que des modules de reconnaissance de la parole, de

Thema / Intelligence artificielle

46

reconnaissance de quelques expressions émotionnelles, de compréhension, de dialogue, de génération de réponses et de synthèse de la parole. Connectés sur Internet ou embarqués sur un objet ou un robot, ces programmes, invisibles aux yeux des utilisateurs, sont ce qu’on nomme des agents conversationnels, ou encore robots bavards (chatbots en anglais). Le premier d’entre eux était Eliza, construit au MIT (l’institut de technologie du Massachusetts) vers 19641966 par Joseph Weizenbaum ; ce système simulait un psychothérapeute rogérien, dont la stratégie consiste, pour l’essentiel, à répéter les propos du patient.

Au-delà des avancées scientifiques et techniques mises en œuvre dans les agents conversationnels, l’interaction croissante que nous avons avec ces derniers soulève des questions plus fondamentales, voire stratégiques et éthiques, sur les capacités des machines et sur la relation intersubjective qu’instaurent avec celles-ci leurs utilisateurs humains. En particulier, si l’on veut vivre harmonieusement avec des machines qui nous aident et avec lesquelles nous dialoguons, il apparaît de plus en plus

GUILLAUME JACQUEMONT Thema / Intelligence artificielle

© foxaon1987 / shutterstock.com

Les machines peuvent-elles devenir conscientes ?

Selon Stanislas Dehaene, pour que les intelligences artificielles développent une conscience, il leur manque encore certaines structures spécifiques du cerveau humain.

L’

intelligence artificielle progresse de jour en jour. Des logiciels sont déjà capables de répondre à des instructions vocales, de reconnaître des visages, de gagner au jeu de go… Deviendront-ils un jour conscients ? Stanislas Dehaene, l’un des spécialistes mondiaux de la conscience, et deux autres experts se sont penchés sur la question. Et pour eux, les architectures informatiques actuelles ne le permettent pas. En revanche, il n’y aurait rien d’impossible à ce que les machines y parviennent dans le futur, moyennant quelques adaptations.

Les chercheurs ont passé en revue de multiples travaux et montré que les prouesses récentes des intelligences

artificielles correspondent aux tâches accomplies par des processus inconscients dans le cerveau. On étudie typiquement ces processus par des expériences dites d’amorçage. Un visage est par exemple présenté de façon subliminale à un participant : ce dernier ne le voit pas consciemment, mais son cerveau l’identifie-t-il ? Hé bien oui, car si on lui montre à nouveau ce visage, il le reconnaîtra plus vite. Mais il s’agit là d’un processus typiquement inconscient. Tout comme, en grande partie, l’analyse du sens des mots et divers apprentissages similaires à ceux qu’effectuent les intelligences artificielles.

Pour faire émerger une conscience, d’autres conditions sont nécessaires, selon

Thema / Intelligence artificielle

55

les chercheurs. Il faut que des structures neuronales spécifiques instaurent un « espace de travail global », c’est-à-dire partagent des informations dans tout le cerveau, et créent une capacité d’auto-analyse, à l’origine d’un sens subjectif de soi. Les machines ne disposent pour l’instant pas de telles structures, en dehors de quelques expérimentations partielles. Mais si on les en dotait, supposent les chercheurs, « elles se comporteraient comme si elles étaient conscientes. » Et peut-être le seraient-elles réellement…

Article publié sur cerveauetpsycho.fr le 30 novembre 2017

Guillaume JACQUEMONT est journaliste scientifique à Cerveau & Psycho.

Plus humains grâce aux robots

Thema / Intelligence artificielle

© shutterstock.com/ Praphan Jampala

GÉRALD BRONNER

En nous affranchissant des tâches automatisables et en nous laissant les autres, les robots renforceront peut-être notre humanité, c’est-à-dire ce qui nous est propre.

L

e remplacement de l’activité humaine par celle des robots ou même la crainte qu’une intelligence artificielle ne se retourne contre l’humanité traversent l’imaginaire de la science-fiction depuis longtemps. En témoignent ses expressions les plus populaires à travers des films tels que Matrix ou 2001, l’Odyssée de l’espace.

Avant d’imaginer que Skynet (la maléfique intelligence artificielle de la série Terminator) va provoquer l’apocalypse, nous pouvons considérer le remplacement prévisible de certaines de nos activités par des robots. Prenons l’exemple du recrutement. Depuis les années 2000, 95 %

des grandes entreprises et la moitié des autres recourent à un système automatisé de traitement de CV nommé ATS (Applicant Tracking System), qui traque les mots-clefs désirés selon le type de poste.

Le fait d’être sélectionné en première instance par une machine n’est pas réjouissant, mais, sachant que certains cabinets de recrutement utilisent l’astrologie ou la graphologie pour évaluer leurs candidats, ne vaut-il pas mieux avoir affaire à un algorithme sévère, mais juste ? D’ailleurs, l’ATS n’est utilisé que pour un premier tri des CV ; viennent ensuite les entretiens d’embauche qui, pour l’instant, sont menés par des humains.

Thema / Intelligence artificielle

57

« Pour l’instant », car les progrès dans le domaine de l’intelligence artificielle promettent de beaux développements dans celui de l’analyse sémantique. Il n’est ainsi pas impossible qu’à moyen terme le métier de traducteur finisse par disparaître, concurrencé qu’il sera par des systèmes automatisés infiniment moins coûteux, plus rapides et peut-être aussi efficaces.

De façon générale, il est probable que tout ce qui peut être automatisé dans les activités humaines le sera. Certains économistes évaluent à 47 % le nombre d’emplois aux États-Unis qui seront informatisés-automatisés dans les 20 prochaines années.

Cette tendance ne date pas d’aujourd’hui, mais, pendant un temps, elle a surtout concerné les activités proprement physiques où la machine, plus rapide et endurante, a surclassé facilement les humains. À présent, ce sont nos activités cognitives mêmes qui sont l’objet de l’invasion du numérique.

Cette perspective est effrayante car, au-delà du mythe apocalyptique d’une machine qui prendrait le pouvoir, elle nous confronte à la possibilité obsédante que

ENTRETIEN AVEC FRÉDÉRIC ALEXANDRE ET SERGE TISSERON Thema / Intelligence artificielle

© Unsplash/chuttersnap

Quels sont les vrais dangers de l’intelligence artificielle ?

De nombreuses personnalités se sont alarmées des menaces potentielles de l’intelligence artificielle.

Mais de quelle intelligence parlent-elles ? Et cette question ne détourne-t-elle pas notre attention des problèmes réels qui se posent dès aujourd’hui ? Entretien avec l’informaticien Frédéric Alexandre et le psychiatre Serge Tisseron.

Qu’est-ce que l’intelligence ?

FRÉDÉRIC ALEXANDRE : À l’Inria, nous sommes plutôt préoccupés, a priori, par la partie numérique de l’intelligence. Nos équipes produisent des logiciels, des robots et des systèmes automatisés. Cependant, avec mon équipe, nous exerçons dans un laboratoire de neurosciences, à l’Institut des maladies neurodégénératives, où nous fournissons aux médecins des modèles informatiques du cerveau, bio-inspirés, pour élucider les mécanismes de la cognition animale et humaine.

Dans ce cadre, pour définir l’intelligence, je mettrais d’abord l’accent sur

deux aspects importants. Le premier, le plus classique, est l’intelligence formelle et ses traitements mathématiques, combinatoires, logiques, statistiques… Il rassemble les processus plus rationnels, tels ceux conduisant aux déductions, aux inférences logiques, et mobilise essentiellement le cortex préfrontal.

L’autre aspect relève de l’intelligence émotionnelle et implique le système limbique. Rappelons que l’intelligence est incarnée dans un corps qui a des buts fondamentaux tels que son intégrité et la survie de l’espèce... Ce corps, placé dans son environnement, essaie de se protéger des

Thema / Intelligence artificielle

60

risques, de survivre, de se reproduire, de se nourrir, d’avoir des relations sociales... Ces objectifs nécessitent une grille de lecture du monde qui permet, pour faire simple, de mettre une valeur sur les éléments qui nous entourent. En déterminant ce qui est bien ou mal pour le corps, le système limbique indique les meilleures décisions et comportements qui sont élaborés par le cortex préfrontal à travers des stratégies permettant de minimiser les risques et d’optimiser les gains potentiels.

Les aspects émotionnels et logiques de l’intelligence sont-ils donc complémentaires ?

FRÉDÉRIC ALEXANDRE : Bien sûr, et c’est justement toute la force et la spécificité de la cognition. De nombreuses études confirment à quel point ces deux systèmes sont étroitement imbriqués. Ceci a été mis en valeur il y a 20 ans par les travaux du neurologue Antonio Damasio qui a mis l’accent sur ce qu’il nomme l’Erreur de Descartes. Il a montré que tous les processus cognitifs de haut niveau sont fondés sur des fonctions corporelles, incarnées. En d’autres