#118 avril 2018 by Philosophie magazine

MENSUEL N° 118 Avril 2018

KIBBOUTZ, LA DERNIÈRE UTOPIE ?

ISABELLE SORENTE

“MARC AURÈLE AIDE À SURMONTER LES CRISES EXISTENTIELLES”

FACE À L’INTELLIGENCE ARTIFICIELLE, COMMENT SAUVER L’INTELLIGENCE NATURELLE?

CAHIER CENTRAL

Esprit de géométrie, esprit de finesse PASCAL

PASCAL

Pensées Esprit de géométrie ou de finesse ? (extraits)

(extraits)

SUPPLÉMENT OFFERT

Ne peut être vendu séparément. © Bianchetti/Leemage ; retouche : StudioPhilo.

REPORTAGE

MUHAMMAD YUNUS

Mensuel / France : 5,90 € Bel./Lux./Port. cont. : 6,50 € Suisse : 11 CHF Andorre : 6,20 € Allemagne : 6,90 € Canada : 11,50 $CA DOM : 8 € COM :1 000 XPF Maroc : 70 DH Tunisie 11,30 TND

Cet homme va-t-il rendre le capitalisme altruiste ?

Face à l’intelligence artificielle

COMMENT SAUVER L’INTELLIGENCE NATURELLE ?

M 09521 - 118 - F: 5,90 E - RD

3’:HIKTPC=VUZ^UZ:?a@l@l@i@a";

ÉDITO L’œil de

Berberian

Par Alexandre Lacroix Directeur de la rédaction

La destruction de la raison crasant une énième cigarette dans le cendrier fin bourré, lui-même posé sur une table où les bières vides se dressent plus serrées que les passagers de la ligne 5 à l’heure de pointe, Paul donna à ses deux copains, Théodore et Johann, le signal du départ : « On y va les gars ? N’oubliez pas les masques… » C’est samedi soir, faut bien s’amuser et nos trois acnéiques – en classe de première – vont s’embusquer rue Watt, dans le XIIIe arrondissement de Paris, au cœur du tunnel. « T’es sûr qu’il n’y a rien à craindre ? — Mais non, tu rigoles ou quoi ? tranche Paul avec assurance. Et d’un, on est trois. Et de deux, on a 16 ans. Je vous dis que ces voitures sont programmées pour crasher le passager, si c’est un vieux et qu’il est seul. Alors, enjoy ! » Plusieurs véhicules passent, des antiquités à conduite manuelle, sans intérêt, quand enfin une belle berline noire autonome s’engage dans le tunnel. Elle roule pile à la limite de vitesse, cinquante, c’est une voiture de richard, et ça ne manque pas, dedans il y a le richard parfait, coupe grisonnante et moutonnante comme on en voit sur la page Facebook « Cheveux de riche » – un must, selon Théodore. « À trois, on saute ! » Quand la voiture n’est plus qu’à quelques mètres, les trois compères masqués se jettent sur la chaussée, et tout se passe comme prévu : l’algorithme mis au point par les meilleurs ingénieurs et éthiciens de la Silicon Valley, relu et certifié par trois cabinets d’avocats internationaux, validé par les compagnies d’assurances et conforme à la réglementation européenne, fait son office ; Cheveux-de-riche va s’encastrer sur les pilastres de béton qui soutiennent le tunnel. Les ados s’en vont en courant, retenter le coup sur les voies rapides le long de la Seine. Cette scène était pourtant prévisible depuis un moment, au moins depuis la désactivation panique de Tay, le robot de conversation mis en service sur Twitter en mars 2016. « Plus vous discutez avec Tay, plus il devient intelligent », avaient annoncé fièrement ses concepteurs de chez Microsoft. En effet : au bout de seize heures, il lançait des messages comme « Hitler aurait fait un meilleur travail que les singes qui sont au pouvoir aujourd’hui » ou « le féminisme est un cancer ». Car tous les twittos qui communiquaient avec lui cherchaient à le pousser à la faute, par jeu. Les observateurs les plus pessimistes de l’intelligence artificielle (IA) semblent surtout craindre, de nos jours, que ces technologies tombent entre de mauvaises mains. Il existe de nombreux rapports sur le risque qu’un groupe terroriste prenne le contrôle des drones aux Moyen-Orient et les retournent contre leurs expéditeurs, ou qu’un « État voyou », comme la Corée du Nord, provoque un krach boursier à Londres. Mais personne ne se penche sur un risque plus modeste, plus artisanal, mais presque plus probable, une sortie de route à la Tay, justement : quand les humains s’amusent à tirer parti des failles d’une IA, ça donne quoi ? Une nouvelle forme de vandalisme n’est-elle pas envisageable ? Surtout que la motivation, ici, n’est pas gratuite : si des systèmes rationnels aspirent nos données personnelles, nous assignent un statut social, un niveau de protection médicale et des perspectives de carrière, tout en siphonnant l’ensemble des emplois du tertiaire, n’y aurait-il pas quelque chose comme une juste vengeance à rendre ces machines folles, à en chercher les contradictions pour les faire imploser ? Vous connaissez l’histoire de David et de Goliath ? Prenez un silex et un iPhone. Qui gagne la bagarre ? L’intelligence naturelle sera peut-être dépassée par l’intelligence artificielle, soit ; mais il y a en l’homme une ruse, un vertige malin, un désir de revanche sur toutes les formes de tutelle qui n’a pas fini de nous émerveiller.

N’hésitez pas à nous transmettre vos remarques sur

reaction@philomag.com

Philosophie magazine n° 118 AVRIL 2018

10, rue Ballu, 75009 Paris Tél. : 01 43 80 46 10 www.philomag.com

ANTOINE BORDES

MARYLÈNE PATOU-MATHIS

P. 50

Depuis trois ans, Antoine Bordes est l’une des têtes chercheuses de Facebook en matière d’intelligence artificielle. Détaché du laboratoire Heudiasyc de l’Université technologique de Compiègne (UTC), il dirige le bureau parisien de l’équipe chapotée par Yann LeCun, l’un des concepteurs du deep learning. Syllogisme, déduction, symbole… Il analyse pour nous les différences et les similitudes de pensée entre un programme et un être humain.

LAURENCE DEVILLERS P. 62

N’attendez pas qu’elle prophétise un monde d’androïdes pour 2025 ! L’autrice de Des robots et des hommes, chercheuse au CNRS et enseignante à La Sorbonne s’emploie à balayer les fantasmes que suscite la technologie, pour une meilleure compréhension de celle-ci. Spécialiste de la circulation des émotions entre humains et robots, cette informaticienne développe son analyse au cours d’une discussion haletante avec le philosophe Pascal Chabot.

P. 20

PHILIPP FELSCH P. 30

Ses premiers livres exploraient les montagnes et le grand froid (Comment August Petermann inventa le pôle Nord). Depuis, ce professeur d’histoire culturelle à l’université Humboldt de Berlin et journaliste de l’édition allemande de Philosophie magazine s’intéresse surtout aux grands courants intellectuels du XXe siècle. Ses questionnements l’ont conduit en Israël, où il a enquêté sur les kibboutz. Il nous raconte ce qu’il reste de l’utopie à l’origine de ces villages collectivistes.

La Préhistoire n’a plus de secrets pour elle. Cette chercheuse au CNRS rattachée au Muséum national d’Histoire naturelle se passionne pour tous les aspects de la vie de l’homme de Néandertal, qu’elle juge victime d’un « délit de sale gueule », tandis qu’Homo sapiens jouirait de favoritisme. Autrice du passionnant dictionnaire Néandertal de A à Z, elle commente pour nous la découverte récente de peintures rupestres néandertaliennes en Espagne.

JEAN-FRANÇOIS BONNEFON P. 56

NECMIYE ALPAYE P. 16

Après des études de sciences politiques à Ankara, c’est à la faculté de Nanterre qu’elle se découvre une passion pour les langues. Traductrice turque de Paul Ricœur, René Girard ou Lénine, elle prend la défense de la démocratie et des droits des Kurdes, ce qui lui vaut plusieurs séjours en prison. Détenue aux côtés de la romancière Asli Erdoğan en 2016, elle revient dans nos pages sur son combat contre les dérives autocratiques du président Recep Tayyip Erdoğan.

Comprendre les fondements de nos attitudes éthiques face aux dilemmes posés par la voiture autonome, tel est le projet de ce docteur en psychologie cognitive, en poste au CNRS et à la Toulouse School of Economics. JeanFrançois Bonnefon a codéveloppé le test « Moral Machine », qui, avec 40 millions de réponses déjà récoltées sur le site du Massachusetts Institute of Technology, est le plus grand sondage scientifique jamais réalisé sur les convictions morales des humains.

SERVICE ABONNÉS abo@philomag.com / 01 43 80 46 11 Philosophie magazine, 4, rue de Mouchy, 60438 Noailles Cedex - France Tarifs d’abonnement : prix normal pour 1 an (10 nos) France métropolitaine : 57 € TTC (TVA 2,1 %). UE et DOM : 69 €. COM et Reste du monde : 77 €. Formules spéciales pour la Belgique et la Suisse Belgique : 070/23 33 04 abobelgique@edigroup.org Suisse : 022/860 84 01 abonne@edigroup.ch Diffusion : Presstalis. Contact pour les réassorts diffuseurs : À Juste Titres, 04 88 15 12 42, Julien Tessier, j.tessier@ajustetitres.fr RÉDACTION redaction@philomag.com Directeur de la rédaction : Alexandre Lacroix Rédacteurs en chef : Martin Legros, Michel Eltchaninoff Conseillers de la rédaction : Philippe Nassif, Sven Ortoli Chefs de rubrique : Martin Duru, Catherine Portevin Secrétaires de rédaction : Noël Foiry, Marie-Gabrielle Houriez Création graphique : William Londiche / da@philomag.com Graphiste : Alexandrine Leclère Rédactrices photo : Lise Bruyneel, Nathalie Debotte, Mika Sato Rédacteur Internet : Cédric Enjalbert Webmaster : Cyril Druesne Ont participé à ce numéro : Adrien Barton, Charles Berberian, Manuel Braun, Bruno Bressolin, Paul Coulbois, Victorine de Oliveira, Philippe Garnier, Gaëtan Goron, Seb Jarnot, Jules Julien, Samuel Lacroix, Simon Legros-Dambreville, Le Tone, Yoray Liberman, Olivier Mannoni, Frédéric Manzini, François Morel, Catherine Meurisse, Julien Mignot, Tobie Nathan, Charles Pépin, Charles Perragin, Serge Picard, Claude Ponti, Boris Razon, Yael Reuveny, Antoine Rogé, Séverine Scaglia, Nicolas Tenaillon, Sylvain Tesson ADMINISTRATION Directeur de la publication : Fabrice Gerschel Responsable administrative : Sophie Gamot-Darmon Responsable développement éditorial : Julie Davidoux, Clément Denis Fabrication : Rivages Photogravure : Key Graphic Impression : Maury imprimeur, Z.I., 45300 Manchecourt Commission paritaire : 0521 D 88041 ISSN : 1951-1787 Dépôt légal : à parution Imprimé en France/Printed in France / Philosophie magazine est édité par Philo Éditions, SAS au capital de 254 000 euros, RCS Paris B 483 580 015 Siège social : 10, rue Ballu, 75009 Paris Président : Fabrice Gerschel RELATIONS PRESSE Canetti Conseil, 01 42 04 21 00 Françoise Canetti, francoise.canetti@canetti.com PUBLICITÉ Partenariats/Publicité Audrey Pilaire, 01 71 18 16 08, apilaire@philomag.com MENSUEL NO 118 - AVRIL 2018 Couverture : © Alvaro Dominguez ; Renaud Bouchez/Society/ Signatures. Origine du papier : Italie. Taux de fibres recyclées : 0 %. Tous les papiers que nous utilisons dans ce magazine sont issus de forêts gérées durablement et labellisés 100 % PEFC. Le taux majoritaire indiqué Ptot est de 0,009.

2016

Philosophie magazine n° 118 AVRIL 2018

La rédaction n’est pas responsable des textes et documents qui lui sont envoyés. Ils ne seront pas rendus à leurs propriétaires.

ILS ONT PARTICIPÉ À CE NUMÉRO

VOS ASSISTANTS PHILOSOPHIQUES CE MOIS-CI

Joujou de Mila-Magda p. 10

Projet de vendeur stambouliote ambulant p. 68

Enrichisseur de pauvres p. 38

Nettoyeur de grottes pour écrivain-voyageur p. 42

Predator en mode Bienveillance p. 56 Kritic2larézonpur p. 50 AVC 2.0 p. 82

Compagnon affectueux de ta fin de vie p. 62

Nao fait des vidéos p. 98

Défenseur de la citadelle intérieure p. 74

« Mon Professeur adoré », by Trump Corp p. 20

SOMMAIRE P. 3 Édito

P. 8 Questions à Charles Pépin

P. 10 Questions d’enfants à Claude Ponti P. 12 Courrier des lecteurs

Déchiffrer l’actualité P. 14 TÉLESCOPAGE

P. 16 LA PERSONNALITÉ

Necmiye Alpay P. 18 REPÉRAGES P. 20 PERSPECTIVES Relations internationales : lorsque l’exception devient la règle / Les peintures rupestres de l’homme de Néandertal décryptées par Marylène Patou-Mathis / Port d’armes aux États-Unis, par-delà bien et mal / Vélos en accès libre, la tragédie des communs ? P. 24 AU FIL D’UNE IDÉE Les fleurs P. 25 POUR UN NOUVEAU PARTAGE Johan Rochel (en partenariat avec la Maif) P. 26 ETHNOMYTHOLOGIES par Tobie Nathan

Kibboutznik première génération p. 30

Outil néandertalien découvert en Espagne p. 20

P. 46 Chronologie : les big dates de l’IA P. 48 Une rivale bientôt à la hauteur ?

P. 50 Les grandes opérations de la pensée.

Avec Antoine Bordes, directeur du laboratoire de recherche sur l’IA chez Facebook à Paris P. 56 Sommes-nous plus moraux que les machines ? Enquête P. 62 Robots pour être vrais ? Dialogue entre Laurence Devillers et Pascal Chabot Cahier central Agrafé entre les pages 50 et 51, notre supplément offert : Pensées et De l’esprit de géométrie, de Blaise Pascal

Cheminer avec les idées P. 68 ENTRETIEN

Orhan Pamuk

P. 74 LE CLASSIQUE SUBJECTIF

Marc Aurèle vu par Isabelle Sorente

Prendre la tangente

P. 80 BOÎTE À OUTILS

Kibboutz, l’utopie perdue ? par Philipp Felsch P. 38 RENCONTRE Muhammad Yunus, l’inventeur du microcrédit P. 42 GÉNIE DES LIEUX par Sylvain Tesson

Livres

P. 30 REPORTAGE

Ce numéro offre un supplément de 16 pages, comprenant des extraits des Pensées et de De l’esprit de géométrie, de Blaise Pascal (agrafé entre les pages 50 et 51).

DOSSIER Face à l’intelligence artificielle, comment sauver l’intelligence humaine ?

Un dépliant Courrier International (6 g, 15 x 21 cm) est jeté dans ce numéro 118 de Philosophie magazine. Il est adressé à 20 000 abonnés payants de France métropolitaine.

Divergences / Sprint / Intraduisible / Strates

P. 82 ESSAI DU MOIS

L’Homme qui ne savait plus écrire / François Matheron P. 83 ROMAN DU MOIS Microfictions 2018 / Régis Jauffret P. 84 LE TOUR D’UNE ŒUVRE François Jullien, le pas de côté P. 86 Nos choix P. 90 Notre sélection culturelle P. 92 Agenda

P. 94 LA CITATION CORRIGÉE

par François Morel

P. 95 Jeux

P. 96 Humaine, trop humaine

par Catherine Meurisse

P. 98 QUESTIONNAIRE DE SOCRATE

PHILOSOPHIE MAGAZINE N° 119 PARAÎTRA LE 26 AVRIL

Norman

Coach en muscu p. 80 Philosophie magazine n° 118 AVRIL 2018

Tangente

REPORTAGE

KIBBOUTZ Le bloc soviétique s’est effondré, la Chine s’est convertie à l’économie de marché… Où l’idéal socialiste résiste-t-il encore ? Peut-être dans les kibboutz, créés dès le début du XXe siècle par des migrants juifs en Israël. Leurs principes fondateurs tiennent-ils toujours ? Déconsidérés socialement, ils ont dû faire de larges concessions au marché et sont parfois minés par des dissensions internes. Pourtant, notre reporter Philipp Felsch a trouvé là-bas des formes de reconnaissances inédites dans le capitalisme.

L’UTOPIE PERDUE ? Avec Yael Reuveny / Photos Yoray Liberman

Philosophie magazine n° 118 AVRIL 2018

Tangente

RENCONTRE

Philosophie magazine n° 118 AVRIL 2018

Rencontre

MUHAMMAD YUNUS Cet économiste bangladais a créé le premier organisme de microcrédit. Une initiative qui a sorti des millions de pauvres de la misère et qui lui a valu le prix Nobel de la Paix en 2006. Aujourd’hui, il veut aller plus loin. Son ambition ? Refonder le capitalisme grâce à l’altruisme, à l’auto-entreprenariat et au social business. Doux rêve altermondialiste ou pragmatisme fondé sur des convictions libérales fortes ? Nous l’avons interrogé pour y voir plus clair. Propos recueillis et traduits par Martin Legros

ous les êtres humains sont entrepreneurs dans l’âme. » Ce n’est pas le der« nier slogan du Medef mais le mantra du prix Nobel de la Paix 2006, Muhammad Yunus, l’inventeur du microcrédit, qui a sorti de la misère des millions de paysans et d’artisans pauvres. L’idée du microcrédit est simple : en prêtant, sans intérêt et sur la seule base de la confiance, de quoi acheter une machine à coudre ou un vélo, on permet à des individus pauvres de « monter » leur entreprise. Aujourd’hui, l’organisation qu’il a fondée en 1976, la Grameen Bank (« banque des villages »), prête plus de 2,5 milliards de dollars par an à 9 millions de femmes pauvres. Avec un taux de remboursement de plus de 98 %. Ce concept s’applique d’ailleurs aussi à l’Occident : aux États-Unis, la Grameen Bank compte dix-neuf succursales. Fort de ce succès, Yunus entend désormais traiter la question de l’emploi, de l’écologie ou de la grande pauvreté. Trois défis qui impliquent d’intégrer l’altruisme et le souci de l’avenir au capitalisme. Et l’économiste de vouloir décliner dans tous les domaines l’exemple de la start-up qui a réussi à implanter des panneaux solaires ou des kits de soins médicaux au Bangladesh, ou encore des garages solidaires assurant l’entretien des véhicules pour les conducteurs à bas revenus en France.

Présenté dans son dernier essai, Vers une économie à trois zéros. Zéro pauvreté, zéro chômage, zéro empreinte carbone (trad. fr. JC Lattès, 2017), le projet de Yunus se présente tantôt comme l’ambition de faire exister, en marge du système économique « normal » et sur la base des surplus qui y sont dégagés, une économie parallèle, altruiste, dont les bénéficiaires seraient ciblés – seuls les « vrais pauvres » profiteraient de ces programmes ; tantôt comme un projet global de refondation de l’économie sur des bases plus saines. Un flou que l’on retrouve dans la notion même de social business, que l’on traduit en France par « économie sociale et solidaire ». Or il suffit de lire et d’entendre Yunus pour comprendre qu’il confère au social business un sens beaucoup plus libéral que celui qu’on lui prête habituellement. Opposé au revenu universel, qu’il assimile à de l’assistanat, et « partisan résolu du libre-échange », il entend « implanter les idées entrepreneuriales dans l’esprit de tous » et invite les chômeurs à « se positionner non plus comme demandeurs d’emploi mais comme créateurs d’emploi ». En novembre dernier, le premier Yunus Centre a ouvert à Paris, à l’invitation de la maire, Anne Hidalgo. Il se situe quai de Seine, dans le XIXe arrondissement, à l’emplacement de l’ancienne Maison des Canaux, en passe d’être rebaptisée Maison des économies solidaires et innovantes. Alors, s’agit-il pour lui de réinventer le capitalisme ou de guérir ses blessures ? Nous avons posé la question à cet utopiste pragmatique.

CAPITALTRUIS TE Philosophie magazine n° 118 AVRIL 2018

Dossier © Alvaro Dominguez

FACE À L’INTELLIGENCE ARTIFICIELLE

COMMENT SAUVER L’INTELLIGENCE NATURELLE ?

PARCOURS DE CE DOSSIER

P. 50

P. 46

Des travaux pionniers d’Alan Turing à l’arrivée d’une entité plus intelligente que l’homme annoncée par Ray Kurzweil, commençons par la brève histoire et le futur possible de l’intelligence artificielle (IA).

P. 48

« Jamais une IA n’égalera l’intelligence humaine ! » sommesnous prompts à nous écrier. À la lumière des récents et saisissants progrès technologiques, en sommes-nous encore si sûrs ?

Plus précisément, de la déduction à l’imagination en passant par l’intention, quelles sont les opérations fondamentales de l’intelligence naturelle ? Dans quelle mesure les machines peuventelles les imiter, voire les dépasser ? Antoine Bordes, chercheur en IA chez Facebook, fait le point.

P. 56

De la voiture sans conducteur aux drones tueurs, les machines autonomes posent des dilemmes éthiques inédits. Et nous obligent à expliciter les règles morales que nous souhaitons voir appliquer dans le monde de demain, comme le démontrent cinq spécialistes d’éthique de la robotique.

P. 62

Alimentés par le marketing transhumaniste, nos fantasmes nous poussent à prêter une vie intérieure aux androïdes et autres logiciels de conversation. Illusion passagère ou nouvelle alliance entre l’homme et la technologie ? Débat entre la chercheuse Laurence Devillers et le philosophe Pascal Chabot.

Philosophie magazine n° 118 AVRIL 2018

Dossier

INTELLIGENCE ARTIFICIELLE

L’intelligence artificielle, notamment grâce à sa faculté à apprendre d’elle-même, n’est pas loin d’égaler, voire de mettre KO l’intelligence naturelle, la nôtre. Faut-il craindre cette évolution, voulue et mise en œuvre par l’homme ? Par Michel Eltchaninoff

Le match du siècle

U ne machine ne pourra jamais faire ça ! » Comment pourrait-elle démontrer, prédire, juger, inventer, s’adapter, réfléchir, méditer, comprendre, interpréter aussi bien que nous ? Car notre intelligence n’est pas celle d’une machine à calculer, aussi perfectionnée soit-elle. Elle provient de ce que nos ancêtres grecs appelaient la métis, cette faculté qui permet à Ulysse de sortir des mauvais pas, de feindre, ruser, tromper, dissimuler, réagir avec vivacité, ou encore avoir du flair. Hélas ! lorsque nous sommes un peu plus

Philosophie magazine n° 118 AVRIL 2018

précis et affirmons qu’une machine ne pourra jamais faire ceci ou cela, nous risquons d’être entendus par un malin, un chercheur en intelligence artificielle (IA) qui, l’air de rien, prendra notre dédain pour un défi personnel. Et quelques années plus tard, le petit génie nous présentera sa dernière invention : une machine qui sait… faire ceci, ou cela, ou les deux. Prenons quelques exemples de cette course-poursuite entre l’intelligence naturelle et l’IA.

Les IA ne savent que calculer,

pensons-nous parfois, alors que l’intelligence naturelle se déploie dans bien d’autres directions : linguistique, artistique, spatiale, kinesthésique, interpersonnelle, intrapersonnelle, etc. Des psychologues américains comme Howard Gardner (Les Formes de l’intelligence, 1983 ; trad. fr. Odile Jacob, 2010) ou Daniel Goleman (L’Intelligence émotionnelle, 1995 ; trad. fr. Robert Laffont, 1999) viennent à la rescousse des humanistes pour

démontrer que la faculté de résoudre des problèmes logico-mathématiques ne suffit pas pour être intelligent. Le philosophe américain John Searle a montré dans les années 1980, avec son test de la « chambre chinoise », qu’un sujet humain peut répondre à des questions en chinois grâce à des correspondances entre mots chinois et anglais, mais qu’il ne comprend pas un mot de la langue que, pourtant, il utilise. Les IA seraient donc uniquement de gigantesques machines à calculer. Or la « raison calculante », pour citer Martin Heidegger, est loin d’exprimer la substance de la pensée et de l’intelligence humaines. Certes, elle a permis des progrès technologiques stupéfiants. Mais, instrumentale et sans conscience, elle manque l’accès à des vérités plus essentielles. Pourtant, répondra le petit génie de l’IA, ceci n’est plus vrai. Depuis quelques années, grâce au deep learning, les machines font bien plus que calculer. Elles reconnaissent des visages et des corps, jouent – et gagnent – au go, apprennent

Dossier

INTELLIGENCE ARTIFICIELLE

Les 7 circuits de la pensée Les philosophes ont identifié sept opérations majeures de la pensée humaine, autant d’aptitudes intellectuelles qui nous permettent de comprendre le monde et d’agir. Nous en avons soumis la description à Antoine Bordes, responsable de la recherche en IA de Facebook Paris, en lui posant chaque fois la question : vos algorithmes en font-ils autant ? Propos recueillis par Michel Eltchaninoff / Illustrations Le Tone/Talkie Walkie

Dossier

INTELLIGENCE ARTIFICIELLE

Les machines vont-elles nous faire la morale ? Voitures autonomes, drones, hôpitaux : voilà des domaines dans lesquels les IA sont amenées à faire morts et merveilles. Mais peuvent-elles être programmées pour distinguer le bien et le mal ? Réponses de cinq spécialistes.

Par Alexandre Lacroix

T reize. Un chiffre qui porte malheur et qu’évitent les ascenseurs aux États-Unis. Pourtant, c’est le nombre de questions du test de la « Machine morale » 1, mis en ligne par le prestigieux Massachusetts Institute of Technology (MIT). Ce jeu, lancé en juin 2016, a recueilli près de 40 millions de réponses, un record. Le but est de sonder nos intuitions morales, quand une voiture autonome – du type Google Car –, fait face à une alternative dramatique. Admettons qu’il n’y ait que deux options : précipiter le véhicule contre un mur en tuant le conducteur, ou renverser trois enfants qui sortent de l’école, que faire ? Et si les enfants traversent la route alors que le feu est au rouge pour les piétons ? Et s’il y a aussi un bébé à bord de la voiture ? Ce test n’est pas une simple affabulation : l’arrivée imminente sur les routes des

Philosophie magazine n° 118 AVRIL 2018

Idées

ENTRETIEN

O R H A N

IL N’Y A PAS DE FUTUR SANS LIBERTÉ DE PAROLE

P A M U K

Le prix Nobel de littérature 2006 est l’un des rares écrivains à concilier succès critique et public. De passage à Paris, il évoque pour nous son parcours de romancier et les penseurs qui l’ont marqué – de Sartre à Lukács. Mais ce démocrate engagé se montre surtout très préoccupé par le basculement de son pays, la Turquie, vers un régime autoritaire. Propos recueillis et traduits par Boris Razon / Photos Manuel Braun

’homme qui nous accueille dans un salon des éditions Gallimard a l’air trop grand pour les petits fauteuils bleus en velours. Ce ne sont pas ses jambes ou ses bras. Non, ce sont ses yeux rieurs. Ils éclairent d’un jour différent une pièce qui ne sait plus si elle est un tableau qui tente de figer un passé disparu ou un lieu de passage, version chic et parisienne du salon d’aéroport. Mais l’endroit sied bien à Orhan Pamuk, écrivain de l’entre-deux, premier romancier de langue turque prix Nobel de littérature, en 2006. Remarqué en Turquie dès son premier roman, il fait d’Istanbul une ville-monde et de la Turquie moderne une planète littéraire. Il y narre les traditions ottomanes et les aspirations occidentales d’une bourgeoisie férue de raki et de liberté. Cette double appartenance, sa très grande culture littéraire et philosophique occidentale l’ont conduit à revisiter alla turca les grandes figures du roman contemporain. Et dans ce clair-obscur se dessine une perspective différente sur la vie, sur nos vies, un miroir déformant de nos valeurs européennes. Enfant, Orhan Pamuk se rêvait peintre. Aujourd’hui, il nous pose la question : que serait notre vision du monde si la perspective ne l’avait pas façonnée ? Pamuk l’érudit a été jusqu’à créer un musée réel à partir d’un de ses romans, Le Musée de l’innocence, une traversée par les objets d’un amour caché. Ouvert depuis 2012 dans un vieux quartier d’Istanbul, il ne désemplit pas. Car, fait rare, ses œuvres subtiles remportent un grand succès en Turquie où Cette chose étrange en moi, son dernier

Philosophie magazine n° 118 AVRIL 2018

livre, s’est vendu à quelque 250 000 exemplaires. Pamuk y raconte dans une veine proche du roman picaresque l’histoire d’un vendeur de rue fraîchement débarqué de son Anatolie natale. Avec lui, nous traversons cinquante ans d’une histoire politique mouvementée. En effet, l’auteur ne s’est jamais caché derrière ses romans. Démocrate courageux, il a toujours soutenu la liberté d’expression et n’a jamais hésité à prendre la plume pour s’exprimer. En 2005, il a brisé un tabou en reconnaissant la responsabilité de son pays dans le génocide arménien de 1915. Poursuivi en justice, menacé de mort, il a dû prendre le large. Pour mieux revenir. Aujourd’hui encore, il le dit d’une voix mesurée mais ferme : « Il n’y a pas de futur pour un pays sans liberté d’expression ! » Et ses yeux rient encore.

Comment êtes-vous devenu écrivain ? Est-il exact que vous avez d’abord voulu vous consacrer à la peinture ? ORHAN PAMUK : Quand j’étais âgé de 7-8 ans, je dessinais tout le temps. Et dans ma famille, chez moi, à l’école, tout le monde disait : « Mon Dieu ! Mais c’est un peintre. » À l’époque, mes mains dessinaient toutes seules, je n’y pensais pas vraiment. J’étais heureux en peignant. Et tout le monde m’encourageait. Mais je viens d’une famille d’ingénieurs civils, mon grand-père a construit

Idées

LE CLASSIQUE SUBJECTIF

MARC AURÈLE V U PA R I SA B E L L E S O R E N T E

© Illustration : Jules Julien pour PM ; photo-droits d’inspiration : © DeAgostini/Leemage ; Delphine Jouandeau/Éditions JC Lattès ; Delphine Jouandeau/Éditions JC Lattès.

« Marc Aurèle, un ami exceptionnel qui m’accompagne partout » Isabelle Sorente traversait une crise existentielle, face à laquelle la lecture des Pensées pour-moi-même s’est révélée un remède. C’est que les aphorismes de l’empereur philosophe n’ont pas seulement une portée théorique mais aussi une vertu transformatrice.

Écrivaine et chroniqueuse à France Inter dans l’émission Par Jupiter !, elle a publié plusieurs romans, dont 180 jours (JC Lattès, 2013 ; à paraître en Folio en 2018) sur la vie des hommes et des animaux dans un élevage industriel, et La Faille (JC Lattès, 2015 ; Folio, 2017) sur les relations d’emprise. Également essayiste, elle explore les possibilités spirituelles de l’individu face aux contraintes de la modernité ou du genre comme dans La Femme qui rit (Descartes et Cie, 2007).

M a rencontre avec les Pensées pour moimême de Marc Aurèle a été singulière. J’en avais étudié des extraits en classe, mais je dois avouer que je n’avais rien ressenti de particulier. C’est bien plus tard que je les ai relues et qu’elles m’ont bouleversée. Je venais de terminer une enquête de plusieurs mois dans des élevages industriels et des abattoirs, et je ne dormais plus. Je pensais sans arrêt à ces hommes et à ces animaux. Je me réveillais en sursaut, chaque nuit, à 4 heures du matin et me disais : c’est l’heure où le camion passe, encore des milliers de bêtes qui partent à l’abattoir. Je n’arrivais pas à écrire tant les mots me semblaient dérisoires. Je ne pouvais pas parler de cette angoisse à mes proches. Je leur avais raconté, ils trouvaient cela terrible, mais, pour eux, la vie continuait. Alors j’ai

Philosophie magazine n° 118 AVRIL 2018

FACE À L’INTELLIGENCE ARTIFICIELLE, COMMENT SAUVER L’INTELLIGENCE NATURELLE?

PASCAL

Pensées Esprit de géométrie ou de finesse ? (extraits)

(extraits)

SUPPLÉMENT OFFERT