L’humain et l’ IA

L’évolution rapide de l’intelligence artificielle (IA) bouleversera-t-elle notre conception de l’intelligence ou nous conduira-t-elle à être tout simplement plus artificiels ? La question est lancée…

Pierre Noreau

Professeur titulaire Directeur

Projet IMAJ... etc

Entre 2012 et 2023, les capacités de calcul de l’IA ont augmenté de 300 000 fois. Cette évolution est exponentielle. Et entre le moment où cet article est écrit et celui où vous le lirez, cette capacité aura encore décuplé.

Ce qui est nouveau

Ces progrès sont extraordinaires… ou terrifiants…, c’est selon ! Sous des formes plus primitives, on connaît l’IA depuis les années 1940. Pour le profane, cependant, ChatGPT n’a pas seulement fourni l’exemple de ce que peut produire l’IA générative, elle a surtout mis cette technologie au service de tout un chacun et placé la question de l’IA à l’ordre du jour collectif, alors que, bien avant l’arrivée de ChatGPT, elle était posée par les spécialistes du domaine. Outil de synthèse de l’information, d’aide à la décision, l’IA générative peut également agréger des contenus en tirant parti de ceux qui existent déjà, produire des œuvres graphiques et musicales; elle peut entretenir la conversation !

Ce qui n’est pas nouveau

Le génie est-il sorti de la bouteille ? Oui ! Et il n’y rentrera plus. On ne peut pas remettre le dentifrice dans le tube !

Comme c’est le cas de toute autre technologie cependant, ce n’est pas elle « en soi » qui pose problème, mais l’usage qu’on en fera. Il ne s’agit donc pas tellement d’un problème technologique, mais plutôt humain, et plus encore d’une question sociale, puisque nous sommes liés les uns aux autres et que notre destinée commune est de vivre dans les interstices de ces nouvelles technologies.

L’IA est-elle en mesure de surpasser l’humain dans un certain nombre de tâches de nature cognitive (comprendre) ou intellectuelle (analyser) ? C’est déjà fait ! Est-elle susceptible de se déployer de manière autonome, à l’extérieur de notre contrôle ? Cela dépend de nous. Est-elle susceptible d’être utilisée de manière malveillante ? Cela dépend de nous. Peut-elle faire l’objet d’un contrôle normatif ? Cela dépend encore de nous, et c’est la fonction première du droit de réguler ses rapports et ses comportements.

Le développement d’une normativité de contrôle exige cependant une véritable volonté, et ne peut être le fait d’une seule juridiction. Cette normativité doit-elle être de nature technique, juridique, éthique ? Ces trois inspirations sont évidemment essentielles. On parlera alors d’internormativité. Doit-elle être impérative ou au contraire faire appel à la bonne volonté des développeurs, des chevaliers de l’industrie et des usagers ? Sur beaucoup d’aspects, on doit envisager la première de ces options et éviter le laisser-aller auquel on a assisté dans le domaine de l’Internet. Doit-on compter sur la capacité des producteurs de ces technologies de contrôler leur propre développement ? Il ne faudrait peut-être pas rêver. Les développeurs de ces systèmes algorithmiques ne sont souvent pas eux-mêmes en mesure d’établir comment fonctionne l’animal et quelles conclusions sont susceptibles de venir de leur fonctionnement. En contrepartie, il faut compter sur le fait que la science et la technologie ont souvent conçu les moyens de régler les problèmes qu’elles créent et qu’un contrôle interne de la technologie par la technologie (forme de contre-pouvoir régulateur) doit être envisagé. L’entraînement et les données qui alimentent l’IA constituent une des clefs de ce contrôle.

Ces normes doivent-elles être mondialisées ? Des standards internationaux doivent absolument être établis, en regard tant des conditions de production de l’IA que de ses usages. Seulement voilà…, si l’Europe et le Canada tentent actuellement de définir les termes de cette normativité de contrôle (on ne parle pas uniquement ici d’incitation), plusieurs pays comme la Chine ou le Japon n’entendent pas limiter le développement d’un secteur dont leur industrie peut tirer avantage, surtout si les autres juridictions cherchent à la contrôler sur leur territoire. Le contrôle juridique de ces technologies devient dès lors presque impossible.

Un problème collectif ?

Quels sont les risques de ces vagabondages ? Sur le plan quotidien, on peut craindre la désinformation entretenue par l’exploitation d’informations non fondées, mais mutuellement confirmées, l’usage frauduleux des fonctionnalités offertes par l’IA, l’entretien de biais systémiques alimentés par la redondance des données dont on la nourrit, l’abus du droit de propriété intellectuelle, la substitution des compétences professionnelles par des diagnostics et des systèmes-conseils anonymes, la construction de vérités parallèles, sinon de contre-vérités reliées aux effets d’hallucination, sinon de fabulation de certaines formes d’IA, notamment de l’IA de type connexionniste, etc.

Si la VÉRITÉ (dans sa définition absolue) remplace LA vérité (celle que nous essayons de construire ensemble), à quoi bon la chercher ailleurs ? C’est la règle de l’évidence acquise qui l’emporte alors, plutôt que la recherche et la construction constamment négociée du sens du monde dans lequel nous vivons. L’opacité des sources l’emporte sur la délibération, contrairement aux exigences du travail scientifique ou journalistique, dont la validité des conclusions repose au contraire sur la transparence des sources, c’est-à-dire sur la reconnaissance des moyens qui contribuent à la construction d’un savoir ou d’une information dont la validité peut être contestée et dont on connaît également les limites.

Au contraire, si la certitude existe, si tout est joué d’avance, pourquoi s’engager ? Cette démission est cependant à l’origine du totalitarisme. L’idée d’une autorité unique, porteuse de tous les savoirs, met tout simplement fin à toute possibilité de discussion, comme à toute forme de contestation, de créativité, d’invention, de remise en question. →

Sur le plan collectif, c’est le principe démocratique que l’IA est susceptible de menacer. L’idée déjà établie par Montesquieu qu’une des conditions de tout gouvernement modéré réside dans ce que « par la disposition des choses, le pouvoir arrête le pouvoir » est frontalement remise en cause dans un monde où la certitude se trouve concentrée à un seul endroit. Si la vérité dont nous vivons est révélée par une entité omnisciente, que reste-t-il du débat? Une forme d’unanimisme n’est-elle pas susceptible de naître d’une source proposant la synthèse de tous les avoirs humains ? Qui gouverne ? Cette question posée au tout début des années 1960 par Robert Dahl ne se posera-t-elle pas directement par l’avènement d’un nouveau régime de vérité, d’une nouvelle révélation ? Indirectement, l’IA pose le problème des conditions de production du savoir et, par conséquent, du pouvoir. Si sa destinée est de remplacer le travail humain (et particulièrement le travail de la pensée), n’est-ce pas l’expression d’une forme de démission ?

« En contrepartie, il faut compter sur le fait que la science et la technologie ont souvent conçu les moyens de régler les problèmes qu’elles créent et qu’un contrôle interne de la technologie par la technologie (forme de contre-pouvoir régulateur) doit être envisagé. »

Tout sera dit ! L’autorité de l’IA dans nos vies quotidiennes s’alimentera dès lors de la démission et de la paresse intellectuelle de chacun. Il s’agit d’une tendance dont l’usage que nous faisons d’Internet offre déjà l’exemple constant.

Ce qui doit durer

Sur l’échelle de notre propre humanité se pose aussi la question de nos rapports entre nous. Or, ces rapports sont également au fondement du principe démocratique. Tocqueville met bien en évidence l’idée que la démocratie n’est pas seulement un régime politique ou une mécanique institutionnalisée régie par un système électif. Elle est le produit d’une culture civique particulière, fondée sur la reconnaissance mutuelle des citoyens comme des êtres égaux et, pour tout dire, sur une certaine confiance mutuelle. Toute véritable délibération exige le rejet des arguments d’autorité. On entend ainsi éviter que les hésitations associées au questionnement des uns soient constamment en butte à la certitude intolérante des autres. En imposant une sorte de vérité absolue, l’IA détruit l’espace de cette discussion.

Cette délibération n’est par ailleurs envisageable qu’au prix de l’authenticité des points de vue et des prises de position. Or, un des grands défis posés par certaines formes d’IA est la difficulté de mesurer l’authenticité des entités avec lesquelles nous discutons. L’IA étant un interlocuteur capable de converser, sinon de répondre à certaines de nos questions, que reste-t-il de nos rapports entre nous ?

Comment savoir si l’entité avec laquelle nous échangeons sur Internet existe vraiment ? « Je discute avec qui au juste, là ? », un humain ou un système d’agrégation des connaissances ? Se trouve ainsi trahie une certaine éthique de la discussion, en même temps que se pose la question des expressions réelles ou fictives de la solidarité humaine, de l’empathie, de la compréhension mutuelle. De telles expressions sont-elles authentiques ou reproduites ?

Il est inévitable que cette incertitude en vienne, à terme, à miner la confiance que nous entretenons dans la réalité de nos relations, sinon de nos sentiments. C’est trop souvent le cas lorsque nos relations transitent par Internet.

Ainsi, à la longue, et de façon paradoxale, l’IA pourrait conduire au développement d’une forme de méfiance systématique à l’égard de tout positionnement, même authentique. Se méfier de tout confine cependant tôt ou tard au complotisme. Cette méfiance est en opposition directe avec la confiance mutuelle essentielle à toute délibération, car la confiance est consubstantielle à la culture démocratique. À une trop grande confiance que nous plaçons dans les vertus de l’IA pourrait ainsi succéder une méfiance systématique qui nous ramènerait à une logique d’opposition. Or, celle-ci ferait le lit d’une méfiance de tous contre tous, sur la base de laquelle est évidemment susceptible de s’appuyer (encore là) une forme ou une autre de totalitarisme, qui imposerait « par en haut » son autorité à une collectivité détruite par cette méfiance.

Entre la démission et la définance ???

Ces enjeux doivent faire l’objet de choix collectifs. Mais cette dimension collective doit être reconnue. Or, les modes de communication par lesquels transitent nos relations nous confinent parfois à un certain isolement. Peut-être les possibilités et les risques que présente l’intelligence artificielle sont-ils l’occasion d’une discussion plus profonde sur la société dans laquelle nous vivons. Cela suppose cependant chez les citoyens et citoyennes le développement d’un nouveau sens critique. Sur le plan individuel se pose surtout l’enjeu du jugement et de la responsabilité. Réhabiliter l’individu et le travail en commun comme les sièges de la pensée. Replacer la créativité humaine au centre de notre destinée et refuser de placer notre avenir commun à la merci d’une simple extension de ce que nous avons déjà créé. Concevoir de façon toujours renouvelée l’idée de notre vie ensemble. En reprendre le contrôle. n