A Montréal, l’un des pères de l’intelligence artificielle alerte sur une menace existentielle pour l’homme

Par Hélène Jouan(Montréal, correspondante)  Publié le 2 juin 2023

Yoshua Bengio compare son combat à celui de ceux qui, pendant des décennies, ont mis en garde contre le dérèglement climatique sans être entendus.

LETTRE DE MONTRÉAL

Sur la scène, un robot géant en papier aluminium, à l’allure bonhomme de R2-D2 dans Star Wars, donne un petit goût vintage à l’événement organisé par C2 Montréal, un rendez-vous d’affaires annuel se présentant comme le « Davos de la créativité ». Mais la conversation organisée le 24 mai autour du thème « Intelligence artificielle : démocratie et avenir de la civilisation » était autrement plus angoissante que la saga imaginée en son temps par George Lucas. Les menaces de dépossession et de domination qui se profilent avec cette nouvelle technologie ne relèvent pas de la science-fiction, « elles sont devant nos yeux, là, tout de suite, maintenant », n’ont cessé de répéter les deux sommités appelées à disserter sur la question.

L’un des lanceurs d’alerte ce jour-là n’est autre que l’un des pères de l’intelligence artificielle : le professeur québécois Yoshua Bengio, 59 ans, lauréat en 2019 du prix Turing, l’équivalent du Nobel pour l’informatique, par ailleurs fondateur et directeur scientifique du Mila, l’Institut québécois d’intelligence artificielle installé à Montréal, un organisme charnière réunissant des chercheurs universitaires spécialisés en apprentissage profond et des industriels. « Un écosystème unique en son genre, qui s’est positionné dès le départ, en 1993, sur un choix éthique, “l’IA for good”, l’intelligence artificielle pour le bien de tous », s’extasie Stéphane Paquet, président de Montréal International, une organisation créée pour attirer les investissements étrangers dans la métropole québécoise.

Après que le Canado-Britannique Geoffrey Hinton (corécipiendaire du prix Turing en 2019) a choisi de démissionner de Google début mai pour se sentir libre de dénoncer les dangers de l’IA, lui qui a largement contribué à ses progrès en s’appuyant sur l’utilisation de neurones artificiels, c’est au tour de l’informaticien québécois d’alerter l’opinion publique des risques encourus par le développement accéléré de leur « bébé ». Cette technologie, explique-t-il sur scène, est aujourd’hui à un « point d’inflexion ». Après avoir concédé une partie de notre intelligence aux machines, nous voilà confrontés à la perspective qu’elles puissent désormais s’épanouir, dotées d’une intelligence égale, et sans doute bientôt supérieure, à celle des humains. « On ne sait pas si ça va arriver. Mais si c’est le cas, on pourra parler de menace existentielle. Imaginez une nouvelle espèce tellement intelligente qu’elle nous regarde comme nous regardons aujourd’hui les grenouilles… Est-ce que nous traitons les grenouilles correctement ? », s’inquiète-t-il.

« Plus puissante qu’un tyrannosaure »

En visioconférence depuis Israël, l’historien et écrivain à succès Yuval Noah Harari, auteur de Sapiens, une brève histoire de l’humanité(Albin Michel 2015), se veut tout aussi alarmiste. « Si l’on considère que le développement actuel de l’intelligence artificielle lui confère la taille d’une amibe, celle-ci pourrait devenir très vite plus puissante qu’un tyrannosaure », prévient-il. Il pointe l’immense fossé qui sépare cette nouvelle technologie, dite « générative », des progrès accomplis jusque-là par l’homme. « Le couteau de silex ou la bombe atomique exigeaient encore qu’un homme décide de l’utiliser ou pas. Mais l’IA est désormais capable de prendre des décisions, elle est donc en mesure de nous prendre une partie de notre pouvoir. »

Les deux hommes sont signataires de la lettre ouverte parue le 28 mars sous l’égide du Future of Life Institute, dans laquelle plus d’un millier de chercheurs et d’experts de l’IA réclamaient une « pause » temporaire « d’au moins six mois »à toute intelligence artificielle plus puissante que ChatGPT-4 d’OpenAI, le temps d’élaborer des régulations pour ces logiciels jugés « dangereux pour l’humanité ».

Un appel qui a eu le mérite, sinon d’aboutir à la pause réclamée, au moins « de susciter le débat derrière les portes closes des grandes sociétés », affirme Yoshua Bengio, mais dont l’objectif était surtout, reconnaît-il, d’alerter les pouvoirs publics sur l’urgence qu’il y avait à légiférer. Il ne s’agit pas de stopper toute recherche, prévient-il, mais de donner un cadre au déploiement de cette technologie dans la sphère publique. « Il faut au minimum s’assurer que nous puissions encore faire la différence entre un humain et une IA. Tous les Etats disposent de lois très sévères réprimant la contrefaçon de billets de banque ; il leur faut de la même façon légiférer pour prévenir la contrefaçon d’humains. Nous devons savoir à qui nous parlons. »

« Un impératif moral à agir »

Yuval Noah Harari estime pour sa part qu’il est temps de proscrire des réseaux sociaux les bots, ces logiciels entièrement automatisés susceptibles de lancer de vastes campagnes de propagande ou de désinformation. Il réclame la création d’un « passeport » garantissant qu’il y a une personne réelle derrière chaque compte. « N’ayons pas peur, les bots n’ont aucun droit, sauf peut-être Elon Musk », s’amuse-t-il en référence au patron de Twitter et à ses messages intempestifs.

Yoshua Bengio, lui, en appelle au gouvernement canadien afin qu’il accélère l’adoption d’une loi encalminée dans les arcanes du Parlement depuis juin 2022 et qui, le cas échéant, ne devrait pas entrer en application avant 2025 : « Nous avons réussi à réglementer les armes nucléaires à l’échelle mondiale après la seconde guerre mondiale, nous pouvons parvenir à un accord similaire pour l’IA. » Les risques à court terme de ces systèmes autonomes dont rien ne garantit qu’ils respectent les valeurs éthiques sont faciles à prévoir, dit-il, citant à l’appui les menaces de manipulation et de désinformation qui pèsent d’ores et déjà sur la prochaine élection présidentielle américaine de 2024.

« Ce sont les démocraties et nos sociétés libérales qui sont en danger », conclut l’informaticien. Comparant son combat à celui de ceux qui, pendant des décennies, ont mis en garde contre le dérèglement climatique sans être entendus, Yoshua Bengio affirme qu’il y a désormais un « impératif moral » à agir, à prendre de vitesse une technologie qui sera hors de contrôle dès qu’elle aura dépassé l’intelligence des hommes. A l’issue de la conférence, l’inoffensif R2-D2 de papier semblait déjà nous regarder comme d’insignifiantes grenouilles.