« Déployer une intelligence artificielle éthique sera l’enjeu du siècle qui vient »

Publié le 30 décembre 2022

Jeremy Harroch  (Vice-président de Capgemini Invent France)

L’éthique ne doit plus être vue comme le supplément d’âme de l’intelligence artificielle, mais bien comme la boussole qui la guide, souligne, dans une tribune au « Monde », l’entrepreneur Jeremy Harroch, fondateur d’un cabinet de conseil spécialisé en ce domaine.

Alors que le phénomène ChatGPT – application de conversation capable de fournir des petits textes à la demande des utilisateurs – impressionne les experts autant que les profanes, les possibilités que cette technologie laisse entrevoir obligent à repenser la question éthique dans l’intelligence artificielle (IA), afin que le progrès prenne le bon chemin, au service du plus grand nombre.

Dans son Ethique à Nicomaque, Aristote (384-322 av. J.-C.) concevait l’éthique comme une nécessité individuelle, permettant d’atteindre le bonheur par le prisme de la vertu, mais aussi comme un impératif collectif, nécessaire pour concourir à une société plus équitable.

Imaginons maintenant Aristote de retour parmi nous, découvrant l’intelligence artificielle et s’interrogeant sur son éthique. Qu’en dirait-il ? Sans doute que l’IA est l’une des plus grandes prouesses technologiques jamais réalisées, qu’elle irrigue tout le monde social et économique, mais que, hélas, la notion d’éthique en est largement absente.

Au premier abord, IA et éthique semblent irréconciliables. L’éthique procède par tâtonnements, approche les cas moraux dans leur complexe singularité, ne s’embarrasse pas de règles absolues. L’intelligence artificielle, au contraire, est fondée sur des écritures formelles et binaires ; elle traite rarement de nuances.

IA à impact positif et démocratique

Ainsi, les publicités en ligne pour produits de bébé continuent de cibler les femmes ayant fait une fausse couche, au risque de totalement les traumatiser. Cesser de les cibler ne serait pourtant pas difficile : cela impliquerait simplement un peu plus de travail de programmation et d’attention. Ethique et intelligence artificielle ne sauraient donc être opposées : un algorithme peut être éthique ; il suffit généralement qu’il soit bâti dans un souci d’éthique.

Quels pourraient être alors les principes cardinaux d’une IA éthique ? Une IA éthique est d’abord une IA à impact positif, sur l’environnement, sur l’économie et sur la société en général. C’est aussi une IA capable d’opérer sans biais discriminatoires – au contraire par exemple des algorithmes d’attribution des crédits immobiliers, dont l’expert Aaron Klein montre qu’ils favorisent structurellement les candidats blancs aux Etats-Unis.

Une IA éthique est une IA démocratique, c’est-à-dire comprise et accessible par tous. La confusion autour des algorithmes de Parcoursup montre à quel point il est urgent pour les citoyens – même les plus jeunes – de comprendre et pouvoir auditer l’IA, alors qu’elle préside de plus en plus souvent aux destinées individuelles.

Enfin, une IA éthique est une IA humble.

Aujourd’hui, quand on pose une question à une IA, elle formule la réponse la plus probable : or, parfois, les trois ou quatre premières réponses ont des probabilités quasi égales d’être vraies. La réponse de l’IA est donc presque tirée au hasard. C’est de l’hubris – cet orgueil démesuré que les Grecs anciens rejetaient –, or, dans ce genre de cas, l’IA devrait reconnaître qu’elle ne sait pas – et donc préférer l’aidos, vertu du désintéressement et de la modestie ! Certaines entreprises développent aujourd’hui des outils de mesure de l’incertitude, permettant d’identifier ces cas précis où la raison doit toujours primer sur l’excès.

Dès le plus jeune âge

Déployer une IA éthique sera l’enjeu du siècle qui vient. Il faut désormais intégrer plus d’éthique dans les processus de conception et d’audit des algorithmes. Pour ce faire, la priorité absolue est de diffuser plus largement cette culture de l’éthique, en convainquant toutes les parties prenantes de son bien-fondé.

Il est urgent d’éduquer à l’IA dès le plus jeune âge de manière ludique (on pourrait imaginer un concours « Kangourou de l’IA » sur le modèle de ce qui est fait en mathématiques) ; de former les professionnels tout au long de leur parcours ; de convaincre au sommet des organisations pour que les chefs d’entreprise comme les directeurs d’administration fassent de l’éthique dans l’IA leur priorité.

Cela passe sans doute par un engagement accru des experts dans l’arène publique, comme en Finlande, où l’université d’Helsinki s’est engagée à former 1 % de la population mondiale à l’IA. En bref : l’IA ne doit plus susciter la méfiance, mais la curiosité ; les algorithmes ne doivent plus s’abriter derrière leur complexité, mais œuvrer en transparence ; l’éthique ne doit plus être vue comme le supplément d’âme de l’IA, mais bien comme la boussole qui la guide.

S’approprier l’intelligence artificielle pour mieux l’utiliser, mieux la comprendre pour mieux se comporter avec et à travers elle, remettre les enjeux humains et environnementaux au centre de ses finalités, voilà à quoi pourrait ressembler une intelligence artificielle résolument éthique et responsable, qui saurait rester fidèle aux enseignements d’Aristote.