My God Deadbots : IA, une vie après la mort

par Katia Dansoko Touré  publié le 17 novembre 2021

Après les «chatbots», agents conversationnels que l’on voit apparaître sur certains sites commerçants pour guider l’utilisateur, voici les «deadbots» capables d’incarner un être cher après sa disparition. Une technologie qui soulève nombre de questions éthiques.

En 2018, le journaliste James Vlahos avait intégré une intelligence artificielle à l’application Facebook Messenger afin de poursuivre des conversations avec son père mort des suites d’un cancer. Ce fut la naissance de ce que l’on nomme les «deadbots». (Ferran Traité Soler/Getty Images)

Voilà que l’intelligence artificielle fait parler les morts. Si dès 2013, la série Black Mirror imaginait une application mobile permettant à une jeune femme de converser avec son compagnon décédé, le procédé est aujourd’hui passé de la fiction à la quasi-réalité. En 2018, le journaliste américain James Vlahos avait réussi à intégrer une intelligence artificielle à l’application Facebook Messenger afin de poursuivre des conversations avec son père mort des suites d’un cancer. Ce fut la naissance de ce que l’on nomme les deadbots (contraction de «mort» et «robot» en français) autrement appelés «anges gardiens».

Le contact virtuel, sorte d’avatar du défunt papa, reprenait sa façon d’écrire, recueillie au cours des dernières heures de sa vie et grâce à des algorithmes puisant dans ses anciens tweets, posts et même textos. Soit un sacré packaging de données personnelles permettant à James Vlahos de retarder le moment de faire son deuil. Depuis, ce genre de technologie s’est multipliée à travers le monde, incluant même la voix de la personne disparue. De nombreuses start-up, essentiellement chinoises et anglosaxonnes – en France, la technologie se heurte à la loi informatique et libertés –, travaillent, avec l’accord des utilisateurs, à collecter les données au cours de l’existence ou au moment où la fin est proche.

La plupart des services clients des sites de vente et de banques en ligne, installent, eux, des chatbots, là pour répondre à un renseignement, éclaircir une situation ou recevoir une plainte. Ces petits robots tout sourire, nés au sein de l’Institut de technologie du Massachusetts (MIT) dans les années 60, sont susceptibles de demander certaines données privées, grâce à un tchat qui peut laisser croire que l’on a à faire à une «vraie» personne. Selon le rapport du Comité national pilote d’éthique du numérique, publié le 9 novembre, à la demande du Premier ministre Jean Castex, repris par le magazine Sciences et Avenir, ces agents conversationnels, aussi appelés «transformers» (sic) posent de nombreux enjeux éthiques, avec le risque de manipulation des opinions ou d’erreurs, notamment dans le domaine de la santé. Le rapport recommande, parmi treize préconisations, que «les concepteurs ne fabriquent pas de machines créant un dangereux brouillage entre humain et non-humain».

Du jeu vidéo aux assistants personnels intelligents comme Alexa chez Amazon ou Siri chez Apple, le virtuel s’immisce dans notre intimité. Et les choses ne risquent pas de s’arranger. Les Gafam (Google, Apple, Facebook, Amazon et Microsoft) sont prêtes à nous faire oublier la réalité. Notamment avec le métavers, ce monde virtuel en 3D que le géant Facebook – désormais baptisé Meta – est en train de nous vendre. Il s’agit d’une matrice où il sera possible d’aller faire du shopping, boire un café, aller à un concert, entre autres activités. Face à une humanité déjà minée par un individualisme galvanisé par les nouvelles technologies, cette course au tout virtuel sans limites a quelque chose de plutôt angoissant.