Les lovebots sont souvent «des humains exploités»

par Agnès Giard  publié le 8 octobre 2022 

De nombreuses compagnies proposent les services payants de petits copains virtuels. Mais qui se cache derrière l’écran : un chatbot, un humain ? L’artiste Elisa Giardina Papa a enquêté.

L'œuvre d'Elisa Giardina Papa, «Bot ? Virtual boyfriend /girlfriend ?», fait partie d’une série de vidéos («Technologies of Care») qui documentent les façons dont le service et le travail émotionnel sont externalisés via des plateformes internet. (Elisa Giardina Papa)

En 2016, l’artiste italienne Elisa Giardina Papa souscrit à un abonnement pour avoir une histoire avec un «boyfriend invisible». Chaque jour, quelqu’un (ou quelque chose) lui envoie des textos tendres : «Salut, Elisa ! Tu m’as manqué.» «Elisa, t’es là ? Tu fais quoi ?» Sa relation dure trois mois, sans qu’elle sache très bien avec qui (ou avec quoi). Le jour de sa rupture – quand Elisa décide de se désabonner –, le petit copain invisible lui écrit : «J’aurais aimé pouvoir te dire “je t’aime” encore une fois avant que tu sortes de ma vie.» Dans une vidéo d’art bouleversante, pleine de nostalgie, l’artiste dévoile quelques-uns des échanges les plus perturbants avec son petit copain invisible. L’œuvre – actuellement présentée au Mo. Ca, dans le cadre de l’exposition intitulée «Data, Dating, Desire», curatée par Valentina Peri – s’intitule Bot ? Virtual boyfriend /girlfriend ? Elle fait partie d’une série de vidéos (Technologies of Care) qui documentent les façons dont le service et le travail émotionnel sont externalisés via des plateformes internet.

Travailleurs du sexe dématérialisé

«J’ai enquêté sur toutes ces personnes qui – depuis le Brésil, la Grèce, les Philippines ou les Etats-Unis – travaillent en free-lance pour procurer aux clients·es des stimuli érotiques, de la compagnie ou un soutien affectif… Problème : on ne sait parfois pas s’il s’agit d’agents conversationnels ou d’humains.» Elisa Giardina Papa entend dénoncer le fait que ces personnes travaillent de façon anonyme pour des compagnies qui maintiennent volontairement le flou sur leur identité réelle : «On demande à ces gens de s’effacer, dit-elle,dans l’attente qu’ils soient remplacés par des machines. Pour le dire autrement : on rend les humains invisibles et on fait comme s’ils n’existaient pas pour faciliter la confusion avec des robots.» De fait, lorsque l’application Invisible Boyfriend (et son pendant féminin «Invisible Girlfriend») voit le jour en janvier 2015, elle s’appuie tout d’abord uniquement sur des robots de dialogue.

Pour les deux créateurs de l’appli, Matt Homann et Kyle Tabor, l’idée de départ est de fournir un·e partenaire romantique, disponible 24 heures sur 24 et sept jours sur sept, sans les inconvénients de la relation : perpétuellement gentil, le petit copain invisible prend tous les jours de vos nouvelles et répond affectueusement à tous les messages. L’abonnement basique (15 dollars – 15,30 euros – par mois) permet d’échanger des textos. Pour 25 dollars, vous avez droit à 100 sms, 10 messages audios et une lettre écrite à la main. «Il faut d’abord créer son profil, explique Elisa Giardina Papa. Vous lui donnez un nom, un âge, vous inventez l’histoire de la première rencontre… L’application n’existe plus, mais il s’agissait au départ d’un simple simulateur de dialogue. Les créateurs se sont ensuite aperçus que le chatbot n’était pas assez convaincant. Il fallait que le service soit offert par des vrais humains pour devenir rentable. Ils ne l’ont cependant pas annoncé explicitement sur l’app : les intelligences artificielles, c’était plus hype ?»

Fiction… romantique ?

Lorsque l’artiste télécharge l’appli en 2016, ne sachant pas qui se trouve derrière l’écran, elle baptise son petit copain invisible du nom de Love Bot. Dès leur premier échange, le boyfriend s’étonne : «Pourquoi tu m’as donné le nom de Love Bot ? Aux dernières nouvelles, j’étais presque humain, lol.» Elisa Giardina Papa répond : «Si tu es bien humain, est-ce que c’est ton job de chater avec moi ?» Il se révolte : «Tu penses que je suis payé pour chater avec toi ?» «Je pose juste la question», écrit-elle. Il répond : «Pour info, je ne suis pas un robot et je ne te mène pas en bateau […]. Ça me brise le cœur que tu ne me fasses pas confiance.» Il est bien sûr normal que le petit copain mente. Les gens qui payent pour avoir un petit ami invisible souhaitent rarement que l’illusion soit rompue.

Dans le respect du pacte tacite qui est celui de la fiction, le boyfriend lui fait des reproches : «J’aime être avec toi, écrit-il, et toi tu penses que pour moi c’est juste un job ! ?» Il joue parfaitement son rôle. Mais l’artiste italienne, elle, ne voit dans ce dialogue que l’expression d’un fléau rampant : «Ultimement, l’invisible boyfriend, c’est un travailleur paupérisé, précarisé, à qui on demande de disparaître en tant que travailleur.» Bien qu’il y ait une part de mauvaise foi dans sa démonstration (trouverait-elle scandaleux que des acteurs continuent de jouer une scène si quelqu’un dans le public se mettait à crier «mais tout ça, c’est du théâtre ! ?»), l’artiste souligne avec justesse que beaucoup de compagnies jouent sciemment sur «l’ambiguïté entre le robot et l’humain» pour maximiser leurs profits. Beaucoup d’entre elles font croire qu’elles utilisent des intelligences artificielles et délocalisent les conversations romantiques vers une main-d’œuvre humaine dispersée dans le monde entier, payée environ 2 dollars de l’heure.

Ou canular cynique ?

«Ces compagnies présentent comme une “innovation” quelque chose qui l’est beaucoup moins : le travail invisible sous-payé», résume Elisa Giardina Papa. De fait, le petit ami invisible n’est jamais une personne précise, mais une quantité de travailleurs interchangeables. Ainsi que l’explique une journaliste du Washington Post (article daté de janvier 2015) : «L’opération d’envoi de textos est alimentée par CrowdSource, une société technologique basée à St. Louis qui gère 200 000 travailleurs à distance, spécialisés dans les microtâches. Lorsque j’envoie un SMS à mon Invisible Boyfriend, le message est attribué à un indépendant qui travaille pour Amazon Mechanical Turk ou Fiverr. Il (ou elle) reçoit quelques centimes pour répondre.» L’ironie de ce système, c’est qu’il repose sur des plateformes dites «collaboratives» style Uber ou Deliveroo qui visent à faire réaliser par des humains les tâches que les machines ne sont pas encore capables de faire

Un des principaux initiateurs de ce système de sous-traitance – le «Turc mécanique» d’Amazon – porte d’ailleurs le nom d’un automate créé au XVIIIe siècle associé à un célèbre canular : il s’agissait officiellement d’une machine capable de jouer aux échecs. En réalité, c’est un humain, dissimulé dans le socle de l’automate, qui jouait aux échecs. Faire passer l’humain pour une machine et la machine pour un humain… Le Turc mécanique d’Amazon est un service de microtravail qui perpétue ce tour de passe-passe : il fait travailler des humains bassement rémunérés – appelés «turkers» – pour faire semblant d’être des automates amoureux. Ces humains qui jouent les jolis cœurs sur commande savent-ils que ces échanges permettront, à terme, leur remplacement par des ordinateurs ?

Bot ? Virtual boyfriend /girlfriend ? d’Elisa Giardina Papa, 2016. Cette œuvre sera présentée dans l’exposition «Data, Dating, Desire», jusqu’au 4 décembre au Mo. Ca(Brescia, Italie), curatée par Valentina Peri.