Tous formatés par les machines

Rapport d’étonnement. Nos manières d’être et de réfléchir sont influencées par les robots avec lesquels nous interagissons sans cesse. Gare, car la réalité est bien plus complexe que les algorithmes qui prétendent la représenter.

LE MONDE | 18.02.2018  Par Frédéric Joignot

Beaucoup s’inquiètent que les robots et l’intelligence artificielle détrônent les humains dans tous les métiers. Mais peu se demandent : l’omniprésence des machines n’influence-t-elle pas les humains eux-mêmes ? Nos façons de penser et d’agir ? Nos manières de travailler ? Plutôt que de craindre les robots, ne devrions-nous pas redouter d’être nous-mêmes robotisés ?

Nous connaissons le test imaginé en 1950 par le mathématicien Alan Turing pour évaluer l’intelligence d’un robot : elle est jugée de haut niveau quand un humain n’arrive plus à discerner s’il communique avec un homme ou avec une machine. Brett Frischmann, professeur de droit à l’université Villanova (Radnor Township, Pennsylvanie), a conçu un test de Turing « à l’envers » afin de « déterminer à quel moment les technologies nous déshumanisent ». Il cherche à identifier les qualités et les défauts qui nous distinguent des machines : le « sens commun », la « pensée rationnelle », mais aussi la capacité de se comporter de « façon irrationnelle » ou « émotionnelle » (car il existe chez l’homme une intelligence émotionnelle), enfin le « libre arbitre », défini comme le fait de vouloir être « l’auteur de sa propre vie ». Si ces capacités vous manquent, vous avez réussi le test de ­ Frischmann : vous êtes devenu un robot.

Nous nous habituons tant et si bien à vivre des relations désincarnées que nous finissons, des études psychologiques le montrent, par les reproduire avec les humains

Brett Frischmann s’apprête à publier, avec le philosophe des technologies Evan Selinger, Re-Engineering Humanity (Cambridge University Press, à paraître en avril). Ils y pointent tous les domaines de nos vies dans lesquels nous sommes robotisés. Par exemple, nous ne savons plus si l’opérateur d’un centre téléphonique est un être humain ou une machine. Si les « joyeux anniversaires » envoyés par LinkedIn ou Facebook le sont par des vraies personnes ou par des bots. Si les messages chaleureux reçus par mails proviennent d’avatars. De fait, les relations humaines se raréfient dans nombre de nos communications avec les services et les institutions. Nous nous habituons tant et si bien à vivre des relations désincarnées que nous finissons, des études psychologiques le montrent, par les reproduire avec les humains – comme le dit Selinger : « l’automatique » remplace de plus en plus « le délibératif ».

« Nous sommes des robots »

Cette robotisation de l’esprit, estiment les deux chercheurs, a commencé au début du XXe siècle dans le monde du travail avec le taylorisme : « Taylor et ses disciples ont exalté les vertus de la décomposition des tâches en intrants et extrants, en processus et procédures analysés mathématiquement et transformés en recettes pour une production efficace. » Or, cette organisation « scientifique » du travail se poursuit dans les entreprises informatisées (Uber, Amazon, ateliers robotisés…), où des « plates-formes numériques » gèrent les travailleurs, les surveillent, les suivent à la trace – si bien que l’employé d’un entrepôt d’Amazon déclarait, dans un reportage diffusé en 2013 par la BBC : « Nous sommes des robots. Nous pourrions aussi bien brancher notre scanner sur nous-mêmes. »

Chacun de nous, ligoté dans les réseaux sociaux, est en permanence identifié, géolocalisé, numérisé, modélisé, évalué par des algorithmes, transformé en données pour le Big Data

Pour Frischmann et Selinger, la robotisation n’a pas seulement gagné les employés et l’entreprise. Chacun de nous, ligoté dans les réseaux sociaux, est en permanence identifié, géolocalisé, numérisé, modélisé, évalué par des algorithmes, transformé en données pour le Big Data. Nos manières d’être et de réfléchir sont influencées par le fait que nous sommes encerclés d’« armes de destruction mathématique ». L’expression est celle de la mathématicienne américaine Cathy O’Neil, experte de la finance devenue militante d’Occupy Wall Street après la crise des subprimes, auteure en 2016 de Weapons of Math ­Destruction (Crown Books, non traduit).

Les algorithmes sont loin d’être neutres ou scientifiques, comme on l’a vu pendant la crise financière de 2007 où ils n’ont fait qu’amplifier l’aveuglement général.

Elle y décrit comment nous avons abandonné aux algorithmes – à des robots – notre gestion du temps et des risques dans l’éducation, la publicité, la justice, la finance, l’assurance, la police, le recrutement… Or, les algorithmes sont loin d’être neutres ou scientifiques, comme on l’a vu pendant la crise financière de 2007 où ils n’ont fait qu’amplifier l’aveuglement général.

O’Neil donne mille exemples où ils décident à notre place, parfois de façon inhumaine. Des étudiants écartés d’une embauche après un premier test de personnalité se voient par la suite refuser tout travail parce que toutes les entreprises utilisent le même test. Un DRH lance une enquête sur l’excellence à tel ou tel poste et en conclut que les femmes ne sont pas aptes pour cette fonction : l’algorithme n’a fait que confirmer un préjugé. Or, pour Cathy O’Neil, c’est certain : « Le monde réel, humain, avec toutes ses complications, est en dehors de l’univers des algorithmes. » Cela ne les empêche pas d’organiser notre compréhension du monde… jusqu’au moment où la « bulle » du réel éclate.