—
Dessin Dessin Jeanne Macaigne
Talos le robot, Médée la «hackeuse», la mythologie met déjà en scène le rêve de la toute puissance et de l’immortalité via la machine. L’historienne américaine, basée dans la Silicon Valley, met en garde contre ceux qui veulent «jouer à dieu» avec l’intelligence artificielle, sans pour autant renoncer au progrès.
Il y a plus de 2 500 ans, les mythes grecs décrivaient déjà des robots-combattants, des arcs aux flèches intelligentes, des trépieds autonomes qui viennent vous servir du nectar ou de l’ambroisie. Ils mettaient même en scène des formes d’intelligence artificielle : des assistantes automatisées dotées de conscience, ou un robot aux allures de femme souriante, envoyé par un dieu pour tenir compagnie aux hommes. Dans Gods and Robots(Princeton University Press, novembre 2018, non traduit), Adrienne Mayor invite la Silicon Valley à voyager dans le temps pour relire toutes les histoires d’amour, de guerre et de vengeance racontées par les anciens. Cette chercheuse en lettres classiques et en histoire des sciences, à l’université Stanford, montre que les mythes ont posé, de manière visionnaire, les interrogations éthiques qui nous déchirent et nous divisent encore aujourd’hui. Il y est question de robots qui se retournent contre leurs maîtres, de pièges technologiques tendus par des tyrans, de quêtes d’immortalité qui tournent mal. Ces intrigues, bien que saupoudrées de magie, prouvent que nos aspirations technologiques d’aujourd’hui répondent à des «rêves culturels» très anciens. Et suggèrent qu’il nous faut les poursuivre avec prudence : les robots fonctionnent mieux chez les dieux que sur Terre et, pour les hommes, l’histoire se transforme bien souvent en tragédie.
Des mythes, on retient souvent les dieux immortels, les pouvoirs magiques, les créatures imaginaires. Pourquoi vous tourner vers la mythologie pour écrire une histoire des robots ?
Je suis une historienne des sciences anciennes qui vit en pleine Silicon Valley depuis treize ans. En voyant autour de moi tous ces efforts pour inventer des objets autonomes, créer de l’intelligence artificielle, poursuivre la longévité, voire l’immortalité, je me suis demandée jusqu’où remontaient les désirs qui motivent les avancées technologiques d’aujourd’hui. La plupart des historiens font remonter les premiers récits d’automates au Moyen Age, notamment avec les robots-chevaliers. Mais l’histoire de Talos m’est un jour revenue en tête. Talos est un automate de bronze qui garde l’île de Crète en arrachant des blocs de pierre du rivage pour les lancer sur les navires. Même dans la version d’Homère, en 700 avant J.-C., Talos n’est pas une créature magique ! Il n’est pas «né», il a été fabriqué par la technique, par la main et les outils du dieu du feu et de la métallurgie, Héphaïstos. Or, dans le mythe, la sorcière Médée trouve un moyen de tromper Talos pour aider Jason en quête de la Toison d’or. Selon les versions, soit elle hypnotise Talos, soit elle le convainc de se laisser opérer pour obtenir l’immortalité : elle s’attaque en réalité à son point faible, le talon, et le vide de son fluide magique, l’ichor. Médée est une «hackeuse» ! Et le mythe de Talos envisage déjà la possibilité pour les robots d’être piratés et détournés de leur fonction. Ce qui laisse songeur quand on sait que l’armée américaine travaille à la mise au point d’un exosquelette robotique intelligent appelé… Talos : il utilisera des fluides pouvant se solidifier pour protéger les soldats des balles, et sera équipé de capteurs pour suivre à distance les sensations des soldats.
Vous affirmez que le rêve de l’automatisation des tâches remonte au moins à l’Iliade. A quoi ressemblent les robots travailleurs d’Homère ?
Au fil de l’Iliade, on rencontre de nombreux automates, des objets qui agissent d’eux-mêmes. Par exemple, les navires des Phéaciens se pilotent de manière autonome, des trépieds se meuvent pour servir le vin aux dieux de l’Olympe, des soufflets automatiques aident Héphaïstos dans son travail métallurgique. Ce dieu s’est même fabriqué un groupe de robots-servantes taillés dans de l’or. Pour ne pas avoir à leur donner des ordres, il leur a donné une conscience et même la connaissance divine : elles anticipent ainsi ses besoins. C’est fascinant de lire cela quand on a en tête le débat actuel sur la quantité de données qu’il est nécessaire de fournir à un réseau de neurones pour qu’il puisse accomplir une tâche spécifique. Il est aussi intéressant de noter que, dans tous ces exemples, l’action est mécanisée pour épargner une tâche laborieuse à l’homme. Cela a fait réfléchir Aristote dès le IVe siècle dans la Politique : ce philosophe, pourtant fervent défenseur de l’esclavage, repense aux robots des mythes et concède que si les trépieds automatiques d’Héphaïstos existaient vraiment, il n’y aurait pas besoin d’esclaves… Ce qui peut sembler quelque peu ironique aujourd’hui, les travailleurs craignant désormais d’être remplacés par des robots.
On compare souvent l’intelligence artificielle à une obscure boîte de Pandore qui pourrait libérer tous les maux de l’humanité. Mais dans le mythe, cette boîte, qu’il est interdit d’ouvrir, ne contient pas seulement la vieillesse, la maladie, la guerre, la famine, la mort, l’orgueil… elle contient aussi l’espoir.
Faut-il ne pas ouvrir la boîte, quitte à renoncer à l’espoir ?
Pandore est un exemple passionnant car, si on relit l’histoire, on s’aperçoit qu’elle n’est pas une femme innocente succombant à la tentation d’ouvrir la boîte interdite, comme on le raconte souvent : elle est un automate créé par Héphaïstos sur demande de Zeus pour tromper les hommes et se venger de leur outrecuidance, car ils ont accepté le don de Prométhée, la maîtrise du feu jusque-là réservée aux dieux. Pandore ne cause pas le mal par accident : elle est bel et bien un piège sous les apparences d’une belle femme, programmé pour tromper. Quant à l’espoir qui s’échappe de la boîte avec tout le reste, on le voit souvent comme un lot de consolation donné aux hommes. Mais l’espoir n’est pas une faculté forcément positive chez les Grecs. C’est ce qui nous aveugle et nous fait manquer de prévoyance ! La leçon de ce mythe, c’est qu’il est crucial de se demander qui a voulu cet automate et pourquoi : ici c’est l’idée de Zeus, un dieu autocrate, le dieu vengeur par excellence. Les mythes nous mettent en garde contre la propension qu’a la technologie à être accaparée et instrumentalisée par les tyrans.
Aujourd’hui, la communauté transhumaniste et plusieurs entreprises de haute technologie poursuivent l’immortalité. Qu’apprendraient-elles des personnages mythiques qui se sont lancés dans cette quête ?
Dans les mythes, les mortels poursuivant l’immortalité font preuve d’hubris, c’est-à-dire de démesure. La sagesse et l’héroïsme sont pour les héros dans l’acceptation de leur finitude. Lorsque dans l’Odyssée, la nymphe Calypso propose à Ulysse l’immortalité s’il demeure sur son île, il refuse pour retourner à sa compagne Pénélope et à son identité. Quand Eos, la déesse de l’aurore, demande l’immortalité pour son amant Tithon, elle oublie que l’immortalité n’implique pas la jeunesse éternelle. Tithon vieillit et Eos l’installe dans une chambre aux barreaux dorés, où il faiblit et balbutie pour l’éternité. Le mythe du tyran Sisyphe qui enchaîne la mort, Thanatos, fait surgir tout un tas de problèmes : la Terre est surpeuplée, les malades souffrent sans pouvoir mourir, la guerre est devenue un jeu pour les hommes. Sisyphe est donc puni par les dieux et Thanatos délivré. J’ai même retrouvé un mythe dans lequel l’immortalité est recherchée via la technique (en l’occurrence une forme de médecine) plutôt que par la magie : Médée parvient à donner la jeunesse éternelle au père de Jason en renouvelant son sang, qu’elle a rajeuni dans son chaudron. Mais elle utilise aussi cette technique pour son ennemi Pélias : au lieu de lui offrir la jeunesse, elle lui offre la mort, en omettant délibérément une étape du processus. Cette histoire fait forcément penser aux expérimentations de transfusion sanguine qui ont déjà été faites sur des souris pour tester la possibilité de rajeunir leurs corps. Le mythe alerte sur la frontière entre science et charlatanisme, et montre à quoi on s’expose quand on veut «jouer à dieu».
Ces mythes doivent-ils nous faire renoncer à nos «rêves culturels» ?
Pour les anciens, ce ne sont que des expériences de pensée, toujours pertinentes aujourd’hui. Je songe souvent à cette phrase du personnage du robot maléfique de Tik-Tok, dans le roman éponyme de science-fiction de John Sladek, publié en 1983 : «Je me demande parfois si les robots ont été inventés pour répondre aux questions des philosophes.» Seulement, aujourd’hui, nous sommes sur le point d’avoir les moyens techniques nécessaires pour faire exister certains de ces robots imaginaires. L’expérience de pensée prend une réalité tout autre. Cela ne veut pas dire qu’il faut renoncer au progrès, mais qu’il faut bien mieux anticiper ses dangers. Prenez l’histoire de Dédale, coincé dans son labyrinthe en Crète avec son fils Icare. Il fabrique, pour s’échapper, des ailes artificielles avec des plumes et de la cire, et enjoint son fils de ne voler ni trop haut ni trop bas, car le soleil et l’humidité de la mer endommageraient ses ailes. Icare est grisé par le vol, il s’élève trop haut, la cire fond et le jeune homme périt. Mais Dédale, lui, parvient à s’échapper, car il vole prudemment. Les mythes donnent aussi une leçon d’humilité : j’ai même retrouvé une histoire de voyage dans l’espace ! Pour conquérir les cieux, Alexandre quitte la Terre à bord d’une machine volante de sa confection. Il est stupéfait de l’apercevoir soudain toute petite, toute bleue, toute frêle au milieu de l’immensité. Cette vision le satisfait, et il retourne humblement sur Terre. N’est-ce pas à propos, quand on sait qu’on veut aujourd’hui construire des fusées pour aller habiter sur Mars ?
Vous terminez votre livre en suggérant que les mythes pourraient même éduquer l’intelligence artificielle…
Certains scientifiques tentent déjà d’inculquer l’éthique à l’intelligence artificielle en l’exposant à des fables, des romans, des scénarios de films. C’est le cas de Shéhérazade, une intelligence artificielle nommée en hommage à la conteuse des Mille et une nuits : on essaie de lui montrer, via des narrations simples, ce qu’est un comportement moral. Le but est d’éviter ce qu’il s’est passé avec Tay, le chatbot lancé par Microsoft en 2013, devenu raciste et sexiste en quelques heures d’apprentissage sur les réseaux sociaux. On pourrait nourrir l’intelligence artificielle de mythes, puisqu’ils parlent si bien d’elle. Ils feraient partie de sa «culture». Mais vous me direz, c’est peut-être juste un rêve culturel de plus…
Aucun commentaire:
Enregistrer un commentaire