L’éthicien néerlandais Jeroen van den Hoven explique dans quelle mesure l’éthique doit intervenir pour contrer la « prospérité du mal » en ligne.
Nombreux sont ceux qui, depuis deux décennies, prédisent que l’accumulation des applications logicielles, plates-formes en ligne et autres produits et services numériques contribuera à l’avènement d’une bonne société numérique et que nos démocraties libérales en tireront profit. Nous avons célébré la commodité dans une ruée numérique collective et cru à l’œuvre bénéfique d’une main numérique invisible. Aujourd’hui, nous réalisons que la « googlisation » de tout et la domination du marché par la « big tech » posent de sérieux problèmes.
Les philosophes et les penseurs des siècles passés se sont donné pour tâche de réfléchir à une société bonne et juste. Rousseau, Hobbes, Spinoza, Kant, Mill et Marx ont élaboré des points de vue sur la politique et l’éthique qui ont traversé les générations. Ces philosophes avaient des opinions extrêmement différentes, mais aucun n’était motivé par le profit et les recettes trimestrielles. Ils se préoccupaient uniquement de proposer des idées sur l’égalité, la liberté, la solidarité et la possibilité d’une vie meilleure pour tous.
Désormais, ce sont les manifestes des Bezos, Gates, Zuckerberg, Jobs et Brin qui orientent le développement des institutions et de la société. Plus encore, c’est leur technologie elle-même qui façonne notre monde. Nous avons échoué à identifier les externalités négatives à l’échelle globale, ainsi que les phénomènes sociaux et moraux d’un monde dans lequel des milliards d’individus utilisent leurs appareils connectés plusieurs heures par jour.
La situation n’est pas très différente de la lente destruction de nos écosystèmes mondiaux. C’est rien de moins qu’une tragédie des communs numériques et une décomposition du tissu de nos mondes sociaux. Les penseurs Lessig, Zuboff, Rushkoff, Morozov, Harari et beaucoup d’autres ont pointé les inquiétudes que font naître les modèles commerciaux extractifs, le capitalisme de surveillance et l’exploitation fondée sur les données.
Les conséquences réelles de nos actes
Hormis ce contexte général évident, la technologie a un impact insidieux sur l’univers de notre vie connectée : la prospérité du mal. Comme il se présente aujourd’hui, le monde en ligne sape la morale telle qu’elle s’est développée au cours du temps. C’est le point le plus problématique, car toute une génération mondiale est en train de grandir en ligne. Or, ce monde encourage la propagation de la radicalisation, du terrorisme, des « fake news », de la misogynie, des discours de haine, du racisme, du harcèlement, de l’usurpation d’identité, de l’intimidation en ligne, de la pornographie infantile et des abus sexuels sur enfants, etc.
Le monde en ligne contribue à faire oublier les principes moraux qui dictent notre comportement, à masquer les conséquences réelles de nos actes sur des personnes réelles du monde réel, à encourager chacun à se construire une réputation en repoussant toujours plus loin les limites de la méchanceté et de la cruauté, à réifier les individus, à les inciter à se livrer à une comparaison effrénée entre eux et les autres. Les plates-formes de médias sociaux tels que YouTube, Twitter et Facebook sont des outils spectaculaires, mais ce sont aussi de véritables machines à fumée morale qui génèrent un brouillard dans lequel beaucoup perdent leurs repères et sombrent dans les eaux boueuses des chambres d’écho et de la propagande.
Un mélange toxique de mécanismes et de propensions contribue à générer ce brouillard moral : algorithmes, modèles commerciaux des plates-formes en ligne, rassemblement de personnes d’opinions identiques, bulles de filtrage, effondrement des frontières privé-public, réalité virtuelle, comportement addictif, anonymat apparent et personnalisation.
La nouvelle technologie numérique s’accompagne en outre d’une large « souplesse interprétative ». Comme ces environnements sont nouveaux, les normes et les attitudes qu’ils impliquent ne sont pas encore solidement établies, et les utilisateurs ignorent la nature et les objectifs de la technologie. Ce qui veut dire que nous sommes de plus en plus amenés à considérer notre conduite comme relativement inoffensive et autorisée. Les mondes sociaux en ligne ont répandu partout la souplesse interprétative.
Boussole morale
Les militaires utilisent l’expression « brouillard de la guerre » pour qualifier les circonstances dans lesquelles il devient extrêmement difficile d’appliquer nos règles morales – comme, par exemple, déterminer qui est innocent et qui peut être ciblé quand il est impossible de distinguer l’ami de l’ennemi. De nombreuses situations sont capables d’« embrouiller » notre boussole morale, et les actuels mondes sociaux en ligne en offrent d’innombrables et spectaculaires exemples.
La tâche qui nous incombe n’est donc pas seulement d’accroître les efforts de régulation chaque fois que nous découvrons de nouvelles violations de nos valeurs sur les réseaux en ligne. Elle consiste aussi à mieux comprendre comment les conditions de ces univers « embrouillent » la compréhension morale, à éradiquer (là où c’est possible) les sources mêmes de ce brouillard moral et à concevoir de meilleures façons d’en éviter les écueils.
Au XXIe siècle, il serait parfaitement gratuit de parler de démocratie, d’autonomie, de vie privée et de redevabilité sans réfléchir à la manière dont nous pouvons intégrer ces valeurs et ces idéaux moraux dans notre monde numérique. L’éthique doit intervenir dans la conception même du codage informatique, des algorithmes et des infrastructures, sous peine de perdre sa pertinence et de devenir obsolète.
(Traduit de l’anglais par Gilles Berton.)
Jeroen van den Hoven occupe la chaire éthique et technologie à l’université de technologie de Delft (Pays-Bas). Il siège au Groupe européen d’éthique des sciences et des nouvelles technologies de la Commission européenne. Il a écrit, avec Dean Cocking, Evil Online (Wiley-Blackwell, 176 pages, non traduit). Il participe à la conférence Erasme-Descartes 2018,organisée les 15 et 16 novembre à Paris par l’ambassade des Pays-Bas.
Aucun commentaire:
Enregistrer un commentaire