par Nicolas Celnik publié le 27 octobre 2021 à
Les algorithmes n’ont plus le vent en poupe. Il n’y a pourtant pas si longtemps, ils étaient encore présentés comme les instruments de la disruption, et les garants d’une justice objective et équitable. Mais les différents travaux de recherche qui se sont penchés sur les biais algorithmiques et leurs effets sur la société ont sérieusement écorné cette image : il en ressort que l’algorithme de YouTube favorise les contenus complotistes, que celui de Twitter diffuse plus largement les contenus politique de droite, que ceux utilisés par certains Etats américains pour faire de la justice prédictive sont plus sévères contre les Africains-Américains. Ou encore que celui de Google proposait des contenus pornographiques aux requêtes sur les «filles asiatiques» ou les «femmes noires». Tout récemment, Frances Haugen, la lanceuse d’alerte à l’origine d’une fuite de documents internes de Facebook, s’en est pris aux algorithmes de l’entreprise : «Facebook a montré que s’il revoyait son algorithme pour qu’il [affiche moins de contenus haineux aux utilisateurs], les gens allaient passer moins de temps sur le site, cliqueraient sur moins de publicité et généreraient donc moins d’argent.» D’autres documents internes laissent à penser que les programmes auraient en outre échappé au contrôle de leurs créateurs.