“Le job de la plupart des managers consiste à faire des prédictions. Lorsque les responsables RH décident d’embaucher, ils prédisent – ou tentent de prédire, NDT – qui sera le plus efficace. Lorsque les responsables du marketing déterminent quels canaux de distribution privilégier, ils prédisent où un produit se vendra le mieux. Lorsque les financiers décident de financer une startup, ils prédisent si ce sera une réussite.”
Or, de plus en plus, ces prédictions sont le fait d’algorithmes, expliquent le spécialiste en administration des affaires Michael Luca, l’informaticien Jon Kleinberg et l’économiste Sendhil Mullainathan dans la Harvard Business Review. Et tout le problème est que les prédictions de ces systèmes ne sont pas sans failles. Dans le domaine de la publicité en ligne par exemple, de nombreux sites déploient des algorithmes pour décider quels annonces et liens montrer aux utilisateurs. Mais lorsqu’ils se concentrent trop étroitement sur la maximisation du clic, les sites deviennent infestés de publicités au risque de faire chuter la satisfaction globale de l’audience. Pour éviter ces faux pas, les gestionnaires doivent comprendre les qualités et les défauts des systèmes qu’ils mettent en oeuvre.
Les limites des buts qu’on assigne aux algorithmes
Les algorithmes sont littéraux : à la manière d’Ultron, ce système d’intelligence artificielle chargé de protéger la terre dans Avengers, qui interprète si bien sa tâche qu’il en conclut que la meilleure façon de le faire est de détruire tous les êtres humains. Il est ainsi facile de tomber dans le piège de la publicité. Quand on assigne un but à un système auto-apprenant, le risque est toujours qu’il l’applique trop bien.
Les algorithmes sont également des boites noires, comme le soulignait très bien Frank Pasqualedans son livre Black Box Society. Dans Jules César de Shakespeare, un devin avertit César de se méfier des ides de Mars. Si la recommandation était parfaitement claire pour qui connaît la fin, elle était parfaitement incompréhensible pour l’intéressé, notamment parce que les informations étaient incomplètes et que le devin n’avait pas la moindre idée de l’information qui manquait. Un algorithme peut ainsi vous dire quel article pourra être très partagé sans vous expliquer pourquoi ou quels employés vont réussir sans identifier les attributs importants pour leur succès.
