Le Monde Blogs 21 mai 2017
On ne présente plus
Kevin Kelly(
@kevin2kelly), qui fut le premier rédacteur en chef de
Wired et auteur de nombreux ouvrages sur la technologie. Son dernier livre,
The Inevitable: Understanding the 12 Technological Forces That Will Shape Our Future cherche à déterminer les technologies qui nous influenceront le plus au cours des 30 prochaines années. Kelly ne pouvait manquer d’intervenir dans le débat actuel sur l’avenir de l’IA et sur les inquiétudes que cette dernière suscite actuellement, notamment autour du thème de la «
superintelligence » et la possibilité que nos créations technologiques dépassent leurs parents humains et précipitent dans le meilleur des cas, une
Singularité nous entraînant vers un paradis technologique, ou, dans le pire, notre extinction.
Ce que prouve son long texte dans
Backchannel, c’est qu’on peut être enthousiaste de la technologie sans pour autant souscrire aux mythes les plus influents dans les milieux du numérique. Car pour Kelly, l’idée de l’IA « surhumaine » n’est rien d’autre que cela, un mythe, qui tient en cinq points dont il cherche à démontrer le caractère largement improuvable.
L’intelligence et l’IA, les bases d’un mythe moderne
Voici, selon lui, ces cinq postulats :
1.L’intelligence artificielle est déjà en train de devenir plus intelligente que nous, à un rythme exponentiel.
2. Nous allons faire des AI dotée d’une intelligence générale, comme la nôtre.
3. Nous pouvons recréer l’intelligence humaine sur un support en silicium.
4. L’intelligence peut être étendue sans limites.
5. Après l’explosion de la superintelligence, celle-ci pourra résoudre la plupart de nos problèmes.
Kevin Kelly commence sa démonstration en affirmant que l’intelligence ne peut être décrite de manière unidimensionnelle et que donc, l’expression « plus intelligents que les humains est un concept dénué de sens ».
« La plupart des gens dotés d’un esprit technicien ont tendance à représenter l’intelligence sous la forme d’un graphe, comme le fait Nick Bostrom dans son livre, Superintelligence – sous la forme d’un graphique linéaire, de dimension unique, d’amplitude croissante. À une extrémité on trouve la faible intelligence, celle, disons, d’un petit animal ; à l’autre extrémité, l’intelligence élevée, celle d’un génie, presque comme si l’intelligence était un niveau sonore mesurable en décibels. »
Au final continue-t-il, on peut se permettre d’imaginer de nouvelles entités sur cette échelle, plus hautes encore que le Génie. Malheureusement, une telle vision de l’échelle de l’évolution est d’abord fausse d’un strict point de vue darwinien. Toutes les créatures qui vivent aujourd’hui, y compris les cafards, sont au sommet de l’évolution, de leur point de vue. Et ce qui est vrai pour l’évolution biologique le serait aussi pour l’intelligence. Il est impossible de définir une échelle allant des formes d’intelligences inférieures aux êtres humains, et éventuellement au-delà. On ne sait pas, en fait, classer les différentes intelligences animales de manière rigoureuse, nous ne disposons d’aucune métrique pour cela, affirme Kelly. En fait, plutôt qu’imaginer une échelle, il faudrait plutôt considérer un « espace de possibilités » avec une combinaison complexe de différentes formes de cognition. Chaque organisme combine plusieurs de ces formes. Certaines créatures peuvent avoir des combinaisons d’intelligences très complexes, tandis que d’autres peuvent être plus simples, mais plus « extrêmes », plus efficaces dans certains domaines donnés.
