Camille Gobourg (artiste), Antoine Le Joncour (rédacteur)

« Franklin savait compter deux par deux et lacer ses chaussures (1) »… AlphaGo (2), lui, est capable de battre un des meilleurs joueurs de Go au monde.

Qu’est ce qui diffère entre cette machine à la puissance de calcul phénoménale et une tortue représentant, anthropomorphiquement, un enfant de 5 ans ? Le degré et le type d’intelligence que nous pouvons leur attribuer. À 5 ans, l’enfant comprend, analyse et s’adapte continuellement à son environnement. Tandis qu’AlphaGo réalise de manière séquentielle, étape par étape une quantité astronomique de calculs en un minimum de temps, pour choisir le meilleur coup. Le discours dominant en matière d’intelligence artificielle (que l’on appelle communément IA) a souvent tendance à éluder les différences entre l’intelligence humaine et cette autre forme d’intelligence, mécanique. Le débat ne porte pas toujours sur ce qui caractérise l’intelligence des machines, ce qui tend à renforcer la crainte vis-à-vis de leur prétendue supériorité par rapport aux capacités humaines. À tel point que des scientifiques de renom, tel le célèbre physicien Stephen Hawking, voient en l’avènement de ces technologies un danger pour l’espèce humaine. Pourtant, à écouter les spécialistes, la science est encore loin de créer des machines plus intelligentes que l’être humain. Alors qu’est-ce, finalement, que l’intelligence artificielle ?

Qu’est-ce que l’intelligence artificielle ?

La recherche en intelligence artificielle est une discipline scientifique née il y a 60 ans. Elle a pour objectif de mieux comprendre et d’explorer l’intelligence avec l’aide des machines. Aujourd’hui, elle déleste également l’homme de nombreuses tâches répétitives et fastidieuses. Pour cela, elle décompose l’ensemble des traits qui forment l’intelligence humaine — tels que la compréhension du langage, la reconnaissance visuelle, la mémoire, l’apprentissage, la résolution de problèmes complexes — en une somme de facultés élémentaires, qu’il s’agit de simplifier et de reproduire sur une machine.

Ce qui constitue aujourd’hui l’intelligence des machines est donc une somme de modules élémentaires qui nous servent dans des domaines précis. Chaque module élémentaire est appelé algorithme, c’est-à-dire un programme, un texte écrit en un langage compréhensible par une machine.

Nous-mêmes nous utilisons dans la vie de tous les jours des méthodes que nous pouvons apparenter à des algorithmes. Une recette de soupe est un exemple d’algorithme. Il s’agit d’une procédure décrite de manière générale, d’une suite d’actions ou de manipulations précises à accomplir étape par étape, séquentiellement.

Étape 1 : tailler les légumes en gros dés et les faire suer dans le beurre.

Étape 2 : mouiller avec 1,5 l d’eau, ajouter l’ail écrasé et le bouquet garni de fines herbes, cuire une petite heure à feux doux.

Étape 3 : passer au mixer, ajouter de la crème fraîche et servir chaud.

Facile, non ?

Un algorithme c’est donc « presque » comme une recette de cuisine. Oui mais… qu’adviendrait-il si l’on confiait un tel algorithme à une machine ? Il réaliserait à la lettre le programme qui lui a été imposé. Mais que se passerait-il, par exemple, lors de la deuxième étape de la recette, lorsqu’il s’agit de cuire le tout une « petite » heure à « feu doux » ? Comment définir « une petite heure » ? Un « feu doux » par rapport à quoi ? Sans compter que personne n’a précisé avec quoi tailler les légumes ou quel récipient choisir pour faire cuire le tout. La machine n’est pas capable de procéder de façon intuitive ; toute instruction ambiguë ou incomplète, conduira à l’échec du processus.

Une forme d’intelligence très différente de la nôtre

On a beau qualifier le procédé « d’intelligent », la mise en œuvre d’algorithmes par des machines demeure un dispositif mécanique qui ne dispose d’aucune information contextuelle préalable, aucun de ces éléments qui constituent la richesse de l’intelligence humaine. Il faut donc que chaque étape soit entièrement et explicitement spécifiée dans ses moindres détails. Les applications actuelles permises par ces principes d’intelligence artificielle se résument donc à une somme de démarches entièrement prédéfinies par l’homme pour être reproduites par la machine. Où est alors « l’intelligence », cette faculté propre à l’homme de s’adapter, de saisir une chose par la pensée et de comprendre le monde de manière sensible ? Elle n’est pas dans la machine. Du moins pas sous cette forme. Car en réalité, il s’agit davantage d’une projection de l’intelligence humaine à travers elle que d’une intelligence qui lui est propre.

Toutefois, les machines continuent à gagner en puissance et nous permettent de résoudre des problèmes de plus en plus complexes. Tellement complexes que trop souvent nous oublions qu’il ne s’agit que de processus automatiques qui tentent d’imiter le comportement humain. Prenons par exemple les programmes de traitement de l’image et de la vidéo qui sont les technologies d’IA les plus populaires et seront peut-être les plus utilisés à court terme. Il est aujourd’hui possible, avec la reconnaissance faciale, de déverrouiller son smartphone. Bientôt, nous pourrons entièrement déléguer la conduite de notre véhicule à un ordinateur central. Ces machines sont munies de capteurs et de caméras qui sont capables de percevoir les formes, les obstacles et de prendre une décision adaptée.

Et ce n’est qu’un début. L’intelligence artificielle occupe une place croissante dans notre quotidien. En effet, nous utilisons de plus en plus Internet, or l’intelligence artificielle contrôle aujourd’hui le référencement (3) des sites. Car c’est à partir d’algorithmes d’intelligence artificielle que les moteurs de recherches calculent et présentent les contenus les plus adaptés à chaque utilisateur, en fonction de ses données personnelles. Et l’IA ne se cantonne pas au secteur du numérique. Elle est maintenant présente dans tous les domaines. Elle a même investi le secteur de la santé, où les algorithmes développés obtiennent déjà de meilleurs résultats que les plus grands spécialistes mondiaux dans l’analyse des radiographies ou des images de cancers de la peau (4).

Cependant, contrairement aux idées reçues sur les IA, les chercheurs sont à des décennies de comprendre comment construire une machine dotée d’une intelligence générale comparable à celle du cerveau humain. « Non seulement on en est très loin, mais on n’a absolument aucune idée de comment le faire », assure Yann LeCun, directeur du Laboratoire de recherche en IA de Facebook, interviewé sur France Culture en 2015 (5). « Une intelligence artificielle, en l’état actuel des connaissances, est ainsi incapable d’apprendre par elle-même sans être supervisée », c’est-à-dire aidée et accompagnée dans ses phases d’apprentissage automatique. On est donc encore loin de la bienveillante entité Samantha de Her (6) ou du HAL de 2001 L’odyssée de l’espace (7), comme le souligne avec humour cette vidéo. De fait, malgré des capacités techniques toujours plus importantes, les chercheurs en IA peinent à doter les machines de ce qu’ils appellent communément « le sens commun » — cette capacité à s’adapter à son environnement de manière intuitive. De plus, si l’on recense un nombre d’applications toujours plus grand, les avancées doivent néanmoins être relativisées à l’aune des progrès réalisés depuis une soixantaine d’années.

L’IA est-elle un danger pour l’humanité ? Deux visions s’opposent

Alors pourquoi des personnalités telles Bill Gates, Stephen Hawking ou encore Elon Musk s’inquiètent-elles de la possible émergence d’une intelligence artificielle susceptible de détruire l’espèce humaine ? Pourquoi annoncent-elles le grand soir de l’humanité eu égard à l’essor de machines qui développeraient une volonté propre et échapperaient du même fait au contrôle de l’homme ? À la fois enthousiastes et inquiets, ils pensent que l’humanité peut bénéficier de cette forme d’intelligence, mais qu’il faudrait l’utiliser avec précautions. Selon ces trois grandes personnalités, l’intelligence artificielle peut être une innovation positive à condition qu’elle soit régulée.

« Les formes primitives d’intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à la race humaine. », Stephen Hawking (8)

 

Les deux arguments majeurs à l’appui de certaines de ces thèses sont la loi de Moore et la faculté que les machines ont à apprendre de façon mécanique. Mais ces deux arguments ne suffisent pas à justifier de tels propos selon le professeur et chercheur Jean-Gabriel Ganascia auteur du récent ouvrage Le mythe de la singularité. Faut-il craindre l’intelligence artificielle ?. La loi de Moore est une loi émise en 1964 par l’ingénieur Gordon Moore qui était le directeur de la société Intel, à l’époque société productrice de microprocesseurs. Il avait remarqué que, depuis 1959, les capacités de ses microprocesseurs doublaient environ tous les 18 mois, c’est à dire que la densité des composants augmentait à un rythme régulier. Et cette loi s’observe depuis cette date. Dès lors, une progression exponentielle des capacités de calcul des machines est envisagée. Ce qui peut laisser penser qu’un jour la machine sera en mesure de reproduire et dépasser les capacités cognitives humaines.

Deux visions s’opposent donc. Premièrement, celle de ceux qui annoncent, à grand renfort de buzz médiatiques, la domination future de l’homme par la machine. À laquelle s’oppose celle des spécialistes de l’intelligence artificielle, pour qui la machine consciente et autonome tient plus du fantasme, de la projection fantaisiste, que d’une imminente réalité.

Des initiatives pour ouvrir l’intelligence artificielle aux citoyens

Néanmoins, ces deux visions s’accordent sur un point : les progrès de l’intelligence artificielle se font aujourd’hui au mépris des conséquences sociales et écologiques qu’elle fait peser sur l’ordre de la société. C’est dans ces conditions qu’en 2015, une lettre ouverte a été publiée et signée par de nombreux ingénieurs et universitaires pour alerter sur les dérives d’une intelligence artificielle dont les progrès techniques seraient réalisés en dehors de toute considération sur les progrès sociétaux qu’elle devrait apporter. L’IA y est à envisager bien plus comme un partenaire, une assistance aux problèmes humains que comme un outils de remplacement du travail de l’homme.

Ce projet va dans le bon sens : quoi que l’on pense de l’intelligence artificielle, il est important de développer des initiatives à l’attention des citoyens afin de leur permettre de mieux appréhender un sujet, destiné à occuper une place croissante dans nos sociétés contemporaines. En France, le gouvernement a lancé une réflexion parlementaire pilotée par le mathématicien Cedric Villani, qui soutient que l’IA devrait profondément modifier non seulement la structure de nos économies, mais également les comportements humains. Des centaines de contributions publiques adressées par les internautes ont été prises en compte à travers la plateforme participative mise en place dans ce cadre. Ce mouvement constitue une avancée majeure en matière de pilotage politique d’un gouvernement puisque, pour la première fois en Europe, il s’agira de donner la parole à près de 200 experts internationaux sur l’intelligence artificielle. Cette mission qui sera rendue publique en mars 2018 a pour objectif d’établir les lignes directrices de la politique stratégique française en matière d’IA sur les prochaines années. Une feuille de route qui servira à tous les ministères, car tous seront concernés.

1. Franklin est une série animée destinée aux jeunes enfants dont le personnage principal est une tortue.
2. AlphaGo est le nom d’un programme informatique capable de jouer au jeu de go, développé par l’entreprise Google DeepMind.
3. Le référencement est un processus technique permettant de classer des pages d’un site Internet dans un moteur de recherche.
4. https://www.sciencesetavenir.fr/sante/dermato/une-intelligence-artificielle-capable-de-detecter-les-cancers-de-la-peau_11037
5. France culture, « Pourquoi Stephen Hawking et Bill Gates ont peur de l’intelligence artificielle ».https://www.franceculture.fr/sciences/pourquoi-stephen-hawking-et-bill-gates-ont-peur-de-lintelligence-artificielle
6. Samantha est l’intelligence artificielle dont le personnage principal du film tombe amoureux.
7. HAL est l’intelligence artificielle en charge des commandes du vaisseau spatial en mission.
8. Stephen Hawking : « L’intelligence artificielle pourrait mettre fin à l’humanité ».
   http://www.lemonde.fr/pixels/article/2014/12/03/hawking-l-intelligence-artificielle-pourrait-mettre-fin-a-l-humanite_4533135_4408996.html#YO68jBewAVDRy0AY.99

Jean-Gabriel Ganascia, Le mythe de la singularité. Faut-il craindre l’intelligence artificielle ?

Cathy O’Neil, Weapons of Math Destruction.