Trois façons de poser la question

Dire d'un logiciel qu'il est « intelligent » fait rapidement dévier la conversation : intelligent comme qui, et par rapport à quoi ? Les chercheurs ont proposé trois angles d'attaque. Chacun éclaire un aspect, aucun ne conclut seul.

À la fin de cette séance, vous saurez

  • présenter le test de Turing et la chambre chinoise, avec leur limite ;
  • distinguer IA étroite et IA générale ;
  • reformuler la question de façon utile dans votre métier.

Angle 1 : juger le comportement

En 1950, Alan Turing propose de remplacer la question « une machine pense-t-elle ? » par une épreuve concrète, le jeu d'imitation : un juge échange par écrit avec deux interlocuteurs cachés, l'un humain, l'autre machine. S'il ne sait pas les départager, la machine a réussi.

Le juge

Pose ses questions par écrit.

Deux inconnus

Une personne et une machine, dans un ordre inconnu.

Le verdict

Impossible de trancher : la machine réussit.

Angle 2 : chercher la compréhension

En 1980, le philosophe John Searle imagine une pièce close où une personne qui ne lit pas le chinois dispose d'un énorme classeur de consignes. Des messages en chinois passent sous la porte ; en appliquant les consignes à la lettre, elle renvoie des réponses impeccables.

De dehors, la pièce « parle chinois ». À l'intérieur, personne ne comprend rien. Pour Searle, suivre des règles, même parfaitement, ne suffit pas à comprendre. Les réponses de ses critiques existent aussi : peut-être que la compréhension est dans le système entier, pas dans une seule de ses parties. Le débat reste ouvert.

Angle 3 : mesurer l'étendue

Terme clé

IA étroite

Un système excellent sur une tâche précise (jouer aux échecs, lire des adresses postales, traduire) et incapable de s'en écarter. Tout ce qui est en service aujourd'hui entre dans cette catégorie.

Terme clé

IA générale

Un système hypothétique capable d'apprendre et de mener toute tâche intellectuelle, comme le fait une personne. Il n'existe pas aujourd'hui, et son avènement reste une question de recherche et de débat.

On entend aussi parler d'IA « faible » (qui simule un comportement intelligent) et d'IA « forte » (dotée d'un véritable esprit). Cette distinction rejoint la question de la chambre chinoise.

En pratique : changer la question

Ces débats passionnent, mais au travail on cherche des systèmes utiles, fiables et sûrs. La question gagne à être reformulée : pour quelle tâche précise ce système est-il fiable, avec quelles données, et que se passe-t-il quand il se trompe ?

Dans votre métier, listez cinq tâches de la semaine et rangez-les : répétitives et bien définies, demandant du jugement, ou reposant sur la relation humaine. Une IA étroite s'attaque surtout aux premières.

À vous de jouer : étroite ou générale ?

Rangez chaque description dans la bonne catégorie.

  • Un système qui trie le courrier en lisant les adresses manuscrites, et ne fait rien d'autre.

  • Une machine capable d'apprendre d'elle-même n'importe quel métier, du diagnostic à la comptabilité.

  • Un traducteur automatique qui gère plus de cent langues.

  • Un programme invaincu au jeu de Go.

Séance précédente Module 2 : résoudre des problèmes