Je continue à lire l’éloge du carburateur (voir ici mon post précédent) et j’en extrais un passage à la page 205 qui m’a frappé sur l’intelligence artificielle et le sens du travail.

« Dans sa célèbre critique de l’intelligence artificielle, le philosophe John Searle nous demande d’imaginer un homme enfermé dans une pièce et qui ne serait relié au monde extérieur que par une mince fente dans la porte [1]. A travers cette fente, on lui passe des morceaux de papier sur lesquels sont tracés des caractères chinois. Notre homme n’a aucune connaissance du chinois. Sans qu’il en sache rien, les textes qui lui sont transmis sont une série de questions. Il dispose de son côté d’un ensemble d’instructions en anglais qui lui indiquent comment faire correspondre une autre série de caractères à chaque texte qui lui est transmis. Il fait passer cette nouvelle série par la fente de la porte, et on considère alors qu’il a « répondu » aux questions posées. L’idée de Searle c’est que pour accomplir cette tâche, l’homme n’a pas besoin de connaître le chinois, pas plus que cela ne serait nécessaire pour un ordinateur qui effectuerait la même opération. Certains enthousiastes de l’intelligence artificielle rétorquent pourtant que le système, en fait, connaît le chinois – qu’il existe en quelque sorte une pensée sans penseur. Mais une position moins mystique admettrait que c’est le programmateur humain, celui qui a rédigé les instructions permettant de faire correspondre des réponses chinoises à des questions chinoises, qui connaît le chinois.

« Le mécano qui travaille avec un diagnostic informatique se trouve dans la même situation que l’homme de la chambre chinoise. Dans l’expérience imaginaire de Searle, l’idée fondamentale, c’est que vous pouvez disposer d’un ensemble d’instructions qui vous permettent de faire correspondre de façon adéquate une série de réponses à une série de questions sans avoir jamais à faire référence à la signification des propositions ainsi manipulées. La possibilité d’une telle opération est une question extrêmement controversée en linguistique et en philosophie de l’esprit, et il n’existe pas de réponse simple à ce problème. Mais la conception décérébrée du travail qui prévaut souvent aujourd’hui ressemble étrangement au dispositif de la chambre chinoise. Les êtres humains y sont perçus comme ders versions moins performantes des ordinateurs. »

[1] John R. Searle, « Minds, Brains and Programs », Behavioral and Brain Science, 3, no 3, septembre 1980.