Intelligence artificielle et semantique (le paradoxe de John Searle)

[Vous devez être inscrit et connecté pour voir cette image]

Une intelligence artificielle est-elle capable de penser authentiquement ?

En 1980, le philosophe américain John Rogers Searle décrit une expérience théorique controversée. Son paradoxe de la chambre chinoise met un humain dans la même situation qu'un ordinateur effectuant une opération de traduction.

Plus précisement, une personne est enfermée dans une chambre et ne parle pas un mot de chinois. Elle reçoit des messages glissés sous la porte émanant d'une personne située à l'extérieur et qui pratique le mandarin.

Pour les besoins du travail qui lui est demandé, la personne située dans la chambre dispose: d'une série de documents comportant des symboles en chinois, d'un script dans la même langue et des instructions en français. Ils lui permettent de reconnaître les symboles et groupes caractéristiques afin de manipuler ses éléments en vue d'élaborer son propre message.

Le paradoxe de la chambre chinoise

C'est exactement le cas d'un traducteur en ligne qui va traduire un texte mot à mot alors qu'une personne va s'appliquer à en retrouver le sens en employant des mots qui n'étaient pas dans le texte original.

Exactement.

il ne faut pas appliquer aux robots qui peut à peu vont envahie notre vie des sentiments humains. Par exemple nous pouvons penser qu'un robot qui a été programmé pour s'occuper de nous (si nous sommes âgés ou handicapés par exemple) va éprouver de l'empathie à notre égard. Or rien n'est plus faux. Pour un robot le mot "empathie" ne signifie rien car il a été seulement programmé pour nous aider et ne connait rien d'autre.