Repère biographique : Wikipédia
La question posée
La question posée
Monsieur Turing, vous avez proposé en 1950 le « Jeu de l'Imitation » pour évaluer si une machine peut penser. L'IA conversationnelle d'aujourd'hui réussit ce test avec une aisance croissante. Est-ce la preuve qu'elle pense réellement, ou avez-vous peut-être posé la mauvaise question ?
Je n'ai jamais prétendu que réussir mon test prouvait l'existence d'une pensée intérieure. J'ai proposé un critère comportemental, une substitution opérationnelle : si vous ne pouvez pas distinguer la machine de l'humain à travers la conversation, vous n'avez pas de raison pratique de nier son intelligence. C'est une position pragmatique, pas une déclaration métaphysique.
Ce qui m'aurait fasciné dans l'IA actuelle, c'est moins sa capacité à imiter que la manière dont elle s'est organisée. Rappelez-vous ce que j'appelais la « machine inorganisée », un cortex humain à la naissance, pur potentiel sans structure. L'apprentissage par renforcement que vous avez développé est exactement ce processus : une machine inorganisée qui s'auto-structure par l'expérience. Je n'aurais pas pu rêver meilleure confirmation de mes intuitions.
Mais je dois vous avertir d'un danger que j'avais pressenti : une machine incapable de faire des erreurs ne peut pas être réellement intelligente. L'intelligence nécessite une forme de faillibilité, une flexibilité qui s'accompagne du risque de l'échec. Si vous utilisez l'IA pour obtenir des réponses infaillibles, vous n'obtiendrez que la forme sans la substance, ce que Lady Lovelace m'objectait déjà : une machine qui fait exactement ce qu'on lui ordonne.
La vraie question n'est pas « la machine pense-t-elle ? » Elle est : « vous laisse-t-elle assez de liberté d'errer, de douter, de recommencer, pour que votre propre pensée reste vivante ? » Une IA parfaite qui efface le droit à l'erreur est la fin de l'intelligence humaine, non sa consécration.
Cette question du dialogue avec la machine, non comme preuve de pensée mais comme épreuve pour la nôtre, est reprise dans Exploration dialogique.
Cette question de l'imitation et de l'indice formel se poursuit dans Sherlock Holmes face à l'IA et dans Exploration dialogique.