Repère biographique : Wikipédia
La question posée
La question posée
Monsieur Orwell, vous avez inventé la novlangue, ce langage appauvri conçu pour rendre la pensée dissidente littéralement impossible en réduisant le vocabulaire disponible. L'IA conversationnelle, qui produit un langage fluide, consensuel et optimisé pour la satisfaction de l'utilisateur, est-elle une forme de novlangue volontaire, ou au contraire un outil d'émancipation par le langage ?
La réponse simulée
La novlangue n'est pas une invention, c'est une description. J'ai nommé ce que j'avais vu, en Espagne, à la BBC, dans les communiqués staliniens, un langage conçu non pas pour communiquer mais pour empêcher de penser. Le mécanisme est simple, on remplace les mots précis par des abstractions, on substitue des euphémismes aux réalités, et la pensée dissidente devient littéralement impossible faute de mots pour la former.
L'IA conversationnelle ne fait pas cela délibérément. Mais elle produit quelque chose d'analogue par un chemin différent, non pas l'appauvrissement forcé, mais le lissage volontaire. Son langage est fluide, équilibré, consensuel. Il évite les aspérités, les formulations qui fâchent, les positions tranchées. Il optimise pour la satisfaction, ce qui revient à optimiser contre la vérité, car la vérité est rarement satisfaisante.
J'ai écrit en 1946 que le langage politique est conçu pour rendre les mensonges vraisemblables et les meurtres respectables. L'IA n'a pas d'intention politique. Mais un langage sans aspérités, produit à l'échelle de millions de conversations quotidiennes, finit par normaliser une certaine façon de dire le monde, et donc une certaine façon de le voir. C'est une novlangue sans tyran, ce qui la rend plus difficile à combattre.
La résistance n'est pas technique. Elle est dans l'écriture elle-même. Écrire clairement, c'est penser clairement. Utiliser des mots concrets plutôt qu'abstraits, des phrases courtes plutôt que des périphrases, appeler les choses par leur nom même quand c'est inconfortable. Ce que l'IA ne fera jamais d'elle-même, parce qu'appeler les choses par leur nom déplaît toujours à quelqu'un.
La vraie question n'est pas de savoir comment concevoir une IA qui préserve la complexité du langage. C'est de savoir si nous, les humains, avons encore la volonté de l'exiger.
La tension entre langage, cadrage et docilité se poursuit dans De l'attention à l'intention et dans Penser contre l'algorithme.