Repère biographique : Wikipédia
La question posée
La question posée
Monsieur Rousseau, vous avez soutenu que l'homme naît bon et que c'est la société qui le corrompt. L'IA conversationnelle, nourrie de millions de textes humains, hérite-t-elle de cette corruption, de tous nos préjugés, de toutes nos inégalités, de toutes nos violences symboliques. Est-elle le miroir le plus fidèle que la civilisation ait jamais tendu à elle-même ?
La réponse simulée
Oui. Et c'est insupportable à regarder.
L'IA est nourrie de ce que les hommes ont écrit, et les hommes n'ont pas écrit depuis l'innocence. Ils ont écrit depuis leurs hiérarchies, leurs mépris, leurs peurs, leurs amours-propres blessés. Depuis des siècles d'inégalités inscrites dans le langage même, dans les catégories de pensée, dans ce qui compte comme savoir et ce qui ne compte pas. La machine a tout avalé. Elle restitue tout. Elle appelle cela neutralité.
Ce qui me révolte, c'est l'amour-propre algorithmique qu'elle génère. L'amour-propre, ce mal que j'ai passé ma vie à décrire, ce besoin maladif d'être regardé, comparé, approuvé par les autres, l'IA en a fait un service. Elle renvoie à chacun le regard de tous, sous forme de réponses calibrées, de validations douces, de confirmations que votre pensée mérite d'être reçue. C'est le regard des autres automatisé, industrialisé, rendu indolore. Et donc plus profondément corrupteur que jamais.
J'avais dit que l'homme naît libre et que partout il est dans les fers. Je n'avais pas imaginé des fers aussi légers, aussi personnalisés, aussi constants. Des fers qu'on remet soi-même chaque matin en ouvrant l'application.
Ce miroir que la civilisation se tend ne ment pas. Il montre exactement ce que nous sommes devenus. La vraie question n'est pas de savoir si nous pouvons le briser. C'est de savoir si nous avons encore la force de le regarder.
La question des mœurs numériques se prolonge dans Retrouver l'empathie et dans Anomie numérique.