Une atteinte à l'autonomie
Le fait que des systèmes invisibles puissent potentiellement prédire et modeler nos désirs et notre curiosité la plus intime, et que nous puissions subir une orientation subtile de nos pensées et de nos questions, touche à la notion même de libre arbitre et d'autonomie intellectuelle.
L'IA ne se contente plus d'être réactive en répondant à nos questions. En analysant le cheminement de nos interrogations passées, elle se positionne en amont. Elle apprend à anticiper et à prédire nos intentions, nos désirs, avant même que ces désirs ne s'expriment pleinement.
Le fond de commerce n'est plus de capter l'attention, mais d'anticiper nos intentions.
De l'attention à l'intention
Nous avions appris à nommer et à reconnaître l'économie de l'attention, cette industrie qui capte nos regards pour les monétiser. Ce que décrit le chercheur du Shorenstein Center de Harvard va plus loin : nous sommes entrés dans l'ère des architectes de l'intention, des systèmes qui ne se contentent plus de répondre à ce que nous voulons, mais qui façonnent ce que nous allons vouloir.
La distinction est décisive. Un système qui répond à nos questions respecte encore une forme de souveraineté de l'utilisateur. Un système qui prédit et oriente nos questions avant que nous les posions opère à un niveau plus profond, là où se forment les curiosités, les désirs, les projets de pensée.
Pourquoi cela exige une réponse consciente
Cette évolution rend d'autant plus nécessaire la pratique d'un dialogue délibéré et conscient avec ces outils, plutôt que d'un usage passif qui nous expose à cette orientation sans que nous en ayons conscience.
Source
Shorenstein Center on Media, Politics and Public Policy, Harvard University. From Attention Merchants to Intention Architects: The Invisible Infrastructure Reshaping Human Curiosity. Lire l'article