IA sous notre nez : l'aveuglement humain depuis 1946

Et si l'IA reproduisait notre aveuglement collectif ? Analyse d'un travers humain depuis 1946 et ce que les modèles de langage révèlent de nous.

En 1946, George Orwell signait un texte resté célèbre sur une habitude mentale étrange : celle qui consiste à tenir simultanément deux idées qui s’annulent. Dans le même journal, au même moment, on pouvait lire qu’il était impossible de trouver assez de mineurs pour extraire le charbon nécessaire, et juste à côté, que faire venir des travailleurs polonais ou allemands serait une mauvaise idée. Deux croyances contradictoires, dans la même tête, sans que cela ne choque personne. Transposez cela à l’intelligence artificielle et vous obtenez un miroir saisissant de nos propres contradictions actuelles.

Le paradoxe du charbon appliqué à l’IA

Reprenez la logique d’Orwell et remplacez les mineurs par des données, des GPU ou des ingénieurs. Nous affirmons d’un côté que l’intelligence artificielle va transformer nos métiers, accélérer la recherche, soigner des maladies. Et de l’autre, nous refusons d’investir dans les compétences, la formation, l’infrastructure ou la gouvernance nécessaires. Les deux discours cohabitent dans les mêmes réunions, parfois dans la même phrase.

Ce n’est pas de l’hypocrisie consciente. C’est un mécanisme cognitif bien documenté, que les psychologues appellent dissonance cognitive. Et c’est exactement ce que les modèles de langage reproduisent aujourd’hui, à grande échelle, parce qu’ils ont été entraînés sur nos textes.

Pourquoi les modèles de langage héritent de nos contradictions

Un modèle comme GPT, Claude ou Gemini n’invente pas ses opinions. Il synthétise ce que des millions d’humains ont écrit. Si nos écrits contiennent des affirmations contradictoires — et ils en contiennent — l’IA les absorbe et les restitue avec une aisance déconcertante.

L’illusion de la cohérence

Demandez à un modèle de langage de justifier une position, puis demandez-lui la position inverse. Il le fera avec le même aplomb, la même fluidité, la même conviction apparente. Ce n’est pas un bug : c’est le reflet fidèle de nos propres incohérences.

Le piège de la confiance aveugle

Comme le croyant face à la généalogie du Christ dans l’Évangile selon Matthieu, nous lisons une réponse d’IA sans relever qu’elle contredit ce qu’elle nous a dit deux paragraphes plus haut. La forme est si propre, si assurée, que le fond passe au second plan. C’est la version numérique du « je le vois bien, mais je continue à croire le contraire ».

Trois angles morts de notre rapport à l’IA

Cette tendance à ne pas voir ce qui est sous notre nez se manifeste aujourd’hui de façon très concrète dans notre usage de l’intelligence artificielle.

• Nous voulons des résultats fiables tout en utilisant des modèles dont nous ne comprenons ni les données d’entraînement ni les biais.
• Nous exigeons de la transparence tout en acceptant des boîtes noires propriétaires dans des décisions médicales, judiciaires ou financières.
• Nous craignons le chômage technologique tout en refusant de financer massivement la reconversion des métiers exposés.

Ces contradictions ne sont pas nouvelles. Elles sont simplement amplifiées par la vitesse et l’échelle de l’IA générative.

Comment sortir de l’aveuglement

La bonne nouvelle, c’est qu’Orwell ne se contentait pas de décrire le problème. Il pointait une solution implicite : nommer la contradiction. Rendre visible ce que l’on préfère ignorer. Appliqué à l’IA, cela donne quelques principes simples.

1. Exiger des sources et des traces de raisonnement, pas seulement des réponses bien tournées.
2. Confronter systématiquement un modèle à ses propres affirmations précédentes.
3. Former les équipes à repérer les incohérences, pas seulement à utiliser les outils.
4. Documenter publiquement les limites connues des systèmes déployés.
5. Traiter la contradiction comme un signal d’alerte, jamais comme un détail.

Pourquoi c’est important

Parce que l’intelligence artificielle ne nous rendra pas plus lucides si nous restons aveugles à nos propres contradictions. Elle les multipliera, les accélérera, les rendra plus convaincantes. Voir ce qui est sous notre nez — dans nos discours sur l’IA comme dans nos usages — c’est la condition pour que ces technologies servent réellement quelque chose de cohérent.

Conclusion

Quatre-vingts ans après Orwell, la leçon reste intacte. Le problème n’est pas tant ce que les machines pensent, mais ce que nous refusons de voir dans ce que nous leur demandons. Apprendre à tenir ensemble nos exigences et nos actes, c’est peut-être le vrai saut de qualité que l’IA nous oblige à faire. Et c’est une bonne nouvelle : cet effort-là ne dépend que de nous.

Points clés à retenir

• Les modèles de langage reproduisent fidèlement les contradictions présentes dans nos propres écrits.
• Tenir deux croyances opposées sans les confronter est un travers humain ancien, que l’IA amplifie.
• La fluidité d’une réponse d’IA ne garantit ni sa cohérence ni sa fiabilité.
• Nommer les contradictions est la première étape pour construire un usage lucide de l’IA.
• La lucidité face à l’intelligence artificielle commence par la lucidité sur nous-mêmes.