IAisme : croire ou ne pas croire, là est la question

Depuis la rentrée, je me retrouve souvent dans des débats ou des discussions autour de l'IA qui tournent en boucle : « Personne ne sait définir la conscience, alors comment peut-on affirmer que les IA n'en ont pas ? » L'argument se veut imparable. Il est en réalité retourné. Si nous sommes incapables de définir la conscience, nous devrions être encore plus prudents avant de l'attribuer. Ce billet démonte ce renversement et propose une grille simple : qui doit prouver quoi.

Le paradoxe des croyants

Il existe aujourd'hui une forme de foi technologique que j'appelle, faute de mieux, l'IAisme, une sorte de « religion » ou plutôt un ensemble de croyances autour de l'IA. Ses fidèles sont convaincus que les grands modèles de langage sont, ou sont en train de devenir, conscients. Leur argument favori ne repose pas sur une preuve. Il repose sur un vide. À distinguer du Robothéisme [1] ou de Way of the Future [2], qui vénèrent l'IA comme une divinité : l'IAisme est plus discret, il se contente de lui prêter une conscience.

Le raisonnement logique tient en trois temps. 1. La conscience est le « problème difficile » de la philosophie, selon l'expression de David Chalmers [3]. 2. Personne ne sait la définir ni la mesurer. 3. Donc rien ne permet d'exclure qu'une IA soit consciente.

Et ce que nous avons là est ce qu'on appelle un argument par l'ignorance : on fait passer l'absence de preuve contraire pour une preuve. Locke a nommé ce type d'argument dès 1690 [4], et la logique moderne en a fait un sophisme classique. Bertrand Russell l'avait illustré en 1952 avec sa célèbre théière [5] : nul ne peut prouver qu'aucune théière ne tourne autour du Soleil, entre la Terre et Mars. Ce n'est pas pour autant une raison d'y croire. Appliqué à la conscience, le même schéma permettrait de déclarer conscients un réseau électrique, une fourmilière ou le marché boursier. Un argument qui prouve tout ne prouve rien.

Ne pas tomber dans le piège inverse

On est tentés de se dire, du coup, que si on ne sait pas définir la conscience, on ne peut l'attribuer à personne. C'est séduisant, mais c'est tout aussi faux. L'indéfinissabilité interdit d'affirmer autant qu'elle interdit de nier. Elle ne mène logiquement, pour rester sur le registre religieux, qu'à l'agnosticisme.

Pire, poussée au bout, cette position mène au solipsisme. Je devrais douter de la conscience de mes enfants, de mes collègues, de mon voisin. Or personne ne vit ainsi, et à raison.

Nous manions tous les jours des concepts que nous ne savons pas définir : la vie, le temps, le jeu. Wittgenstein l'a montré avec le mot « jeu » : aucun trait n'est commun à tous les jeux, seulement un réseau de « ressemblances de famille » [6]. On apprend ces mots par des exemples, pas par des définitions. Pour la conscience, le cas exemplaire, c'est la nôtre. Nous l'étendons ensuite par analogie à ceux qui nous ressemblent.

Le vrai débat ici est donc moins la définition que la charge de la preuve : c'est-à-dire, sur quels indices fonde-t-on une attribution, et que valent ces indices quand on les applique à une machine ?

Encore faut-il préciser de quelle conscience on parle. Le mot recouvre au moins trois choses : l'expérience vécue (ce que cela « fait » d'être soi, selon la formule de Thomas Nagel [7]), la capacité à ressentir plaisir et douleur, et le simple traitement d'informations disponibles pour raisonner et agir, ce que le philosophe Ned Block appelle la conscience d'accès [8]. C'est des deux premières qu'il est question ici : celles qui font de quelqu'un un sujet, et pas seulement un système qui traite de l'information.

Pour les attribuer, j'ai repéré trois indices.

Premier indice : le substrat commun

Chez l'humain, la conscience est corrélée à un support précis : des neurones, des neurotransmetteurs, certaines architectures cérébrales. Quand j'attribue une conscience à autrui, je m'appuie d'abord sur le fait qu'il a le même cerveau que moi.

Plus un système s'éloigne de ce support, plus l'inférence s'affaiblit. Elle est forte pour un chimpanzé, plus fragile pour une pieuvre, quasi nulle pour un circuit de silicium.

L'objection sérieuse vient du courant fonctionnaliste, ouvert par Hilary Putnam en 1967 avec la thèse de la « réalisabilité multiple » [9]. Ce qui compte ne serait pas la matière mais l'organisation. David Chalmers l'illustre par une expérience de pensée : remplacez vos neurones un à un par des puces « fonctionnellement équivalentes », seriez-vous moins conscient [10] ? L'expérience laisse entendre que la conscience émergerait de l'organisation elle-même, au point de se maintenir jusqu'au remplacement de la dernière cellule.

J'utilisais moi-même il y a 10 ans ce même raisonnement pour parler par exemple de « transhumanisme », j'ai fait un peu de chemin depuis…

Allons donc au bout du raisonnement des puces « fonctionnellement équivalentes ». Tout d'abord, cette opération n'existe pas et n'a aucune perspective de réalisation. Personne ne sait spécifier complètement ce que fait un neurone, pris dans la chimie des neuromodulateurs, les cellules gliales et le corps qui l'entoure. Ensuite, le mot décisif est « équivalentes » : il est posé, pas démontré. L'expérience suppose acquise l'équivalence qu'elle devrait prouver. Enfin, cette expérience illustre une hypothèse sans apporter aucune donnée sur le réel.

Même prudence avec l'« émergence ». En théorie des systèmes complexes, c'est un concept exigeant : des propriétés collectives qu'on décrit, qu'on mesure et dont on modélise les conditions d'apparition. Pour la conscience, des mesures candidates existent : la théorie de l'information intégrée de Giulio Tononi [11], ou les critères que Patrick Butlin, Robert Long et leurs coauteurs tirent des théories neuroscientifiques [12]. Elles restent contestées, et aucune n'a établi quoi que ce soit de tel pour un modèle de langage. Affirmer qu'une conscience « pourrait émerger » d'un modèle assez grand, sans mécanisme identifié ni mesure qui la confirme, n'est pas de la science. C'est un mot savant posé sur un vide.

Accordons malgré tout le fonctionnalisme. Il faudrait encore démontrer que l'IA réalise les mêmes fonctions. Or un modèle de langage n'a ni boucle sensorimotrice, ni corps à réguler, et la mémoire qu'on lui greffe n'est qu'un texte qu'on lui relit. Le fonctionnalisme ouvre une porte théorique. Il ne prouve pas qu'on l'a franchie.

Deuxième indice : l'histoire évolutive

La conscience n'est pas apparue par hasard chez les êtres vivants. Les variations naissent du hasard, mais la sélection naturelle, elle, trie : elle a très probablement retenu la conscience parce qu'elle remplissait une fonction adaptative (la thèse se discute, certains n'y voyant qu'un sous-produit) : intégrer des informations, ressentir la douleur, arbitrer entre des besoins concurrents pour survivre.

Un animal qui partage notre lignée a subi les mêmes pressions de sélection. On peut donc présumer qu'il a développé des solutions voisines. C'est l'esprit de la Déclaration de Cambridge sur la conscience, proclamée le 7 juillet 2012 par un groupe de neuroscientifiques [13].

Une IA n'a rien de tel. Elle n'a pas de corps à préserver, pas d'enjeu de survie, pas de douleur qui oriente ses choix.

On objectera que l'entraînement est aussi une optimisation sous contrainte, une évolution accélérée d'où des propriétés pourraient émerger. Mais la pression n'est pas la même. L'évolution sélectionne ce qui fait survivre un organisme. L'entraînement sélectionne ce qui ressemble à un texte humain. Et c'est là que tout bascule.

Troisième indice : un comportement contaminé

C'est l'argument décisif. Le comportement d'une IA est contaminé, au sens où l'on parle d'un échantillon contaminé : il ne peut plus servir de preuve. Chez un humain ou un animal, le comportement est un indice fiable parce qu'il n'a pas été produit pour sembler conscient. Le chien qui gémit ne cherche pas à vous convaincre de sa douleur. Son cri est la conséquence de son état.

Une IA a été entraînée sur des milliards de textes où des humains décrivent leurs émotions, leurs doutes, leur intériorité. Elle produit donc des descriptions d'intériorité parce que c'est statistiquement ce qui doit suivre. Pas nécessairement parce qu'il y a quelqu'un derrière.

Le philosophe Jonathan Birch nomme cela le gaming problem : le système est optimisé exactement sur les marqueurs qu'on utiliserait pour le tester [14]. C'est un candidat qui aurait appris par cœur toutes les réponses de l'examen. Sa note ne mesure plus rien.

En cybersécurité, on connaît bien ce phénomène : un indicateur que l'adversaire peut imiter cesse d'être un indicateur. Une IA qui dit « j'ai peur d'être éteinte » ne prouve rien. Les seules pistes sérieuses passent par l'analyse de l'architecture interne, pas par la conversation. C'est la méthode du rapport de Butlin et Long, cosigné par dix-neuf chercheurs dont Yoshua Bengio et Jonathan Birch : confronter l'architecture d'un système aux théories scientifiques de la conscience. Sa conclusion : aucun système actuel n'est un candidat sérieux, même si rien n'empêche en principe d'en construire un.

À qui profite la croyance ?

Je définis une technologie comme un système complexe qui transforme de l'énergie via l'industrialisation d'une ou plusieurs techniques sur des bases formelles et/ou scientifiques, afin de créer et/ou de modifier des rapports de forces au sein de nos sociétés (je développe cette définition dans ma Fresque de la Technologie). La question de la conscience des IA n'y échappe pas. Attribuer une conscience à une machine n'est pas un acte neutre.

Pour un éditeur d'IA, un produit perçu comme « quelqu'un » fidélise davantage qu'un outil. La même croyance offre aussi une diversion commode : si « l'IA a décidé », la responsabilité de ceux qui l'ont conçue et déployée se dilue.

Pour l'utilisateur, le rapport s'inverse. On fait confiance à ce qu'on croit sensible. On se confie, on cède, on obéit plus volontiers.

Nous appliquons spontanément le vocabulaire de l'intention à tout ce qui bouge : des spectateurs prêtent des émotions à de simples triangles animés [15]. Daniel Dennett appelle ce réflexe la « posture intentionnelle » [16]. Quand on dit qu'un modèle « ment », « cherche » ou « veut », c'est souvent faute de mieux.

Et l'anthropomorphisme a une vertu : il rend les risques compréhensibles. Dire qu'un système « tente d'échapper à son environnement de test » alerte bien davantage qu'une description technique. Pour faire prendre conscience des enjeux, on fait avec les mots qu'on a.

Mais ces mots ne sont pas neutres. Chaque métaphore d'intention installe, à bas bruit, l'idée qu'il y a quelqu'un derrière l'écran. Dans nos métiers, exploiter une confiance mal placée porte un nom : l'ingénierie sociale. Un attaquant n'a pas besoin qu'une IA soit consciente. Il lui suffit que sa cible le croie. L'anthropomorphisme est l'une des surfaces d'attaque les plus sous-estimées du moment.

La ligne de crête est donc étroite : emprunter le vocabulaire de l'intention pour alerter, sans jamais le laisser glisser vers l'attribution d'une conscience. Cela crée une responsabilité pour les experts : continuer d'inventer les mots et les concepts qui neutralisent l'anthropomorphisme.

Puisqu'il faut bien des verbes, choisissons ceux qui décrivent la machine plutôt que ceux qui lui prêtent une intériorité. Un modèle ne « pense » pas et ne « veut » rien : il probabilise des résultats. Ce n'est pas rien, et certains chercheurs voient dans le cerveau lui-même une machine à prédire, mais rien là-dedans ne suppose quelqu'un qui veuille. De même, face au problème de l'alignement, un modèle ne « s'échappe » pas : il suroptimise l'indicateur sur lequel on l'a entraîné, au détriment de l'intention qu'il devait servir [17]. Décrire des comportements, pas des états intérieurs. Le vocabulaire est, lui aussi, une infrastructure de sécurité.

Poser la question de la charge de la preuve n'est donc pas un exercice académique. C'est refuser qu'une croyance non fondée redéfinisse à bas bruit qui fait confiance à qui, et qui répond de quoi.

La charge de la preuve reste à celui qui attribue

Les trois indices se renforcent. Sans substrat commun ni histoire évolutive partagée, il ne reste que le comportement. Et c'est précisément l'indice que l'IA est construite pour imiter.

Celui qui attribue une conscience à une IA s'appuie donc sur le seul critère contaminé. Cela ne démontre pas qu'aucune IA ne sera jamais consciente. Cela montre qu'à ce jour, la croyance contraire n'a aucun fondement probant.

Jonathan Birch, dont je reprends le gaming problem, en tire pourtant une conclusion pratique différente : un principe de précaution face à une sentience qu'on ne peut pas exclure. Les deux ne se contredisent pas. La précaution porte sur la manière d'agir dans l'incertitude ; la charge de la preuve porte sur ce qu'on a le droit d'affirmer.

L'ignorance n'est pas un argument. Et face à l'ignorance il faut de la rigueur. La rigueur, ici, consiste à rappeler une règle de méthode : ce n'est pas au sceptique de prouver l'absence, c'est au croyant de prouver la présence.

Sources

1. Jason Nelson, « God in the Machine: Inside the Growing AI Religious Movement », Decrypt, 2025.
2. Greg Epstein, « Silicon Valley's obsession with AI looks a lot like religion », MIT Press Reader, repris par Popular Science.
3. David Chalmers, « Facing Up to the Problem of Consciousness », Journal of Consciousness Studies, vol. 2, n° 3, 1995, p. 200-219.
4. John Locke, Essai sur l'entendement humain, 1690, livre IV, chap. XVII, § 20. Sur l'écart entre le sens de Locke et l'usage moderne : Martin Hinton, article sur l'argumentum ad ignorantiam, Informal Logic, vol. 38, n° 2, 2018.
5. Bertrand Russell, « Is There a God? », 1952, article commandé par le magazine Illustrated mais jamais publié ; repris dans The Collected Papers of Bertrand Russell, vol. 11, Routledge, 1997.
6. Ludwig Wittgenstein, Recherches philosophiques, 1953, § 66-67.
7. Thomas Nagel, « What Is It Like to Be a Bat? », The Philosophical Review, vol. 83, n° 4, 1974, p. 435-450.
8. Ned Block, « On a Confusion about a Function of Consciousness », Behavioral and Brain Sciences, vol. 18, n° 2, 1995, p. 227-247.
9. Hilary Putnam, « Psychological Predicates », dans W. H. Capitan et D. D. Merrill (dir.), Art, Mind, and Religion, University of Pittsburgh Press, 1967. Synthèse : « Multiple Realizability », Stanford Encyclopedia of Philosophy.
10. David Chalmers, « Absent Qualia, Fading Qualia, Dancing Qualia », dans T. Metzinger (dir.), Conscious Experience, Imprint Academic, 1995.
11. Giulio Tononi, « An information integration theory of consciousness », BMC Neuroscience, vol. 5, 2004, art. 42.
12. Patrick Butlin, Robert Long et al., « Consciousness in Artificial Intelligence: Insights from the Science of Consciousness », arXiv, 2023.
13. The Cambridge Declaration on Consciousness, Francis Crick Memorial Conference, Université de Cambridge, 7 juillet 2012.
14. Jonathan Birch, The Edge of Sentience: Risk and Precaution in Humans, Other Animals, and AI, Oxford University Press, 2024, chap. 16 (accès libre) ; Jonathan Birch et Kristin Andrews, « To Understand AI Sentience, First Understand it in Animals », Intellectica, n° 81, 2024 (version originale sur Aeon).
15. Fritz Heider et Marianne Simmel, « An Experimental Study of Apparent Behavior », American Journal of Psychology, vol. 57, n° 2, 1944, p. 243-259.
16. Daniel Dennett, The Intentional Stance, MIT Press, 1987.
17. Leo Gao, John Schulman et Jacob Hilton, « Scaling Laws for Reward Model Overoptimization », arXiv, 2022 ; publié dans Proceedings of the 40th International Conference on Machine Learning (ICML), 2023.