Les prédictions sur l'IA ? Même pas fausses

On raconte que Wolfgang Pauli, physicien au caractère difficile, reçut un jour l'article d'un jeune collègue. Il le lut et rendit son verdict : ce n'est même pas faux.

Cette formule a traversé le temps et est aujourd'hui consacrée, comme on peut le lire sur Wikipédia, pour décrire des explications qui paraissent scientifiques mais reposent sur un raisonnement injustifié ou sur des hypothèses qui ne peuvent pas être prouvées ni réfutées.

Là où un énoncé faux peut être réfuté, voire corrigé, un énoncé qui n'est même pas faux ne donne aucune prise à cette correction, faute d'avoir jamais été formulé de façon à pouvoir être démenti.

Au mieux, cet énoncé occupe l'espace et ajoute au bruit. Au pire, il devient une prophétie auto-réalisatrice, qui pousse ceux qui l'entendent dans des directions à l'opposé de leurs propres intérêts.

Luciano Floridi, Jessica Morley et Claudio Novelli viennent de publier un papier qui applique ce diagnostic, méthodiquement, à toute la pratique publique de prédiction sur l'arrivée de l'intelligence artificielle générale. Soixante-six pages, vingt-quatre prédictions retenues, de Turing en 1950 à Musk en 2026. C'est le premier audit prédiction par prédiction de ce corpus, et le résultat mérite d'être connu au-delà du cercle des philosophes des sciences.

La méthode appliquée par les chercheurs

Pour juger ce que vaut une prédiction sur l'IA, les trois chercheurs ont commencé par renverser la question. Ils ne notent pas les prédictions sur leur justesse. Ils les notent sur leur capacité à être réfutées : une prédiction qu'aucun résultat ne pourrait démentir ne peut pas davantage être créditée d'avoir eu raison.

Leur protocole tient en deux examens, dans cet ordre.

Le premier examen demande ce que la prédiction exclut. Une prédiction n'est réfutable que si elle rend certains avenirs incompatibles avec elle : si tel état n'est pas atteint à telle date, elle a tort. Celle qui n'exclut rien s'accommode de tout ce qui arrivera, et c'est là qu'elle cesse d'être vérifiable. Quatre contrôles y répondent, et ils sont solidaires : un seul échec fait tomber l'examen, et avec lui toute prétention de la prédiction à pouvoir être réfutée.

1. L'état annoncé est-il défini ? Assez précisément pour que deux spécialistes s'accordent sur ce qui est affirmé, sans avoir à appeler l'auteur.
2. La mesure est-elle nommée ? Un protocole, ou une infrastructure de mesure qui existe déjà.
3. La date est-elle fermée ?
4. Un tiers peut-il trancher ? Sans recourir à l'interprétation que le prédicteur donnera après coup.

Chaque contrôle vaut deux points, un seul lorsqu'il n'est qu'à demi satisfait. Chaque prédiction du corpus porte ainsi une note sur huit et, le cas échéant, le nom du critère qui a lâché. Celle qui échoue ici n'est pas fausse : elle n'est même pas fausse, et l'examen s'arrête pour elle.

Un exemple, et il oppose le même homme à lui-même. En 1958, Herbert Simon et Allen Newell annoncent qu'un ordinateur sera champion du monde d'échecs sous dix ans. En 1968, il suffit de regarder qui détient le titre : la prédiction excluait un avenir, celui où le champion est encore un humain, et c'est cet avenir-là qui est arrivé. Sept ans plus tard, le même Simon écrit que d'ici vingt ans, les machines seront capables de faire tout travail qu'un homme peut faire. Cette fois, aucun avenir n'est exclu : ni liste des travaux, ni seuil, ni arbitre, si bien qu'en 1985 comme aujourd'hui, on peut soutenir que la phrase s'est vérifiée aussi bien que le contraire. La première pouvait perdre. La seconde ne peut que durer.

Le second examen ne concerne que les survivantes dont l'échéance est écoulée. Deux questions : l'état annoncé s'est-il produit ? Et le test qui l'aurait montré mesurait-il vraiment ce qu'il prétendait mesurer ?

Ce second point est le plus fin du papier : on peut avoir raison pour de mauvaises raisons, quand le test tombe juste mais mesurait autre chose que ce qu'il annonçait. Le passage du test de Turing revendiqué en 2014 en donne la forme. Le programme y tenait le rôle d'un adolescent ukrainien de treize ans s'exprimant mal en anglais : le personnage absorbait les maladresses qui auraient trahi la machine, et le seuil était franchi sans que l'imitation ait rien prouvé. Un score obtenu par des chemins étrangers à ce que le test prétend nommer n'est pas une preuve faible de la capacité visée. Ce n'est pas une preuve du tout.

Le plus révélateur est que ce critère n'a jamais eu à servir. Les deux seules prédictions parvenues jusqu'au second examen ont échoué dès la première question, celle de la réalisation, et un état qui ne s'est pas produit ne pose aucune question sur la valeur du test qui l'aurait constaté. La première occasion viendra peut-être d'AI 2027, l'une des trois prédictions encore ouvertes. C'est un scénario publié en avril 2025 par l'AI Futures Project, un collectif fondé par un ancien de l'équipe gouvernance d'OpenAI, qui raconte mois par mois l'arrivée d'une IA surhumaine jusqu'à l'emballement de la fin 2027. Le texte a beaucoup circulé, et c'est aujourd'hui la prédiction datée la plus discutée. Sa réalisation se constaterait sur des scores obtenus à des batteries de tests, c'est-à-dire exactement le genre d'épreuves dont on sait qu'une machine peut les réussir sans détenir la capacité qu'elles prétendent mesurer.

Les résultats obtenus

Dix-neuf prédictions sur vingt-quatre, soit 79 %, ne sont même pas fausses. Deux, soit 8 %, pouvaient être réfutées et l'ont été. Trois, soit 13 %, restent ouvertes.

Et encore, ce barème est indulgent. Un critère à moitié rempli rapporte un demi-point et n'élimine pas : une date approximative, une mesure citée sans protocole, et la prédiction reste dans la course. Si l'on comptait chaque « à moitié » comme un échec, une seule du corpus passerait l'examen, celle des échecs, et les vingt-trois autres tomberaient d'un bloc. Les auteurs ont préféré l'indulgence, pour que le résultat vienne des prédictions elles-mêmes et non de la sévérité de leur grille. Les 79 % sont donc obtenus dans la lecture la plus favorable à ceux qui prédisent.

La faute revient toujours sous la même forme : une date posée sur un état que personne n'a défini, que rien ne mesure, et dont aucun tiers ne pourrait constater l'arrivée. La date donne l'apparence de la rigueur, il n'y a rien dessous. Et c'est ce dernier point, l'arbitrage, qui manque le plus souvent : dans un seul cas sur vingt-quatre, quelqu'un d'autre que l'auteur aurait pu trancher. En soixante-seize ans, presque personne n'a accepté de confier le verdict à un tiers.

Deux détails en disent plus que le pourcentage.

Les deux seules prédictions jamais réfutées datent de la première décennie : Turing en 1950, Simon et Newell en 1958. Ce n'est pas un hommage aux anciens, c'est un constat embarrassant. Les pionniers avaient pris des risques vérifiables, et ils les ont perdus. Leurs successeurs ont appris à ne plus s'exposer. Deep Blue a battu le champion du monde vingt-neuf ans après la date annoncée, et par la force de calcul brute plutôt que par les raisonnements humains que Simon et Newell imaginaient reproduire. On peut dire qu'ils avaient tort, et sur quoi exactement, uniquement parce qu'ils s'étaient engagés.

La qualité, elle, ne s'améliore pas. Les auteurs le disent prudemment, vingt-quatre cas ne suffisant pas à établir une tendance, mais la moyenne après 2000 n'est pas meilleure que celle d'avant. Les autres métiers de la prévision ont pourtant appris à travailler pendant ce temps. La météorologie annonce des probabilités et vérifie après coup si elles tombaient juste. L'épidémiologie donne des fourchettes plutôt que des dates. Les services de renseignement notent leurs analystes sur la justesse de ce qu'ils avaient annoncé, pour savoir qui se trompe et de combien. Rien de tout cela n'est passé chez ceux qui prédisent l'IA.

Le cycle de vie d'une prédiction

La partie la plus utile du papier, pour qui prend des décisions, décrit ce que devient une prédiction sous-spécifiée en circulant.

Il y a d'abord ce que les auteurs appellent la chaîne des conflations. Ce n'est pas une erreur de raisonnement commise par quelqu'un, c'est une déformation qui se produit pendant que l'information circule. Chacun généralise un peu ce qu'il a lu, et l'affirme un peu plus fermement que sa source.

L'enchaînement est toujours le même. Prenons un exemple. Un laboratoire publie que son modèle résout sept problèmes de programmation sur dix dans une batterie de tests. Un article en tire que l'IA sait programmer. Un deuxième en tire que des machines codent désormais sans supervision humaine. Un analyste en déduit qu'elles vont être déployées dans les entreprises. Un rapport chiffre les emplois de développeurs qui vont disparaître. Un plateau conclut que nous perdons le contrôle. Une remarque technique est devenue une question de survie de l'espèce en six phrases.

Or aucun de ces pas n'est une déduction. Réussir une batterie de tests ne prouve pas qu'un programme sache programmer ailleurs que sur ces tests. Savoir programmer n'implique pas qu'on le laisse travailler sans personne pour le relire. Et qu'on le puisse ne dit pas qu'on le fera, ni que ce serait fiable, légal ou rentable. Personne dans cette chaîne n'a pourtant menti : chacun peut montrer la phrase dont il est parti, et elle dit à peu près ce qu'il en a fait. L'écart entre le score du départ et la conclusion de l'arrivée, en revanche, aucun d'eux ne l'a franchi seul. Aucun n'a donc eu à le justifier, et aucun ne peut en être tenu responsable.

Vient ensuite le glissement modal. Ce qui a été offert comme possible est reçu comme probable, et un conditionnel est reçu comme une prévision. Les auteurs notent un effet pervers : les plus exposés à ce glissement sont ceux qui ont pris la peine d'énoncer une probabilité ou des conditions, puisqu'ils ont fourni exactement ce que le glissement supprime, et se retrouvent tenus à la version gonflée plutôt qu'à la leur.

Vient enfin le renouvellement par déplacement. Une prédiction que personne ne peut trancher ne meurt pas à sa date. Elle cesse simplement d'être d'actualité, et une nouvelle date succède à l'ancienne sans rétractation, sans analyse de l'écart, sans argument justifiant la révision. La méthode du papier en fournit elle-même l'illustration : les déclarations de Musk entre 2020 et 2026 comptent pour une seule entrée, et non cinq, parce que chacune reprend la même affirmation avec une date déplacée. Les compter séparément aurait laissé une pratique unique de réédition occuper cinq lignes du corpus.

Pourquoi cette pratique des prédictions dure encore ?

Le papier écarte explicitement l'hypothèse de la mauvaise foi individuelle, et c'est ce qui le rend crédible.

Il mobilise d'abord la littérature sur le jugement expert. Les conditions dans lesquelles un expert est fiable sont connues depuis Shanteau : un environnement stable, un accord sur l'objet jugé, une tâche répétée, un retour d'information qui permet de se calibrer. Appliquées à la prévision de délais en IA, huit de ces dix conditions sont défavorables et deux partielles. Aucune n'est favorable. Le problème n'est pas les personnes, c'est le type de tâche.

Il nomme ensuite ce qu'il appelle le sophisme des croyants. Le procédé tient en deux temps : on interroge une population qui adhérait déjà à une proposition, puis on présente son accord comme une preuve que la proposition est vraie.

C'est ce qui se passe quand on demande aux dirigeants de laboratoires d'IA dans combien d'années arrive l'AGI. On ne prend pas la tête d'une entreprise dont le but affiché est de construire une intelligence générale sans croire au préalable qu'elle est possible et qu'elle est proche : la conviction fait partie du poste. Les interroger, c'est donc sonder des convaincus sur l'objet même de leur conviction, et la moyenne de leurs réponses circule ensuite comme une estimation de la probabilité de l'événement.

Demander aux fidèles s'ils croient aux miracles renseigne sur les fidèles.

Il note enfin que la qualité d'une prédiction varie avec l'intérêt qu'a son auteur à être cru. Les prédictions émises par des entreprises du secteur obtiennent les notes les plus basses du corpus. Celles des universitaires font mieux, celles des organismes de recherche indépendants mieux encore. Dit autrement : plus on a d'argent à lever sur une annonce, moins cette annonce est vérifiable. Les auteurs se gardent d'y voir un calcul délibéré et notent seulement que ce classement est compatible avec leur hypothèse. La prudence est à leur crédit, parce qu'une corrélation pareille se prête trop bien au procès d'intention.

Et il ajoute une cause que nous regardons rarement en face : la demande. Les régulateurs, les institutions, la presse ont besoin d'objets de prévision pour fonctionner. Gouverner suppose quelque chose à gouverner, légiférer suppose quelque chose à encadrer, informer suppose quelque chose à raconter. « L'AGI en 2027 » est un objet sur lequel on peut écrire, même si personne ne sait dire ce que signifierait son arrivée à cette date. Ceux qui parlent s'ajustent à cette demande. Celui qui annonce une date est invité sur le plateau. Celui qui répond qu'il n'en sait rien, et propose une fourchette assortie de conditions, ne l'est pas. À ce jeu, la fausse précision gagne l'antenne et la rigueur la perd.

L'angle mort de l'étude

L'instrument a un angle mort, et les auteurs le savent. Les chercheurs posent dès l'introduction que ces prédictions ne décrivent pas seulement des futurs possibles mais sont des faits institutionnels qui contribuent à les déterminer, en conférant de la légitimité, en informant la politique publique et en orientant l'investissement. Puis ils s'arrêtent là. Une note de bas de page renvoie aux travaux qui étudient l'effet des promesses technologiques sur le réel, et précise que leur propre travail porte sur la forme des énoncés, pas sur ce qu'ils produisent. On ne peut pas le leur reprocher : une méthode qui mesure la réfutabilité ne mesure que cela, et déborder serait commettre la faute même qu'ils reprochent aux autres. Reste que l'effet de ces prédictions sur le monde est ce qui nous intéresse tous, et que personne ne s'en occupe ici.

Car leur méthode ne peut pas saisir cet effet, et ce n'est pas un oubli de leur part : c'est structurel. Leur grille examine une propriété de la phrase, ce qu'elle interdit d'arriver. Or une prophétie qui se réalise d'elle-même agit ailleurs : elle déplace le monde auquel on la comparera le jour de l'échéance. Cela ne se lit pas dans la phrase, cela se passe entre la phrase et le monde. Aucun des quatre critères ne peut le voir.

Or c'est exactement ce qui se produit. Quand le dirigeant d'un laboratoire annonce une date, il ne décrit pas un état du monde qu'il observe de l'extérieur. Il émet un signal qui déplace du capital, réoriente des carrières, ouvre des lignes de financement public et concentre l'effort de recherche sur la trajectoire annoncée. Il dispose d'une part significative des moyens de rendre vraie sa propre affirmation. La prédiction fait partie du mécanisme causal qu'elle prétend anticiper.

Il faudrait donc un cinquième critère, que le papier n'a pas : la prédiction agit-elle sur les conditions de sa propre réalisation, et celui qui la formule contrôle-t-il ces conditions ? Une prédiction émise par un acteur sans prise sur le terrain est simplement invérifiable. La même prédiction émise par celui qui tient une fraction du capital et des talents du secteur est partiellement performative, et le fait qu'elle finisse par se vérifier ne prouverait plus rien du tout.

Le plus ironique est que le seul cas historique documenté du papier fonctionne dans l'autre sens. En 1973, James Lighthill audite pour le gouvernement britannique les promesses non tenues de la recherche en IA. Son rapport déclenche le retrait des financements, et le champ britannique ne livre pas ce qu'il avait annoncé, faute de moyens de le faire. Premier hiver de l'IA. La prophétie de l'échec a produit l'échec. Les auteurs ouvrent leur papier sur cet épisode sans jamais se l'appliquer. Un audit qui conclut que les promesses du secteur ne valent rien est pourtant lui aussi un énoncé qui agit : pris au sérieux par ceux qui financent, il pourrait provoquer le second hiver qu'il se contenterait de décrire. Ce qui vaut pour la prophétie de l'abondance vaut pour celle de l'échec.

Ce que la cybersécurité devrait en apprendre

Je pourrais m'arrêter là et laisser le lecteur sourire des prophéties des autres. Ce serait malhonnête.

La sécurité offensive produit exactement le même genre d'énoncés, et nous en vivons. « Ce n'est pas une question de si, mais de quand » a la structure canonique de l'énoncé qui n'est même pas faux : un état non défini, aucun protocole, aucune date, aucun arbitre. Il ne peut pas être démenti, et c'est précisément pour cela qu'il se vend bien. « Le risque cyber va exploser dans les dix-huit mois » ne dit pas quel indicateur, mesuré comment, et qui le constatera. Nos rapports annuels de menace, nos scores composites, nos prévisions de surface d'attaque relèvent souvent du même régime. Nous datons sans définir, et nous sommes rarement ceux qui subissons le coût de l'imprécision.

La deuxième leçon est encore plus directe. Un bon score à un test ne prouve pas que la machine sache faire ce que le test prétend mesurer. Nous le savons dans notre domaine mieux que quiconque, puisque tout notre métier consiste à montrer qu'un système conforme n'est pas un système sûr. Le papier généralise cette intuition : un indicateur qui peut être produit sans que l'état visé soit atteint ne dit rien sur cet état. C'est vrai d'un certificat de conformité et c'est vrai d'un score sur une suite de tâches. Lire l'arrivée de l'AGI dans une courbe de benchmark, c'est refaire l'erreur que les benchmarks avaient été créés pour éviter.

Ce que les auteurs demandent

Les auteurs ne demandent à personne d'être plus prudent sur l'avenir. Ils demandent qu'on fasse la partie facile, celle qui ne coûte rien : dire ce qu'on annonce, comment on le mesurera, et qui le constatera.

Ils en tirent sept principes empruntés à la science du climat, à la prévision économique et à la recherche médicale. Trois portent l'essentiel. Annoncer une fourchette assortie d'une probabilité, plutôt qu'une date unique qui se donne des airs de certitude. Désigner l'arbitre avant de connaître la réponse, parce que celui qui se juge lui-même après coup trouve toujours que les faits lui ont donné raison. Et ne jamais mélanger la probabilité d'un événement avec sa gravité.

Ce dernier point mérite qu'on s'y arrête, parce qu'il vise l'alarmiste autant que le prophète. Pour décider s'il faut agir contre un risque, on croise deux choses : la probabilité qu'il survienne, et ce qu'il coûterait s'il survenait. Un danger très improbable mais catastrophique peut ainsi justifier d'agir autant qu'un danger probable et modéré.

Bostrom a montré où ce calcul se casse. Imaginez qu'un inconnu vous arrête dans la rue et vous réclame dix euros, faute de quoi il utilisera ses pouvoirs pour supprimer un milliard de vies. Vous n'y croyez évidemment pas. Il suffit pourtant que vous accordiez à son histoire une chance infime pour que le calcul vous ordonne de payer, et s'il sent que vous hésitez encore, il lui suffit d'annoncer un chiffre plus gros. C'est le piège que Bostrom appelle le racket de Pascal : celui qui menace choisit lui-même la taille de l'enjeu, donc il peut toujours l'augmenter jusqu'à écraser votre scepticisme, si solide soit-il.

Le débat sur l'IA prend cette forme dès que le mot extinction y est prononcé. Objecter qu'un scénario est peu probable n'a plus d'effet, puisque la réponse est toujours disponible : même à une chance sur mille, l'enjeu interdit de prendre le risque. Comme l'objection ne peut jamais gagner, personne ne perd plus de temps à établir la probabilité, et une conversation sur ce qui va arriver devient une conversation sur ce qu'on ne peut pas se permettre d'exclure. D'où la séparation que réclament les auteurs, sur le modèle du GIEC : un groupe dit ce qui va arriver, un autre ce qu'il en coûterait, un troisième ce qu'on peut y faire. Contester le premier ne revient pas à nier le second.

La conclusion tient en une ligne, et elle coupe dans les deux sens : la médiocrité des prédictions datées ne prouve pas que l'IA est sans danger, et la gravité du risque ne rend pas ces prédictions meilleures.

Les auteurs délimitent d'ailleurs eux-mêmes leur portée. L'arrivée de l'AGI reste une question ouverte, le risque peut être sérieux, et leur audit laisse ces deux questions exactement où il les a trouvées. Ils notent même que les arguments les plus solides sur le danger ne reposent sur aucune date : ils portent sur le type de système que la discipline a choisi de construire, et sur la difficulté de surveiller une machine dont on ne peut pas suivre le raisonnement.

Ils vont plus loin, et c'est ce qui m'a le plus surpris : ils écartent de leur corpus les textes qui avertissent sans dater, Wiener, Bush, la charte d'OpenAI. Non par indulgence, mais parce que s'abstenir de fabriquer une fausse précision est à leurs yeux une vertu, qui laisse au lecteur le soin de juger du calendrier plausible au lieu de lui en imposer un qui ne repose sur rien. C'est la distinction que je retiens. Le problème n'est pas l'alarme, c'est la précision empruntée.

Reste à savoir comment on obtient cette rigueur, et les auteurs ont pour cela la meilleure analogie du papier. L'enregistrement des essais cliniques, qui oblige un laboratoire à déclarer ce qu'il cherche avant de chercher, ne s'est pas imposé en demandant aux chercheurs d'être plus scrupuleux. Il s'est imposé le jour où les revues ont refusé de publier les essais non enregistrés. La rigueur volontaire n'arrive jamais seule. Elle arrive quand quelqu'un en fait une condition d'entrée.

En attendant, une prédiction qui ne peut pas être réfutée continue de servir de preuve : dans nos comités d'investissement, dans nos notes de cadrage, sur nos plateaux. Et quand elle émane de quelqu'un qui a les moyens de la rendre vraie, le jour où elle se réalise ne prouve toujours rien. Le coût n'est pas payé par ceux qui la formulent. Il est payé par ceux qui, dans le même espace, avancent des affirmations précises et vérifiables, et qui se les voient lire comme le reste.

Sources

1. Luciano Floridi, Jessica Morley et Claudio Novelli, Not Even Wrong 2: An Audit of Public AGI Prediction, 1950-2026, 13 septembre 2026, en accès libre sur SSRN.
2. Sur la formule de Pauli et ce qu'elle désigne : Même pas faux.
3. Nick Bostrom, Pascal's mugging, Analysis 69(3), 2009, pages 443-445. DOI : 10.1093/analys/anp062.
4. Sur l'audit de 1973 et le premier hiver de l'IA : Lighthill report, en anglais.
5. Le scénario cité plus haut : AI 2027, AI Futures Project, avril 2025, ai-2027.com.