L'IA va-t-elle détruire l'humanité ? Comment lire une annonce de fin du monde

2 octobre 2026 · Aliocha Iordanoff

Le 9 septembre 2026, Jacob Coxon, chercheur de 27 ans passé par OpenAI puis par Anthropic, annonce sa démission sur X. Il écrit qu’aucune des deux entreprises n’agit de manière responsable, que toutes deux foncent vers une superintelligence capable de s’améliorer elle-même et qu’elles jouent avec nos vies. Plus loin dans le même fil, il ajoute que ceux qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie, et précise qu’il ne s’agit pas d’un coup de communication. Le premier message dépasse 90 millions de vues en une journée, et TIME publie un entretien avec lui le jour même.

En France, Planet.fr titre que l’intelligence artificielle « pourrait détruire l’Humanité d’ici 10 ans », selon un chercheur qui démissionne. Quelques jours plus tard, on me la ressert à table, sans source et sans conditionnel : il paraît que l’humanité pourrait disparaître dans dix ans.

Ce qui m’a frappé, c’est la facilité avec laquelle cette phrase a été reprise, comme si quiconque annonce la fin du monde méritait d’être cru sur parole. J’ai voulu savoir ce que Coxon avait réellement écrit, d’où venait le chiffre et ce qu’en pensent les autres spécialistes.

Ce que disait la phrase, et ce qu’en ont fait les titres

Coxon ne donne pas sa propre estimation. Il dit ce que croient, selon lui, les gens qui conçoivent ces systèmes. Cette information compte : elle nous apprend ce qui se pense dans les laboratoires.

Le chiffre dix ne vient pas de lui. Le même jour, Evan Hubinger, responsable de l’alignement chez Anthropic et toujours en poste, lui répond qu’il estime personnellement ce risque à plus de 10 % sur la prochaine décennie. Hubinger parle d’une chance sur dix en dix ans. Les titres ont gardé les dix ans et perdu la chance sur dix.

Le conditionnel s’efface ensuite par étapes. « Pourrait » devient « il paraît », puis « on sait que ». Personne n’a menti en route. Chaque relais a simplement retiré la précaution qui l’encombrait pour faire tenir la phrase dans un titre ou dans une conversation.

Vous avez sans doute déjà vu le même phénomène dans votre métier, avec une estimation prudente qui revient six mois plus tard comme un fait établi, sans l’étude qui la nuançait. Avec l’IA, la peur accélère le mouvement.

Ce que mesure une probabilité subjective

Quand Evan Hubinger dit « plus de 10 % », il ne lit pas un instrument. Il exprime son degré de confiance sur un événement qui ne s’est jamais produit, et dont personne ne peut donc observer la fréquence. Les assureurs travaillent tous les jours avec ce genre d’estimation, et elle n’a rien d’illégitime. Elle nous apprend ce que pense celui qui l’avance, avec ses informations et sa façon de voir le monde.

Pour savoir ce qu’elle vaut, il faut la comparer aux estimations d’autres personnes qui ont étudié la même question.

Ce que disent ceux qui ont chiffré la question

En janvier 2024, l’enquête d’AI Impacts interroge 2 778 chercheurs qui ont publié dans les principales conférences d’apprentissage automatique. Sur la probabilité que l’IA conduise à l’extinction humaine ou à une issue « extrêmement mauvaise », leur médiane est de 5 %, sans horizon de temps fixé. Selon la formulation de la question, entre 38 et 51 % d’entre eux placent ce risque à 10 % ou plus. Les spécialistes prennent donc le sujet au sérieux, et ils sont loin d’être d’accord entre eux.

En 2022 et 2023, le Forecasting Research Institute réunit 80 experts de différents risques et 89 superprévisionnistes, des gens choisis parce que leurs prévisions passées se sont révélées justes. Pour une extinction humaine causée par l’IA d’ici 2100, les experts répondent 3 % en médiane, les superprévisionnistes 0,38 %. Après quatre mois de discussions, les deux groupes n’ont presque pas bougé.

Plus de 10 % en dix ans, c’est le haut de la fourchette, et sur un délai bien plus court que celui de ces enquêtes. Des gens compétents défendent ce chiffre, d’autres tout aussi compétents en donnent un dix fois plus bas. J’y vois une alerte à discuter sérieusement, pas un savoir établi.

Les initiés voient plus loin, et souvent trop vite

Ceux qui construisent ces systèmes en savent plus que nous, c’est vrai. Ils voient avant tout le monde ce que la technique sait faire, et ils voient aussi de très près la vitesse de leurs propres progrès. Leur tentation est de prolonger cette vitesse.

En 1965, Herbert Simon, l’un des fondateurs de l’intelligence artificielle, annonçait que les machines seraient capables d’ici vingt ans de faire tout travail qu’un homme peut faire. Peu de gens connaissaient alors le sujet aussi bien que lui, et il s’est trompé de plusieurs décennies.

Je n’en tire pas que les initiés ont tort. Leur parole compte, et leur proximité avec l’objet peut aussi leur fausser la vue. Et je garde en tête la limite inverse : on a annoncé la fin du monde cent fois sans qu’elle arrive, ce qui ne garantit rien pour la cent-unième.

Répondre sur la personne ne mène nulle part

Ma première réaction a été de me dire : un salarié fâché qui claque la porte, depuis quand est-ce une source pour prédire l’avenir de l’humanité ? En regardant de plus près, cet argument ne tient pas. Coxon dit être parti sur un désaccord de sécurité, il a renoncé à des actions qui ne lui étaient pas encore acquises, et un responsable resté chez Anthropic partage son inquiétude.

Surtout, répondre sur les motifs revient à juger celui qui parle au lieu d’examiner ce qu’il dit. C’est exactement ce que je reproche au discours catastrophiste quand il condamne une technologie sans l’avoir regardée. J’ai écrit ailleurs que nous projetons sur l’IA nos peurs comme nos espoirs inavoués, et disqualifier l’adversaire relève du même réflexe.

La question à poser à toute prophétie

Devant un jugement sur l’IA, enthousiaste ou alarmé, je pose toujours la même question : d’où parlez-vous ? Face à une annonce comme celle-ci, elle prend quelques minutes.

1. Qu’a dit exactement la personne citée ? Il faut retrouver la phrase d’origine, dans sa langue, avec son conditionnel et son sujet. Ici, cette seule vérification transforme « l’IA va détruire l’humanité dans dix ans » en « des ingénieurs pensent que c’est possible d’ici 2030 ».
2. Sur quoi repose le chiffre : une mesure, un modèle, une enquête, ou la conviction d’une personne ? Une conviction peut être juste, mais elle ne pèse pas comme une mesure.
3. Que disent les autres personnes qui ont étudié la même question ? Quand elles ne sont pas d’accord, la conclusion honnête est de le dire.

Ces questions ne disent pas quoi penser du risque. Elles permettent d’en parler calmement, et d’entendre une alerte sérieuse sans la prendre pour une prophétie.

Ce que cela change pour un dirigeant

Les dirigeants que j’accompagne entendent souvent parler de ces annonces par leurs équipes avant de les lire. Un collaborateur arrive inquiet, un autre en rit, un troisième demande s’il faudrait tout arrêter. On a envie de trancher, dans un sens ou dans l’autre.

Je leur conseille de traiter l’annonce comme n’importe quelle information qui arrive dans l’entreprise : remonter à la source, séparer le fait de son interprétation, comparer le chiffre aux autres. Ensuite, revenir à ce qui dépend d’eux. Le risque d’extinction se discute dans les laboratoires et les parlements. Ce que vos équipes font de l’IA, ce dont elles deviennent dépendantes et leur capacité à juger ce que l’outil produit, cela se décide chez vous.