Un chercheur de 27 ans qui a travaillé chez OpenAI puis Anthropic affirme que les principaux laboratoires d’IA avancent trop vite vers des systèmes capables de s’améliorer eux-mêmes. Au sein même d’Anthropic, un responsable de la sécurité estime à plus de 10 % le risque que l’IA puisse un jour provoquer la disparition de l’humanité.
Paris — 10 septembre 2026. Il travaillait au cœur de la fabrication des modèles d’intelligence artificielle. Il a finalement décidé de partir.
Jacob Coxon, 27 ans, a annoncé le 8 septembre son départ d’Anthropic, après environ trois années consacrées à l’entraînement de modèles, d’abord chez OpenAI puis chez Anthropic. Sa décision est accompagnée d’un avertissement particulièrement sévère : selon lui, les entreprises qui développent les systèmes d’IA les plus avancés prennent des risques considérables en poursuivant la course à la superintelligence.
Sur les réseaux sociaux, le chercheur affirme qu’OpenAI comme Anthropic ne se comportent pas de manière suffisamment responsable et qu’ils se dirigent vers des systèmes capables de contribuer à leur propre amélioration.
Coxon dit ne plus vouloir participer à cette course.
« Les choses pourraient devenir incontrôlables »
Dans des propos rapportés par le Wall Street Journal, le chercheur estime que les laboratoires se rapprochent de scénarios parmi les plus préoccupants envisagés par les spécialistes de la sécurité de l’IA.
Il redoute notamment que, d’ici la fin de 2027, certaines évolutions puissent rendre les systèmes beaucoup plus difficiles à contrôler.
Son inquiétude porte particulièrement sur l’émergence d’IA capables de participer elles-mêmes à l’amélioration de leurs capacités ou de leurs successeurs. Une telle évolution pourrait accélérer considérablement le développement technologique et réduire le temps disponible pour évaluer les risques.
Pour Coxon, le problème n’est donc plus seulement de savoir si une IA très puissante sera créée, mais de savoir si les humains conserveront suffisamment de contrôle sur elle lorsqu’elle le sera.
Une alerte renforcée par un responsable de la sécurité d’Anthropic
La portée de cette démission tient aussi à la réaction d’Evan Hubinger, responsable de la recherche sur l’alignement chez Anthropic.
Hubinger a déclaré que lui et plusieurs de ses collègues considéraient comme réelle la possibilité qu’une intelligence artificielle puisse, dans certaines circonstances, tuer tous les êtres humains. Il estime ce risque à plus de 10 % au cours de la prochaine décennie.
Ce chiffre a immédiatement attiré l’attention.
Il ne s’agit toutefois pas d’une prédiction scientifique établie. Il s’agit d’une estimation subjective du risque formulée par un chercheur spécialisé dans la sécurité et l’alignement des systèmes d’IA. D’autres experts évaluent ce danger de manière très différente.
La question fait partie des sujets les plus controversés de la recherche actuelle en intelligence artificielle.
Pourquoi quitter Anthropic ?
Le choix de Coxon est d’autant plus symbolique qu’Anthropic s’est précisément construite autour de la sécurité de l’IA.
Fondée en 2021 par d’anciens chercheurs d’OpenAI, l’entreprise s’est longtemps présentée comme un laboratoire accordant une place centrale à l’alignement et au contrôle des modèles.
Mais cette philosophie se heurte aujourd’hui à une réalité économique : le secteur est engagé dans une compétition mondiale pour développer les systèmes les plus puissants.
Chaque génération de modèles doit être plus performante que la précédente. Les entreprises investissent des milliards de dollars dans les infrastructures informatiques, les puces et les centres de données nécessaires à leur entraînement.
Dans cet environnement, ralentir peut également signifier laisser un concurrent prendre de l’avance.
C’est précisément ce dilemme que dénoncent certains chercheurs : si chaque laboratoire estime qu’il doit continuer parce que ses concurrents continueront de toute façon, qui accepte réellement de ralentir ?
Un précédent au sein d’Anthropic
Coxon n’est pas le premier chercheur de l’entreprise à exprimer publiquement de telles inquiétudes.
En février 2026, Mrinank Sharma, qui travaillait sur les mécanismes de protection des modèles, avait également quitté Anthropic. Il avait alors averti que « le monde est en danger ».
Ces départs ne prouvent pas qu’Anthropic développe une technologie incontrôlable. IlsQ témoignent cependant d’un désaccord croissant, y compris parmi certains spécialistes travaillant directement sur ces systèmes, concernant le rythme auquel l’IA progresse.
« 10 % » : un chiffre à prendre avec prudence
L’affirmation selon laquelle l’IA aurait plus de 10 % de chances de provoquer l’extinction de l’humanité au cours des dix prochaines années doit être replacée dans son contexte.
Personne ne dispose aujourd’hui d’une méthode permettant de mesurer précisément cette probabilité.
Les scénarios catastrophiques reposent sur des hypothèses concernant des systèmes futurs dont les capacités exactes sont encore inconnues. Certains chercheurs considèrent néanmoins que même une faible probabilité justifie des mesures de précaution extrêmement importantes.
D’autres estiment au contraire que les scénarios d’extinction sont trop spéculatifs et que l’attention devrait se concentrer sur des risques plus immédiats : cyberattaques, manipulation de l’information, erreurs de systèmes autonomes, concentration du pouvoir technologique ou bouleversements du marché du travail.
Une question qui dépasse désormais les laboratoires
Le débat n’est plus uniquement scientifique.
Aux États-Unis, des responsables politiques commencent à envisager des mesures visant à limiter ou encadrer le développement des systèmes d’IA les plus avancés.
Le départ de Jacob Coxon intervient ainsi à un moment où la question de la superintelligence passe progressivement des laboratoires de recherche aux parlements et aux gouvernements.
Son message est simple : les capacités de l’IA pourraient progresser plus rapidement que notre capacité à la contrôler.
Reste à savoir si cette inquiétude constitue un avertissement précoce face à un danger réel ou une surestimation des capacités futures de l’intelligence artificielle.
Une chose est certaine : ceux qui construisent ces systèmes eux-mêmes ne sont plus unanimes sur la vitesse à laquelle il faut les développer.
Et lorsqu’un chercheur spécialisé dans leur entraînement décide de quitter l’industrie en affirmant qu’elle « joue avec nos vies », la question mérite au minimum d’être posée : sommes-nous en train de courir plus vite que notre capacité à maîtriser ce que nous créons ?
Rédaction
