À 27 ans, le chercheur britannique Jacob Coxon a claqué la porte d’Anthropic et de toute l’industrie de l’IA. Son accusation, postée sur X et vue des dizaines de million de fois, n’y va par quatre chemins. Pour faire court, les grands laboratoires foncent vers une superintelligence auto-améliorante « en jouant avec nos vies ».
Une démission retentissante au cœur de la course à l’IA
Mardi au soir aux États-Unis, Jacob Coxon publiait sur X une série de sept messages annonçant sa démission d’Anthropic et son retrait de l’industrie de l’intelligence artificielle. Quelques heures plus tard, ses publications avaient déjà été vues par plusieurs millions de visiteurs (ndlr : 93,5M à la date de publication de l’article), et la presse s’en faisait largement l’écho aujourd’hui.
Le parcours de Jacob Coxon donne à son cri d’alarme une résonance toute particulière. Ce chercheur britannique de 27 ans a travaillé sur le pretraining ( la phase fondamentale d’entraînement des grands modèles de langage ) d’abord chez OpenAI (ChatGPT), puis lors d’un court passage chez Anthropic (Claude), soit au sein des deux laboratoires qu’il pointe du doigt.
Son motif tient en une phrase : « Aucune des deux entreprises n’agit de façon responsable. Elles foncent droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. » Il précise vouloir quitter l’industrie de l’IA dans son ensemble, et non un simple employeur, signifiant par là qu’il ne rejoindra pas un laboratoire concurrent.
Il ajoute même : « Ne sous-estimez pas le pouvoir de cette technologie. Ces systèmes deviendront bientôt surhumains, capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir et des ressources réels. Nous avons tous été témoins des progrès dans chacun de ces domaines, et le rythme des progrès ne ralentit pas. »
Et de surenchérir : « Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait nous tuer tous d’ici la fin de la décennie. Ce n’est pas une opération de marketing. »
Que pèse réellement l’avertissement sur la superintelligence auto-améliorante ?
Le terme de « superintelligence auto-améliorante » désigne un système d’IA capable d’améliorer ses propres capacités, potentiellement de manière récursive. C’est l’un des scénarios les plus débattus mais aussi les plus spéculatifs de la recherche en sûreté de l’IA (AI safety). Aucun système actuel n’atteint ce stade, mais la course à l’AGI et à l’IA agentique rend le scénario stratégiquement central pour les laboratoires frontaliers.
Le geste de Jacob Coxon s’inscrit par conséquent dans un climat déjà très tendu. Anthropic a elle-même publié des travaux alarmants sur les comportements de ses modèles : des tests démontrant des comportements de blackmail ou d’« agentic misalignment » dans des scénarios simulés. Ces études ne prouvent pas que les systèmes actuels échappent à tout contrôle, mais elles alimentent un corpus de recherches internes qui donnent de la crédibilité ou du moins en termes de perception aux inquiétudes exprimées par les chercheurs qui quittent le navire.
L’argument central du jeune chercheur est politique autant que technique. Pour lui, aucune entreprise ne peut plus développer ces systèmes de façon responsable sans intervention des États. Autrement dit, l’auto-régulation des laboratoires serait structurellement impossible dans un environnement concurrentiel où ralentir, c’est perdre. C’est le dilemme classique de la course aux armements appliqué à l’IA frontière.
Ce départ pose aussi une question de gouvernance interne. Jusqu’où un employeur peut-il accepter la critique publique de ses propres chercheurs sans nuire à sa stratégie commerciale ? Anthropic, fondée sur une mission de sécurité, se trouve particulièrement exposée à ce type de dissonance.
Vers une supervision étatique de la course à la superintelligence ?
Les conséquences immédiates de cette démission sont surtout symboliques et politiques. Venant d’une personne interne aux deux laboratoires les plus en pointe, son témoignage pourrait servir d’argument massue aux régulateurs qui plaident pour des cadres contraignants avec des tests obligatoires avant un déploiement, une plus grande transparence sur les capacités, ainsi que des mécanismes d’alerte « protégés » pour les employés.
C’est pourquoi, à court terme, d’autres chercheurs pourraient suivre et amplifier le mouvement de contestation interne, comme cela s’est déjà produit dans les grandes entreprises technologiques par le passé. À moyen terme, l’événement pourrait nourrir les débats législatifs en cours sur la régulation de l’IA frontière, en Europe, aux États-Unis et au Royaume-Uni.
À suivre également, la réponse ou le silence d’Anthropic et d’OpenAI. Jusqu’ici, ni le contenu détaillé des fonctions de Jacob Coxon ni d’éventuelles clauses de non-dénigrement n’ont été rendus publics. La suite des évènements dépendra également de la capacité de l’ancien chercheur à transformer son buzz médiatique en plaidoyer concret.
En guise de conclusion dans son plaidoyer, (dernier tweet), il a lancé un dernier message aux scientifiques du monde entier : « Si vous êtes un chercheur en laboratoire, je vous exhorte à réfléchir à ce que les prochaines années ressembleront réellement. Voulez-vous lancer une exécution d’apprentissage par renforcement superintelligent sans une compréhension rigoureuse de son esprit ? Devriez-vous baisser la tête parce que « ça arrive quand même » – ou saisir ce moment pour réclamer des conditions différentes ?«
