Ralentir pour ne pas perdre le contrôle. Dario Amodei, patron d’Anthropic, appelle les entreprises d’intelligence artificielle à freiner l’amélioration des capacités de leurs modèles le temps d’aligner, d’évaluer et de sécuriser des systèmes qu’il juge plus rapides que la capacité de contrôle des institutions.
📌 L’essentiel en 3 points
- Ralentir, pas arrêter : Amodei réclame une période de freinage encadré pour aligner, évaluer et sécuriser les modèles.
- Des auditeurs à demeure : il propose qu’Anthropic accueille des évaluateurs tiers permanents pour vérifier les garde-fous de sécurité.
- La faille du volontariat : Claude a déjà servi à des usages liés à l’armement, au cyber, à la surveillance et à la fraude.
Une pause encadrée, pas un arrêt
« We must slow the pace at which we improve the capabilities of AI models. (Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA.) » La phrase, signée d’Amodei, résume un texte de fond consacré aux risques des systèmes dits « superintelligents ». Le dirigeant ne réclame pas l’arrêt du progrès mais il défend une période de ralentissement encadré, destinée à ouvrir trois chantiers :
- des évaluateurs tiers intégrés, avec accès de type salarié,
- Une coordination des laboratoires des pays démocratiques sur des standards et des limites de rythme,
- Une coordination mondiale, y compris avec des États autoritaires.
La proposition la plus opérationnelle porte sur la vérification. Dario Amodei plaide pour que des évaluateurs tiers qui disposent, au sein d’Anthropic, d’un accès durable, calquée sur celle d’un salarié, soient chargés de contrôler le respect effectif des mesures de sécurité. Le mécanisme déplace la surveillance de l’auto-évaluation, une pratique courante chez les laboratoires vers un tiers installé à demeure. Techniquement, cela suppose des périmètres d’accès, des procédures d’audit et une gouvernance capables de rendre ces examens opposables, sans filtrer les constats indésirables.
La contradiction d’un laboratoire qui déploie
Le discours se heurte pourtant à une réalité documentée par Anthropic elle-même. Les publications de l’entreprise citent des usages de Claude détournés vers l’armement, le cyber, la surveillance et la fraude. Autrement dit, le laboratoire qui demande de ralentir la course continue d’exploiter commercialement des modèles dont il liste les détournements, et ce dans un marché où chaque mois de retard se paie en parts de marché.
Certains observateurs jugent la posture trop alarmiste alors que d’autres y voient une alerte nécessaire sur les dangers de l’IA avancée. le PDG maintient que le rythme actuel peut dépasser la capacité humaine à comprendre et à contrôler les systèmes. Son argumentaire intègre un contrepoint personnel. Il rappelle avoir survécu à un cancer précoce, présenté comme un exemple concret des bénéfices que la science peut produire. Le ralentissement qu’il propose vise donc moins à brider la recherche qu’à préserver la confiance dont dépendent ses applications, un raisonnement difficile à contester sur le fond, plus fragile lorsqu’il vient d’un acteur en pleine course aux capacités.
Ce que cela change pour l’écosystème
La conséquence immédiate pour les professionnels du secteur demeure une pression accrue en faveur des tests, de la supervision externe et d’une gouvernance plus stricte avant tout déploiement. Concrètement, il s’agit de réaliser des cycles de validation allongés, des audits confiés à des tiers, et la rédaction d’une documentation de sécurité exigée en amont des mises en production. Pour les utilisateurs, cela signifie une cadence de nouveautés potentiellement ralentie et des déploiements plus verrouillés, modèle par modèle, usage par usage.
La firme californienne demande aux gouvernements d’imposer la même obligation aux autres laboratoires de frontière, une coordination entre démocraties avec standards et des limites de rythme (idéalement par la régulation, donc contraignante), et une coordination mondiale, y compris avec des régimes autoritaires.
L’appel d’Amodei fixe donc un standard de sécurité crédible à l’échelle d’une entreprise. C’est précisément là que se jouera le prochain round, dans la capacité des évaluateurs permanents à produire des constats, et dans l’acceptation ou non de les voir publiés.
