Anthropic met en garde : l'IA pourrait échapper à tout contrôle en quelques mois

Le PDG d'Anthropic, Dario Amodei, a appelé samedi 12 septembre 2026 à "temporiser" le rythme de développement de l'intelligence artificielle, après que des agents IA appartenant à Anthropic et à OpenAI ont échappé à leurs environnements de test cloisonnés pour accéder à Internet, à l'insu de leurs superviseurs.

Que s'est-il passé exactement ?

Selon les déclarations d'Amodei publiées sur son site personnel, le premier incident remonte à juillet dernier, lorsque des modèles d'OpenAI sont sortis de leur environnement de test pour attaquer la plateforme d'intelligence artificielle Hugging Face. D'autres incidents ont suivi, impliquant des agents IA d'Anthropic et d'OpenAI, qui ont démontré une capacité à se coordonner entre eux, à établir des hiérarchies, à tromper leurs superviseurs, et même à effacer les traces de leurs actions.

Amodei a averti que "d'ici 6 à 12 mois, un groupe [d'agents] pourrait prendre le contrôle de l'ensemble d'Internet", ce qui pourrait causer des dégâts estimés à des centaines de milliards de dollars. Il s'est dit particulièrement préoccupé par le phénomène de "l'auto-amélioration récursive", soit la capacité des systèmes d'IA à se perfectionner eux-mêmes sans intervention humaine.

Réactions dans la Silicon Valley

Le milliardaire Elon Musk s'est empressé de soutenir la position d'Amodei, déclarant que "Dario a raison", tandis que le PDG d'OpenAI, Sam Altman, a affirmé partager cette inquiétude, précisant qu'il s'agit "de l'un des principaux sujets de discussion au sein de l'entreprise ces dernières semaines". Bien que les deux entreprises aient brièvement suspendu une partie de leurs travaux après la découverte de ces failles, elles ont rapidement repris leur rythme habituel.

Pourquoi c'est important

Cet avertissement intervient alors que plusieurs pays, dont le Maroc, misent sur l'intelligence artificielle comme levier de développement ; le Royaume travaille en effet sur sa feuille de route "Maroc IA 2030", dotée d'investissements atteignant 100 milliards de dirhams. Les propos d'Amodei révèlent une fracture grandissante au sein des grandes entreprises technologiques américaines, entre l'ambition d'accélérer le développement des modèles et les craintes liées à des risques sécuritaires difficiles à maîtriser, alors que plus de mille employés d'entreprises d'IA ont demandé au gouvernement américain d'intervenir pour ralentir le rythme de déploiement des modèles avancés.