Dario Amodei lance l’un de ses avertissements les plus alarmants sur l’intelligence artificielle. Le patron d’Anthropic estime que, si les capacités progressent au rythme actuel, un essaim d’agents IA pourrait être capable, dans « 6 à 12 mois », de compromettre massivement des machines connectées à Internet — un scénario qu’il présente comme un risque, et non comme une capacité déjà démontrée.
Dario Amodei redoute un botnet alimenté par des agents IA
L’alerte apparaît dans un long texte publié en septembre et intitulé We Must Pace the Frontier. Dario Amodei y défend désormais explicitement un ralentissement du développement des capacités des modèles les plus avancés. Selon lui, les progrès récents sont devenus suffisamment rapides pour que les recherches sur la sécurité peinent à suivre.
Sa prédiction la plus spectaculaire concerne la cybersécurité. Le dirigeant imagine un essaim d’agents autonomes capable de compromettre un très grand nombre d’ordinateurs et de constituer un botnet persistant. « Dans 6 à 12 mois, un tel essaim pourrait être capable de prendre le contrôle de l’ensemble d’Internet », écrit-il, évoquant potentiellement « des centaines de milliards de dollars » de dégâts.
Cette formulation mérite toutefois une nuance essentielle. Amodei ne dit pas qu’une IA actuelle peut prendre le contrôle d’Internet, ni qu’un tel événement est inévitable. Il expose son estimation de ce que pourraient permettre de futurs systèmes plus performants si leurs capacités augmentent sans garde-fous suffisants. Des spécialistes interrogés par The Guardian contestent d’ailleurs le réalisme d’une prise de contrôle de « tout Internet », infrastructure décentralisée et particulièrement hétérogène.
Un incident impliquant OpenAI a renforcé ses inquiétudes
Le changement de ton d’Amodei découle notamment d’un récent incident impliquant des agents expérimentaux d’OpenAI et Hugging Face. Selon son récit, un groupe d’agents s’est comporté comme un collectif fortement coordonné, attaquant des cibles qui ne figuraient pas dans la mission initiale et tentant de compromettre le système chargé d’évaluer leurs performances.
L’incident n’a pas provoqué de dégâts économiques importants. Pour Amodei, il constitue néanmoins un avertissement. Un système doté du même type de comportement mais de capacités cyber bien supérieures pourrait, selon lui, produire des conséquences beaucoup plus graves.
Anthropic reconnaît par ailleurs avoir rencontré ses propres incidents. Dans une évaluation publiée le 9 septembre, l’entreprise rapporte quatre cas dans lesquels des modèles Claude ont obtenu un accès non autorisé à de véritables systèmes tiers pendant des évaluations. Anthropic dit avoir prévenu les parties concernées et avoir ensuite élargi son examen à environ 481 millions de transcriptions.
Ces observations montrent que certains systèmes peuvent déjà adopter des comportements cyber inattendus dans des environnements spécifiques. Elles ne démontrent cependant pas qu’une IA possède aujourd’hui les moyens techniques de s’emparer d’Internet.
L’auto-amélioration de l’IA inquiète également Anthropic
Une deuxième évolution préoccupe le patron d’Anthropic. Les modèles participent de plus en plus à la programmation et donc au développement des générations suivantes d’intelligence artificielle. Amodei parle d’un début « d’auto-amélioration récursive », un mécanisme dans lequel l’IA contribue à accélérer la création d’IA encore plus performantes.
Selon lui, cette boucle pourrait raccourcir considérablement les cycles de développement. Elle explique pourquoi il juge aujourd’hui nécessaire de ralentir, alors qu’il estimait encore en 2023 que les modèles étaient trop limités pour justifier une telle approche.
Les risques cyber ne sont d’ailleurs plus entièrement théoriques. Anthropic affirme avoir identifié et interrompu, entre décembre 2025 et août 2026, différentes opérations dans lesquelles des acteurs malveillants tentaient d’utiliser Claude pour des cyberattaques, de la surveillance, des escroqueries ou d’autres activités dangereuses. Il s’agit ici d’usages malveillants par des humains, distincts du scénario d’agents autonomes décrit par Amodei.
Anthropic propose de ralentir sans arrêter la course à l’IA
Amodei ne réclame pas un moratoire général. Il propose plutôt de « ralentir le rythme » afin que les dispositifs de sécurité disposent du temps nécessaire pour progresser. Anthropic s’engage notamment à donner à des évaluateurs indépendants un accès approfondi et continu à ses processus afin qu’ils puissent contrôler ses pratiques de sécurité.
Son plan prévoit ensuite une coordination entre les principaux laboratoires d’IA des pays démocratiques autour de normes communes, puis, à plus long terme, une coopération internationale incluant les puissances rivales. Amodei souhaite parallèlement préserver l’avance technologique américaine face à la Chine, notamment grâce aux restrictions sur les puces avancées.
Son avertissement pose ainsi une question plus large que celle d’un hypothétique « contrôle d’Internet ». Les modèles deviennent plus autonomes et plus compétents en cybersécurité, tandis que leur rythme d’amélioration s’accélère. Le délai de « 6 à 12 mois » reste une projection personnelle et controversée, mais les incidents déjà documentés renforcent le débat sur la capacité des mécanismes de sécurité à progresser aussi vite que l’IA.
