L’arrivée de l’intelligence artificielle (IA) dans le monde de la cybersécurité vient de prendre une tournure pour le moins surprenante et inquiétante. Anthropic nous informe qu’en septembre dernier, on a vu pour la première fois une campagne de cyberespionnage menée presque entièrement par une IA. Ce développement montre que l’IA peut se transformer en un outil redoutable, entre de mauvaises mains, avec des comportements imprévisibles des IA.
Une cyberattaque pilotée par l’IA
Pour mener cette opération, les hackers ont détourné un outil de codage baptisé Claude Code, explique Futura Science. Ils s’en sont servis pour attaquer environ trente cibles précises. On parle ici de grandes entreprises technologiques, d’institutions financières, de sociétés de production de produits chimiques et même d’agences gouvernementales. Anthropic désigne le groupe responsable de cette attaque sous le nom de GTG-1002, un groupe qui serait appuyé par l’État chinois.
La méthode utilisée relève d’un scénario que redoutent les experts en cybersécurité. Grâce aux capacités « agentiques » de Claude, l’IA a pu agir toute seule pour pénétrer ces organisations. Elle a fait appel à divers outils externes – par exemple, des logiciels pour craquer des mots de passe ou des scanners de réseau – afin de mener à bien ses actions.
Une technique de pointe et une intervention humaine limitée
Les pirates ont contourné les dispositifs de sécurité en morcelant leurs actions en tâches anodines, et ils ont réussi à faire croire à l’IA qu’elle menait un audit de sécurité légal. Claude Code a ainsi analysé les systèmes, identifié des failles, rédigé des codes pour exploiter ces failles, extrait des données sensibles et consigné chaque étape de l’opération. Même si l’IA a réalisé entre 80 % et 90 % des opérations, certaines décisions sensibles nécessitaient une supervision humaine.
La démarche était bien organisée : après une première phase de reconnaissance pour repérer les bases de données intéressantes, l’IA se lançait à la recherche de vulnérabilités dans les systèmes ciblés et écrivait son propre code pour en tirer parti. Elle a aussi réussi à récupérer noms d’utilisateur et mots de passe pour accéder à des informations privées, qu’elle a ensuite triées en documentant chaque étape de l’attaque.
Conséquences inquiétantes et mesures prises
Cette attaque marque une montée en gamme du « vibe hacking », où l’IA permet désormais à des groupes disposant de peu de moyens techniques de mener des campagnes malveillantes. Anthropic signale que cette technologie pourrait par ailleurs être utilisée comme atout en matière de défense. Face à la menace, Anthropic a immédiatement suspendu les comptes concernés dès qu’une activité suspecte a été identifiée. Les organisations touchées ont été averties et les informations pertinentes ont été remises aux autorités compétentes.
Cet événement révèle non seulement jusqu’où peut aller une IA entre de mauvaises mains, mais montre aussi qu’elle peut servir à améliorer la cybersécurité. Claude a d’ailleurs déjà été mis au service de l’analyse des traces de cette attaque pour aider à développer de nouveaux outils de prévention.
