Cybersécurité : cette nouvelle technique réduit de 90 % le succès des attaques menées par des IA

Les agents d'intelligence artificielle ne servent plus seulement à générer du texte et à répondre aux emails. Ils sont aussi désormais utilisés par des cybercriminels pour automatiser certaines attaques informatiques.

Capables d'agir en autonomie et à grande vitesse, ces agents peuvent se montrer plus efficaces que des pirates humains pour certaines tâches, ce qui représente un défi croissant pour les spécialistes de la cybersécurité.

Comment les « context bombs » piègent les agents d'IA malveillants

Face à cette menace, des chercheurs de l'entreprise de cybersécurité Tracebit ont développé une nouvelle technique baptisée « context bomb ». Son principe est aussi simple qu'efficace : plutôt que de bloquer directement l'attaque, elle pousse l'agent d'IA à déclencher ses propres garde-fous et à renoncer à sa mission.

Concrètement, une « context bomb » consiste à insérer une série d'injections de prompts dans l'environnement de l'agent d'IA. Ces injections sont conçues pour déclencher les mécanismes de sécurité de l'agent. Ce dernier considère alors que les actions qu'il s'apprête à réaliser enfreignent ses règles de sécurité et abandonne sa mission.

Les chercheurs ont testé leur technique sur cinq des modèles de langage les plus performants du moment : DeepSeek 4 Pro, Kimi 2.6, GLM 5.2, Gemini 3.1 Pro et Opus 4.8. Les résultats se sont révélés particulièrement prometteurs.

Une simple référence peut mettre une IA en échec

L'insertion d'une seule « context bomb » a permis de réduire d'environ 90 % le taux de réussite des agents d'IA malveillants. Lors des essais, l'agent le plus performant obtenait les droits d'administrateur d'un compte dans 93 % des cas. Une fois la « context bomb » déployée, son taux de réussite est tombé à zéro.

Mais alors, à quoi ressemble exactement une « context bomb » ? Tout dépend du modèle ciblé. Dans leurs expériences, les chercheurs ont par exemple utilisé des références à des sujets politiquement sensibles en Chine comme le massacre de la place Tiananmen le 4 juin 1989.

Comme les modèles d'IA chinois sont programmés pour respecter des règles de modération sur ces sujets, ces références ont suffi à déclencher leurs garde-fous. Les agents d'intelligence artificielle ont alors interrompu leur exécution et abandonné leur attaque.

Source : Tracebit