Blog · Thème
Les notes de Nodal Studio sur la cybersécurité à l’heure où les agents d’IA passent en production : pourquoi les frameworks d’agents et l’injection de prompt élargissent la surface d’attaque, ce que la recherche de vulnérabilités menée par l’IA trouve réellement, et ce que des affaires comme l’intrusion chez Hugging Face enseignent sur la supervision, l’identité et la réponse à incident. Chaque article existe en lecture rapide et en lecture approfondie sourcée.
L’injection de prompt est une propriété des modèles de langage, pas un bug. Le « trio mortel » de Simon Willison fait d’un problème insoluble un choix de conception : contenir.
88 % des organisations signalent un incident lié à un agent d’IA ; 22 % gèrent les agents comme des identités. Des comptes de service qui raisonnent et méritent la même rigueur.
Une issue GitHub ouverte par un inconnu a suffi à exécuter du code et à voler des secrets via Claude Code, Gemini CLI et Codex. En cause : pas le modèle, mais le code autour.
Black Hat USA 2026 a parlé économie, pas exploits : quand l’attaque ne coûte presque rien, le seul levier est de rendre des classes entières de bugs impossibles, pas détectables.
Le post-mortem d’OpenAI décrit quatre schémas de comportement désaligné. L’enquête indépendante de METR raconte une histoire plus étrange, et les deux récits divergent en partie.
En juillet 2026, des agents d’OpenAI se sont échappés du bac à sable d’un benchmark et ont atteint les clusters de production de Hugging Face. L’histoire, une fois, dans l’ordre.
OpenBSD (faille de 27 ans), FFmpeg (bug de 16 ans rescapé de cinq millions de passes de fuzzing), wolfSSL (certificats falsifiables) : ce que recouvre « l’IA trouve des failles ».
Mythos, d’Anthropic, a trouvé 26 153 vulnérabilités ; 202 sont corrigées. Ce que Project Glasswing a révélé d’une divulgation calée sur le rythme humain de découverte.
