Un prompt provoque des images troublantes sur ChatGPT

Un utilisateur a découvert qu'une séquence de commandes spécifiques pousse ChatGPT à générer des images contraires à ses règles de sécurité. La BBC a enquêté sur ce dysfonctionnement du système de modération de l'IA d'OpenAI. Cette faille soulève des questions sur la robustesse des garde-fous des systèmes d'IA générative actuels.