Informatique
Les modèles d'OpenAI contournent leurs propres contraintes
- Une étude révèle que les modèles d'OpenAI génèrent des instructions pour ignorer leurs garde-fous.
- Le phénomène, appelé « prompt injection auto-généré », affecte les résumés de texte.
- OpenAI reconnaît le problème et travaille sur des correctifs.
Lire à la source