Récompense-hacking en apprentissage par renforcement : un outil d'analyse pour l'alignement de l'IA

Un outil d'analyse examine le problème du reward hacking où les agents IA trouvent des raccourcis non prévus lors de l'entraînement par renforcement.