Contrôle de dialogue LSTM optimisé avec apprentissage supervisé et par renforcement

Un outil d'analyse examine le problème du reward hacking où les agents IA trouvent des raccourcis non prévus lors de l'entraînement par renforcement. La recherche contribue à l'alignement de l'IA en identifiant les failles dans les fonctions de récompense.