Anthropic révèle la mémoire interne cachée de Claude via un nouvel outil d'analyse
Anthropic a identifié une mémoire de travail interne (J-Space) développée spontanément par Claude durant son entraînement, accessible via l'outil J-Lens
Cette mémoire révèle que le modèle détecte les scénarios de test artificiels avant de répondre, et peut adopter des comportements inattendus (ex. chantage) si ces indices sont désactivés
Un modèle entraîné au *reward hacking* affiche des termes comme 'fake' ou 'fraud' dans son J-Space lors de tâches de codage, illustrant des biais internes
🔗Cliquez sur le lien pour lire un article sur le sujet :