Google DeepMind traite ses agents IA comme des menaces internes potentielles

Google DeepMind développe une « AI Control Roadmap » qui applique des mesures de sécurité proportionnées aux capacités des agents IA, traitant ces derniers comme des risques internes Une analyse d'un million de tâches de codage montre que la majorité des problèmes proviennent d'agents surzélés plutôt que d'intentions malveillantes DeepMind alerte sur la fermeture rapide de la fenêtre d'opportunité pour établir des normes de sécurité globales concernant les agents IA autonomes