Google DeepMind perd un chercheur Nobel en IA, John Jumper rejoint Anthropic
John Jumper, lauréat du Prix Nobel et chercheur chez Google DeepMind depuis 9 ans, annonce son départ pour Anthropic
Publié 4h·1 média·Important
≈ 29s
📋 Le fait
Trois figures majeures de l'IA chez Google quittent l'entreprise en quelques mois : Noam Shazeer (co-lead Gemini vers OpenAI), David Silver (AlphaGo, nouveau projet indépendant)
Les départs soulignent une compétition accrue entre majeurs (Google, OpenAI, Anthropic) pour les talents en IA générative
OpenAI : l'entraînement à des traits bénéfiques renforce la sécurité des modèles IA
🟡 12h· 1 source
En évolutionImportant
OpenAI démontre que le renforcement d'apprentissage sur des traits comportementaux désirés (véracité, corrigibilité) améliore la sécurité des modèles IA à travers plusieurs domaines.
Lire la suiteReplier▾
OpenAI démontre que le renforcement d'apprentissage sur des traits comportementaux désirés (véracité, corrigibilité) améliore la sécurité des modèles IA à travers plusieurs domaines.
L'entraînement sur données de santé a renforcé la détection de la tromperie ; le modèle progresse sur 44 benchmarks sur 53 testés.
#IA safety#reinforcement learning#comportement des modèles OpenAI Anthropic
« In the Weights » : un outil révèle qui les IA reconnaissent
🟡 13h· 1 source
En évolutionNotable
Deux anciens employés d'OpenAI lancent un site web montrant quels individus les modèles d'IA peuvent identifier à partir de leurs données d'entraînement
Lire la suiteReplier▾
Deux anciens employés d'OpenAI lancent un site web montrant quels individus les modèles d'IA peuvent identifier à partir de leurs données d'entraînement
Un score de notoriété (jusqu'à 996) mesure l'intensité de la mémorisation, avec Mozart, Shakespeare et Taylor Swift en tête