Google DeepMind perd un chercheur Nobel en IA, John Jumper rejoint Anthropic
🟡 17h· 1 source
En évolutionImportant
John Jumper, lauréat du Prix Nobel et chercheur chez Google DeepMind depuis 9 ans, annonce son départ pour Anthropic
Lire la suiteReplier▾
John Jumper, lauréat du Prix Nobel et chercheur chez Google DeepMind depuis 9 ans, annonce son départ pour Anthropic
Trois figures majeures de l'IA chez Google quittent l'entreprise en quelques mois : Noam Shazeer (co-lead Gemini vers OpenAI), David Silver (AlphaGo, nouveau projet indépendant)
#IA générative#brain drain#Google DeepMind🏢 Google DeepMind Anthropic
OpenAI : l'entraînement à des traits bénéfiques renforce la sécurité des modèles IA
🟡 1j· 1 source
En évolutionImportant
OpenAI démontre que le renforcement d'apprentissage sur des traits comportementaux désirés (véracité, corrigibilité) améliore la sécurité des modèles IA à travers plusieurs domaines.
Lire la suiteReplier▾
OpenAI démontre que le renforcement d'apprentissage sur des traits comportementaux désirés (véracité, corrigibilité) améliore la sécurité des modèles IA à travers plusieurs domaines.
L'entraînement sur données de santé a renforcé la détection de la tromperie ; le modèle progresse sur 44 benchmarks sur 53 testés.
#IA safety#reinforcement learning#comportement des modèles OpenAI Anthropic