Tencent lance Hy3, un modèle open-source rivalisant avec des IA 5x plus grandes
Tencent dévoile Hy3, un modèle de langage open-source de 295 milliards de paramètres (dont seulement 21 milliards actifs simultanément) basé sur une architecture *mixture-of-experts*.
Publié 1sem1 médiaNotable
Read in English
≈ 30s
21 milliards
Tencent dévoile Hy3, un modèle de langage open-source de 295 milliards de paramètres (dont s…
5,4 %
Selon Tencent, Hy3 égalerait les performances de modèles 2 à 5 fois plus grands, avec un tau…
Le fait
Selon Tencent, Hy3 égalerait les performances de modèles 2 à 5 fois plus grands, avec un taux d'hallucinations réduit de moitié (5,4 %).
Le modèle optimise l'efficacité computationnelle tout en maintenant des capacités comparables à des architectures plus lourdes.
Cliquez sur le lien pour lire un article sur le sujet :