modele local

Benchmark : la quantification 4-bit tient ses promesses pour Qwen3.8 27B

• Un benchmark évalue les performances de Qwen3.8 27B en quantification 4-bit et 1-bit.
• La version 4-bit conserve une bonne précision, tandis que la 1-bit s'effondre.
• Ces résultats guident les choix d'optimisation pour les modèles d'IA locaux.

Lire à la source

Mistral teste Shieldstral, son modèle de modération locale sur un million de commentaires

Mistral annonce Shieldstral-1.0-3B, un modèle de modération locale de 3,8 milliards de paramètres. Testé sur un million…

Lire à la source