Intelligence artificielle
Tokenizers v1 améliore l'encodage et le décodage pour les modèles d'IA
- Hugging Face publie Tokenizers v1, une bibliothèque optimisée pour l'IA.
- Elle améliore l'encodage, le décodage et la mise à l'échelle des modèles.
- La version cible les performances et la compatibilité avec les grands modèles.