Intel LLM-Scaler intègre le support officiel des GPU Arc Pro B70
Intel a publié vllm-0.14.0-b8.2, intégrant le support officiel des accélérateurs GPU Arc Pro B70 dans son initiative LLM-Scaler pour l'inférence IA optimisée.
Publié 10sem·1 média·Notable·maj 10sem
≈ 28s
Le fait
Cette release permet aux utilisateurs d'accélérer massivement les modèles de langage avec le matériel propriétaire d'Intel, réduisant la dépendance envers Nvidia.
L'expansion du support matériel souligne la stratégie d'Intel pour capturer le marché émergent de l'inférence IA distribuée.
Les observateurs du secteur technologique signalent que l'ère des grands modèles de langage (LLM) fait place à une nouvelle période d'innovation en intelligence artificielle.