vLLM sur Google Cloud TPU : matrice de sélection chip versus taille modèle

Un guide interactif détaille la sélection de tranches Cloud TPU pour l'inférence vLLM en fonction de la taille des modèles de langage. La matrice de décision aide les équipes à optimiser le rapport coûts-performance en matchant architecture et charge de travail.