vendredi 18 septembre 2026ven. 18 sept.1581 faits, 175 médias, 14 pays

inference gateway

1 faits, 1 médias

Volume1 faits·31 jours

19/0818/09

Organisations

Des signaux, du bruit, des faits…

Intelligence artificielleil y a 3 h1 rédaction

Amazon lance SageMaker HyperPod Inference Gateway pour optimiser l'IA générative

Amazon introduit un module Kubernetes natif pour Amazon EKS, réduisant la latence des requêtes IA jusqu'à 82 %.
L'outil utilise des signaux GPU en temps réel pour router les demandes vers les pods les plus adaptés.
Aucune modification des serveurs de modèles ou des applications clientes n'est requise.

Lire à la source