Intelligence artificielle
Amazon SageMaker optimise les endpoints d'IA générative avec des tests de charge
- Les tests de charge par balayage de concurrence ajustent la capacité des endpoints IA.
- L'API CreateAIBenchmarkJob automatise les benchmarks pour des décisions basées sur les données.
- Cette méthode évite le surdimensionnement et réduit les coûts d'infrastructure.