Tutoriel
Un développeur crée un site LLM donnant délibérément des réponses erronées pour tester la sécurité des coûts
- Un site nommé amtaitfy.com génère des réponses intentionnellement fausses via un modèle de langage (LLM).
- L'architecture limite les coûts en servant des réponses en cache via GET et en réservant POST pour l'inférence.
- L'objectif est de rendre les attaques coûteuses et prévisibles pour les abus.
Lire à la source