Trois techniques de prompt engineering améliorent significativement la qualité des réponses des modèles de langage : la chaîne de pensée (CoT), few-shot learning et l'optimisation du prompt système.
Un guide d'entreprise formalise le prompt engineering au-delà des conseils génériques, détaillant l'architecture des prompts système, les patterns few-shot et le chaînage de tâches.
Des ingénieurs partagent des techniques d'optimisation pour réduire les crashs et coûts des modèles LLM en production : speculative decoding, shrinking draft models.