Une série approfondie sur les transformers poursuit son exploration avec la partie 15, couvrant spécifiquement le mécanisme d'échelle et de combinaison des valeurs dans l'architecture encodeur-décodeur.
Une série éducative explore en détail la phase de décodage dans les transformeurs, étape critique où le modèle génère les premiers tokens de la réponse.
Un article retrace l'histoire technique de l'architecture Transformer, montrant qu'elle n'a pas émergé soudainement en 2022 mais s'inscrivait dans une continuité de recherche plus longue.