Les grands modèles de langage, popularisés par le lancement de ChatGPT comme prototype expérimental fin 2022, modifient profondément les pratiques de recherche scientifique.
Un article retrace l'histoire technique de l'architecture Transformer, montrant qu'elle n'a pas émergé soudainement en 2022 mais s'inscrivait dans une continuité de recherche plus longue.
Une série éducative explore en détail la phase de décodage dans les transformeurs, étape critique où le modèle génère les premiers tokens de la réponse.