RoPE

🧭 От BERT до RoPE: Шервин и Афшин об эволюции архитектуры Transformer

🚀 Эволюция Transformer: как ускорить инференс и снизить VRAM

Стэнфорд о создании LLM: «Архитектура и гиперпараметры»

🏗 Как обучают современные модели: архитектурный консенсус