Transformers
73 статей
1ч 17м🧠 Джейкоб Андреас: «Как современные языковые модели учатся рассуждать»
1ч 13м🕒 Сэра Бири из MIT об эволюции архитектур памяти нейросетей
1ч 14м💍 Филипп Изола: «Трансформер — это кольцо всевластия в современном ИИ»
1ч 14м🤖 Технологии LLM и RAG в MIT: как работают современные языковые модели
1ч 16м🌍 Как устроена архитектура Transformers и зачем ей скалярное произведение
1ч 16м🛠 «Они захватили всё»: Рама Рамакришнан о принципах работы трансформеров
1ч 51м🚀 Стэнфорд CME295: Итоги 2025 года в мире трансформеров и диффузионных моделей
1ч 51м🔄 Будущее LLM в 2025 году: от авторегрессии к диффузии и аналоговым чипам
1ч 06м🔄 Стэнфордский курс CS231N: эволюция механизма внимания и архитектуры трансформеров
1ч 08м🔄 Как свёрточные нейросети победили ручные признаки: лекция в Стэнфорде
1ч 13м🎥 Как трансформеры совершили революцию в видеогенерации: разбор архитектуры Movie Gen от Meta
1ч 10м🌍 Эшед Маргалит: «Мы создали симулятор для 6 миллиардов виртуальных клеток опухоли»
3ч 28м🚀 Иллюзия разума: математика и архитектура современных LLM
1ч 01м🧠 От «детских» данных до нейронауки: лекция Stanford CS25
1ч👓 Почему большие языковые модели теряют информацию в длинных текстах
1ч👓 Почему нейросети «близоруки»: Федерико Барберо о фундаментальных изъянах внимания
1ч 17м📊 Лекция Стэнфорда CS224N: основы механизма внимания и оценка перевода
51 мин🧠 Зепп Хохрайтер: «Мы работаем быстрее самого быстрого трансформера»
1ч 12м🌱 Юрген Шмидхубер: от истоков глубокого обучения до колонизации космоса
47 мин🤖 Эмодзи вместо тикера: как Hugging Face стал центром открытого ИИ
14 мин🎮 Как нейросеть Oasis генерирует игры в реальном времени без программного кода
32 мин🧩 Является ли ChatGPT продвинутой моделью н-грамм? Исследование Тимоти Нгуена
1ч 05мСара Хукер: «Вычислительные пороги ИИ — это ошибочная стратегия»
1ч 42мАльберт Гу о революции State Space Models: «Mamba меняет всё»
42 мин🚀 MIT: как ИИ-трансформеры ускоряют посадку космических кораблей
2ч 15м🧠 Миф об универсальности трансформеров: взгляд Франсуа Шолле
2ч 15м🧩 ARC Challenge: как ИИ учится рассуждать по-человечески
1ч 19м🚀 Мин Дин из Zhipu AI: от языковых моделей к мультимодальным системам будущего
1ч 04м🏗 Разреженная смесь экспертов: детальный разбор архитектуры Mixtral 8x7B
1ч 17м🕰 Эволюция нейросетей: от «Attention Is All You Need» до агентов L5
1ч🎓 Ведущий ученый Waymo Драго об архитектуре автопилота и Tesla
44 мин🚀 Янник Кильчер о Searchformer: «Обучение модели мышлению действительно работает»
1ч 16м📈 Эра гибридных архитектур: сможет ли Mamba вытеснить Трансформеры?
12 мин🤖 От Элайзы до ChatGPT: Как история первого чат-бота объясняет наш восторг перед ИИ
1ч 33м🧩 Брэндон Рорер: «ИИ — это всего лишь очень умная машина для перемалывания паттернов»
40 мин🧠 Mamba против Transformers: как селективные пространства состояний решают проблему длинного контекста
44 мин📉 Янник Килчер на NeurIPS 2023: главные тренды нейросетей
3ч 57м🧠 Механистическая интерпретируемость: как декомпилировать разум нейросети
44 мин🔍 GOAT против графов: как Capital One внедряет Трансформеры в финансовые сети
1ч 32м🤖 Мегабайты вместо токенов: Революция в архитектуре ИИ от Meta
35 мин🧠 Дэн Фу рассказал о применении моделей пространства состояний в языковом моделировании
42 мин🛠 Генеративный ИИ на устройствах: как Qualcomm адаптирует чипы под трансформеры
37 мин🧠 Терри Сейновски: «Люди — это языковые модели в мозге приматов»
54 мин🎥 Ян Лекун: «AGI не существует, человеческий интеллект специализирован»
52 мин🏦 Баян Брусс из Capital One: Почему трансформеры захватывают табличные данные
52 мин🎓 Томас Вольф: «Текст — это стена, в которую упирается развитие ИИ»
1ч 18м🧠 Андрей Шмогенов рассказал о генерации весов нейросетей через HyperTransformer
1ч 23м🍦 «NLP пожирает машинное обучение»: Джон Боханнон о трендах индустрии
56 мин🛠 Ориоль Виньялс: «Масштабирование — это не единственный путь к интеллекту»
41 мин🧠 Как научить ИИ размышлять: Андреа Банино о механизмах PonderNet
3ч 33м🧩 Геометрическое глубокое обучение: как симметрия объединяет нейросети
31 мин🧩 Янник Килчер разобрал метод ALiBi для экстраполяции контекста трансформеров
2ч 30м🧠 Self-Supervised Learning: эволюция зрения от алгоритмов к разуму
41 мин🧠 Обучение ИИ забыванию: подробный разбор архитектуры Expire-Span от Янника Килчера
34 мин⚠ Конец эпохи Attention? Как Google заменил внимание школьной математикой
10 мин🧠 Питер Аббиль: «Языковые модели не так уж специализированы для языка»
1ч 05м🤖 Питер Аббил: «Роботы должны учиться как дети»
29 мин🧩 Янник Килхер: «Perceiver — это новый этап эволюции трансформеров»
34 мин🧠 Языковые модели как универсальные вычислители: разбор исследования от Янника Кильчера
34 мин🧠 Янник Килхер разобрал гипотезу трансформеров как универсальных вычислителей
53 мин🎓 Драго Ангелов рассказал об архитектуре беспилотных автомобилей Waymo
55 мин🥑 Янник Кильхер разобрал архитектуру и ограничения нейросети DALL·E
54 мин🧬 DeepMind: как архитектура трансформеров решила задачу 50-летней давности
54 мин🛑 Как архитектура Performers решает проблему квадратичной сложности классических трансформеров
46 мин🧠 Крис Маннинг: «Простое масштабирование — не путь к AGI»
1ч 37м🧠 Алекс Стэнли о возвращении к ядерным методам в эпоху трансформеров
1ч 05м🧠 Связь сетей Хопфилда и механизмов внимания в современных ИИ-моделях
34 мин🧱 Янник Килчер разобрал архитектуру разреженного внимания модели Big Bird
48 мин⚠ Как превратить трансформер в RNN и ускорить его в 4000 раз?
34 мин🛑 Сможет ли случайная матрица заменить обратное распространение ошибки?
40 мин🛠 Янник Кильхер о DETR: «Эта архитектура суперпроста по сравнению с предшественниками»
9 мин🧩 Илья Суцкевер: «Зрение и язык — это одна и та же задача для ИИ»
40 мин🤖 Как и почему BERT произвел революцию в понимании языка нейросетями