Ян Лекун, главный учёный по ИИ в Meta и лауреат премии Тьюринга, в беседе с астрофизиком Брайаном Китингом развенчивает мифы о неминуемом «цифровом апокалипсисе» и объясняет, почему современные нейросети пока не дотягивают даже до уровня домашнего кота. В центре дискуссии — фундаментальные ограничения языковых моделей (LLM), новая архитектура JEPA, призванная дать машинам «здравый смысл», и радикально иной взгляд на безопасность ИИ, основанный на «управлении целями», а не на бесконечном предсказании слов.
🐱 Текущий уровень ИИ: почему нейросеть глупее кота 4:25
Ян Лекун утверждает, что современные системы ИИ, несмотря на их способность манипулировать языком, едва ли достигают уровня интеллекта кошки в понимании физического мира . По его мнению, огромный разрыв между способностями ИИ и живых существ объясняется тем, что нейросети обучаются исключительно на текстах — символическом и сильно упрощённом представлении реальности .
Основные аргументы Яна Лекуна в пользу этой позиции:
- Отсутствие понимания физики: Кошка может мгновенно спланировать сложную траекторию прыжка через мебель, понимая свои физические возможности и динамику объектов . Современный ИИ на это не способен.
- Парадокс сложности задач: Мы имеем системы, способные сдать сложный юридический экзамен (Bar exam), но у нас до сих пор нет домашних роботов, способных убрать со стола или наполнить посудомоечную машину — задач, с которыми легко справляется 10-летний ребёнок .
- Специфика обучения: Живые существа обучаются через наблюдение и взаимодействие с миром, а не через чтение инструкций. Ребёнок получает на порядки больше данных через визуальное восприятие, чем любая LLM через токены .
🔨 Проблема «молотка» и тупик языковых моделей 7:02
Брайан Китинг и Ян Лекун обсудили феномен «ловушки Фукидида» в технологиях, когда господствующий подход (LLM + GPU) поглощает всё внимание и ресурсы, подавляя инновации в других областях . Лекун считает, что индустрия совершает ошибку, пытаясь превратить языковые модели в универсальное решение для любых задач .
Критический взгляд Яна Лекуна на LLM:
- Концептуальная простота: Несмотря на мощь, LLM по своей сути просты — они лишь предсказывают следующий токен, не имея внутренней модели мира .
- Неспособность к планированию: Языковые модели не могут строить долгосрочные стратегии действий в физическом пространстве .
- Отсутствие «здравого смысла»: Без понимания причинно-следственных связей реального мира ИИ остаётся поверхностным .
Ян Лекун полагает, что следующий прорыв в ИИ связан с переходом от чисто генеративных архитектур к системам, обладающим ментальными моделями для предсказания последствий своих действий .
🚀 JEPA: Архитектура, понимающая мир через «абстракцию» 12:33
Ян Лекун возлагает большие надежды на разработанную в Meta архитектуру JEPA (Joint Embedding Predictive Architecture) . В отличие от традиционных автоэнкодеров, которые пытаются восстановить каждый пиксель изображения, JEPA работает в пространстве абстрактных представлений (эмбеддингов) .
Принцип работы JEPA и примеры:
- Игнорирование шума: По мнению Лекуна, для предсказания будущего не нужно знать положение каждой молекулы газа. Достаточно знать макропараметры (давление, объём, температуру) .
- Пример с Юпитером: Чтобы предсказать траекторию планеты на столетия вперёд, физику не нужно знать состав её атмосферы или плотность облаков — достаточно шести чисел: трёх координат положения и трёх векторов скорости .
- Предсказание в пространстве смыслов: JEPA обучается предсказывать «суть» следующего кадра видео, игнорируя непредсказуемые детали, такие как движение листвы на ветру или рябь на воде .
Это позволяет системе эффективно учиться на видео без участия человека, что Лекун называет самообучением (self-supervised learning) .
🍰 «Темная материя» ИИ: Почему обучение с подкреплением не сработает 31:25
Ян Лекун ввёл термин «тёмная материя ИИ» для описания самообучения, которое составляет 80% всего процесса познания у людей и животных . Он противопоставляет это неэффективным методам, на которых сейчас сосредоточено внимание многих разработчиков.
Аналогия «шоколадного торта» от Яна Лекуна (сформулированная ещё в 2016 году):
- Бисквит (основа): Самообучение (SSL). Это гигантский пласт знаний о структуре мира, который мы получаем без учителей .
- Глазурь: Обучение с учителем (Supervised Learning). Узкий слой специфических меток (например, «это слон») .
- Вишенка на торте: Обучение с подкреплением (Reinforcement Learning). Крайне неэффективный метод, требующий миллионов попыток, который сам по себе никогда не приведёт к человеческому уровню интеллекта .
Лекун отмечает, что животные (например, осьминоги) становятся умными, никогда не встречая своих родителей и не получая никаких инструкций — исключительно за счёт исследования структуры входных данных .
⏳ Сроки появления AMI и спор об AGI 39:15
Ян Лекун принципиально избегает термина AGI (общий искусственный интеллект), считая его бессмысленным, так как человеческий интеллект сам по себе очень специализирован . Вместо этого в Meta используют термин AMI (Advanced Machine Intelligence) или, по-французски, «Abbi» .
Прогнозы Лекуна по срокам:
- 5–6 лет: Оптимистичный срок появления систем, которые люди субъективно назовут «умными, как человек», при условии успеха архитектур типа JEPA .
- Ошибочность коротких прогнозов: Лекун считает предсказания Сэма Альтмана или Илона Маска о появлении «AGI» через год или два нереалистичными .
- Критерий успеха: По словам гостя, реальным показателем станет появление беспилотных автомобилей уровня 5, способных научиться вождению за 20 часов (как человек), или домашних роботов .
🛡️ Безопасность и отсутствие «жажды власти» у машин 47:06
Один из самых острых моментов интервью — несогласие Лекуна с позицией Макса Тегмарка и Джеффри Хинтона относительно рисков потери контроля над ИИ . Лекун утверждает, что идея о «врождённом желании доминировать» у сверхинтеллекта — это ошибка восприятия.
Аргументы против сценария «восстания машин»:
- Интеллект $\neq$ Доминирование: Желание властвовать характерно только для социальных видов с иерархической структурой (люди, волки, шимпанзе). Орангутаны, будучи крайне умными, ведут одиночный образ жизни и не стремятся никем управлять .
- Иерархия в обществе: Лекун замечает, что в человеческом обществе лидерами становятся далеко не самые умные люди. Интеллект и амбиции — это разные параметры .
- Objective-Driven AI: Лекун предлагает строить системы, которые физически не могут выйти за рамки заданных целей и «ограждений» (guardrails) .
По мнению Яна Лекуна, безопасность ИИ будет гарантирована архитектурно: система оптимизирует последовательность действий для достижения цели, проверяя каждый шаг на соответствие «законам»-ограничениям в своей ментальной модели . Это исключает возможность «джейлбрейка» через простые текстовые промпты .
🎓 Будущее образования: Профессор как «Мастер-Джедай» 1:06:54
Как профессор Нью-Йоркского университета (NYU), Ян Лекун размышляет о трансформации своей профессии. Он считает, что ИИ не заменит преподавателей, но радикально изменит их роль.
Видение будущего образования:
- Персональный штат сотрудников: В будущем у каждого студента и профессора будет виртуальный штат помощников, которые умнее их самих в отдельных областях .
- Отношения «Мастер — Падаван»: Ценность профессора сместится от передачи сухих фактов к обучению этике, практике науки и выбору интересных направлений исследований .
- ИИ в науке: Лекун с иронией отмечает, что уже сейчас можно пользоваться ИИ-ассистентами Meta бесплатно даже на борту самолёта, если использовать WhatsApp AI через бесплатные мессенджер-пакеты авиакомпаний .
В завершение Ян Лекун признался, что за свою карьеру он неоднократно ошибался. Например, в конце 80-х он скептически относился к идеям Джеффри Хинтона о важности самообучения без учителя, считая их плохо определёнными . Однако к началу 2000-х он полностью сменил позицию, став главным сторонником этого направления, которое сегодня считает ключевым для достижения человеческого уровня интеллекта .
