# Ян Лекун: «Современный ИИ глупее кота, а страхи перед ним преувеличены»

Источник: https://www.youtube.com/watch?v=u7e0YUcZYbE
Канал: Brian Keating
Опубликовано: 29.12.2024

---

Ян Лекун, главный учёный по ИИ в Meta и лауреат премии Тьюринга, в беседе с астрофизиком Брайаном Китингом развенчивает мифы о неминуемом «цифровом апокалипсисе» и объясняет, почему современные нейросети пока не дотягивают даже до уровня домашнего кота. В центре дискуссии — фундаментальные ограничения языковых моделей (LLM), новая архитектура JEPA, призванная дать машинам «здравый смысл», и радикально иной взгляд на безопасность ИИ, основанный на «управлении целями», а не на бесконечном предсказании слов.

## 🐱 Текущий уровень ИИ: почему нейросеть глупее кота
[[JUMP:04:25]]

Ян Лекун утверждает, что современные системы ИИ, несмотря на их способность манипулировать языком, едва ли достигают уровня интеллекта кошки в понимании физического мира [04:25]. По его мнению, огромный разрыв между способностями ИИ и живых существ объясняется тем, что нейросети обучаются исключительно на текстах — символическом и сильно упрощённом представлении реальности [05:05].

Основные аргументы Яна Лекуна в пользу этой позиции:

*   **Отсутствие понимания физики:** Кошка может мгновенно спланировать сложную траекторию прыжка через мебель, понимая свои физические возможности и динамику объектов [05:56]. Современный ИИ на это не способен.
*   **Парадокс сложности задач:** Мы имеем системы, способные сдать сложный юридический экзамен (Bar exam), но у нас до сих пор нет домашних роботов, способных убрать со стола или наполнить посудомоечную машину — задач, с которыми легко справляется 10-летний ребёнок [05:30].
*   **Специфика обучения:** Живые существа обучаются через наблюдение и взаимодействие с миром, а не через чтение инструкций. Ребёнок получает на порядки больше данных через визуальное восприятие, чем любая LLM через токены [25:54].

## 🔨 Проблема «молотка» и тупик языковых моделей
[[JUMP:07:02]]

Брайан Китинг и Ян Лекун обсудили феномен «ловушки Фукидида» в технологиях, когда господствующий подход (LLM + GPU) поглощает всё внимание и ресурсы, подавляя инновации в других областях [06:34]. Лекун считает, что индустрия совершает ошибку, пытаясь превратить языковые модели в универсальное решение для любых задач [07:16].

Критический взгляд Яна Лекуна на LLM:

1.  **Концептуальная простота:** Несмотря на мощь, LLM по своей сути просты — они лишь предсказывают следующий токен, не имея внутренней модели мира [07:28].
2.  **Неспособность к планированию:** Языковые модели не могут строить долгосрочные стратегии действий в физическом пространстве [07:41].
3.  **Отсутствие «здравого смысла»:** Без понимания причинно-следственных связей реального мира ИИ остаётся поверхностным [07:55].

Ян Лекун полагает, что следующий прорыв в ИИ связан с переходом от чисто генеративных архитектур к системам, обладающим ментальными моделями для предсказания последствий своих действий [08:08].

## 🚀 JEPA: Архитектура, понимающая мир через «абстракцию»
[[JUMP:12:33]]

Ян Лекун возлагает большие надежды на разработанную в Meta архитектуру JEPA (Joint Embedding Predictive Architecture) [12:33]. В отличие от традиционных автоэнкодеров, которые пытаются восстановить каждый пиксель изображения, JEPA работает в пространстве абстрактных представлений (эмбеддингов) [19:23].

Принцип работы JEPA и примеры:

*   **Игнорирование шума:** По мнению Лекуна, для предсказания будущего не нужно знать положение каждой молекулы газа. Достаточно знать макропараметры (давление, объём, температуру) [23:17].
*   **Пример с Юпитером:** Чтобы предсказать траекторию планеты на столетия вперёд, физику не нужно знать состав её атмосферы или плотность облаков — достаточно шести чисел: трёх координат положения и трёх векторов скорости [11:54].
*   **Предсказание в пространстве смыслов:** JEPA обучается предсказывать «суть» следующего кадра видео, игнорируя непредсказуемые детали, такие как движение листвы на ветру или рябь на воде [22:50].

Это позволяет системе эффективно учиться на видео без участия человека, что Лекун называет самообучением (self-supervised learning) [12:50].

## 🍰 «Темная материя» ИИ: Почему обучение с подкреплением не сработает
[[JUMP:31:25]]

Ян Лекун ввёл термин «тёмная материя ИИ» для описания самообучения, которое составляет 80% всего процесса познания у людей и животных [31:25]. Он противопоставляет это неэффективным методам, на которых сейчас сосредоточено внимание многих разработчиков.

Аналогия «шоколадного торта» от Яна Лекуна (сформулированная ещё в 2016 году):

*   **Бисквит (основа):** Самообучение (SSL). Это гигантский пласт знаний о структуре мира, который мы получаем без учителей [34:02].
*   **Глазурь:** Обучение с учителем (Supervised Learning). Узкий слой специфических меток (например, «это слон») [34:08].
*   **Вишенка на торте:** Обучение с подкреплением (Reinforcement Learning). Крайне неэффективный метод, требующий миллионов попыток, который сам по себе никогда не приведёт к человеческому уровню интеллекта [34:12].

Лекун отмечает, что животные (например, осьминоги) становятся умными, никогда не встречая своих родителей и не получая никаких инструкций — исключительно за счёт исследования структуры входных данных [33:22].

## ⏳ Сроки появления AMI и спор об AGI
[[JUMP:39:15]]

Ян Лекун принципиально избегает термина AGI (общий искусственный интеллект), считая его бессмысленным, так как человеческий интеллект сам по себе очень специализирован [40:05]. Вместо этого в Meta используют термин AMI (Advanced Machine Intelligence) или, по-французски, «Abbi» [40:18].

Прогнозы Лекуна по срокам:

1.  **5–6 лет:** Оптимистичный срок появления систем, которые люди субъективно назовут «умными, как человек», при условии успеха архитектур типа JEPA [41:26].
2.  **Ошибочность коротких прогнозов:** Лекун считает предсказания Сэма Альтмана или Илона Маска о появлении «AGI» через год или два нереалистичными [42:17].
3.  **Критерий успеха:** По словам гостя, реальным показателем станет появление беспилотных автомобилей уровня 5, способных научиться вождению за 20 часов (как человек), или домашних роботов [42:44].

## 🛡️ Безопасность и отсутствие «жажды власти» у машин
[[JUMP:47:06]]

Один из самых острых моментов интервью — несогласие Лекуна с позицией Макса Тегмарка и Джеффри Хинтона относительно рисков потери контроля над ИИ [47:06]. Лекун утверждает, что идея о «врождённом желании доминировать» у сверхинтеллекта — это ошибка восприятия.

Аргументы против сценария «восстания машин»:

*   **Интеллект $\neq$ Доминирование:** Желание властвовать характерно только для социальных видов с иерархической структурой (люди, волки, шимпанзе). Орангутаны, будучи крайне умными, ведут одиночный образ жизни и не стремятся никем управлять [49:07].
*   **Иерархия в обществе:** Лекун замечает, что в человеческом обществе лидерами становятся далеко не самые умные люди. Интеллект и амбиции — это разные параметры [47:44].
*   **Objective-Driven AI:** Лекун предлагает строить системы, которые физически не могут выйти за рамки заданных целей и «ограждений» (guardrails) [53:10].

По мнению Яна Лекуна, безопасность ИИ будет гарантирована архитектурно: система оптимизирует последовательность действий для достижения цели, проверяя каждый шаг на соответствие «законам»-ограничениям в своей ментальной модели [54:27]. Это исключает возможность «джейлбрейка» через простые текстовые промпты [54:43].

## 🎓 Будущее образования: Профессор как «Мастер-Джедай»
[[JUMP:1:06:54]]

Как профессор Нью-Йоркского университета (NYU), Ян Лекун размышляет о трансформации своей профессии. Он считает, что ИИ не заменит преподавателей, но радикально изменит их роль.

Видение будущего образования:

*   **Персональный штат сотрудников:** В будущем у каждого студента и профессора будет виртуальный штат помощников, которые умнее их самих в отдельных областях [1:09:09].
*   **Отношения «Мастер — Падаван»:** Ценность профессора сместится от передачи сухих фактов к обучению этике, практике науки и выбору интересных направлений исследований [1:08:16].
*   **ИИ в науке:** Лекун с иронией отмечает, что уже сейчас можно пользоваться ИИ-ассистентами Meta бесплатно даже на борту самолёта, если использовать WhatsApp AI через бесплатные мессенджер-пакеты авиакомпаний [1:03:07].

В завершение Ян Лекун признался, что за свою карьеру он неоднократно ошибался. Например, в конце 80-х он скептически относился к идеям Джеффри Хинтона о важности самообучения без учителя, считая их плохо определёнными [1:11:05]. Однако к началу 2000-х он полностью сменил позицию, став главным сторонником этого направления, которое сегодня считает ключевым для достижения человеческого уровня интеллекта [1:11:45].