Иллюзия интеллекта: почему Гэри Маркус считает путь к AGI ошибочным 0:00
Современная экономика рискует оказаться в ловушке, переоценивая возможности генеративного ИИ. В недавнем выпуске Prof G Markets ведущий Эд Элсон обсудил с экспертом Гэри Маркусом, профессором NYU Stern и известным критиком индустрии, почему нынешние большие языковые модели (LLM) — это лишь вершина одного из многих «горных хребтов» в развитии интеллекта, а не путь к настоящему прорыву.
📉 Технологический тупик LLM 4:36
По мнению Гэри Маркуса, главная проблема кроется в самой архитектуре нейросетей, которые по своей сути являются лишь «предсказателями следующего токена» (next token predictors).
- Имитация vs Понимание: Маркус утверждает, что способность моделей имитировать человеческую речь создает обманчивое впечатление глубокого понимания контекста. На деле системы не обладают стабильными моделями мира и легко совершают «глупые» ошибки при выходе за рамки тренировочных данных, что наглядно показывают «задачи на переправу через реку».
- Проблема «галлюцинаций»: Несмотря на прогнозы лидеров индустрии (например, Мустафы Сулеймана или Рида Хоффмана) в 2023 году о том, что галлюцинации исчезнут через несколько месяцев, по состоянию на 2026 год они остаются фундаментальной чертой технологии.
- Отсутствие гибкости: В отличие от узкоспециализированных систем (например, шахматных движков или GPS-навигации), LLM плохо следуют правилам, часто нарушая логику даже в простых счетных задачах.
🏛 Регулирование и политические риски 21:05
Дискуссия о регулировании ИИ претерпела значительные изменения: от полного отрицания необходимости контроля в начале до осознания серьезных последствий.
- Смена курса: Гэри Маркус отмечает, что правительство США долгое время придерживалось подхода «никакого регулирования ради инноваций». Однако ситуация изменилась после появления модели Mythos от Anthropic, которая продемонстрировала потенциальную опасность в области кибербезопасности.
- Судебные иски: Массовые расследования генеральных прокуроров штатов (включая иск штата Нью-Йорк) направлены на то, чтобы привлечь компании к ответственности за распространение ложной информации, «сикофантство» моделей (подстраивание под мнение пользователя) и негативное влияние на психическое здоровье людей.
- Капиталистическая критика: Маркус критикует попытки компаний приватизировать прибыль, перекладывая социальные издержки на общество, и предостерегает от идеи прямой покупки долей в ИИ-компаниях правительством, называя это «скрытой помощью» (bailout).
💰 Экономическая устойчивость: «Token Apocalypse» 44:03
Финансовая модель большинства ИИ-компаний вызывает у эксперта глубокий скепсис.
- Масштаб убытков: По словам ведущего Эда Элсона, компания OpenAI в прошлом году продемонстрировала операционный убыток в $21 млрд.
- Эффект «Токен-апокалипсиса»: Период, когда компании стремились потреблять как можно больше токенов («token maxing»), сменился осознанием низкой эффективности таких инвестиций. Сейчас бизнес начинает экономить и искать более дешевые модели, что ставит под угрозу доходность гигантов отрасли.
- Отсутствие «рва»: Маркус подчеркивает, что большинство компаний используют практически идентичную архитектуру, что ведет к ценовым войнам и невозможности долгосрочного лидерства.
В завершение Гэри Маркус подчеркивает: общество должно сменить стратегию с «эксплуатации» текущих LLM на «исследование» альтернативных подходов к созданию интеллекта, чтобы не оказаться в ситуации, когда весь экономический потенциал был поставлен на устаревающую технологию.
