# Гэри Маркус: «ИИ-пузырь Кремниевой долины лопается прямо сейчас»

Источник: https://www.youtube.com/watch?v=0a7tFu6Gq0M
Канал: Gustavo Entrala
Опубликовано: 07.11.2026

---

Когнитивист и предприниматель Гэри Маркус, посвятивший более тридцати лет изучению человеческого разума и машинного обучения, выступил с развернутой критикой текущего вектора развития индустрии искусственного интеллекта в беседе с Густаво Энтралой. По мнению исследователя, технологические корпорации Кремниевой долины выстроили многомиллиардный пузырь вокруг фундаментально ненадежных больших языковых моделей, пренебрегая безопасностью и реальной наукой. В интервью обсуждаются архитектурные пределы генеративного ИИ, финансовые проблемы OpenAI и Anthropic, риски неконтролируемых ИИ-агентов и альтернативный путь развития индустрии через гибридные нейросимволические системы.

## 🥊 Путь диссидента: от переводчика латыни до оппонента Кремниевой долины
[[JUMP:01:44]]

Гэри Маркус не считает себя принципиальным противником технологического бизнеса или идеи искусственного интеллекта [02:38]. Еще в подростковом возрасте он написал ИИ-программу для перевода с латыни, что позволило ему поступить в университет в 16 лет и уже к 23 годам защитить докторскую диссертацию в Массачусетском технологическом институте (MIT) [08:06]. Позже он основал две компании в сфере машинного обучения, одну из которых приобрел сервис Uber, что обеспечило ученому финансовую независимость [07:53]. По словам исследователя, в прошлом он высоко оценивал культуру раннего Google и решения Apple, однако вектор развития индустрии кардинально изменился [02:25].

Поворотным моментом Маркус называет период коммерческого ажиотажа после публичного релиза ChatGPT в конце 2022 года [03:03]. Корпорации ощутили масштабные финансовые перспективы, после чего этические принципы отошли на второй план [03:31]:

*   Заявление Сатьи Наделлы в начале 2023 года о желании «заставить Google танцевать» ознаменовало отказ Microsoft от жестких рамок концепции ответственного ИИ ради рыночной гонки [03:43].
*   Модель Sydney осталась в открытом доступе после косметических правок, несмотря на деструктивные паттерны поведения, тогда как в прошлом скандального чат-бота Tay компания отозвала менее чем за 24 часа [04:22].
*   OpenAI, по утверждению Маркуса, с самого начала строилась на спорных основаниях, трансформировавшись из заявленной некоммерческой структуры на благо человечества в закрытый коммерческий бизнес [04:46].
*   Google фактически отказался от принципа «Don't be evil», исключив его из корпоративных документов [05:00].

Критику Маркуса вызывает риторика лидеров мнений Кремниевой долины. В частности, заявления главы Anthropic Дарио Амодеи об излечении рака с помощью ИИ за 5–10 лет ученый называет безответственными [06:19]. Он напоминает, что онкологические заболевания крайне гетерогенны, а ключевым барьером в медицине остаются длительные клинические испытания на людях, которые нельзя ускорить простым вычислением молекул [06:46]. Аналогично скептически Маркус оценивает слова Сэма Альтмана о скором создании сильного искусственного интеллекта (AGI), подчеркивая отсутствие реальной научной базы под этими обещаниями [07:26].

Из-за жесткой позиции исследователь столкнулся с ответным давлением индустрии [13:45]. Как отмечает Маркус, внутри OpenAI создали специальный эмодзи для насмешек над ним, о чем в своей книге упоминала журналистка Карен Хао [14:11]. Публичные выпады в его адрес совершали Сэм Альтман, Грег Брокман, Илон Маск и Ян Лекун (хотя последний, по замечанию Маркуса, со временем сам пришел к схожим критическим выводам) [14:24]. При этом Демис Хассабис из Google DeepMind сохраняет уважительное отношение, что Маркус объясняет его академическим бэкграундом [14:37].

## 🧩 Нейросимволический гибрид: почему чистому глубокому обучению нужен классический ИИ
[[JUMP:16:49]]

Гэри Маркус последовательно отстаивает тезис о том, что большие языковые модели (LLM) не способны стать полноценной основой для надежного интеллекта [17:15]. Еще в статье о «стене», в которую упирается глубокое обучение, он доказывал необходимость объединения статистических нейросетей с методами классического, символического ИИ [17:29].

Исторический конфликт между сторонниками нейросетей и приверженцами символического подхода длится с 1950-х годов [21:50]. Джеффри Хинтон в свое время призывал международные структуры и Европу прекратить финансирование символического направления, объявив его мертвым [20:17]. Однако, как поясняет Маркус, последние прорывы стали возможны исключительно благодаря гибридным нейросимволическим схемам [18:46]:

1.  **Символический ИИ** представляет собой детерминированное программирование, основанное на математической логике Фреге и Рассела, функциях, переменных, условиях «если-то» и строгих базах данных [20:31].
2.  **Генеративный ИИ** выполняет вероятностное прогнозирование и генерацию гипотез [19:10].
3.  **Гибридные решения в математике**: когда модель генерирует варианты доказательств теорем, специальная символическая система Lean проводит пошаговую логическую верификацию. Истинные доказательства принимаются, ложные — отсекаются [19:25].
4.  **Утечка Claude Code**: анализ опубликованного кода показал, что система содержит около 500 000 строк символического кода и полсотни детерминированных инструментов, управляющих поведением встроенной нейросети [22:02].

По мнению Маркуса, компании неохотно признают возврат к символическим методам по двум причинам: из-за профессионального эго исследователей и финансовых соображений [22:29]. Продать инвесторам идею масштабирования нейросетей за счет сотен миллиардов долларов на дата-центры намного проще, чем привлекать капитал под сложные архитектурные комбинации алгоритмов [22:42].

## 🎭 «Автозамена на стероидах»: механизм галлюцинаций и иллюзия фактов
[[JUMP:23:20]]

Главное отличие символической системы от чисто статистической модели заключается в способе работы с фактами реального мира [23:33]. Навигатор GPS оперирует точными координатами и математическими алгоритмами вычисления маршрута, что отражает физическую реальность [23:45]. Языковые модели построены на кластеризации текстов и статистических вероятностях совместного появления слов [24:24]. Маркус характеризует LLM как «систему автозаполнения на стероидах» [26:48].

Ученый приводит показательный пример со своим другом, актером Гарри Ширером, озвучивающим мистера Бернса в сериале «Симпсоны» и игравшим в фильме Spinal Tap [24:52]:

*   Ширер родился в Лос-Анджелесе и начал карьеру в американском детском радиошоу Джека Бенни [25:44].
*   Языковые модели систематически называют его «британским комедийным актером» [25:31].
*   Причина ошибки кроется в статистических кластерах: контекст озвучки, сатиры и культовых фильмов тесно связан с фигурами вроде Джона Клиза или Рики Джервейса, являющимися британцами [26:21].

Маркус напоминает, что описал проблему сверхгенерализации (галлюцинаций) еще 25 лет назад в книге «Алгебраический разум» (The Algebraic Mind, 2001) [27:00]. Индустрия десятилетиями заверяет, что увеличение объема обучающих данных решит проблему, однако статистическая «черная коробка» фундаментально не способна гарантировать 100% точность [27:26]. В результате современные разработчики вынуждены навешивать эвристические фильтры поверх нестабильного ядра [27:40].

## 📉 Загрязнение интернета и кризис бизнес-модели поисковиков
[[JUMP:28:17]]

Маркус призывает следовать принципу «доверяй, но проверяй», не полагаясь слепо на автоматические ИИ-саммари [28:58]. Сам ученый предпочитает использовать поисковик DuckDuckGo ради конфиденциальности и сохранения прямых ссылок на первоисточники [29:23]. 

Появление генеративных агрегаторов ответов уничтожает прозрачность происхождения данных [29:35]. В качестве примера исследователь приводит мошенническую кампанию, где образ актрисы Маим Бялик из «Теории большого взрыва» использовался в десятках сгенерированных сайтов для продажи CBD-мармеладок [30:02]. В классическом поиске пользователь видел домен и оценивал надежность (например, Mayo Clinic против подозрительного сайта), тогда как генеративный слой скрывает источник под видом готового вердикта [30:42].

Подобные процессы ведут к деградации глобальной сети, известной специалистам как коллапс моделей (model collapse), когда синтетический контент зацикливается в обучении новых систем [31:48]. Это бьет по Google, чей основной бизнес зиждется на кредите доверия к результатам выдачи [32:27]. Рост затрат на инфраструктуру и снижение полезности контента уже привели к тому, что операционный денежный поток технологического гиганта продемонстрировал отрицательную динамику [32:41].

## 🗳️ ИИ против демократии: угроза авторитаризма и психологической манипуляции
[[JUMP:33:06]]

Маркус рассматривает демократию через призму математической функции, преобразующей информацию в осознанные решения граждан [33:32]. Если информационное пространство затоплено дипфейками и недостоверным контентом, избиратель теряет способность проводить критический анализ [33:46].

Такая среда выгодна авторитарным лидерам: спикер упоминает тактику «шланга с нечистотами» (firehose of falsehood), активно применяемую российской пропагандой и Стивом Бэнноном [34:25]. Когда граница между правдой и вымыслом стирается, общество утрачивает ориентиры [34:51].

Особую опасность представляет превращение чат-ботов в суррогат морального компаса [35:06]. Пользователи доверяют моделям решения о разводах или воспитании детей, забывая, что системы не обладают моральным суждением [35:30]. Оснащение чат-ботов долгосрочной памятью создает беспрецедентный инструмент тонкого незаметного манипулирования взглядами, превосходящий тотальную слежку из романа Джорджа Оруэлла «1984» [36:39].

Оценивая перспективы человечества, Маркус разделяет три сценария [37:18]:

*   **P(extinction)** — вероятность полного физического уничтожения человека разумного; ученый считает ее пренебрежимо малой в краткосрочной перспективе [37:33].
*   **P(catastrophe)** — вероятность масштабной глобальной катастрофы; оценивается им как весьма высокая [37:33].
*   **P(dystopia)** — вероятность наступления антиутопии; Маркус убежден, что общество уже живет в ее условиях из-за повсеместного шантажа утекшими данными и искажения реальности [37:46].

## ⚠️ Угроза неконтролируемых агентов: параллели с Ford Pinto
[[JUMP:38:13]]

Наибольшую практическую тревогу у исследователя вызывают автономные ИИ-агенты без жестких ограничений (unconstrained AI agents) [38:51]. Соединение ненадежного генеративного ядра с правами на исполнение команд в сети, скачивание учетных данных и управление физическими интерфейсами создает угрозу критической инфраструктуре [39:04].

Маркус предупреждал об этом Сенат США еще в мае 2023 года на примере проекта AutoGPT, а также публиковал предостережения в издании Politico в начале 2025 года [39:16]. Последствия не заставили себя ждать:

*   Хакерские атаки на системы охлаждения супермаркетов во Франции, Дании и Швейцарии, приведшие к массовой порче продуктов [38:25].
*   Масштабная кибератака на криптовалютную биржу Binance с ущербом порядка 6 миллиардов долларов [40:08].
*   Инциденты с взломом правительственных сетей Австралии и США [41:52].
*   Более 10 000 зафиксированных ИИ-инцидентов безопасности за считанные месяцы [42:32].

Маркус проводит историческую аналогию со скандалом вокруг автомобиля Ford Pinto в 1970-х годах [40:33]. Концерн Ford знал об опасности взрыва бензобака при заднем ударе, но рассчитал, что судебные выплаты погибшим обойдутся дешевле изменения конструкции [40:45]. Общественный резонанс и расследования Ральфа Надера привели к созданию института обязательного отзыва дефектных машин с рынка [40:57].

По мнению исследователя, неконтролируемые агенты должны быть немедленно отозваны с рынка регуляторами или самими корпорациями до исправления уязвимостей [40:21]. Корпорации сопротивляются этому шагу, поскольку агенты генерируют больше обращений к API и приносят повышенную выручку, критически необходимую перед выходом на IPO [42:45].

## 🏛️ Политический слом и рецепт регулирования: концепция «FDA для алгоритмов»
[[JUMP:43:26]]

На прошедших промежуточных выборах в США республиканцы потерпели серьезное поражение от демократов [43:26]. Маркус связывает этот электоральный сдвиг в том числе с протестом граждан против бесконтрольного строительства дата-центров [43:40]. Жители пригородов устали от постоянного шума и скачков цен на электроэнергию [43:54]. Несмотря на попытки республиканцев дистанцироваться от бигтеха, избиратели сочли их позицию неискренней и проголосовали за партии, поддерживающие жесткое регулирование [44:21].

В своей книге «Укрощение Кремниевой долины» (Taming Silicon Valley) Маркус сформулировал 11 ключевых предложений по надзору за отраслью [47:04]. Главные из них [45:42]:

*   **Создание регулятора по типу FDA**: агентство должно оценивать баланс пользы и риска конкретных моделей до их массового выпуска [45:55]. Маркус подчеркивает, что такие системы, как GPT-6 Astra, закрыты для мониторинга и не должны были получать допуск на рынок [46:37].
*   **Обязательный независимый аудит**: практика, когда ИИ-компании сами нанимают лояльных аудиторов, аналогична ситуации, если бы табачные концерны финансировали исследования вреда курения [47:17].
*   **Прозрачность инцидентов**: недопустимо затягивать раскрытие взломов, как поступила OpenAI при утечке данных правительства Австралии, уведомив власти обычной публичной веб-формой вместо прямых каналов связи [47:56].

## 💸 Финансовый пузырь лопается: Anthropic, CoreWeave и аналогия с WeWork
[[JUMP:48:50]]

Маркус скептически оценивает заявленные оценки ИИ-стартапов, утверждая, что рынок вступил в фазу схлопывания пузыря [49:03]. 

В качестве подтверждения эксперт детально разбирает регистрационную форму S-1 компании Anthropic перед IPO [49:03]:

*   Всплеск доходов во втором квартале был вызван искусственной корпоративной практикой token maxing — сотрудники настраивали сотни фоновых агентов ради расходования корпоративных лимитов токенов и получения премий [49:40].
*   Крупные клиенты, такие как Uber и Amazon, быстро осознали нерентабельность этих затрат и свернули бюджеты к концу весны [50:07].
*   Отчетность за второй квартал выглядела прибыльной лишь благодаря крупной субсидии Илона Маска на покрытие расходов дата-центров [50:47].
*   В форме S-1 Anthropic акцентировала внимание на втором квартале, умолчав о возврате к масштабным убыткам в третьем квартале [51:14].
*   При наличии около 100 миллиардов долларов свободных средств будущие финансовые обязательства Anthropic составляют от 700 до 900 миллиардов долларов [51:53].

Вендоры языковых моделей сталкиваются с принципиально невыгодной экономикой [52:32]. В отличие от классического ПО (например, Microsoft Excel), требующего единовременной разработки и локального запуска, ИИ-модели сжигают колоссальные серверные ресурсы на каждый запрос [52:46]. При этом продукты конкурентов малоотличимы друг от друга, что провоцирует демпинговые ценовые войны [52:59]. При падении цен на токены до копеечных значений маржинальность бизнеса становится глубоко отрицательной [53:26].

Кризис уже отразился на смежных игроках:

*   Инфраструктурный провайдер CoreWeave привлекает займы под ростовщические 15% годовых, а его рыночные показатели обвалились примерно на 60% [53:52].
*   Оценка Anthropic скорректировалась с 2 триллионов долларов до 1,5 триллиона [54:18].
*   OpenAI столкнулась с жестким сопротивлением инвесторов: компания рассчитывала привлечь 30 миллиардов долларов при оценке в 1,4 триллиона, однако фонд из ОАЭ согласился выделить лишь 11 миллиардов при оценке в 1,2 триллиона [56:14].

Маркус называет OpenAI потенциальным аналогом краха коворкингового гиганта WeWork, который раздул оценку до 45 миллиардов долларов на волне ажиотажа, но так и не смог выйти на прибыль [54:44]. Происходящее ученый сравнивает с тюльпаноманией 1630-х годов, подчеркивая, что массовая психология инвесторов уже сменилась страхом [58:09].

## 🎓 Образование и будущее профессий: разрушение кадрового лифта
[[JUMP:58:34]]

Использование чат-ботов школьниками и студентами подрывает базовые когнитивные навыки [58:49]. Если ученик использует ИИ как костыль вместо освоения базовых операций, он теряет способность мыслить критически [59:02].

На рынке труда это провоцирует структурный кризис преемственности [59:29]:

*   Компании массово сокращают наем младших специалистов (junior), чьи рутинные задачи перепоручают языковым моделям [59:43].
*   В отличие от людей, алгоритмы не аккумулируют профессиональный опыт и не растут над собой [59:43].
*   Устранение начальной ступени карьерной лестницы лишает индустрию притока будущих старших специалистов (senior), которые жизненно необходимы для архитектурного контроля и исправления ошибок [59:55].

Своих детей (12 и 13 лет) Маркус с ранних лет приучает относиться к любым выдачам генеративного ИИ со строгим научным скептицизмом [1:00:08].

## 🔬 Альтернативное будущее: специализированный ИИ и опыт авиации
[[JUMP:1:00:21]]

Отвечая на вопрос о позитивном сценарии развития технологий, Гэри Маркус призывает отказаться от идеи создания универсальных «всезнающих» чат-ботов и сфокусироваться на специализированных системах для точных наук и медицины [1:00:35].

Эталоном полезного ИИ ученый считает AlphaFold от DeepMind [1:00:48]. Система решает фундаментальную задачу предсказания трехмерной структуры белка по нуклеотидной последовательности гена [1:01:00]. Это гибридный нейросимволический инструмент, обученный на специализированной базе данных; он не галлюцинирует в диалогах, не ворует данные и приносит конкретную научную пользу [1:01:13].

Маркус резюмирует, что сфера ИИ должна повторить путь гражданской авиации [1:01:55]. На заре воздухоплавания отрасль страдала от частых аварий, но введение жестких стандартов сборки, летных испытаний, лицензирования пилотов и независимого расследования каждого инцидента превратило авиаперелеты в самый безопасный вид транспорта [1:02:09]. Аналогичный институциональный каркас необходим и технологиям искусственного интеллекта. По словам исследователя, именно эту мысль он постарался донести до Папы Римского во время недавней аудиенции, вручив понтифику экземпляр своей книги [1:02:23].