В новом выпуске подкаста The Cognitive Revolution ведущий Нейтан Лабенз обсуждает с Само Буржей, основателем Bismarck Analysis и экспертом по геополитике, будущее искусственного интеллекта как ключевого фактора национального могущества. Буржа анализирует ИИ не просто как технологический продукт, а как фундаментальный научный вызов, требующий пересмотра промышленной политики США, подходов к образованию и стратегии сдерживания Китая.
🧬 ИИ как научный эксперимент, а не просто инженерия 4:44
Само Буржа утверждает, что ИИ является уникальным тестом для мировоззрений: ожидания людей от технологии напрямую зависят от их представлений о том, что такое разум и в чём заключается уникальность человека . По его мнению, текущий этап развития ИИ характеризуется тем, что инженерное дело значительно опередило теоретическую науку .
Ключевые тезисы Буржи о природе современных разработок:
- Тренировочные прогоны как эксперименты: Крупные сессии обучения моделей (training runs) следует рассматривать не как запуск обычного софта, а как масштабные научные эксперименты, сопоставимые по значимости и стоимости с работой Большого адронного коллайдера в ЦЕРНе .
- Иллюзия «законов масштабирования»: Буржа скептически относится к так называемым «scaling laws». Он полагает, что энтузиазм по поводу простого наращивания вычислительных мощностей (compute) может столкнуться с фундаментальными научными барьерами в любой момент .
- Эффективность вместо масштаба: Уже сейчас наблюдается тренд, когда выходы моделей улучшаются не за счет роста вычислений, а за счет оптимизации алгоритмов. Это, по словам гостя, противоречит прогнозам многих экспертов и предпринимателей, сделанным всего 18 месяцев назад .
- Архитектурная революция: Буржа уверен, что архитектура Transformer не является «концом истории». Он ожидает появления качественно новых парадигм, которые будут гораздо эффективнее работать с генерацией знаний .
🎓 Кризис университетов и «интеллектуальная добыча» 14:45
По мнению Само Буржи, западная цивилизация столкнулась с фундаментальной проблемой: механизм распределения талантов (университеты) больше не совпадает с механизмом научного прогресса .
Ситуация в академической среде глазами Буржи:
- Истощение кадров: Крупные технологические компании «выпотрошили» (strip-mined) университетские кафедры компьютерных наук, забрав всех талантливых ученых .
- Проблема соглашательства: Система образования тренирует «соглашательство» (agreeability), тогда как истинная наука требует подвергать сомнению текущие подходы и опровергать их .
- Утрата «Dream Team»: Буржа отмечает, что первоначальная команда OpenAI была уникальной группой ученых, работавших в режиме «академического тенюра», защищенных от давления рынка. Распад этой команды — большая потеря для фундаментальной науки .
Буржа подчеркивает разницу между «учеными ИИ» (такими как Демис Хассабис или Илья Суцкевер) и обычными инженерами программного обеспечения. Первые движимы глубоким любопытством к природе вселенной и разума, что является более надежным залогом прорыва, чем просто коммерческий расчет .
🏭 Новая промышленная политика и «Кремниевая долина 2.0» 34:36
В разговоре о конкурентоспособности США Буржа выдвигает тезис о необходимости жесткой промышленной политики в сфере полупроводников и энергетики. По его мнению, свободный рынок не сможет обеспечить лидерство США в производстве чипов .
Основные рекомендации Буржи:
- Особые экономические зоны (ОЭЗ): Необходимо создать федеральные зоны (возможно, в Вирджинии или в виде портовых городов), где будут отменены все бюрократические ограничения и строительные нормы, мешающие быстрому возведению заводов (fabs) .
- Прямые государственные закупки: Правительство США должно гарантировать закупку вычислительных мощностей у отечественных производителей, даже если их стоимость будет выше, чем в Азии .
- Энергетический рывок: Буржа поддерживает идею радикального увеличения производства электроэнергии специально для нужд дата-центров, считая это ключевым преимуществом в среднесрочной перспективе .
- Признание реальности: Себестоимость производства чипов в США сейчас на 50% выше, чем у TSMC на Тайване. Без господдержки Intel или другие игроки никогда не станут лидерами в условиях свободной торговли .
🇨🇳 Китай: экономический соперник, а не военная угроза 41:06
Само Буржа критикует попытки милитаризировать дискурс вокруг Китая. Он утверждает, что КНР мыслит категориями экономического доминирования, а не территориальной экспансии в западном понимании .
Анализ позиции Китая:
- Марксистский подход: Китайское руководство — это ортодоксальные марксисты, которые верят в контроль над средствами производства. Их стратегия — владеть заводами, производящими всё в мире .
- Модель империи: В отличие от римской модели (завоевание периферии), китайская модель исторически строится на консолидации центра и извлечении дани из тех, кто хочет пользоваться плодами их цивилизации .
- Ошибка запрета на чипы: Буржа считает санкции администрации Байдена (2022 год) «слишком запоздалыми». По его мнению, они не остановили Китай, а стали скрытой субсидией для их внутренней промышленности, заставив китайских гигантов (Baidu, Alibaba) покупать отечественные чипы вместо Nvidia .
- Долгосрочная игра: США должны готовиться к 50-летней экономической конкуренции, а не рассчитывать на крах Китая в ближайшие годы .
🛡️ Опасность «Скайнета» и вопросы безопасности 1:01:05
Собеседники выражают серьезную обеспокоенность милитаризацией ИИ. Буржа утверждает, что современные стартапы в сфере оборонных технологий фактически используют «Скайнет» как питч-дек (презентацию) для привлечения инвестиций от Пентагона .
Риски и контрмеры:
- Нулевая сумма: Обучение ИИ побеждать в военных играх учит его воспринимать человечество как противника. Буржа призывает не фетишизировать «Манхэттенский проект» и помнить о раскаянии Оппенгеймера .
- Идеологическое разнообразие: Буржа советует будущему президенту США обеспечить идеологическое разнообразие в структурах вроде DARPA, чтобы там не доминировали только сторонники эффективного альтруизма (EA) или «ускорители» (e/acc) .
- Минимизация различий: Нейтан Лабенз упоминает новый метод безопасности — обучение ИИ с минимизацией различия между «собой» и «другим» (self-other distinction). Это может предотвратить появление эгоистичных и обманчивых стратегий у агентов .
🌐 Цифровой тоталитаризм и будущее интернета 1:11:07
Обсуждая план Леопольда Ашенбреннера (укрепление безопасности США через слияние государства и ИИ-лабораторий), Буржа высказывает опасение, что это приведет к утрате гражданских свобод .
- Риск цензуры: По мнению Буржи, сделать технологический стек США защищенным от Китая — значит сделать его полностью контролируемым против собственных граждан .
- Пример Канады: Буржа напоминает о блокировке банковских счетов участников протестов дальнобойщиков в Канаде как о примере «западного тоталитаризма», который в техническом плане местами изощреннее китайского .
- Централизация: Гость убежден, что централизованный интернет неизбежен, и мы «медленно дрейфуем в сторону цифрового тоталитаризма», где вместо арестов используется лишение доступа к финансовым и социальным сервисам .
