Американская политика в сфере искусственного интеллекта переживает тектонический сдвиг: от панических призывов к заморозке исследований индустрия переходит к стратегии ускоренного строительства. В новом выпуске подкаста венчурного фонда a16z (Andreessen Horowitz) генеральный партнер Мартин Казадо и его коллега анализируют эволюцию регулирования ИИ, крах концепции экзистенциального риска под влиянием успехов китайской модели DeepSeek и представляют новый «План действий по ИИ» (AI Action Plan) как поворотный момент для американского технологического доминирования. Собеседники подробно разбирают, почему прежние попытки ограничить технологии провалились и какая бизнес-модель обеспечит долгосрочную победу открытого исходного кода.
🔄 От «заморозки» к «строительству»: как менялась культура регулирования 0:00
По мнению партнеров a16z, изданный ранее указ администрации Байдена по ИИ преследовал деструктивные цели, пытаясь ограничить инновации и насаждая атмосферу запугивания. Мартин Казадо отмечает, что еще два года назад Кремниевая долина находилась в противоестественном состоянии: академическая среда и стартапы молчали, пока политики и крупные корпорации подписывали петиции о «приостановке ИИ» из-за экзистенциальных рисков. Казадо противопоставляет этому раннюю эпоху интернета: когда в 1988 году червь Морриса обрушил критическую инфраструктуру, доктрина США не пошла по пути ограничений. Напротив, страна включила «полный газ», инвестируя в технологии, чтобы стать лидером, несмотря на очевидные асимметричные уязвимости.
Ситуация обострилась прошлым летом, когда калифорнийский законопроект SB 1047 едва не стал законом, пройдя Палату представителей и Сенат. Спикеры указывают, что инженеры слишком долго игнорировали политику, рассчитывая, что эти миры не пересекутся. Законодатели же, открыто признавая, что не понимают стремительно развивающуюся технологию, руководствовались логикой «надо же что-то делать, значит, этот закон хорош». Культура невмешательства государства до созревания технологии сменилась агрессивными попытками задушить ее в младенчестве.
🇨🇳 Фактор DeepSeek и крах мифа об изоляции Китая 5:07
Особую критику спикеров вызывают венчурные капиталисты (включая Винода Хослу и фонд Founders Fund), которые, по словам Казадо, начали выступать против открытого исходного кода (open source). Они продвигали тезис о том, что открытые веса ИИ дают преимущество Китаю, а ограничения позволят США удерживать многолетний отрыв. Расчет строился на иллюзии, будто без американских наработок китайские инженеры «забудут математику» и не смогут создавать базовые модели.
Однако реальность полностью опровергла эти прогнозы. Как напоминают ведущие, китайская лаборатория DeepSeek последовательно публиковала сильные научные работы, включая DeepSeek Math V2, а недавний релиз модели DeepSeek R1 поверг Вашингтон в шок. Собеседники высмеивают реакцию американских чиновников, заявлявших, будто Китай «украл веса» фронтирных моделей. По словам гостя, для создания R1 достаточно было качественной дистилляции результатов американских лабораторий и сильной инженерной школы, ведь авторами большинства мировых ИИ-исследований и так являются выходцы из Азии. Осознание того, что Китай эффективно развивает ИИ без оглядки на запреты, заставило американских регуляторов признать: ограничения лишь связали руки самой Америке.
🛡️ Иллюзия ядерного оружия и опасность субсидиарной ответственности 6:23
В дискуссии подробно разбирается главный аргумент сторонников жесткого регулирования, сравнивавших ИИ с ядерным оружием или чертежами истребителя F-16. По мнению спикеров, эта аналогия в корне неверна: ядерная бомба имеет исключительно военное назначение, тогда как ИИ — технология глубоко двойного назначения, сопоставимая с реактивным двигателем. Исторически США инвестировали огромные средства в ядерную энергетику, вовлекая университеты и всю страну, а не засекречивали фундаментальную физику.
Самым опасным элементом отмененного регулирования SB 1047 спикеры называют введение субсидиарной (downstream) ответственности для разработчиков открытых моделей. Согласно проекту, если злоумышленник дообучал открытые веса и это приводило к катастрофическому ущербу, создатель исходной модели нес юридическую ответственность. При этом юридическое определение «катастрофы» было настолько размытым, что под него подходила гибель трех человек или перегрузка сельской больницы, что может произойти даже при обычном ДТП.
Мартин Казадо подчеркивает, к каким разрушительным последствиям это привело бы:
- Создание «эффекта заморозки» (chilling effect), когда независимые исследователи отказываются от публикаций из-за страха многомиллионных судебных исков.
- Полное уничтожение экосистемы стартапов, у которых нет бюджетов на судебные разбирательства.
- Добровольный отказ от конкуренции в тот самый момент, когда поддерживаемый государством Китай форсирует движение к технологическому фронтиру.
🧠 Мыслители первого порядка и метафора «Баптистов и Бутлегеров» 15:10
Анализируя, как индустрия дошла до панических настроений, спикеры отмечают, что рассуждения Илона Маска, Дастина Московица и Сэма Альтмана об экзистенциальном риске и самосовершенствовании ИИ изначально были интересной интеллектуальной игрой. Однако эти абстрактные вопросы стали «кошачьей мятой» для политиков. Авторов панического дискурса спикеры называют «мыслителями первого порядка»: они вели красивые философские споры, но совершенно не просчитали вторые и третьи порядки последствий.
Собеседник проводит важную аналогию:
«Закон — это в основном код. Но если код в программировании легко отрефакторить, то закон в Вашингтоне отрефакторить практически невозможно».
В результате даже директор по политике Anthropic Джек Кларк в конце саги с SB 1047 признал в соцсетях, что авторы ограничений не осознавали, насколько далеко зайдет этот маховик регулирования. Марк Андриссен ранее описал эту ситуацию классической экономической моделью «Баптисты и бутлегеры». Искренние фанатики безопасности (баптисты) создали моральное обоснование, которое цинично использовали крупные корпорации (бутлегеры) для защиты своих закрытых коммерческих монополий от конкуренции со стороны стартапов. Сегодня, как утверждают спикеры, прагматичное «молчаливое большинство» основателей и ученых наконец вернуло себе контроль над дискуссией.
💼 Открытый код как бизнес-стратегия и эволюция Open Core 21:08
Спикеры заявляют, что противостояние открытого и закрытого ИИ повторяет эволюцию операционных систем (Linux) и баз данных. Исторически закрытые проприетарные компании первыми пробивают фронтир возможностей, создавая новые сценарии использования. Но когда крупный бизнес и госсектор понимают, как применять технологию, им требуются снижение стоимости, скорость и полный контроль.
В этот момент открытый код начинает доминировать на инфраструктурном уровне, формируя гигантский рынок «суверенного ИИ» для правительств и жестко регулируемых индустрий, которым необходимо развертывание систем строго на собственных серверах (on-premise).
При этом ИИ-модель открытого кода (open weights) обладает уникальными экономическими преимуществами по сравнению с классическим софтом:
- Передача весов не означает передачу пайплайна данных и инфраструктуры обучения, поэтому конкуренты не могут легко скопировать весь бизнес-процесс.
- Возникает эффективная ИИ-версия модели open core: компания отдает небольшие модели бесплатно для дистрибуции и привлечения разработчиков, но монетизирует самую крупную и сложную модель через облачный API.
- Открытый код позволяет сообществу проводить независимый аудит безопасности (red teaming), делая модель более защищенной за чужой счет.
По словам спикеров, долгосрочная победа в ИИ-экосистеме строится на масштабе: если весь мир запускает свои системы на базе американских моделей, американских чипов и американских технологий пост-тренинга (RLHF), это приносит США на порядки больше геополитического и экономического влияния, чем краткосрочная попытка засекретить интеллектуальную собственность.
🇺🇸 Новый план действий по ИИ: фокус на науку и экосистему оценок 28:42
Переходя к анализу нового правительственного «Плана действий по ИИ», спикеры называют его триумфом прагматизма, поскольку в его составлении впервые участвовали реальные технологи. Документ открывается программной цитатой президента: «Сегодня перед нами лежит новый фронтир научных открытий». Партнеры a16z подчеркивают важность этого вдохновляющего посыла: ИИ должен ассоциироваться с прорывами в физике, химии и материаловедении, а не только с чат-ботами. Прогресс в реальном мире требует привлечения талантов в «мокрые лаборатории» (wet labs), где алгоритмы соединяются с физическими экспериментами.
Вместе с тем спикеры отмечают серьезное упущение плана — отсутствие механизмов прямого финансирования академической науки. Это следствие затянувшегося противостояния между администрацией США и руководством высших учебных заведений.
Тем не менее раздел плана, посвященный созданию «экосистемы оценки ИИ» (AI evaluations ecosystem), признан авторами подкаста самым зрелым регуляторным решением в истории индустрии. Вместо того чтобы накладывать запреты на основе гипотетических страхов, государство предлагает сначала создать строго научную, эмпирическую методологию измерения рисков моделей. Этот документ уже стал эталоном для правительств других стран, обращающихся к a16z за экспертизой.
🧬 Биологическая природа моделей и концепция маргинального риска 32:36
В финальной части беседы партнеры фонда подвергают жесткой критике само понятие «выравнивания» ИИ (alignment). За этим термином, по их мнению, часто скрывается стремление узкой группы лиц установить сверху идеологические фильтры, решая за пользователей, к какой информации они должны иметь доступ. Спикеры предлагают метафору: современные нейросети ведут себя скорее как сложные биологические системы — их «выращивают» на массивах данных, а не жестко кодируют детерминистическими алгоритмами. Истинные возможности и риски такой системы часто невозможно предсказать до окончания её обучения.
Однако сторонники жесткого регулирования используют этот «черный ящик» как повод запретить внедрение ИИ в критических сферах до тех пор, пока не будет решена проблема механистической интерпретируемости. Спикеры считают эту позицию абсурдной. Человечество на протяжении истории успешно использовало электричество, термоядерный синтез и интернет, не понимая их до конца на атомарном или сетевом уровне. Более того, никто до сих пор полностью не понимает, как устроен человеческий мозг, но это не мешает нам доверять людям сложнейшую работу, проверяя их через институты образования, экзамены и реальный опыт.
Замедление технологического фронтира из-за теоретических страхов несет колоссальную альтернативную стоимость. Каждый месяц промедления в ИИ-биологии — это месяц, когда миллионы людей продолжают страдать и умирать от рака и неизлечимых болезней, которые могли быть разгаданы нейросетями. Спикеры призывают регуляторов оценивать исключительно «маргинальный риск» ИИ — то есть чистый добавочный риск, который модель привносит поверх рисков уже существующих сложных ИТ-систем, баз данных и стохастических алгоритмов. Для контроля этих рисков у государства уже есть проверенный сорокалетний аппарат регулирования, и выдумывать новое репрессивное законодательство нет никакой необходимости.
