# Марк Андриссен и Бен Хоровиц о политике в сфере ИИ: цензура, Холодная война 2.0 и ловушки регулирования

Источник: https://www.youtube.com/watch?v=hookUj3vkE4
Канал: a16z
Опубликовано: 05.11.2024

---

Свежий выпуск подкаста «Шоу Марка и Бена» посвящен критическим вопросам государственной политики в области искусственного интеллекта: от экзистенциальных страхов до идеологической цензуры и глобального противостояния с Китаем. Сооснователи фонда Andreessen Horowitz Марк Андриссен и Бен Хоровиц анализируют, как «культ думмеров» захватил Вашингтон, почему попытки ограничить технологию могут привести к поражению США в «Холодной войне 2.0» и как блокчейн может решить проблему дипфейков.

## 🏛️ Политический ландшафт ИИ: от страха к прагматизму
[[JUMP:02:56]]

Обсуждение политики в области ИИ началось около двух лет назад и быстро достигло точки кипения. Марк Андриссен отмечает, что был удивлен скоростью, с которой эта тема стала эмоционально заряженной [04:16]. По его мнению, одной из причин стал «культ думмеров» — сторонников теории эффективного альтруизма (EA), которые, обладая значительными финансовыми ресурсами, годами «инфицировали» Вашингтон идеями о неизбежной гибели человечества от рук ИИ [04:54].

Бен Хоровиц выделяет несколько ключевых направлений, по которым сейчас идет политическая дискуссия:

*   Национальная безопасность и гонка вооружений.
*   Физическая безопасность (защита от создания биооружия).
*   Этика ИИ, которая, по его словам, трансформировалась в инструмент контроля над речью [05:34].
*   Проблема дипфейков и подтверждения подлинности контента.
*   Авторское право и вопросы обучения моделей.

Собеседники отмечают, что пик тревожности в Вашингтоне пришелся на конец 2023 года. Андриссен, участвовавший в форумах сенатора Шумера в феврале 2024 года, подчеркивает, что интенсивность эмоций начала снижаться [06:47]. Он характеризует эти встречи как образовательный процесс для законодателей, который помог им лучше понять технологию [08:05].

## ⚠️ Ловушка «Доктрины Чейни» и принцип предосторожности
[[JUMP:12:20]]

Андриссен критикует логику, которой руководствуются сторонники жесткого регулирования ИИ. Он проводит аналогию с «Доктриной Чейни» (или правилом 1%): если существует хотя бы 1-процентная вероятность катастрофического события, государство должно действовать со 100-процентной уверенностью, чтобы его предотвратить [13:52]. В контексте ИИ это приводит к радикальным призывам, таким как бомбардировка дата-центров (позиция Элиезера Юдковского), даже если это грозит ядерной войной [14:54].

По мнению Андриссена, такой подход базируется на «принципе предосторожности», зародившемся в немецкой партии «Зеленых» в 1970-х годах [16:53]. Основные тезисы критики этого принципа:

*   **Остановка прогресса:** Если бы мы применяли этот принцип в прошлом, человечество никогда бы не освоило огонь, электричество или автомобили [17:19].
*   **Упущенные выгоды:** Андриссен утверждает, что отказ от развития ИИ несет в себе колоссальные риски — не вылеченный рак, не решенные климатические проблемы и геополитическую нестабильность [18:51].
*   **Асимметрия аргументации:** Пессимистичный взгляд часто воспринимается как более «зрелый» и мудрый, в то время как оптимизм клеймится как наивность [20:50].

## 🚀 Миф о «мгновенном взлете» (Takeoff) и законы физики
[[JUMP:10:01]]

Одной из главных угроз, обсуждаемых в Вашингтоне, является сценарий «взлета» (takeoff) — момента, когда ИИ научится бесконечно улучшать самого себя, обретет собственную волю и уничтожит человечество ради ресурсов (например, для производства скрепок) [10:53].

Андриссен и Хоровиц выдвигают контраргументы против этой теории:

1.  **Отсутствие доказательств:** На данный момент не существует ни одного случая, когда большая языковая модель (LLM) создала бы превосходящую версию себя или предложила значимый прорыв в алгоритмах [23:28].
2.  **Физические ограничения:** Главными тормозами развития ИИ являются дефицит чипов (GPU), нехватка электроэнергии и проблемы с охлаждением дата-центров [21:42].
3.  **Дефицит данных:** Модели обучаются на результатах человеческого труда. Сейчас лаборатории вынуждены нанимать тысячи экспертов (врачей, юристов) для написания качественных текстов вручную, так как «интернет-данные» подходят к концу [25:38].
4.  **Эффект плато:** Хоровиц указывает на то, что переход от GPT-3.5 к GPT-4 показал замедление темпов роста интеллектуальных способностей при сопоставимом росте вычислительных мощностей [24:47].

Андриссен подчеркивает, что современные LLM — это, по сути, сложные статистические машины, предсказывающие следующий токен, а не «терминаторы-оптимизаторы» [30:34]. Ошибка многих теоретиков (включая Ника Бострома в его ранних работах) заключается в антропоморфизации алгоритмов [31:38].

## 🚫 Цензура и «Гражданская война» в сфере безопасности ИИ
[[JUMP:35:45]]

Марк Андриссен утверждает, что движение за «этику ИИ» (AI Ethics) было захвачено активистами, цель которых — не спасение человечества, а политический контроль над речью [37:23]. Он проводит параллель с «войнами за доверие и безопасность» (Trust and Safety) в соцсетях, где небольшая группа людей (около 6% населения США) навязывала свои радикальные взгляды миллиардам пользователей [39:20].

Основные риски идеологической цензуры ИИ, по мнению собеседников:

*   **Киберколонизация:** Если США будут внедрять свои специфические политические ценности и интерпретации истории в ИИ-системы, другие страны просто откажутся их использовать, чтобы не стать «цифровыми колониями» [43:40].
*   **Внутренний раскол:** Внутри лабораторий ИИ идет «гражданская война» между теми, кто озабочен технической безопасностью, и теми, кто хочет сделать ИИ «менее расистским» (по их собственному определению) [44:33].
*   **Внеправовое давление:** Хоровиц сравнивает методы давления администрации Байдена на техгигантов с «мягким фашизмом», когда правительство заставляет частные компании цензурировать контент без принятия соответствующих законов [47:25].

Андриссен отмечает, что в отличие от США, в Европе, Канаде и Великобритании практически отсутствуют механизмы защиты свободы слова (аналоги Первой поправки), что делает ситуацию там еще более угрожающей [51:04].

## 🇨🇳 Холодная война 2.0: США против Китая
[[JUMP:53:15]]

Собеседники сходятся во мнении, что мир находится в состоянии новой холодной войны, где ключевым ресурсом является автономность и ИИ [55:46]. 

Андриссен описывает «треугольник доминирования»: военная мощь, технологии и экономика. Он считает, что США выиграли первую холодную войну благодаря превосходству децентрализованной капиталистической системы [59:04]. Китай же сейчас повторяет ошибки СССР, усиливая централизацию [1:05:51].

Кейс Alibaba и Джека Ма:

*   Андриссен называет Джека Ма, возможно, величайшим предпринимателем последних 30 лет [1:06:16].
*   Его отстранение от бизнеса и фактическая национализация Alibaba показывают, что в Китае партия всегда выше инноваций [1:09:21].
*   В китайских стартапах теперь официально присутствуют «политические комиссары» от КПК, контролирующие решения CEO [1:10:14].

Хоровиц подчеркивает, что децентрализованная система США породила Nvidia — компанию, чья рыночная капитализация превысила капитализацию фондовых рынков Германии и Италии вместе взятых [1:11:34]. По его мнению, единственная возможность для США проиграть Китаю — это начать копировать их централизованную модель через жесткое государственное регулирование ИИ [1:14:14].

## 🎥 Дипфейки и блокчейн как решение
[[JUMP:1:14:27]]

Проблема дипфейков — это то, что больше всего беспокоит политиков в Вашингтоне, так как это напрямую влияет на их шансы на переизбрание [1:15:25].

Предлагаемые стратегии борьбы:

1.  **Регулирование применения, а не технологии:** Вместо запрета алгоритмов нужно криминализировать конкретные вредоносные действия (фальсификация улик, вмешательство в выборы, создание ложных алиби) [1:16:31].
2.  **Криптографическая подпись:** Хоровиц предлагает использовать блокчейн для цифровой подписи контента официальными лицами [1:17:48]. В такой системе YouTube или Meta смогут автоматически проверять подлинность видео, а пользователи научатся не доверять контенту без «прозрачной» подписи [1:18:03].

В завершение Марк Андриссен подчеркивает: попытка остановить инновации из страха перед гипотетическими рисками — это «космический уровень самовредительства», который приведет к тому, что США заслужат свое поражение в глобальной гонке [01:16].