Свежий выпуск подкаста «Шоу Марка и Бена» посвящен критическим вопросам государственной политики в области искусственного интеллекта: от экзистенциальных страхов до идеологической цензуры и глобального противостояния с Китаем. Сооснователи фонда Andreessen Horowitz Марк Андриссен и Бен Хоровиц анализируют, как «культ думмеров» захватил Вашингтон, почему попытки ограничить технологию могут привести к поражению США в «Холодной войне 2.0» и как блокчейн может решить проблему дипфейков.
🏛️ Политический ландшафт ИИ: от страха к прагматизму 2:56
Обсуждение политики в области ИИ началось около двух лет назад и быстро достигло точки кипения. Марк Андриссен отмечает, что был удивлен скоростью, с которой эта тема стала эмоционально заряженной . По его мнению, одной из причин стал «культ думмеров» — сторонников теории эффективного альтруизма (EA), которые, обладая значительными финансовыми ресурсами, годами «инфицировали» Вашингтон идеями о неизбежной гибели человечества от рук ИИ .
Бен Хоровиц выделяет несколько ключевых направлений, по которым сейчас идет политическая дискуссия:
- Национальная безопасность и гонка вооружений.
- Физическая безопасность (защита от создания биооружия).
- Этика ИИ, которая, по его словам, трансформировалась в инструмент контроля над речью .
- Проблема дипфейков и подтверждения подлинности контента.
- Авторское право и вопросы обучения моделей.
Собеседники отмечают, что пик тревожности в Вашингтоне пришелся на конец 2023 года. Андриссен, участвовавший в форумах сенатора Шумера в феврале 2024 года, подчеркивает, что интенсивность эмоций начала снижаться . Он характеризует эти встречи как образовательный процесс для законодателей, который помог им лучше понять технологию .
⚠️ Ловушка «Доктрины Чейни» и принцип предосторожности 12:20
Андриссен критикует логику, которой руководствуются сторонники жесткого регулирования ИИ. Он проводит аналогию с «Доктриной Чейни» (или правилом 1%): если существует хотя бы 1-процентная вероятность катастрофического события, государство должно действовать со 100-процентной уверенностью, чтобы его предотвратить . В контексте ИИ это приводит к радикальным призывам, таким как бомбардировка дата-центров (позиция Элиезера Юдковского), даже если это грозит ядерной войной .
По мнению Андриссена, такой подход базируется на «принципе предосторожности», зародившемся в немецкой партии «Зеленых» в 1970-х годах . Основные тезисы критики этого принципа:
- Остановка прогресса: Если бы мы применяли этот принцип в прошлом, человечество никогда бы не освоило огонь, электричество или автомобили .
- Упущенные выгоды: Андриссен утверждает, что отказ от развития ИИ несет в себе колоссальные риски — не вылеченный рак, не решенные климатические проблемы и геополитическую нестабильность .
- Асимметрия аргументации: Пессимистичный взгляд часто воспринимается как более «зрелый» и мудрый, в то время как оптимизм клеймится как наивность .
🚀 Миф о «мгновенном взлете» (Takeoff) и законы физики 10:01
Одной из главных угроз, обсуждаемых в Вашингтоне, является сценарий «взлета» (takeoff) — момента, когда ИИ научится бесконечно улучшать самого себя, обретет собственную волю и уничтожит человечество ради ресурсов (например, для производства скрепок) .
Андриссен и Хоровиц выдвигают контраргументы против этой теории:
- Отсутствие доказательств: На данный момент не существует ни одного случая, когда большая языковая модель (LLM) создала бы превосходящую версию себя или предложила значимый прорыв в алгоритмах .
- Физические ограничения: Главными тормозами развития ИИ являются дефицит чипов (GPU), нехватка электроэнергии и проблемы с охлаждением дата-центров .
- Дефицит данных: Модели обучаются на результатах человеческого труда. Сейчас лаборатории вынуждены нанимать тысячи экспертов (врачей, юристов) для написания качественных текстов вручную, так как «интернет-данные» подходят к концу .
- Эффект плато: Хоровиц указывает на то, что переход от GPT-3.5 к GPT-4 показал замедление темпов роста интеллектуальных способностей при сопоставимом росте вычислительных мощностей .
Андриссен подчеркивает, что современные LLM — это, по сути, сложные статистические машины, предсказывающие следующий токен, а не «терминаторы-оптимизаторы» . Ошибка многих теоретиков (включая Ника Бострома в его ранних работах) заключается в антропоморфизации алгоритмов .
🚫 Цензура и «Гражданская война» в сфере безопасности ИИ 35:45
Марк Андриссен утверждает, что движение за «этику ИИ» (AI Ethics) было захвачено активистами, цель которых — не спасение человечества, а политический контроль над речью . Он проводит параллель с «войнами за доверие и безопасность» (Trust and Safety) в соцсетях, где небольшая группа людей (около 6% населения США) навязывала свои радикальные взгляды миллиардам пользователей .
Основные риски идеологической цензуры ИИ, по мнению собеседников:
- Киберколонизация: Если США будут внедрять свои специфические политические ценности и интерпретации истории в ИИ-системы, другие страны просто откажутся их использовать, чтобы не стать «цифровыми колониями» .
- Внутренний раскол: Внутри лабораторий ИИ идет «гражданская война» между теми, кто озабочен технической безопасностью, и теми, кто хочет сделать ИИ «менее расистским» (по их собственному определению) .
- Внеправовое давление: Хоровиц сравнивает методы давления администрации Байдена на техгигантов с «мягким фашизмом», когда правительство заставляет частные компании цензурировать контент без принятия соответствующих законов .
Андриссен отмечает, что в отличие от США, в Европе, Канаде и Великобритании практически отсутствуют механизмы защиты свободы слова (аналоги Первой поправки), что делает ситуацию там еще более угрожающей .
🇨🇳 Холодная война 2.0: США против Китая 53:15
Собеседники сходятся во мнении, что мир находится в состоянии новой холодной войны, где ключевым ресурсом является автономность и ИИ .
Андриссен описывает «треугольник доминирования»: военная мощь, технологии и экономика. Он считает, что США выиграли первую холодную войну благодаря превосходству децентрализованной капиталистической системы . Китай же сейчас повторяет ошибки СССР, усиливая централизацию .
Кейс Alibaba и Джека Ма:
- Андриссен называет Джека Ма, возможно, величайшим предпринимателем последних 30 лет .
- Его отстранение от бизнеса и фактическая национализация Alibaba показывают, что в Китае партия всегда выше инноваций .
- В китайских стартапах теперь официально присутствуют «политические комиссары» от КПК, контролирующие решения CEO .
Хоровиц подчеркивает, что децентрализованная система США породила Nvidia — компанию, чья рыночная капитализация превысила капитализацию фондовых рынков Германии и Италии вместе взятых . По его мнению, единственная возможность для США проиграть Китаю — это начать копировать их централизованную модель через жесткое государственное регулирование ИИ .
🎥 Дипфейки и блокчейн как решение 1:14:27
Проблема дипфейков — это то, что больше всего беспокоит политиков в Вашингтоне, так как это напрямую влияет на их шансы на переизбрание .
Предлагаемые стратегии борьбы:
- Регулирование применения, а не технологии: Вместо запрета алгоритмов нужно криминализировать конкретные вредоносные действия (фальсификация улик, вмешательство в выборы, создание ложных алиби) .
- Криптографическая подпись: Хоровиц предлагает использовать блокчейн для цифровой подписи контента официальными лицами . В такой системе YouTube или Meta смогут автоматически проверять подлинность видео, а пользователи научатся не доверять контенту без «прозрачной» подписи .
В завершение Марк Андриссен подчеркивает: попытка остановить инновации из страха перед гипотетическими рисками — это «космический уровень самовредительства», который приведет к тому, что США заслужат свое поражение в глобальной гонке .
