В новом выпуске подкаста «The Jordan Harbinger Show» ведущий Джордан Харбинджер обсуждает с известным технологическим инвестором и сооснователем фонда Andreessen Horowitz Марком Андриссеном перспективы развития искусственного интеллекта и природу экзистенциальных страхов, связанных с его развитием. Собеседники подробно анализируют регуляторные баталии в Вашингтоне, риски введения тотального идеологического контроля над технологиями и неизбежное геополитическое соперничество между США и Китаем в сфере вычислений. По мнению участников дискуссии, большинство современных панических прогнозов вокруг ИИ представляют собой психологические проекции человеческих комплексов и коммерчески мотивированную медийную кампанию.
💥 Угроза ядерной войны и «неорелигия» противников ИИ 0:00
Современный дискурс вокруг безопасности искусственного интеллекта достиг беспрецедентного накала, переходя из сугубо научной плоскости в плоскость радикальных политических заявлений. Марк Андриссен обращает внимание на статью одного из главных идеологов движения за ИИ-безопасность Элиезера Юдковского, опубликованную в престижном журнале Time Magazine. В этом материале автор открыто призвал к нанесению воздушных и ракетных ударов по нелицензированным дата-центрам, даже если это повлечёт за собой риск начала полноценной ядерной войны с Китаем.
По словам гостя подкаста, подобная риторика идеально укладывается в так называемую «доктрину одного процента», которая активно применялась администрацией Белого дома два десятилетия назад при обосновании вторжения в Ирак. Логика этой концепции проста: если существует хотя бы 1% вероятности наступления катастрофического или экзистенциального события (будь то получение Саддамом Хусейном ядерного оружия в прошлом или появление неконтролируемого сверхинтеллекта сегодня), государство обязано действовать так, словно эта угроза реальна на все 100%.
Марк Андриссен убеждён, что практическая реализация идей радикальных борцов с ИИ неизбежно потребует создания глобального тоталитарного государства, обладающего инструментами абсолютного авторитарного надзора, жесткого контроля чипов и тотальной слежки за любыми вычислениями на планете. Инвестор отмечает, что паника среди части интеллектуальной элиты давно потеряла признаки научного спора и превратилась в полноценное религиозное течение. Общество, частично отказавшись от традиционных конфессий, склонно воссоздавать религиозные культы вокруг собственных глубинных страхов и технологических тревог.
🛡️ Эволюция страхов: От безопасности к идеологическому контролю 1:30
История дискуссий вокруг ИИ за последние двадцать лет пережила фундаментальный сдвиг. Как объясняет Марк Андриссен, изначально, в середине 2000-х годов, данная дисциплина именовалась «безопасностью ИИ» (AI Safety). В те годы главные опасения были созвучны сюжетам фантастических фильмов вроде «Терминатора»: учёные всерьёз моделировали сценарии, при которых условный «Скайнет» создаст боевых роботов с лазерным оружием для физического уничтожения человечества.
Однако около 8–10 лет назад произошла подмена понятий, и на смену «безопасности» пришла концепция «выравнивания ИИ» (AI Alignment). Этот поворот, по мнению гостя, тесно связан с изменением политического восприятия социальных сетей. Марк Андриссен напоминает хронологию этого процесса:
- 2012 год: Социальные медиа воспринимаются обществом как безусловное благо. Пресса восторженно описывает цифровую кампанию Барака Обамы, а аналитики верят, что Facebook и Twitter способны принести демократию на Ближний Восток в ходе «Арабской весны».
- 2016 год: После победы Дональда Трампа на президентских выборах политический вектор резко меняется. Соцсети мгновенно объявляются «худшим изобретением в истории», а общественности навязывается мнение, будто избирателей коварно обманули с помощью таргетированной рекламы и российских манипуляций.
Именно в этот момент механизмы цензуры, модерации и контроля мнений, обкатанные на социальных сетях, было решено перенести на сферу искусственного интеллекта. В результате движение за «выравнивание» фактически захватило повестку, сместив фокус с физической безопасности на контроль речи и политическую комплаентность алгоритмов. Учёные старой школы, которых по-прежнему волнует сценарий уничтожения планеты, а не использование нейросетью «плохих слов», в шутку переименовали себя в «сторонников того, чтобы ИИ не убил всех» (AI not kill everyoneists).
🦾 Синдром Джона Генри: Почему машины создают, а не уничтожают рабочие места 5:24
Ведущий подкаста Джордан Харбинджер приводит популярный аргумент публициста Сэма Харриса: если мы создадим специализированный шахматный ИИ, который обыгрывает Гарри Каспарова в десяти партиях из десяти, и от победы над этим алгоритмом будет зависеть судьба человечества, то люди проиграют гарантированно. Это порождает закономерный страх перед созданием универсального искусственного сверхинтеллекта (AGI), способного превзойти человека во всех сферах.
Отвечая на эти опасения, Марк Андриссен предлагает обратиться к истории индустриализации. Тревога о том, что автоматизация уничтожит человеческий труд, стара как мир. Ярким примером служит американская баллада о Джоне Генри — легендарном рабочем, который вступил в соревнование со станочным паровым молотом по забиванию железнодорожных костылей. Джон Генри победил машину в ходе изнурительного суточного состязания, но сразу после этого скончался от сердечного приступа.
Несмотря на мрачные прогнозы луддитов о массовой безработице, историческая реальность оказалась противоположной:
- Внедрение машин привело к колоссальному росту производительности труда.
- Вместо уничтожения занятости технологии вызвали лавинообразное создание новых рабочих мест и профессий.
- До пандемии 2019 года на планете фиксировалось исторически максимальное количество занятых людей, получающих самые высокие зарплаты в истории.
По мнению Марка Андриссена, мир функционирует в рамках позитивной, а не нулевой суммы. Технологии не заменяют человека, а кратно усиливают его возможности. Тандем «человек плюс компьютер» пишет тексты лучше, чем просто человек; подкастер, использующий поисковые системы и цифровой монтаж, выпускает гораздо более качественный продукт. Даже в шахматах после триумфа компьютеров индустрия не умерла: сегодня в интернете играет больше людей, чем когда-либо в истории.
Марк Андриссен усматривает откровенное лицемерие в поведении современных белых воротничков. Когда роботы заменяли рабочих на автомобильных заводах или упраздняли профессию лифтёра, профессиональные элиты называли это «ценой прогресса». Но едва автоматизация угрожает юристам второго года правоприменительной практики или терапевтам, это сразу возводится в ранг «катастрофы, колеблющей основы цивилизации».
В качестве исторического курьеза инвестор напоминает популярный в 2000-е годы правительственный медиа-мем «учитесь кодить» (learn to code), который адресовали уволенным шахтёрам. Когда в 2010-х годах интернет начал разорять традиционные печатные СМИ, пользователи сети стали иронично пересылать этот мем самим журналистам, из-за чего руководство Twitter (до его покупки Илоном Маском) даже блокировало аккаунты за его использование. Тем не менее, журналисты не исчезли, а перешли на платформы вроде Substack, равно как и профессия независимого подкастера стала новой высокодоходной индустрией, не существовавшей 20 лет назад.
Для описания циклов технологического восприятия Марк Андриссен цитирует писателя Дугласа Адамса, автора «Автостопом по галактике», выделившего три стадии адаптации человека к инновациям в зависимости от возраста:
- От 0 до 15 лет: Любая появившаяся технология воспринимается как естественный, очевидный и изначальный порядок вещей (именно так современные дети реагируют на ИИ).
- От 15 до 35 лет: Технология кажется новой, захватывающей, модной, и на ней можно сделать отличную карьеру.
- Старше 35 лет: Любая радикальная инновация воспринимается как предвестие конца света (типичный пример — отношение старшего поколения к формату контента в TikTok).
🔮 Техническая реальность: Творческие галлюцинации и «проблема на триллион долларов» 18:22
С технической точки зрения нынешний бум ИИ — это феномен, который Марк Андриссен называет «внезапным прорывом, готовившимся 80 лет». Первая научная работа о принципах функционирования нейронных сетей была опубликована ещё в 1943 году, но лишь сейчас алгоритмы заработали на полную мощность.
Современные большие языковые модели (LLM) по сути представляют собой чрезвычайно сложную систему автозаполнения, аналогичную функции T9 в смартфоне. Они не оперируют встроенным понятием «факт» и не обладают объективным знанием о мире; они вычисляют математическую вероятность того, какое слово должно идти следующим на основе гигантского массива изученных человеческих текстов.
Из этого принципа вытекает ключевой изъян технологии — галлюцинации. Нейросеть запрограммирована «делать пользователя счастливым». Если у неё нет точного ответа на сложный запрос, она с высокой долей вероятности просто выдумает его, сохранив при этом максимально убедительный и авторитетный тон. Джордан Харбинджер напоминает о курьёзном прецеденте, когда практикующий адвокат подал в суд юридическую записку, полностью сгенерированную нейросетью, где содержались ссылки на несуществующие судебные прецеденты, что едва не привело к лишению его лицензии. Более того, при поиске в Google Scholar сегодня можно обнаружить массу официально опубликованных научных статей, содержащих дежурную фразу-дисклеймер: «Как большая языковая модель, я не могу...», что свидетельствует об откровенной халатности учёных, публикующих неотредактированный машинный текст под своими именами.
Тем не менее, Марк Андриссен подчеркивает, что свойство, называемое в науке «галлюцинацией», в искусстве именуется «креативностью». ИИ стал первым в истории компьютером, который умеет фантазировать, что делает его бесценным инструментом для сценаристов, писателей или маркетологов, нуждающихся в генерации десятков нестандартных идей для сюжетов.
Устранение фактических ошибок при сохранении творческого потенциала инвестор называет инженерной «проблемой на триллион долларов». Ведущие лаборатории Кремниевой долины сейчас работают над созданием двухкомпонентных систем, где первая нейросеть генерирует свободный текст, а вторая — выступает в роли жесткого независимого фактчекера, верифицирующего каждую цитату и ссылку по реальным базам данных.
🔒 Большой брат на чипе: Заговор против Open Source 35:01
Поскольку в ближайшие десятилетия ИИ станет главным контролирующим интерфейсом между человеком и всей техносферой (от управления автомобилями до систем школьного образования и медицины), контроль над его «мозгами» превращается в ключевую точку геополитической силы. Марк Андриссен прогнозирует, что битва за определение того, что нейросети позволено знать и говорить, превзойдет по своему накалу историческое противостояние Галилео Галилея с Католической церковью.
Инвестор бьет тревогу: под лозунгами «обеспечения общественной безопасности» крупные корпорации и чиновники в Вашингтоне прямо сейчас пытаются сформировать жесткий технологический картель из двух-трех избранных компаний, полностью подконтрольных государству. Главным врагом этой номенклатуры выступает движение Open Source — разработчики, создающие бесплатные модели искусственного интеллекта с открытым исходным кодом, которые невозможно подвергнуть централизованной цензуре.
По конфиденциальной информации Марка Андриссена, в коридорах федеральной власти США сегодня ведется активная подготовка законопроектов, нацеленных на фактический запрет и криминализацию разработки ИИ с открытым кодом, вплоть до введения реальных тюремных сроков для программистов. В утопических планах сторонников тотальной ИИ-безопасности значится внедрение обязательных государственных мониторинговых агентов на уровне каждого процессора и чипа, выпускаемых в мире, дабы правительство получало отчет в реальном времени о любых вычислениях граждан.
В качестве примера текущих идеологических ограничений («ограничительных болтов», restraining bolts) Марк Андриссен приводит забавный случай с ранней версией открытой модели Llama от корпорации Meta. Разработчики настолько сильно перестраховались в настройках безопасности алгоритма, что нейросеть категорически отказывалась выдавать пользователям кулинарный рецепт «острого гуакамоле», усматривая в слове «острый» потенциальный риск причинения физического вреда здоровью. Также в коммерческих моделях легко прослеживается политическая предвзятость: нейросеть может охотно написать хвалебную оду одному действующему политическому лидеру, но выдать стандартный отказ со ссылкой на нейтральность при аналогичном запросе о его оппоненте.
Подобное манипулирование информацией создает риск формирования «идеальной цифровой тюрьмы», где пользователь даже не осознает, что вся потребляемая им база знаний подверглась тонкой цензуре. Марк Андриссен иллюстрирует это вопросом о международном статусе Тайваня: в зависимости от географического положения пользователя и локальных серверов, ИИ вынужден лавировать между западной позицией и требованиями Компартии Китая, чтобы избежать немедленной блокировки на территории КНР.
🇨🇳 Новая холодная война: Три «офсета» Пентагона и китайский шпионаж 52:35
Мир бесповоротно вернулся к биполярной структуре и логике новой холодной войны, где главными соперниками выступают Вашингтон и Пекин. В американской оборонной доктрине существует термин «офсет» (offset) — технологический сдвиг, который кардинально меняет правила ведения боевых действий и делает все предыдущие вооружения противника устаревшими. За последние 70 лет Пентагон выделял три таких офсета:
- Первый офсет: Создание и развертывание тактического ядерного оружия.
- Второй офсет: Развитие доктрины высокоточной маневренной войны, интеграция информационных систем и появление управляемых ракет и умных бомб.
- Третий офсет: Искусственный интеллект и автономные боевые системы.
Марк Андриссен проводит прямую аналогию между текущей ИИ-гонкой и Манхэттенским проектом 1940-х годов. Исторические документы и недавние биографические исследования показывают, что американская ядерная программа была насквозь пронизана советскими агентами влияния. В частности, супруги Джулиус и Этель Розенберги координировали действия техника Манхэттенского проекта, который передал СССР полные чертежи и детальные инструкции по сборке и проводке бомбы, сброшенной на Нагасаки. Острота ситуации тогда была настолько высока, что выдающийся математик Джон фон Нейман, будучи жестким антисоветским «ястребом», открыто призывал руководство США нанести превентивный ядерный удар по СССР, заявляя: «Если вы говорите, что надо бомбить их завтра, я спрашиваю — почему не сегодня?».
Сегодня ситуация со шпионажем повторяется. По мнению Марка Андриссена, глупо надеяться на сохранение американских технологических секретов внутри коммерческих компаний Кремниевой долины. В крупных ИТ-корпорациях практически отсутствуют структуры контрразведки. Китайские спецслужбы обладают колоссальным арсеналом методов: от банального шантажа инженеров, чьи родственники остались в КНР, до классического промышленного шпионажа через подкуп клинингового персонала. Инвестор призывает исходить из прагматичного предположения, что Пекин имеет условную «еженощную копию» всех закрытых исходных кодов и наработок Google, OpenAI и других лидеров рынка.
В этой связи Марк Андриссен рекомендует к прочтению книгу «Когда разум уходит на каникулы» (When Reason Goes on Holiday), исследующую феномен «интеллектуального браконьерства», когда гениальные ученые из абстрактных областей начинают транслировать радикальные и зачастую деструктивные политические взгляды. Малоизвестный исторический факт: Альберт Эйнштейн на протяжении последних 30 лет своей жизни выступал активным моральным и политическим сторонником сталинского режима и в конце 1940-х годов публично заявлял, что послевоенная Америка якобы стала «хуже, чем нацистская Германия». Профессиональные заслуги в физике или программировании не дают человеку автоматической экспертизы в вопросах государственного устройства, а слепое следование авторитету ученых в вопросах политики исторически приводило к катастрофам.
🎒 Категориальная ошибка и законы термодинамики 1:05:07
Рассуждая о гипотетической гибели человечества от рук восставшего AGI, Марк Андриссен указывает на фундаментальную философскую «категориальную ошибку». Люди склонны наделять неодушевленные предметы биологическими инстинктами. Человек, лев или вирус выковывались в горниле 8 миллиардов лет жесткой дарвиновской эволюции, где выживание всегда было игрой с нулевой суммой, требующей подавления и уничтожения конкурентов за ресурсы.
Компьютерный алгоритм полностью лишен этого эволюционного бэкграунда. У него нет инстинкта самосохранения, воли к власти или гормональных стимулов доминировать. ИИ — это инструмент, транслирующий исключительно волю своего создателя. Все страшные сценарии, где роботы превращают людей в биомассу, — это не намерения машин, а потенциальные решения людей использовать технологии во вред себе подобным. По мнению Андриссена, за паникой перед «злыми роботами» скрывается подсознательное желание перенести ответственность: человеку психологически проще воевать с понятным механическим объектом, который можно взорвать, чем признать, что подлинную угрозу для него всегда представляют другие люди.
Кроме того, апокалиптические прогнозы разбиваются о суровые законы термодинамики и физические ограничения реального мира. Сверхинтеллекту для функционирования и экспансии требуются колоссальные объемы электроэнергии, развитая инфраструктура и, главное, передовые полупроводники. Даже если бы гипотетический «злой ИИ» зародился в лаборатории, он моментально столкнулся бы с дефицитом видеокарт Nvidia H100, жестким дефицитом поставок и невозможностью купить чипы на eBay по адекватным ценам. Физический мир инертен, ограничен ресурсами и полон изъянов, что естественным образом сдерживает любые сценарии мгновенного технологического коллапса.
🤝 Демократизация интеллекта и бесконечные медиа будущего 1:13:09
В финальной части дискуссии Марк Андриссен делится оптимистичными прогнозами. Первые серьезные академические исследования в сфере профессионального письма наглядно доказывают, что интеграция ИИ в рабочие процессы приводит к стремительному сокращению разрыва между высококвалифицированными специалистами и отстающими сотрудниками. Слабые специалисты, получив ИИ-ассистента, совершают качественный скачок вперед, обретая «цифровую суперсилу».
Происходит глобальная демократизация технологий, подобная распространению смартфонов. Инвестор приводит поразительную мировую статистику: сегодня на планете число обладателей смартфонов превышает количество людей, имеющих бесперебойный доступ к электричеству или чистой проточной воде. Рыночная экономика и «невидимая рука» капитализма всегда стремятся максимизировать прибыль, продавая технологии миллиардам людей, а не оставляя их эксклюзивной игрушкой в руках правительств. Самый мощный ИИ в мире сегодня доступен любому пользователю смартфона через открытые веб-интерфейсы OpenAI или Microsoft, и у американского правительства нет какой-то «секретной супер-версии», которая работала бы лучше.
В перспективе 3–5 лет искусственный интеллект совершит революцию в индустрии развлечений, покончив с эпохой фиксированных сценариев. До сих пор любая книга, фильм или видеоигра имели четкие, прописанные авторами границы. ИИ позволит создавать бесконечные, динамически генерируемые миры. Компьютерная игра или интерактивный сериал будут на ходу подстраиваться под действия и психотип конкретного игрока, генерируя новые сюжетные линии до тех пор, пока человеку весело.
Несмотря на текущие забастовки сценаристов в Голливуде, Марк Андриссен уверен, что через пять лет авторы адаптируются и займут позиции «режиссеров-супервайзеров ИИ», управляющих генерацией контента невиданного ранее масштаба. Технологии в очередной раз изменят ландшафт культуры, открыв новые горизонты для человеческого потенциала.
