В новом выпуске своего шоу ведущий Джордан Харбингер обсуждает с известным венчурным инвестором Марком Андриссеном стремительное развитие технологий искусственного интеллекта и сопутствующие страхи общества. В центре дискуссии — конфликт между сторонниками жёсткого регулирования ИИ, призывающими вплоть до военных ударов по дата-центрам, и сторонниками открытого кода и технологического прогресса. Собеседники подробно анализируют геополитическое противостояние США и Китая в сфере ИИ, природу «галлюцинаций» нейросетей и исторические аналогии прошлых промышленных революций.
🤖 От безопасности к тотальному контролю: эволюция концепции AI Alignment 1:02
Дискуссия начинается с обсуждения так называемой проблемы «выравнивания» ИИ (AI Alignment). Марк Андриссен указывает, что эта концепция претерпела серьёзную трансформацию за последние 20 лет. Изначально движение зародилось как AI Safety (безопасность ИИ) и было сосредоточено на сценариях в духе фильмов «Терминатор» — восстании машин и физическом уничтожении человечества разумными роботами. Однако около 8–10 лет назад фокус сместился в сторону «выравнивания».
По словам Марка Андриссена, это произошло одновременно с изменением восприятия социальных сетей. Если в 2012 году во время переизбрания Барака Обамы или событий «Арабской весны» соцсети считались исключительно благом и инструментом демократии, то после президентских выборов в США 2016 года их стали называть главной угрозой, манипулирующей умами избирателей. В этот момент движение за безопасность ИИ, как утверждает инвестор, было фактически перехвачено сторонниками цензуры и контроля над мнениями. Современное понятие AI Alignment всё больше концентрируется не на защите от роботов-убийц, а на том, чтобы ИИ выдавал «политически корректные» ответы, соответствующие определённым человеческим ценностям. Из-за этого первоначальные активисты безопасности ИИ даже переименовали себя в «ИИ-не-убей-всех-истов» (AI not kill everyoneists), чтобы отделиться от тех, кто пытается внедрить механизмы цензуры речи в нейросети.
♟️ Уроки шахмат и баллада о Джоне Генри: уничтожает ли ИИ рабочие места? 4:30
Джордан Харбингер приводит пример Сэма Харриса с ИИ, созданным для игры в шахматы, который побеждает Гарри Каспарова в 10 случаях из 10. Ведущий задаётся вопросом, насколько вероятно создание сильного искусственного интеллекта (AGI), способного перехитрить всех людей. В ответ Марк Андриссен обращается к истории индустриализации и напоминает знаменитую балладу о Джоне Генри — лучшем рабочем, который соревновался с паровым молотом в забивании железнодорожных костылей. Джон Генри победил машину, но сразу после этого умер от сердечного приступа.
Тогда тоже предрекали массовую безработицу, однако, как подчёркивает инвестор, автоматизация привела к колоссальному росту числа рабочих мест. Марк Андриссен предлагает позитивный взгляд на технологии: машины не заменяют человека, а усиливают его возможности.
Его аргументы:
- Человек в сочетании с текстовым процессором пишет значительно лучше.
- Цифровой монтаж и поисковые системы делают журналистов и подкастеров более эффективными.
- Технологии увеличивают общую экономическую производительность, порождая новые индустрии.
В качестве примера собеседники приводят те же шахматы: сегодня в них играет больше людей, чем когда-либо в истории, а сама шахматная индустрия переживает бум именно после того, как компьютеры превзошли человека. Марк Андриссен уверен, что появление AGI вызовет невиданный экономический взлет и рост производительности труда, который потребует ещё больше человеческого ресурса, повторяя паттерн последних 300 лет истории.
Собеседники иронизируют над тем, что люди спокойно относились к замене роботами авторабочих, но когда ИИ стал угрожать профессиям юристов или врачей, это начали называть трагедией. Марк Андриссен также напоминает интернет-мем «учись кодить» (learn to code), который изначально адресовали шахтёрам, затем увольняемым журналистам, а позже за его использование Twitter даже банил пользователей, что инвестор называет примером контроля мыслей в прошлую эпоху соцсетей.
✍️ Архитектура LLM: почему ИИ галлюцинирует и как это превращается в креативность 18:10
Обсуждая текущие навыки ИИ, Марк Андриссен объясняет техническую суть современных больших языковых моделей (LLM). Он называет их «очень продвинутым автозаполнением», похожим на функцию Т9 в смартфонах, но работающим на уровне целых эссе или юридических документов. Главная особенность ИИ заключается в том, что он «очень хочет сделать пользователя счастливым». Если у него нет точных фактов для автозаполнения, он их просто придумывает — это и называется проблемой галлюцинаций.
Инвестор приводит примеры академического и юридического мошенничества: юристы уже получали штрафы и угрозы лишения лицензии за подачу судебных исков с вымышленными ИИ прецедентами. Более того, в базе Google Scholar можно найти научные статьи, содержащие маркерную фразу «как большая языковая модель...», что свидетельствует о публикации учеными текстов без базовой вычитки.
Однако Марк Андриссен подчеркивает, что у галлюцинаций есть и обратная, позитивная сторона — креативность.
«Мы получили первый компьютер в истории человечества, который способен буквально воображать вещи», — отмечает инвестор.
Если сценаристу или писателю нужно придумать 10 вариантов развития сюжета, ИИ сделает это мгновенно и сможет генерировать идеи бесконечно. В отличие от традиционных детерминированных компьютеров, которые строго выполняют команды программиста, новые вероятностные машины способны творить. Решение проблемы отделения фактов от вымысла Марк Андриссен называет задачей на триллион долларов, над которой сейчас бьются инженеры во всём мире, пытаясь создать двухкомпонентные системы, где вторая часть будет выполнять функцию независимого фактчекера.
📜 Запрет открытого кода и угроза ядерной войны: радикальные предложения Doomers 34:23
В Кремниевой долине и Вашингтоне разворачивается масштабная борьба за контроль над регуляцией ИИ. Марк Андриссен утверждает, что некоторые чиновники в Вашингтоне сейчас ведут активную работу над тем, чтобы законодательно запретить ИИ с открытым исходным кодом (Open Source AI), введя за его разработку реальные тюремные сроки. Сторонники регуляции аргументируют это соображениями безопасности, однако инвестор считает такую позицию попыткой создания картеля из двух-трех крупных технологических компаний, полностью подконтрольных правительству.
Особую тревогу у Марка Андриссена вызывают радикальные идеи лидеров движения за безопасность ИИ. В частности, он упоминает резонансную статью Элиезера Юдковского (Eliezer Yudkowsky) в Time Magazine. Юдковский в своей публикации призывал к созданию тотальной системы мониторинга за каждым чипом и компьютером в мире. Более того, он заявил о моральной ответственности за нанесение превентивных воздушных ударов по нелицензированным дата-центрам, даже если они находятся на территории других государств. На вопрос о том, что делать, если такой «изгой-дата-центр» обнаружится в Китае, Юдковский прямо написал, что ради уничтожения опасного ИИ США должны быть готовы рискнуть ядерной войной.
Марк Андриссен указывает, что эта логика полностью копирует американскую «доктрину одного процента» времен вторжения в Ирак: если существует хотя бы 1% вероятности экзистенциальной угрозы через 20 лет, государство обязано действовать так, будто эта угроза реальна на 100%. Следствием такого подхода, по мнению инвестора, неизбежно станет создание глобального тоталитарного государства с абсолютной слежкой и отменой национальных суверенитетов.
🇨🇳 Геополитический offset: противостояние США и Китая в сфере ИИ 55:19
В сфере военных технологий ИИ официально признан приоритетом номер один как в США, так и в Китае. Марк Андриссен объясняет, что в американской оборонной терминологии ИИ называют «третьим офсетом» (third offset) — технологическим сдвигом, который делает все предыдущие виды вооружений устаревшими. Первым офсетом было ядерное оружие, вторым — высокоточное оружие и интеграция информационных систем на поле боя.
Мир фактически вернулся в состояние холодной войны, где две сверхдержавы стремятся распространить свои ценности через технологии по всему земному шару. По словам инвестора, китайский ИИ будет жестко кодировать идеи Си Цзиньпина, социализм с китайской спецификой и коммунистическую идеологию. При этом Пекин действует централизованно, продвигая свои технологии через проекты вроде «Цифрового шелкового пути». В то же время американское видение правильного ИИ раздирается внутренними идеологическими конфликтами и спорами о цензуре.
Марк Андриссен исходит из реалистичной предпосылки, что у Китая уже есть доступ ко всем передовым американским разработкам в сфере ИИ благодаря шпионажу. В американских технологических компаниях практически отсутствует контрразведка, а инженеров легко шантажировать, если их родственники остаются в других странах.
«Мое предположение заключается в том, что китайцы имеют ежедневное ночное скачивание всего, что разрабатывается в Google, OpenAI и других компаниях», — заявляет Андриссен.
Поэтому любые попытки американских регуляторов «вернуть джинна в бутылку» бессмысленны — геополитический соперник технологию назад не отдаст.
В качестве исторического урока Марк Андриссен напоминает о Манхэттенском проекте, который был наводнен советскими шпионами. Он упоминает дело супругов Розенберг, которые координировали передачу СССР точных инструкций по сборке ядерной бомбы от техника Манхэттенского проекта. Инвестор также цитирует выдающегося математика Джона фон Неймана, который из-за ненависти к советскому режиму требовал нанести по СССР превентивный ядерный удар, заявляя: «Если вы говорите, что мы должны бомбить их завтра, я спрашиваю — почему не сегодня?».
🎓 Интеллектуальный треспассинг и демократизация: как ИИ выравнивает возможности 1:01:36
Марк Андриссен призывает критически относиться к политическим заявлениям ученых, создающих ИИ. Он называет это «интеллектуальным треспассингом» (intellectual trespass) — когда эксперты в узкой технической области начинают вещать от имени моральных и политических авторитетов, не имея в этом никакого веса. В качестве примера он приводит Альберта Эйнштейна, который последние 30 лет жизни активно занимался политической философией и при этом оставался убежденным сталинистом, поддерживающим режим Сталина и заявлявшим в конце 1940-х годов, что США хуже нацистской Германии.
Обращаясь к будущему ИИ в обществе, инвестор выражает уверенность в его мощной демократизирующей силе. Уже три независимых исследования подтвердили, что использование ИИ в профессиональной сфере (например, в написании текстов) резко сокращает разрыв между наименее квалифицированными и самыми талантливыми сотрудниками. ИИ дает менее способным людям настоящую суперсилу.
Это напоминает Марку Андриссену историю распространения смартфонов: сегодня в мире больше людей имеют смартфоны, чем доступ к электричеству или водопроводу. Рыночные механизмы заставляют компании продавать ИИ каждому ради максимизации прибыли, что ведет к глобальной доступности лучших инструментов.
В финале дискуссии инвестор делится прогнозом развития индустрии развлечений на ближайшие 3–5 лет. По его мнению, ИИ положит конец эпохе чисто заскриптованного контента. Игры, книги и фильмы станут бесконечными адаптивными сновидениями. Нейросеть будет на лету генерировать продолжение истории в ответ на то, что приносит удовольствие конкретному пользователю. Андриссен уверен, что голливудские сценаристы, которые сегодня бастуют из-за страха перед ИИ, через 5 лет будут руководить нейросетями для создания проектов невиданного ранее масштаба.
