«Просить Вашингтон урегулировать искусственный интеллект сегодня — это все равно что просить Советский Союз в 1989 году возглавить регулирование интернета», — убежден технологический инвестор Баладжи Шринивасан. Пока западные регуляторы пытаются законсервировать старый социальный порядок с помощью жестких бюрократических барьеров, мир неумолимо движется к децентрализованному «политеистическому» ИИ. Эта глобальная технологическая революция неизбежно сломает хребет традиционным монополиям и перепишет правила геополитики на основе законов математики и криптографии.
🧠 Пути эволюции разума и вызовы динамических систем 6:07
Биологические прецеденты и альтернативные пути к разуму 6:07
Вводя слушателей в контекст масштабной дискуссии о будущем искусственного интеллекта, ведущий подкаста Натан Лабенц представляет своего гостя — Баладжи Шринивасана. Шринивасан известен в технологических кругах как серийный предприниматель, основавший и успешно продавший такие разноплановые компании, как Teleport (сервис для глобальной мобильности), Counsyl (генетическое тестирование для планирования семьи) и Earn.com (платная почта на блокчейне, поглощенная биржей Coinbase, где Баладжи впоследствии занял пост CTO). Будучи автором концепции «Сетевого государства» (The Network State) и бывшим генеральным партнером фонда Andreessen Horowitz, он предлагает междисциплинарный взгляд на фундаментальные принципы развития разума.
Отвечая на вопрос о масштабах прогресса ИИ в ближайшие годы, Баладжи Шринивасан предлагает абстрактный эволюционный аргумент. Он напоминает, что земная эволюция чрезвычайно изобретательна и способна создавать сложнейшие функциональные адаптации совершенно независимыми путями. В качестве классического примера он приводит полет, который сформировался автономно у птиц, летучих мышей и пчел.
Аналогичный паттерн прослеживается и в развитии когнитивных способностей. Высокий уровень интеллекта развился независимо не только у приматов, но и у дельфинов, китов и осьминогов. Осьминоги особенно примечательны своей способностью к манипуляции предметами и использованию орудий труда благодаря щупальцам, которые анатомически и функционально заменяют им руки.
Этот биологический прецедент доказывает, что у интеллекта может быть множество траекторий развития. Если углеродная жизнь смогла развить разум на основе ДНК, то кремниевый интеллект способен прийти к высоким когнитивным функциям на совершенно иной основе. Базовым субстратом здесь становятся электромагнитные волны и цифровое хранение данных, а не биологические макромолекулы. Это делает появление сильного небиологического ИИ вполне эволюционно правдоподобным сценарием.
Статические правила: школы DeepMind и OpenAI 7:37
Переходя к техническому анализу текущего состояния технологий, который Баладжи Шринивасан фиксирует датой 11 декабря 2023 года из-за стремительного темпа изменений в индустрии, он упоминает свою готовящуюся работу под названием «Пороги Тьюринга» (The Turing Thresholds). В ней он пытается обобщить классический тест Тьюринга, перенеся его на макромасштабы — энергетические пороги и уровни автономности целых систем.
По мнению Шринивасана, современные успехи ИИ, кажущиеся невероятными, пока ограничены средами, характеристики которых не меняются во времени и не подвержены трансформации правил. На современном этапе условно выделяются две главные школы в сфере ИИ, которые во многом определяют технологический ландшафт.
- Первая — это школа DeepMind, получившая широкую известность благодаря методам обучения с подкреплением (reinforcement learning). Ее ключевые триумфы включают достижение сверхчеловеческого уровня в игре Го (AlphaGo), обучение прохождению видеоигр на уровне анализа пикселей с нуля, а также прорывные решения в прогнозировании свертывания белков. Даже с учетом релиза новой мультимодальной модели Gemini, исторический фокус DeepMind был направлен на системы со статическими правилами. Правила шахмат, Го или старых видеоигр неизменны во времени, их можно открыть и просчитать, подобно законам физики.
- Вторая — это школа генеративного ИИ, возглавляемая OpenAI с их проектом ChatGPT, куда также можно отнести создателей моделей диффузии изображений вроде Stable Diffusion. Эта школа опирается на большие языковые и мультимодальные модели. Баладжи подчеркивает, что хотя живой язык кажется изменчивым, фундаментальные правила грамматики и базовые значения слов в масштабах человеческой истории остаются стабильными. Они меняются десятилетиями или веками, но не ежесекундно. Из-за этой относительной статичности языковой среды обучающие данные пятилетней давности для английского языка по-прежнему сохраняют огромную ценность, а одинаковый запрос на базовом уровне приводит к сопоставимому результату.
Динамические системы и вызовы реального рынка 9:40
Настоящий тупик для существующих архитектур ИИ наступает тогда, когда они сталкиваются с динамическими системами, где правила и контекст постоянно трансформируются. Простые факты вроде смены правителя Великобритании (когда после кончины королевы престол занял король) ИИ может усвоить через обычное обновление баз данных. Однако истинный фронтир для создания по-настоящему независимого ИИ лежит в плоскости систем с меняющимися правилами.
Ярким примером служат юридические и законодательные системы разных стран, но наиболее наглядно эта проблема проявляется на финансовых рынках. В рыночной среде базовый принцип статического ИИ полностью перестает работать: один и тот же входной сигнал никогда не гарантирует одинаковый результат на выходе. Причина заключается в состязательном поведении (adversarial behavior) участников. Стоит алгоритму обнаружить эффективную стратегию и начать ее применять, как другие игроки на рынке заметят эту закономность и начнут открывать сделки против нее, полностью обнуляя ее эффективность.
Способность действовать в условиях постоянно меняющихся правил и адаптироваться к противодействию оппонентов — это то, что отличает простые задачи от полноценной автономной работы. В ходе беседы спикеры также кратко затрагивали смежные темы, которые станут предметом подробного разбора в следующих главах статьи. В частности, они упоминали концепции синергии человека и машины как древнего симбиоза, грядущие вызовы состязательной устойчивости ИИ перед лицом открытых весов моделей, а также неизбежный технологический синтез различных ИИ-архитектур для преодоления ограничений современных трансформеров. Умение ориентироваться в хаотичных динамических средах определит, останется ли ИИ лишь удобным прикладным инструментом или превратится в самостоятельного исторического субъекта.
🤖 Синтез управляющих систем и вызовы состязательной устойчивости ИИ 25:22
Гибридная архитектура: статистический фронтенд и детерминированный бэкенд 25:22
Современная индустрия искусственного интеллекта развивается стремительными темпами. Если вспомнить недавнюю хронологию, первая коммерческая модель, способная следовать инструкциям пользователя — text-davinci-002 от OpenAI — появилась только в январе 2022 года, а передовая GPT-4 вышла на рынок чуть более года назад. Однако по мере интеграции больших языковых моделей (LLM) в реальные продукты становится очевидной необходимость пересмотра их фундаментальной архитектуры. Баладжи Шринивасан (Balaji Srinivasan) указывает на важный тектонический сдвиг: генеративный ИИ сегодня начинает выполнять роль своеобразного «фронтенда», под управлением которого работают принципиально иные исполнительные механизмы.
В этой схеме нейросеть берет на себя функцию удобного интерфейсного уровня, преобразующего естественный язык в структурированные команды для специализированных доменов. Например, в дизайне (как в Figma) ИИ генерирует не текст, а конкретные формы и изображения. В робототехнике или управлении беспилотниками команда пользователя трансформируется в точные GPS-координаты, траектории и векторы движения. То же самое происходит в виртуальной реальности (VR), где на выходе формируются трехмерные структуры.
Основная идея такого синтеза заключается в разделении труда: статистическая языковая модель обеспечивает гибкость восприятия, но сам физический или программный расчет выполняется строго детерминированной системой управления (Control Theory), работающей на низком уровне по жестким правилам. Баладжи сравнивает это с ассемблером (Assembly Language backend) для ИИ-агентов.
Шринивасан приводит наглядную биологическую аналогию с человеческим телом:
«Я действую на полусознательном уровне, обдумывая общий план действий, но низкоуровневые движения моих рук не контролируются сознанием постоянно. Если я внезапно столкнусь с болью или прикоснусь к горячему предмету, сработает мгновенная реакция, опосредованная низшей системой управления, которая затем отправляет сигнал обратно в мозг: "Эй, нам нужен новый план"».
Такой же гибридный подход необходим для создания надежных технологических агентов. Сбор уникальных данных для обучения таких систем становится ключевым преимуществом крупных игроков. Компании вроде Figma или DJI, обладающие миллиардами пользовательских сессий, имеют колоссальное преимущество перед стартапами и способны подавить конкурентов за счет масштаба.
Интересным примером «грубой силы» в обучении является экспериментальная кухня Google (Test Kitchen). Десятки роботов выполняют там бытовые задачи, а в случае возникновения тупиковой ситуации удаленный оператор-человек берет управление на себя. Полученные данные ручного вмешательства становятся мостом, помогающим машине усвоить правильный алгоритм для аналогичных ситуаций в будущем. Шринивасан уверен, что даже при развертывании домашних роботов компаниям вроде Waymo или Cruise придется сохранять штат удаленных контролеров для преодоления подобных непредвиденных препятствий.
Стоит отметить, что в ходе беседы собеседники кратко затрагивают политические и экономические контексты — такие как зарождающаяся триполярная модель мироустройства, исторические параллели с эпохой до 1950 года, угрозы автоматизации для «голубой Америки» и попытки регуляторов установить ИИ-контроль под видом обеспечения безопасности. Однако эти глобальные геополитические тренды подробно анализируются в следующих главах статьи, тогда как на техническом уровне ключевым вызовом остается обеспечение надежности систем.
Проблема состязательной устойчивости и баланс сил 30:13
Синтез статистических моделей с жестким детерминированным бэкендом напрямую связан с фундаментальной проблемой состязательной устойчивости ИИ (adversarial robustness). Современные нейросети демонстрируют хрупкость перед лицом состязательных входов (adversarial inputs), когда незначительные, но целенаправленные изменения входных данных могут полностью дезориентировать модель. В контексте реального применения встает важнейший вопрос: является ли ИИ технологией, усиливающей нападение (offense-enabling), или же он по своей природе ориентирован на защиту (defense-enabling). Эта дилемма определяет, кто получит преимущество в будущем — традиционные игроки (incumbents) или новые стартапы.
Если во главе крупных компаний стоят компетентные руководители в самом расцвете сил, такие как Амджад Масад из Replit или Дилан Филд из Figma, они способны вовремя заметить угрозу и оперативно интегрировать ИИ в свои продукты. Масад, к примеру, превратил Replit в ИИ-ориентированную компанию на самом раннем этапе. Подобная адаптация сравнима с масштабным переходом от десктопа к мобильным платформам в конце 2000-х годов, когда компании вроде Facebook к моменту IPO в 2012 году вообще не имели мобильной выручки. Развернуть крупную организацию на 90 градусов в условиях новой технологической волны крайне тяжело, но это необходимо для выживания перед лицом новых агрессивных стартапов вроде Pika или Character.ai.
Однако состязательная устойчивость систем зависит не только от усилий топ-менеджмента, но и от характера внешней среды. Отсутствие детерминированного защитного контура делает чисто статистические модели уязвимыми для эксплуатации. В условиях глобального технологического соперничества, когда целые юрисдикции вроде Индии могут пойти по пути создания «дженерик-ИИ», полностью игнорируя западные ограничения, состязательная среда станет максимально агрессивной.
Без интеграции теории управления (Control Theory) в архитектуру агентов любая чисто языковая модель остается открытой для деструктивного внешнего воздействия. Жесткие правила бэкенда необходимы не только для выполнения базовых физических команд, но и для фильтрации аномалий, блокирования состязательных атак и мгновенного перевода системы в безопасный режим при попытках компрометации.
🏛️ Крах цифрового левиафана: триполярный мир и уроки истории 50:24
Повторение истории: как регуляторное удушение формирует новый ландшафт 50:50
История движется по спирали, зеркально отражая паттерны прошлого, и сегодняшние попытки регулирования ИИ поразительно напоминают события полувековой давности. Баладжи Шринивасан (Balaji Srinivasan) проводит прямую параллель с началом 1970-х годов, когда жесткое, продиктованное страхом регулирование фактически уничтожило мирную ядерную энергетику в США. Из-за этого человечество лишилось атомных поездов, гражданских судов и самолетов, хотя технологически это было абсолютно возможно. Текущие инициативы по «безопасности ИИ» преследуют вовсе не защиту граждан, а банальный политический контроль со стороны Вашингтона, у которого, к слову, ужасающий послужной список в сфере реальной безопасности — от финансирования опасных вирусных исследований до балансирования на грани горячей войны с ядерными державами.
Чиновники пытаются «варить лягушку на медленном огне». Вводимые ограничения на вычисления (например, порог в $10^{26}$ флопс) преподносятся как безобидные временные меры, затрагивающие только сверхбогатых, однако история налогообложения доказывает: то, что начинается как точечный сбор для элиты, неизбежно становится бременем для каждого. Американская бюрократия, напуганная тем, как соцсети в свое время разрушили её монополию на информацию, сегодня атакует криптосферу, беспилотные автомобили и ИИ. Цель Вашингтона — заморозить текущий социальный порядок внутри страны и на геополитической арене, удержав мир в состоянии до 2007 года, когда технооптимисты еще не начали разрушать старые иерархии. Это порождает глубокую шизофрению в действиях властей: Джина Раймондо на внешнем треке требует душить китайскую полупроводниковую отрасль ради американского лидерства, а на внутреннем — требует замедлить американских же разработчиков ради мифической безопасности. В результате Кремниевая долина рискует повторить судьбу Xerox PARC: создать прорывную технологию, но оказаться задушенной собственным регуляторным лобби.
Распад на сферы влияния: Голубой, Красный и Децентрализованный ИИ 51:28
Поскольку суверенитет является неотъемлемым фундаментом для развития технологий, геополитическое давление неизбежно раскалывает мир. Вместо американской монополии формируется устойчивая триполярная модель мироустройства, где ключевые полюса влияния распределяются между американскими корпорациями (US Tech), подконтрольным государству сектором Китая (CCP Tech) и глобальным децентрализованным сектором (Global Tech).
Внутри самой Америки этот раскол уже привел к политической поляризации ИИ-технологий:
- «Голубой ИИ» (Blue AI) — проекты вроде OpenAI и Google DeepMind, которые остаются в Сан-Франциско и лояльны вашингтонскому истеблишменту.
- «Красный ИИ» (Red AI) — лагерь Илона Маска (включая Grok) и сообщество вокруг него, перебазировавшееся в Техас ради сохранения технологической свободы.
За пределами США эта модель дополняется «Китайским ИИ» (Chinese AI), где все приватные ключи и контроль над платформами (как это было с Weibo) изначально находятся в руках Си Цзиньпина, и «Децентрализованным ИИ» (Decentralized AI). Попытки США изолировать Китай санкциями провалятся, так как технологический слой невозможно отделить от политической воли к суверенитету.
Политеистический баланс: дхармический взгляд против авраамического апокалипсиса 1:12:36
Полноценное понимание триполярного мира невозможно без анализа культурных кодов, определяющих мышление технологических лидеров. Баладжи Шринивасан отмечает, что доминирующий в Сан-Франциско дискурс об угрозе ИИ глубоко авраамический, а не дхармический или синический. Логика ИИ-апокалипсиса (вроде гипотезы о «скрепочной фабрике» Элиезера Юдковского) — это чистая калька ветхозаветного сюжета о карающем боге, превращающем людей в соляные столпы. В противовес этому, дхармическая (индийская) культура исторически более склонна к децентрализации и политеизму. Индия не верит в единого ИИ-абсолюта; её будущее — это политеистическая модель ИИ со множеством цифровых «богов», конкурирующих между собой, подобно Зевсу и Гере в западном язычестве. Китайская (синическая) модель, напротив, предельно централизована и выстроена вокруг одного правителя на всю цивилизацию. Таким образом, нас ждет «война цифровых богов» разных культурных типов, где ни один монолитный сверхинтеллект не сможет захватить планету.
Шринивасан приводит веские математические и физические аргументы против сценария тотального доминирования ИИ. Во-первых, математика хаоса и турбулентности доказывает существование жестких пределов прогнозирования: экстремальная чувствительность к начальным условиям делает невозможным расчет долгосрочных сценариев без их прямого вычисления в реальном времени. Во-вторых, математические барьеры вроде криптографии, о роли которой в контроле ИИ подробно пойдет речь в финальной главе статьи, создают фундаментальные ограничения: ИИ может подделать картинку, но не цифровую подпись без приватного ключа.
Физическое воплощение систем также наталкивается на колоссальное трение среды. Касаясь ограничений материального мира и проблемы актуаторов, детально разобранной в шестой главе, Баладжи напоминает: для автономного существования («жизни за счет земли») ИИ потребовались бы сотни миллионов роботов, способных самостоятельно добывать руду, строить дата-центры и защищать их от людей. Миф о гипнотическом внушении ИИ разбивается о классическую проблему принципала-агента: в человеческих системах с множеством участников ($2^n$ вариантов исходов в гиперкубе возможностей) неизбежно возникает дефекция. Люди координируются выгодой — как это было при оценке OpenAI в 80 миллиардов долларов, — и они мгновенно отключат систему из розетки (или «польют её водой»), если их интересы разойдутся.
🏛️ Крах лицензионных монополий и иллюзия «безопасности» ИИ 1:31:09
От «ядерного терроризма» к ТСА: истинная суть регуляции ИИ 1:31:09
Дискуссия об экзистенциальных угрозах искусственного интеллекта часто упускает из виду фундаментальный вопрос физического воплощения этих угроз. Баладжи Шринивасан (Balaji Srinivasan) предлагает жестко заземлить абстрактные страхи doomer-сообщества вопросом: «Где актуатор?». Если пользователь нажимает клавишу Enter, что именно физически должно его уничтожить?.
Баладжи Шринивасан сводит гипотетический физический ущерб от ИИ к двум базовым сценариям:
- Сценарий саморадикализации, когда человек под влиянием текстов на экране компьютера берет в руки топор и нападает на другого человека. В этом случае ИИ выступает лишь катализатором, а не прямым агентом.
- Сценарий «Скайнета», требующий наличия сети автономных боевых дронов. Однако массовое появление программируемых роботов, подключенных к Сети, — это перспектива, до которой человечеству еще далеко.
Контраргумент ведущего о «деградации среды обитания», аналогичной вытеснению биологических видов человеком, Баладжи Шринивасан парирует возвращением дискуссии в рамки привычной экономики: речь идет не о гибели человечества, а об обычном вытеснении одних бизнес-моделей другими. Это может вызвать серьезные социальные пертурбации, но не является экзистенциальным концом света.
В этом контексте призывы к государственному регулированию ради «ИИ-безопасности» предстают в совершенно ином свете. Баладжи Шринивасан описывает этот регуляторный сдвиг как эволюцию «от ядерного терроризма к Администрации транспортной безопасности (TSA)». Громкие заявления о спасении человечества на поверку оказываются ширмой для построения неповоротливого бюрократического аппарата, аналогичного досмотру в аэропортах. Истинная цель государств в данном процессе — не защита граждан, а обеспечение тотального ИИ-контроля и удержание монополии на технологии. Ранее в разговоре они касались роли криптографии в контроле ИИ, и Баладжи Шринивасан вновь подчеркивает, что именно закрытые ключи в будущем разделят и обезопасят цифровое пространство.
Экономический апокалипсис «голубой Америки» и подрыв профессиональных монополий 1:33:22
Реальная, а не вымышленная угроза ИИ лежит в плоскости перераспределения капитала и разрушения устоявшихся кастовых привилегий. Отправной точкой здесь служит недавнее исследование компании Google DeepMind в области медицинского ИИ. Нейросеть протестировали на сложных клинических случаях из литературы, требующих дифференциальной диагностики. Результаты оказались ошеломляющими: чистый ИИ полностью разгромил как врачей-людей, так и гибридные команды «человек + ИИ». Присутствие человека в связке лишь ухудшало финальный диагноз, что указывает на феномен работников с нулевой или даже отрицательной предельной производительностью.
На основе этих данных Баладжи Шринивасан формулирует провокационный тезис о неизбежном кризисе устоявшегося американского истеблишмента:
«Азбука экономического апокалипсиса для „голубой Америки“ — это ИИ, Биткоин и Китай».
Каждый из этих факторов бьет по ключевым столпам власти Демократической партии и связанных с ней элит:
- ИИ лишает доходов лицензированные профессии (юристов, врачей, чиновников), подрывая их монополию.
- Биткоин отбирает у государства монопольный контроль над эмиссией и распределением денег.
- Китай нивелирует абсолютное военное превосходство США.
В результате «голубую Америку» ожидает тотальный экономический и политический коллапс в ближайшие годы или десятилетие.
Долгое время эта прослойка общества процветала благодаря «лицензионным замкам» (licensure locks), искусственно завышая стоимость медицинских, юридических и административных услуг. ИИ разрушает эту закрытую экосистему, предлагая высококачественную медицинскую помощь за копейки. Пациенты зачастую уже сейчас предпочитают нейросети из-за их терпения и лучшего подхода к больному. Традиционная модель монетизации врачей и юристов окажется под сокрушительным ударом.
Ранее в разговоре собеседники касались концепции человека-машины как древнего симбиоза, в рамках которой технологии всегда выступали усилителями человеческих возможностей. В данном случае ИИ работает как кратный множитель интеллекта (Amplified Intelligence). Компьютер — это инструмент, позволяющий способным одиночкам масштабировать свои идеи до масштабов миллиардных империй, подобно создателю Minecraft Маркусу Перссону или Сатоши Накамото. Появление условных «новых 30 Илонов Масков», действующих на стыке человеческого разума и алгоритмов, — процесс, который ранее в разговоре они затрагивали как модель политеистического ИИ, — неизбежно вызовет яростное политическое сопротивление и протекционизм со стороны старых элит, пытающихся защитить свои тающие доходы под предлогом борьбы за безопасность.
🤖 Человек-машина как древний симбиоз 1:40:27
Баладжи Шринивасан развивает тезис о том, что человечество уже давно является симбиотическим видом, неразрывно связанным со своими инструментами. Согласно его видению, ИИ — это не чужеродная угроза, а закономерный этап эволюции, усиливающий наши когнитивные и производственные способности. В этом контексте интеграция технологий, таких как криптография и искусственный интеллект, позволяет нам создавать новые формы взаимодействия, которые ранее были немыслимы.
Программируемость доверия и криптографические доказательства 1:40:27
Критически важным аспектом этой симбиоза становится безопасность личных данных и ключей доступа. Исторически сложилось так, что хранение приватных ключей требовало мучительного компромисса между безопасностью и доступностью. Появление крипто-кошельков, создавших прямые экономические стимулы для ответственного владения ключами, решило фундаментальную проблему инфраструктуры открытых ключей (PKI).
Сегодня это закладывает фундамент для «невероятной вселенной» возможностей, где доверие обеспечивается математически, а не бюрократически. Одной из таких технологий является Zero-Knowledge (доказательства с нулевым разглашением), которую Баладжи сравнивает с ИИ по масштабу влияния: сначала это была узкоспециализированная область, но теперь она становится массовой и программируемой. Эти инструменты позволяют, например, проводить обучение нейросетей на конфиденциальных медицинских данных, получая необходимые статистические выводы (например, распределение генетических маркеров), не раскрывая при этом информацию об отдельных пациентах.
Модель-модель как новый уровень коммуникации 1:44:42
Развивая тему усиления возможностей, Шринивасан обращает внимание на то, как стремительно меняется ландшафт экспертных навыков. Уже сегодня ИИ превосходит людей в узких задачах, таких как написание дифференциальных диагнозов или обучение робототехники. Однако наиболее поразительное наблюдение последних лет — способность моделей общаться друг с другом напрямую в многомерном латентном пространстве, минуя посредничество человеческого языка.
Это общение, «не медиатизированное языком», становится возможным благодаря архитектурам типа BLIP-2 или Flamingo, которые эффективно «склеивают» различные модальности, например, зрение и текст, с помощью компактных адаптеров. Эти архитектуры позволяют перебрасывать концептуальные мосты между моделями, изначально обученными для совершенно разных целей, фактически превращая их в единую систему производства. Подобная «франкенштейнизация» — соединение разных моделей — становится все более надежным шаблоном развития, что делает невозможным локальное сдерживание развития технологий.
Экономическая трансформация и судьба «голубой Америки» 1:50:26
В контексте этого симбиоза Баладжи рассуждает о будущем рынка труда и политической структуре. Он отмечает, что мы наблюдаем исторический переход: если в XX веке сельское хозяйство уступило место производству, то затем, по мере роста регуляций, производство было вытеснено «бумажной» экономикой — бесконечным ростом числа юристов и бюрократов.
- Количество юристов в США выросло с менее чем 1 млн до 13 млн за последние 140 лет.
- Баладжи характеризует многие бюрократические должности как имеющие «отрицательную добавленную стоимость», указывая на то, что автоматизация — это единственный способ преодолеть этот «хребет» бюрократии.
Это неизбежно приведет к экономическим потрясениям, которые сильнее всего ударят по «голубой Америке», чья власть во многом опирается на регуляторный контроль. Ранее в разговоре они касались идеологических проблем и концепций AI safety, но здесь Баладжи акцентирует внимание на том, что политический слой зачастую игнорирует реальные экономические последствия, пытаясь «заморозить в янтаре» текущие структуры с помощью запретов и регулирования. В противовес этому, «технологическая Америка» — мобильная, глобально ориентированная и во многом состоящая из иммигрантов — остается единственным функциональным компонентом, способным конкурировать в грядущую эпоху симбиотического ИИ.
🏛️ Крах государственного регулирования, криптографические путы и политеизм ИИ 2:05:51
Проблема актуаторов и иллюзия цифрового контроля 2:12:14
Ранее в разговоре собеседники уже касались триполярной модели мироустройства, но в финальной части интервью этот геополитический раскол приобретает прикладное значение для индустрии технологий. Дискуссия о рисках искусственного интеллекта часто строится на гипотетическом сценарии «восстания машин», однако Баладжи Шринивасан (Balaji Srinivasan) возвращает спор в русло жесткого реализма через проблему актуаторов. Любые трансграничные правила и регуляторные ограничения имеют смысл только тогда, когда существуют физические исполнительные механизмы для их принудительного исполнения. Как отмечает Шринивасан, «чтобы политика имела силу, на другой стороне должны стоять люди с оружием, готовые её насаждать». Если у геополитических оппонентов есть свои люди с оружием, то никакого единого глобального регулирования не существует в принципе.
Влияние ИИ на человеческое общество на данном этапе строго ограничено классической проблемой «принципал-агент». Цифровой интеллект, какими бы суждениями он ни обладал, не может напрямую изменять физический мир без подконтрольных ему физических приводов, роботов и инфраструктуры (актуаторов). Попытки американских властей ограничить развитие ИИ законодательным путем приведут лишь к тому, что федеральный центр успешно задушит инновации внутри собственных границ. При этом он будет обладать всё большей властью над всё меньшим количеством людей, в то время как остальной мир продолжит технологическую гонку, полностью игнорируя директивы Вашингтона. Ранее обсуждавшаяся экономическая угроза для «голубой Америки» в этом контексте превращается в неизбежный регуляторный суицид, окончательно отрезающий западный технологический сектор от глобального рынка.
Роль криптографии в ограничении систем искусственного интеллекта 2:06:34
Поскольку традиционные государственные институты теряют способность обеспечивать международное правовое поле, единственной надежной альтернативой централизованному контролю становится математика. Баладжи Шринивасан (Balaji Srinivasan) подчеркивает фундаментальное различие между американским технологическим сектором и глобальным интернетом. Если Кремниевая долина сегодня всё сильнее сигнализирует лояльность властям США, требуя запретить TikTok и призывая строить военную технику, то остальной мир устроен иначе. США и КНР вместе составляют лишь 20% населения планеты. Оставшиеся 80% не хотят подчиняться ни Вашингтону, ни Пекину — им нужны беспристрастные международные правила игры.
В условиях упадка американского «порядка, основанного на правилах», глобальное общество нуждается в блокчейнах, способных гарантировать права собственности и исполнение контрактов через границы без участия предвзятых государств. Этот же криптографический каркас является единственным работающим способом обуздания и контроля автономных агентов ИИ. Криптография способна физически и математически «связать» ИИ (bind an AI) таким образом, что он не сможет сфальсифицировать свои действия. Протокол блокчейна создает неизменяемые доказательства действий алгоритма и фрагментирует пространство контроля. Баладжи приводит наглядный пример: развитый ИИ может обойти человеческие законы, но он чисто математически неспособен самовольно напечатать больше биткоинов. Таким образом, криптография переносит контроль над ИИ из плоскости неэффективного человеческого надзора в плоскость непреложных законов математики.
Идеологическая предвзятость и ложная вера в «государственного Голема» 2:07:00
Современный дискурс вокруг безопасности и регулирования ИИ глубоко поляризован, а его участники мыслят исключительно в рамках узких племенных интересов. Ведущий Натан Лабенц проводит аналогию с опасными биологическими исследованиями (gain-of-function), отмечая, что бесконтрольное сжатие и распространение мощных ИИ-моделей до уровня домашних ПК выглядит так, будто каждому из 8 миллиардов людей раздали по биолаборатории на дому. С точки зрения Лабенца, такое стремление к тотальной децентрализации без оглядки на риски проистекает из трайбалистского мышления и идеологической ангажированности. Он призывает сохранять «разум скаута» и разделять личную идентичность и объективный анализ систем.
Баладжи Шринивасан (Balaji Srinivasan) соглашается с тем, что плохой характер одной опции не делает автоматической хорошей другую, однако указывает на гораздо более опасную форму идеологической слепоты — слепую веру в государство, которая для многих современных интеллектуалов де-факто заменила веру в Бога. Стремление доверить регулирование ИИ федеральному правительству США строится на старых ментальных скриптах, полностью игнорирующих реальность. Шринивасан приводит жесткое сравнение:
«Просить Вашингтон урегулировать ИИ в наше время — это всё равно что просить Советский Союз в 1989 году возглавить регулирование интернета».
За последние 30 лет американское государство превратилось из гипердержавы, которая побеждала повсюду без боя, в угасающую силу, которая ведет войны повсюду и нигде не может победить, безвозвратно сжигая триллионы долларов. Происходит один из величайших и быстрейших упадков в истории человечества, наглядно заметный по графику стоимости обслуживания суверенного долга США, который пошел абсолютно вертикально вверх, обогнав оборонный бюджет. Вокруг Америки поднимается «финансовая Берлинская стена» из жесткого налогообложения и де-факто конфискаций, необходимых для покрытия этого долга.
Главное заблуждение теоретиков ИИ-безопасности заключается в вере в то, что в Вашингтоне сидит функциональный «Голем». Они надеются, что если им удастся убедить этого Голема принять правильные законы, у него хватит мощи контролировать весь мир. Но эта предпосылка полностью сломана. Мир необратимо ретрайбализируется. Наступает эпоха «политеистического ИИ» (polytheistic AI).
В финале этой исторической драмы все ключевые линии глобальной дезорганизации сходятся в единое полифоническое крещендо:
- Технологическое и экономическое противостояние США и Китая;
- Стремительный подъем Индии и независимых цифровых платформ;
- Экспансия децентрализованного интернета, криптографии и ИИ;
- Внутренний раскол и финансовый упадок Вашингтона.
Различные суверенные геополитические блоки и «племена» уже финансируют и создают свои собственные независимые нейросети. Они никогда не подчинятся регуляторным требованиям западного центра, поэтому данный комплексный кризис невозможно анализировать, рассматривая лишь один изолированный график безопасности.
