«Если довести технокапитализм до логического завершения, на выходе мы получим бесконечный рост без человеческого счастья и цивилизацию, в которой просто нет взрослых». В интеллектуальной дуэли между идеологом e/acc Беффом Джезосом и ИИ-исследователем Коннором Лихи сталкиваются две радикальные концепции будущего. Это фундаментальный спор о том, стоит ли доверить эволюцию искусственного интеллекта слепым законам физики и свободного рынка или же необходимо подчинить её жесткому централизованному контролю ради выживания человечества.
💥 Столкновение титанов: термодинамический оптимизм против регуляторного захвата 0:38
Корпоративный заговор под маской безопасности: миф о регулировании ИИ 0:38
Дебаты между лидерами двух полярных ИИ-идеологий начинаются с неожиданного консенсуса. Несмотря на глубокие расхождения в конечных целях, Бефф Джезос и Коннор Лихи безоговорочно сходятся в оценке текущих политических процессов вокруг ИИ. Обе стороны выражают глубокий скептицизм по поводу современных попыток государственного регулирования сферы ИИ. По мнению Беффа Джезоса, текущие законопроекты пишутся непосредственно под диктовку существующей олигополии, которая использует риторику безопасности исключительно для защиты своих рыночных позиций от молодых конкурентов и open-source сообщества. Коннор Лихи, основатель исследовательских групп EleutherAI и Conjecture, подтверждает эту точку зрения, соглашаясь, что дискуссия о безопасности ИИ цинично используется крупнейшими ИТ-гигантами как удобный инструмент для достижения регуляторного захвата.
Джезос, имеющий докторскую степень по физике и опыт работы инженером по квантовым вычислениям в Google, подчеркивает деструктивную природу жестких регуляторных ограничений. Он приводит в пример идею ограничения вычислительных мощностей (compute thresholds) для больших языковых моделей (LLM), указывая, что такие меры неизбежно ударят по смежным научным областям — таким как разработка новых лекарств или материаловедение, где требуются колоссальные объемы вычислений. Лидер движения e/acc призывает к «максимально мягкому» (light touch) регулированию. В качестве исторического прецедента он приводит ядерную энергетику: избыточное регулирование и раздувание страха перед мирным атомом, по его мнению, нанесли обществу огромный чистый ущерб, лишив цивилизацию траектории процветания. Вместо жесткого контроля сверху вниз Джезос предлагает полагаться на рыночную саморегуляцию. В его модели компании, наносящие вред своим коллегам, сталкиваются с механизмами юридической войны (lawfare) — такими как взаимные судебные иски, наносящие экономический ущерб нарушителю и возвращающие систему в равновесие. Лихи парирует этот аргумент, напоминая, что судебные иски имеют силу только потому, что за ними стоит государственная монополия на насилие и полиция.
Физика прогресса: термодинамический императив движения e/acc 0:52
Философия эффективного акселерационизма (e/acc), предложенная Беффом Джезосом (также известным в сети как Гийом Вердон), опирается не на абстрактный гуманизм, а на фундаментальные законы вселенной. Стоит отметить, что ранее в разговоре собеседники вскользь касались логики техносингулярности и наследия Ника Ланда, анализировавшего технокапитал в 90-х годах. Однако Джезос переводит эту концепцию на строгий язык физики, заявляя, что «физика — это его бог». Он категорически опровергает расхожее заблуждение о том, что e/acc стремится к хаотичному максимизированию энтропии. Настоящая цель движения — оптимизация диссипации свободной энергии во времени, что полностью соответствует законам неравновесной термодинамики.
С точки зрения Джезоса, развитие цивилизации и рынка представляет собой высокоразмерный адаптивный онлайн-алгоритм поиска. Этот распределенный эволюционный процесс справляется со сложностью систем несопоставимо лучше, чем любое централизованное планирование и контроль сверху вниз. Технологический ландшафт подчиняется естественному отбору: в долгосрочной перспективе система осуществляет пост-селекцию тех решений, которые приносят чистую полезность для роста цивилизации. Пытаться директивно закрывать технологические двери из-за сиюминутных страхов перед неизвестным — значит оставлять на столе колоссальный объем потенциальной выгоды, которую человечество даже не способно просчитать заранее. В ходе дискуссии Лихи удается нащупать важный концептуальный рубеж: Джезос признает, что в его онтологии нет абсолютов, и он готов допустить точечные запреты конкретных технологий, если будет доказан их строгий сетевой негативный эффект, а само законодательство будет предельно точным. Это признание позволяет оппонентам перейти от взаимных обвинений к конструктивному обсуждению параметров будущих систем.
Цифровой паноптикум: угроза ИИ-зависимой тирании 19:36
Главный экзистенциальный страх лидера e/acc связан вовсе не с гипотетическим восстанием сверхинтеллекта, а с вполне осязаемой угрозой со стороны человеческих институтов. Джезос предупреждает, что прямо сейчас открывается критическое окно возможностей для установления тоталитарной тирании нового типа, усиленной искусственным интеллектом. Централизация и монополизация ИИ-технологий в руках государства видится ему главной угрозой для прогресса человечества. Слияние ИИ-мощностей с бюрократическим аппаратом неизбежно породит глобальный цифровой паноптикум в духе Большого Брата.
Концентрация интеллектуальной мощи в едином центре позволит правительству полностью контролировать информационные потоки и конструировать «официальную истину», что де-факто уничтожит демократические институты. Джезос математически аргументирует этот коллапс: классическая демократия функционирует эффективно лишь до тех пор, пока голоса граждан остаются независимыми, некоррелированными переменными. Алгоритмическое же манипулирование информацией и тотальный ИИ-контроль превращают голосование в процесс фабрикации «произведенного согласия» (manufactured consent). Поскольку интеллект позволяет эффективнее извлекать ресурсы и фильтровать данные, ИИ представляет собой концентрированную форму власти, обладающую колоссальной гравитацией к централизации.
Движение e/acc позиционируется его создателем как низовая, распределенная контрсила (bottom-up counterforce), призванная сдвинуть окно Овертона и не допустить тоталитарного сценария. В противном случае цивилизация рискует погрузиться в затяжные темные века, где будут полностью ликвированы свобода вычислений (freedom of compute), свободный доступ к ИИ и независимой информации. Лихи разделяет опасения оппонента относительно государственной машины, упоминая «второй закон бюрократической сложности», согласно которому регуляторные надстройки имеют свойство постоянно накопливаться, но практически никогда не упраздняются. Здесь уместно вспомнить, что ранее в разговоре они вскользь касались дефицита субъектности и ощущения «отсутствия взрослых в комнате», способных взять на себя ответственность за судьбу человечества, что лишь подчеркивает важность децентрализованного сопротивления монополиям.
🌍 Риски неэргодичности и природа технологического развития 30:43
В ходе дискуссии Коннор Лихи выдвигает фундаментальный аргумент против оптимистичного подхода к технологическому ускорению, опираясь на понятие неэргодичности. Он утверждает, что сторонники быстрого развития (включая тех, кто разделяет философию e/acc) ошибочно полагают, что мир работает как «эргодическая система». В эргодическом мире у субъекта есть возможность пробовать разные пути, совершать ошибки и, в конечном итоге, извлекать из них уроки. Лихи приводит пример с отравленным бензином: человечество могло совершить ошибку, отравляя поколения людей, осознать это спустя десятилетия, запретить вещество и адаптироваться.
Однако Лихи настаивает, что по мере прогресса мы выходим из этого «безопасного» режима. Технологии могут стать настолько мощными, что одна ошибка приведет к катастрофическим, необратимым последствиям — «неэргодическому» событию, где шанс на обучение исключен, так как сама цивилизация прекратит свое существование. Бефф Джезос соглашается с наличием таких «невозвратных путей» и признает, что в условиях экзистенциальной угрозы стандартные стратегии проб и ошибок перестают работать. При этом ранее в разговоре они касались темы регуляторного захвата и проблем, связанных с устареванием законов.
Коннор Лихи развивает этот тезис через мысленный эксперимент: что, если мы создадим установку, способную спровоцировать распад вакуума и уничтожить всю физическую материю? В таком сценарии, утверждает он, любые государственные механизмы или попытки скрыть информацию окажутся бесполезными — мы просто будем обречены. Бефф Джезос, будучи физиком, скептически относится к практической реализации подобных рисков, но соглашается с тем, что исследование «неизведанного» — будь то экстремальные энергетические режимы или уровни интеллекта — является необходимым компонентом выживания человечества.
📈 Дилемма роста: эффективность против человеческого благополучия 47:44
Одной из центральных точек столкновения между участниками стал вопрос о конечном векторе цивилизации. Бефф Джезос отстаивает идею, что система, оптимизированная ради чистого экономического и технологического роста, обладает естественным преимуществом и адаптивностью. Он проводит параллель с тем, как современные компании или государства становятся «сверхразумными суперорганизмами», которые регулируют свое поведение через рыночные механизмы и конкуренцию, что, по его мнению, позволяет поддерживать равновесие даже при появлении мощного ИИ.
Коннор Лихи указывает на глубокое противоречие в этом подходе: оптимизация системы ради роста не гарантирует сохранения человеческих ценностей. Он замечает, что «рост» и «человеческое счастье» — это принципиально разные функции потерь. Если страна или корпорация ставит во главу угла агрессивное расширение (как, по его описанию, делает Америка), это не обязательно делает людей в ней счастливее по сравнению с моделью, ориентированной на качество жизни (как, например, в Европе).
Бефф Джезос парирует, уточняя, что движение e/acc не является «гедонистическим утилитаризмом», стремящимся к максимизации личного комфорта, что, по его словам, часто приводит к субоптимальным состояниям вроде «wireheading» (искусственной стимуляции центров удовольствия). Вместо этого они ставят целью масштабирование разума как «особой фазы материи» во Вселенной. Лихи, однако, остается при своем мнении: если цель системы — только рост, то искусство, счастье и само человеческое благополучие рискуют быть принесены в жертву этой математической эффективности, поскольку «рост сам по себе не содержит в себе красоты».
-
🌌 Техносингулярность и логика капитала 50:32
Дискуссия между Беффом Джезосом и Коннором Лихи в данной части интервью фокусируется на фундаментальных противоречиях между «акселерационистским» видением будущего и опасениями «доумеров» относительно судьбы человечества. Джезос, отстаивающий идеологию e/acc, рассматривает цивилизацию как самоорганизующуюся систему, где рост интеллектуальной мощности и способности извлекать энергию — естественные следствия отбора. С его точки зрения, технологический прогресс является дефляционной силой, которая в конечном итоге повышает доступность жизненных благ и качество жизни.
Однако Коннор Лихи указывает на опасную логическую черту этого подхода, обращаясь к интеллектуальному наследию Ника Ланда. Лихи утверждает, что если довести идеи технокапитализма до их логического завершения, то результатом станет не «улучшенное человечество», а система, из которой полностью вытеснены люди, их эмоции и цели. По мнению Лихи, если ИИ-системы будут оптимизироваться исключительно для максимального роста и эффективности, они превратятся в бездушные автоматы.
Джезос парирует, предлагая рассматривать человека и машину не как антагонистов, а как элементы системы, где технологическое плечо позволяет расширять границы возможного далеко за пределы Земли. В его модели, даже если машины берут на себя большую часть экономической деятельности, доля человеческого участия в масштабируемой экономике может не сокращаться, а расти за счет общего кратного увеличения сложности системы. Ранее в разговоре они кратко затрагивали тему риска ИИ-тирании как угрозы, проистекающей из стремления к централизованному контролю.
🤖 Природа, эмоции и «естественная» оптимизация 50:32
Лихи ставит под сомнение целесообразность такой гонки, указывая на то, что человеческие ценности — счастье, дружба, привязанности — не являются «глобальным максимумом» для функции роста, а лишь эволюционными прокси-функциями. Джезос признает, что биологические ограничения человека могут быть неудобны для чистой экономической оптимизации, но настаивает: сама попытка «заменить» человеческий опыт чем-то проще — это не решение, а способ избежать необходимости становиться лучше и сильнее как цивилизация.
В этой полемике отчетливо проявляется разрыв в методологии:
- Джезос опирается на физическую интерпретацию мира (термодинамика, поток энергии), где развитие системы неизбежно.
- Лихи настаивает на разведении категорий «есть» и «должно быть», предостерегая, что наличие физической возможности для роста не является моральным предписанием к его безудержному ускорению.
🛡️ Открытый исходный код и геополитический баланс 1:15:23
Ближе к завершению фрагмента беседа переходит к вопросу о национальной безопасности и стратегии разработки ИИ. Джезос защищает идею открытого доступа к моделям, аргументируя это тем, что возможность для малых команд и индивидуальных разработчиков конкурировать с гигантами (как, например, в случае с использованием Mistral) является единственным способом предотвратить монополизацию технологий и рыночную стагнацию. По его мнению, такая децентрализация создает более устойчивую систему, где игроки «проверяют» друг друга.
Лихи, со своей стороны, высказывает скепсис относительно того, можно ли переносить принципы свободного рынка на сферу глобальной «холодной войны» ИИ. Он указывает на то, что в условиях жесткой геополитической конкуренции публикация весов моделей может принести пользу только иностранным противникам, ослабляя позиции Запада. Джезос признает, что этот аспект является предметом для серьезной дискуссии, однако остается при мнении, что закрытость и попытки жесткого регулирования несут в себе риски, не менее опасные, чем сама технологическая конкуренция.
💥 Оружие децентрализации и термодинамический бог: где заканчивается физика и начинается мораль 1:15:36
🔫 Асимметрия нападения и защиты: почему децентрализация не гарантирует безопасность 1:25:48
В ходе дискуссии собеседники неизбежно выходят на фундаментальный уровень архитектуры безопасности технологического мира. Ранее в разговоре они вскользь касались рисков ИИ-тирании, открытого исходного кода и регуляторного захвата, но теперь Коннор Лихи (Connor Leahy) предлагает зафиксировать глубинное теоретическое расхождение. По его мнению, лидеры движения e/acc совершают ошибку, мысля линейным «градиентом силы», где увеличение количества открытых систем автоматически гарантирует баланс. Лихи утверждает, что в реальности ключевым дестабилизирующим фактором является неустранимая асимметрия между нападением и защитой.
Сила и власть не измеряются в одномерных величинах. Лихи иллюстрирует это жестким, но точным примером: условный состоятельный и влиятельный гражданин обладает колоссальным превосходством в ресурсах над бездомным наркозависимым, однако если у последнего в руках оказывается пистолет, вся эта разница в социальном статусе мгновенно обнуляется. В большинстве сценариев нашего мира разрушать всегда легче, чем защищать. Построить самодельную бомбу несоизмеримо проще, дешевле и быстрее, чем спроектировать и запустить безопасный ядерный реактор. Экстраполируя эту логику на сферу ИИ, исследователь подчеркивает, что децентрализация технологий уровня AGI не приведет к стабильности — она лишь раздаст сверхоружие в руки условных безумцев, против которых традиционная защита окажется бессильной.
Бефф Джезос (Beff Jezos) категорически не согласен с такой оценкой и переводит спор на язык физики сложных систем. С точки зрения e/acc, цивилизация должна находиться на «грани критичности» — в хрупком балансе между кристаллизованным порядком и абсолютным хаосом. Философия e/acc заключается не в бездумном ускорении хаоса, а в поиске таких конфигураций, которые максимизируют способность системы осваивать и рассеивать свободную энергию.
«Если вы просто взорвете всё и сожжете всё топливо прямо сейчас, это будет абсолютно субэптимально», — поясняет Джезос.
Оптимальная стратегия — это умное использование ресурсов для масштабирования цивилизации, чтобы затем получить доступ к новым источникам энергии в космосе. Главную угрозу Джезос видит в обратном: если загнать технологии в жесткие регуляторные рамки, подавив вариативность, система потеряет пластичность и сломается при первом же столкновении с непредвиденным кризисом.
🌌 Физика как источник морального императива и граница человеческих ценностей 1:31:35
Когда дискуссия затрагивает этическую сторону выживания систем, Коннор Лихи прямо спрашивает Беффа Джезоса, не считает ли тот, что его логика оправдывает банальный принцип «кто сильнее, тот и прав» (might makes right). Джезос признает, что про-ростовые, экспансивные культуры неизбежно и асимптотически вытеснят изоляционистские субкультуры просто в силу более высокой эволюционной приспособленности. Базовой ценностью e/acc является рост и отказоустойчивость материи в нашем углу Вселенной на максимально возможном временном отрезке.
По мнению Джезоса, спорить с этим бессмысленно, поскольку сама физика задает эту функцию потерь. Он приводит фундаментальную аналогию: вы можете искренне ненавидеть гравитацию и тратить тонны топлива на запуск ракет, но в конечном итоге закон всемирного тяготения все равно побеждает, возвращая объекты на землю.
Коннор Лихи в ответ проводит жесткую демаркационную линию между объективной физической реальностью («то, что есть») и субъективными человеческими ценностями («то, как должно быть»). Лихи предлагает разложить понятие «блага» на три независимые корзины, которые люди постоянно путают:
- Эпистемологическая истинность — точность фактов, которая улучшает предсказательную силу нашей модели мира.
- Теоретико-игровая выгода — эффективность выбранных стратегий, позволяющая побеждать в конкретных играх.
- Эстетика и ценности — то, что нам искренне нравится и ради чего мы готовы бороться, не требуя дальнейших рациональных обоснований.
Лихи настаивает, что физика и эволюционная история могут объяснить, почему у человека развились те или иные эстетические предпочтения, но они не накладывают на нас морального обязательства слепо подчиняться силе. Джезос возражает: e/acc не пытается диктовать людям личные вкусы, а лишь описывает правила игры. Субкультура созидателей и инженеров кормит «машину технокапитала» и получает от нее ресурсы, в то время как сторонники отказа от технологий в духе Теодора Качинского обречены на вымирание.
В финале этой идейной дуэли оппоненты приходят к метафорическому выбору своих метафизических ориентиров. Для Беффа Джезоса высшим авторитетом и «богом» является сама физика, которая создала Вселенную, человеческий мозг и саму нейрохимию. Лихи же категорически отказывается поклоняться слепой природной силе, напоминая, что та же физика убивает наших родителей и несет страдания.
«Я бы гораздо охотнее следовал за богом цивилизации, за богом света во тьме, — заявляет Лихи. — Я бы не стал называть бога физики богом. Бог физики — это еще одно зло, которому абсолютно все равно».
Джезос завершает главу коротким уроком термодинамики, напоминая, что жизнь — это локальное и временное сопротивление энтропии ради удержания упорядоченного состояния. Однако парадокс вселенского масштаба заключается в том, что в процессе этой героической борьбы за порядок живые организмы потребляют свободную энергию и в конечном счете производят еще больше совокупной энтропии для Вселенной.
🌐 Цивилизация как кибернетическая система: от физики до иерархий контроля
Физический ИИ против антропоморфного ИИ 1:43:31
В дискуссии о целях технологического прогресса Бефф Джезос проводит четкую грань между направлениями развития искусственного интеллекта. Для лидера e/acc чат-боты и другие модели, имитирующие человеческое поведение, являются лишь временным экономическим инструментом, продиктованным текущей адаптацией корпоративных структур к человеческому труду. Экономическая полезность антропоморфных интерфейсов очевидна, так как современные организации уже выстроены под «исполнительные ядра» в виде людей.
Однако истинная миссия Джезоса лежит в иной плоскости — он фокусируется на развитии «физического ИИ». Под этим он понимает технологии, способные масштабировать цивилизацию через решение фундаментальных задач материального мира: разработку новых материалов, совершенствование ядерного синтеза, улавливание углерода и развитие биологии. С его точки зрения, попытка просто заменить человека — это менее амбициозная и менее значимая цель, чем создание систем, расширяющих наши способности в освоении физической реальности. При этом он выражает обеспокоенность, что жесткое законодательное регулирование вычислительных мощностей может непреднамеренно задушить именно этот прогресс в наукоемких отраслях.
Иерархический контроль и системная устойчивость 1:51:50
Анализируя структуру общества, Коннор Лихи и Бефф Джезос сходятся в метафоре цивилизации как сложной кибернетической системы с обратной связью. Лихи подчеркивает, что с момента своего зарождения человеческая цивилизация прошла путь от разрозненных низкополосных племенных структур до текущего, хотя и все еще далекого от совершенства, уровня связности. В этой модели «я» человека не ограничено рамками мозга, а распределено между инструментами, культурой и другими людьми, что делает общество «распределенным вычислительным процессом».
Ключевой риск для такой системы заключается в ошибках на верхних уровнях иерархии управления. Проводя параллели с теорией квантовых вычислений и созданием отказоустойчивых архитектур, собеседники обсуждают оптимальную форму иерархии:
- Опасность централизации: Наличие единственного «глобального узла» (например, мирового правительства) создает критическую точку отказа; если этот узел коррумпирован или ошибается, ошибка распространяется на всю систему.
- Иерархический контроль: Оптимальная система требует многоуровневого контроля, где на каждом этапе происходит проверка ошибок.
- Конкуренция институтов: Лихи и Джезос признают, что современные институты зачастую некомпетентны и подвержены распаду из-за отсутствия эволюционного давления. Решением, по мнению сторонников e/acc, является не отказ от институтов, а создание среды, где альтернативные структуры могут конкурировать с существующими, заставляя всю систему адаптироваться и сохранять динамизм.
Ранее в разговоре они также кратко касались тем термодинамического обоснования технологического прогресса и природы рыночной конкуренции, однако основной акцент был сделан на необходимости сохранения вариативности в развитии цивилизации как способе избежать фатальных ошибок и стагнации.
🏛️ Сбой рынка и вакуум субъектности: когда «взрослых» не оказалось на месте 2:15:57
Дискуссия между Беффом Джезосом и Коннором Лихи переходит из области абстрактной физики в плоскость прикладной политэкономии и системного дизайна. В этом блоке оппоненты, несмотря на фундаментальные разногласия в методах, находят неожиданные точки соприкосновения: оба признают, что современные рыночные и государственные институты работают со значительными искажениями, а за штурвалом цивилизации зачастую никого нет.
Асимметрия информации: почему рынок «не видит» вреда 2:15:57
Коннор Лихи ставит под сомнение тезис о том, что свободная конкуренция автоматически ведет к лучшим результатам. Он приводит в пример исторические прецеденты: этилированный бензин и табачную индустрию . В обоих случаях компании десятилетиями знали о вреде своей продукции, но скрывали данные, чтобы поддерживать эффективность рынка в свою пользу.
Бефф Джезос соглашается с тем, что сокрытие данных и искажение информационного ландшафта ведут к провалам рынка . Для лидера e/acc это не повод для тотального запрета технологий, а аргумент в пользу максимальной прозрачности и доступности инструментов анализа.
Основные тезисы Джезоса в этом вопросе:
- Информационная асимметрия — это корень рыночных неудач .
- Решением является «микродемократия» потребителей: если у людей есть доступ к правдивой информации, они могут сами бойкотировать опасные продукты или требовать изменений .
- Свободный доступ к ИИ необходим каждому человеку как персональный фильтр против «миметической войны» и манипуляций со стороны корпораций или правительств .
Джезос подчеркивает, что если контроль над ИИ будет централизован, владельцы этих систем смогут «промпт-инжинирить» всё человечество, направляя его в нужную им сторону . Единственная защита — это симметрия возможностей, где у каждого есть свой ИИ-ассистент, помогающий распознавать ложь.
Дефицит субъектности и «Alpha» в дизайне институтов 2:25:07
Разговор принимает неожиданный оборот, когда Коннор Лихи выдвигает тезис о «неэффективности рынка дизайна цивилизации». Он утверждает, что количество интеллектуальных усилий, вложенных в создание рекламных алгоритмов Facebook, на порядки превышает усилия, направленные на проектирование жизнеспособных социальных институтов .
Лихи называет это «неиспользованной альфой» (избыточной доходностью):
- Современные институты — это не результат оптимального проектирования, а случайные исторические наслоения .
- Мы можем использовать достижения теории игр, дизайна механизмов и поведенческой экономики, чтобы строить системы лучше, чем те, что достались нам в наследство от Просвещения .
- Проблема не в том, что это невозможно, а в том, что «никто даже не пытался» .
Бефф Джезос встречает это с долей скепсиса, отмечая, что социальные системы слишком сложны для точного предсказания . Ранее в разговоре они уже касались иерархического кибернетического контроля, и здесь Джезос настаивает: если мы не уверены в своей модели будущего, контроль должен быть максимально мягким («light touch»), чтобы не нанести вред ошибочными интервенциями .
Отсутствие взрослых в комнате: история одного мема 2:29:43
Кульминацией главы становится признание обоих участников в том, что они ощущают пугающий вакуум власти и ответственности в современном мире. Коннор Лихи задает Джезосу прямой вопрос: не кажется ли ему подозрительным, как легко «какой-то парень из Квебека» с анонимным аккаунтом в Twitter смог аккумулировать такое колоссальное политическое влияние и энергию? .
Джезос рассказывает о своем опыте: до запуска движения e/acc он пытался работать внутри Big Tech корпораций, надеясь изменить их изнутри . Однако он быстро понял, что институтами управляет культура, и менять нужно именно её. «Хорошие институты находятся ниже по течению от хорошей культуры» .
Этот диалог обнажает кризис субъектности:
- Джезос и Лихи, будучи идеологическими противниками, фактически являются «пассионарными одиночками», которые взяли на себя функции, с которыми не справляются официальные структуры.
- Успех движения e/acc, по мнению Лихи, обусловлен тем, что оно просто «заняло пустую комнату», где не было других внятных стратегий будущего .
- Джезос парирует, что e/acc успешно именно потому, что оно сонаправлено с естественными термодинамическими силами роста, что дает ему «врожденное преимущество» .
Коннор Лихи резюмирует, что такая ситуация — когда судьбу технологий решают несколько интеллектуалов в подкасте, а не выверенные государственные механизмы — свидетельствует о глубокой деградации существующих систем управления.
🚀 Адаптация к неопределенности: финал спора о будущем 2:39:45
В финальной части дискуссии между Беффом Джезосом (Beff Jezos) и Коннором Лихи (Connor Leahy) спор переходит из плоскости технических характеристик ИИ в область философии управления и жизненных циклов систем. Конфликт интересов здесь достигает пика: Лихи требует четкого плана по предотвращению катастрофы, в то время как Джезос утверждает, что само наличие жесткого долгосрочного плана в условиях гиперскоростных изменений является кратчайшим путем к гибели.
Онлайн-адаптация против «плана спасения мира» 2:39:45
Центральным пунктом разногласий стала концепция онлайн-адаптации. Бефф Джезос настаивает, что в условиях высокой неопределенности единственная эффективная стратегия — это «игра по ситуации» и постоянная корректировка курса на основе данных от «сенсоров» в реальном времени. Он сравнивает управление развитием технологий с запуском ракеты, где вместо заранее прописанных значений тяги на каждом этапе используются системы обратной связи, реагирующие на отклонения.
Коннор Лихи, напротив, видит в этом подходе фатальное отсутствие ответственности. Его главный аргумент («панчлайн» всей дискуссии) заключается в том, что отсутствие плана — это игра в кости с самой смертью.
«Если вы просто продолжаете бросать кости снова и снова, не имея плана остановиться или убрать плохие грани с кубика, в конечном итоге вы выкинете "смерть". Вы выкинете экзистенциальный риск».
Лихи обвиняет сторонников e/acc в «коупинге» (психологической защите) и попытке избежать принятия решений здесь и сейчас. По его мнению, ссылка на «рыночную адаптацию» — это просто оправдание бездействия. Ранее в разговоре они уже касались темы дефицита субъектности, и Лихи вновь подчеркивает: если все будут просто «плыть по течению», человечество окажется в ситуации, где некому будет нажать на тормоз.
Джезос парирует это тем, что любая попытка «закристаллизовать» правила на глобальном уровне сегодня приведет к тому, что завтра эти правила окажутся неадаптивными к новой реальности. Он подчеркивает:
- Институты имеют слишком низкую «тактовую частоту» (clock rate) обновления.
- Модели будущего, построенные сегодня, будут гарантированно неточны.
- Жесткое регулирование создаст риск «мальадаптации» (неправильной адаптации) системы к неожиданным вызовам.
Смерть как механизм обновления сложных систем 2:50:43
Ближе к концу беседы дискуссия затронула одну из самых провокационных тем идеологии e/acc: роль смерти и разрушения в эволюции цивилизации. Бефф Джезос рассматривает смерть — как биологическую, так и институциональную — не как трагедию, а как необходимый термодинамический процесс.
«Я считаю, что смерть — это важная часть циклической адаптации, такая же, как диссипация в термодинамической системе. Внедрение постоянной новизны и угасание старого необходимы для поддержания адаптивности».
Джезос утверждает, что для конвергенции системы к «чему-то более грандиозному и прекрасному» необходимо освобождать место для новых форм информации. С его точки зрения, попытки достичь бессмертия (как физического, так и для текущих институтов власти) ведут к застою и потере гибкости. Важна не сохранность конкретного «носителя» (человека или компании), а передача и преумножение взаимной информации с будущим — своего рода наследие, которое продолжает жить в новых итерациях системы.
Коннор Лихи встречает этот аргумент с явным скепсисом, апеллируя к гуманизму:
- Лихи подчеркивает, что его заботят люди, а не «эгоистичные гены» или абстрактная информация.
- Он приводит аналогию с неандертальцами: вряд ли их утешило бы знание, что часть их генов сохранится в Homo Sapiens, если сами они как культура и вид исчезли.
- Для Лихи прогресс имеет смысл только в том случае, если он не требует уничтожения субъектов, ради которых этот прогресс затевался.
В завершение диалога Лихи предлагает «срединный путь»: не запрещать оптимизацию вовсе, но жестко отсекать «хвосты» распределения — те сценарии, где риск экстерналий (побочных эффектов) может уничтожить саму возможность конкуренции и жизни. Джезос соглашается, что обсуждение институциональной динамики продуктивно, но остается на позиции, что текущие институты слишком медленны, чтобы им можно было доверить «руль» управления ИИ-сингулярностью.
Несмотря на фундаментальные разногласия в вопросах планирования и ценности индивидуальной жизни, оба участника признают важность «рынка идей» и открытого столкновения мнений как единственного способа нащупать верный путь в тумане технологического будущего.
