Теория игр против Молоха: как математика объясняет выживание цивилизации

На дистанции в 10 000 раздач мастерство игрока определяет результат в 99% случаев, но за пределами покерного стола человечество неумолимо проигрывает Молоху — системной ловушке, заставляющей нас уничтожать будущее ради сиюминутной выгоды. Лив Боэри препарирует реальность через теорию игр, объясняя, почему открытый генетический код вирусов опаснее ядерной бомбы и как математика доказывает наше возможное одиночество во Вселенной.

🃏 Математика игры: от покерного стола до поиска любви 0:00

Для человеческого разума современная игра в покер — это эволюционный вызов. Как отмечает Лив Боэри, наш мозг формировался в условиях, где мгновенная реакция на бегущего льва была важнее вычислений кинетической энергии хищника . Сегодня же, оказываясь за игровым столом, человек испытывает тот же древний отклик «бей или беги», но вынужден при этом оперировать сложнейшими математическими вероятностями. Понимание того, как сбалансировать инстинкты с логикой, становится ключом не только к победе в турнире, но и к эффективному принятию решений в жизни.

Дистанция против случая: когда мастерство побеждает удачу 0:53

Вопрос о роли удачи — один из самых частых в карьере профессионального игрока. Лив Боэри подчеркивает, что влияние случайности находится в прямой зависимости от размера выборки . На коротком отрезке, например, в 10 раздач, даже новичок может обыграть чемпиона, имея лишь небольшое математическое преимущество. Однако с ростом дистанции «шум» удачи затихает.

Если сыграть 10 000 рук, вероятность победы более сильного игрока возрастает до 98–99% . В покере, как и в долгосрочном планировании, качество принимаемых решений неизбежно берет верх над случайными колебаниями. Быть «лучшим игроком» означает совершать меньше ошибок и точнее следовать стратегии, минимизирующей потери.

Теория игр и архитектура «неуязвимости» 1:58

В основе современного покера лежит теория игр, в частности — концепция равновесия Нэша. Это состояние, при котором ни один участник не может улучшить свой результат, изменив стратегию в одностороннем порядке . Лив объясняет это на примере игры «камень, ножницы, бумага»: если вы бросаете каждый вариант ровно в 33% случаев, вы становитесь «неэксплуатируемым» — оппонент не может найти в вашей игре слабое место .

Однако в реальном покере всё сложнее. Современные профессионалы используют специальное ПО для проведения симуляций методом Монте-Карло, разыгрывая миллиарды вымышленных рук . Это позволяет вычислить оптимальные частоты блефа и ставок для любой ситуации. Лив отмечает два уровня мастерства:

GTO (Game Theory Optimal): игра по математически выверенным частотам для защиты от эксплуатации .
Эксплуатирующая стратегия: сознательное отклонение от равновесия, когда вы замечаете, что оппонент совершает систематические ошибки (например, слишком часто сбрасывает карты на агрессию) .

Алгоритм любви: проблема оптимальной остановки 8:51

Математические модели применимы даже к таким тонким сферам, как поиск спутника жизни. Лив и Лекс обсуждают «проблему секретарши» или теорию оптимальной остановки. Если у вас есть конечное число потенциальных кандидатов (например, 100), математика предлагает правило 37% .

Согласно этой модели, первые 37% кандидатов следует использовать исключительно для сбора данных, не вступая в серьезные отношения. После этого порога нужно выбирать первого же человека, который окажется лучше всех предыдущих . Хотя Лекс Фридман признается, что предпочитает «слушать сердце», Лив указывает на то, что большинство людей склонны либо к недостаточной оптимизации, либо к одержимости метриками.

Интересной альтернативой современным дейтинг-сервисам Лив называет гипотетическое приложение на базе Goodreads . Список прочитанных книг и комментарии к ним раскрывают личность, ценности и интеллектуальное любопытство гораздо глубже, чем отредактированное фото в Tinder .

Образование под гнетом метрик и «гэймификация» оценок 15:49

Лив, имеющая степень по астрофизике, критикует современную систему образования за «тиранию метрик» . И Лекс, и Лив признаются, что в юности мастерски научились «взламывать» систему: они учились не ради глубоких знаний, а ради получения высшего балла (оценки «А»).

Проблема зубрежки: Подготовка к экзаменам превращается в краткосрочное накопление данных, которые испаряются сразу после теста .
Истинное мастерство: Глубокое понимание приходит только тогда, когда человек начинает учить других или сталкивается с реальными задачами вне рамок учебного плана .
Роль учебников: Несмотря на обилие видеоуроков, качественный учебник остается лучшим инструментом для фундаментального изучения предмета, так как он предлагает структурированные задачи возрастающей сложности .

Ранее в разговоре они кратко коснулись того, как погоня за показателями в образовании перекликается с более масштабными проблемами координации, которые Лив исследует через концепцию «Молоха».

Система 1 и Система 2: интуиция в эпоху симуляторов 21:54

С появлением «солверов» (программ для вычисления оптимальных решений) роль интуиции в покере изменилась, но не исчезла. Лив разделяет процесс принятия решений на две системы (по Канеману): логическую «Систему 2» и интуитивную «Систему 1» .

Раньше лучшие игроки, такие как Даниэль Негреану, полагались почти исключительно на «чутье», так как языка для описания математического оптимума еще не существовало . Сегодня же интуиция служит «последним фильтром». Когда математические шансы (pot odds) и частоты говорят, что решение пограничное, в игру вступает то самое трудноуловимое чувство: «в этот раз у него точно есть эта карта» . По мнению Лив, именно умение вовремя довериться этому «фуззи-фактору» (неопределенности) отличает великих мастеров от просто хороших игроков.

🃏 Магия Фила Хельмута и биология блефа 26:14

В мире современного покера, где доминируют сложные математические модели и солверы, фигура Фила Хельмута (Phil Hellmuth) кажется анахронизмом. Однако Лив Боэри (Liv Boeree) в беседе с Лексом Фридманом (Lex Fridman) подчеркивает, что этот игрок — живое доказательство того, что в игре существует некий «X-фактор», выходящий за рамки чистой теории игр, о которой шла речь в начале дискуссии.

Феномен Фила Хельмута: магия вне математики 26:14

Фил Хельмут — уникальное явление в истории покера. Лив Боэри в шутку предполагает, что он, возможно, «взломал симуляцию» . Несмотря на то, что его стратегия часто противоречит математически выверенному «оптимальному игровому дереву» (GTO), он продолжает удерживать рекорд по количеству браслетов Мировой серии покера (WSOP) — сейчас их у него 16, в то время как у ближайших преследователей не более десяти .

Лив отмечает несколько ключевых факторов «магии» Хельмута:

Иррациональная уверенность: Он искренне ожидает победы в каждой раздаче, даже когда шансы против него. Его раздражение при проигрыше — это не просто актерская игра, а искреннее недоумение человека, чья реальность не совпала с ожиданиями .
Сила манифестации: Хельмут даже написал книгу под названием «Positivity», посвященную достижению целей через абсолютную веру в себя . Лив предполагает, что он нашел способ «манипулировать тканью реальности» или, по крайней мере, психологическим состоянием оппонентов-любителей .
Чтение «живой» игры: В отличие от онлайн-игроков, Хельмут мастерски использует интерактивные элементы: он постоянно провоцирует, говорит и считывает мельчайшие поведенческие подсказки .

По мнению Боэри, успех Хельмута заслуживает изучения как пример того, что покер может быть гораздо сложнее, чем нынешние модели ИИ . Это не просто математика, а игра воли, где «белая магия» Хельмута позволяет ему заставлять карты ложиться так, как ему нужно.

Психофизиология блефа: борьба с «белым шумом» 35:46

Обсуждая природу обмана, Лив Боэри описывает блеф на высоких ставках не как хладнокровный расчет, а как интенсивное физиологическое испытание. Вспоминая свой блеф против Фила Айви (Phil Ivey) в турнире с бай-ином 25 000 евро, она описывает ощущение «сканирования души» под его «лазерным взглядом» .

Когда игрок идет на крупный блеф, его тело неизбежно входит в состояние «бей или беги» . Лив выделяет концепцию «белого шума» — состояния, при котором интенсивность стресса достигает такого уровня, что логическая часть мозга отключается .

В этот момент происходят следующие процессы:

Потеря логики: Математические расчеты и размеры ставок, которые казались ясными в начале раздачи, тонут в гуле нервного напряжения.
Эволюционный конфликт: Наше тело реагирует на риск потери фишек (или репутации) так же, как на нападение хищника. Однако в покере расчет кинетической энергии «льва» не поможет — нужно уметь подавлять симпатическую нервную систему и переходить в парасимпатическое состояние .
Медитация в моменте: Успех блефа зависит от способности «укротить» свою физиологию, чтобы лицо и тело не выдали внутреннего хаоса.

Лекс Фридман проводит параллель между покерным блефом и историческими примерами колоссальной лжи, упоминая Operation Barbarossa, когда Гитлер убедил Сталина в отсутствии намерений нападать на СССР . Однако Лив возражает, что в покере ложь является частью консенсуса — все знают, на что подписываются, что делает игру честной формой обмана .

Калибровка эмоций и цена поражения 44:07

Покер обучает не только искусству обмана, но и жесткой эмоциональной дисциплине. Лив подчеркивает важность «калибровки» своей реакции на выигрыши и проигрыши. Она утверждает, что человек не должен впадать в депрессию из-за потери незначительного процента своего капитала, но и «смерть внутри» при крупном выигрыше — это тоже ошибка .

Со временем отношение Боэри к соревновательности изменилось. Раньше она описывала себя как «патологически азартную», готовую ударить стену после обидного проигрыша . Сейчас она рассматривает мир менее как игру с нулевой суммой и более как пространство для положительных взаимодействий. Самый темный период её карьеры (2016–2018 гг.) был связан не с финансовыми потерями, а с ощущением, что её жизнь уходит на погоню за метриками, которые перестали иметь смысл . Это осознание привело её к поиску более значимого вклада в мир, за пределами покерного стола.

☢️ На вершине холма: ядерный риск и мистическое предчувствие 50:11

Завершение профессиональной карьеры в покере поставило перед Лив Боэри экзистенциальный вопрос: куда направить интеллект, привыкший к анализу сложных вероятностных систем? Как отмечает Лив Боэри (Liv Boeree), многие чемпионы, включая Магнуса Карлсена, сталкиваются с депрессией после достижения вершины, так как жизнь превращается в постоянный поиск новых смыслов . Для Лив таким смыслом стал анализ «больших игр», в которые играет человечество. Если раньше она обсуждала теорию игр и равновесие Нэша в контексте карт, то теперь те же концепции применяются к выживанию цивилизации.

Хрупкое равновесие и квантовое бессмертие 52:47

Современный мир, по мнению Лив, играет в покер, где вместо фишек — ядерные боеголовки . Она подчеркивает, что нынешнее состояние мира — это не стабильное равновесие на дне ямы, из которой трудно выбраться, а положение шара на вершине крутого холма . Любое неосторожное движение может столкнуть человечество в пропасть.

Лив анализирует концепцию «взаимного гарантированного уничтожения» (MAD) через призму исторической хрупкости:

Ошибочные срабатывания: Она напоминает о как минимум 12 инцидентах, когда мир стоял на грани катастрофы из-за технических сбоев. Например, в 1995 году запуск норвежской метеорологической ракеты был принят российскими радарами за нападение, и только случайное присутствие главы российского МИДа в ООН в Нью-Йорке предотвратило эскалацию .
Фактор человека: Лив Боэри (Liv Boeree) называет Станислава Петрова человеком, который спас больше жизней, чем кто-либо в истории, проигнорировав приказ о запуске, доверившись своей интуиции .

На фоне этого обилия «почти случившихся» катастроф Лив вводит философский концепт «квантового самоубийства» . Согласно этой интерпретации многомировой модели Эверетта, наблюдатель всегда будет обнаруживать себя в той ветви мультивселенной, где он выжил. Если применить эту логику к человечеству, мы находимся здесь и обсуждаем эти темы только потому, что существуем в той редкой ветви реальности, где ядерная война до сих пор не случилась. Однако Лив предостерегает от солипсизма: вера в собственную неуязвимость — «самопрекращающийся» путь, ведущий к потере бдительности .

Голос из ниоткуда: за пределами атеизма 59:21

Интеллектуальный путь Лив пролегал через рационалистическое сообщество и жесткий материализм в духе Ричарда Докинза. Однако личный опыт заставил её пересмотреть свои взгляды и проявить «эпистемическое смирение» .

Самым ярким эпизодом стал турнир в Сан-Ремо в 2010 году. Лив попала на него почти случайно из-за извержения вулкана в Исландии, парализовавшего авиасообщение . Выиграв путевку через сателлит за 500 евро, она оказалась за столом крупнейшего на тот момент турнира в Европе. Во время торжественного открытия, когда заиграла песня Chemical Brothers «Hey Boy Hey Girl», Лив услышала в голове голос .

«Этот голос звучал как мой собственный разум, но он был невероятно властным. Он сказал: "Ты выиграешь этот турнир". Ощущение было настолько мощным, что по телу пошли мурашки», — вспоминает Лив Боэри (Liv Boeree) .

Несмотря на то, что в первый же день она потеряла половину стека, предчувствие дало ей аномальную уверенность, напоминающую манеру игры, которую иногда демонстрирует Фил Хельмут (Phil Hellmuth). Спустя шесть дней она действительно стала чемпионкой, обойдя 1200 участников . Как рационалист, она допускает, что это могла быть ошибка памяти или «полезная фикция», но само событие стало трещиной в её атеистическом мировоззрении.

Вселенная как квест-комната 1:08:40

Этот мистический опыт подтолкнул Лив к размышлениям о природе реальности. Она задается вопросом: не является ли наш мир симуляцией, за которой наблюдает некий внешний интеллект ради развлечения? . Лекс Фридман (Lex Fridman) иронично предполагает, что в момент победы за персонажа Лив просто «зашел поиграть» кто-то извне.

В отличие от классического теизма, Лив рассматривает «Бога» скорее как программиста или игрока, чья мораль нам может быть непонятна . Она предлагает рассматривать Вселенную как гигантскую квест-комнату (escape room):

Цель игры: Понять правила, собрать пазл физических законов и «отпереть» гиперпространственный ключ для выхода на следующий уровень .
Уровни прогресса: Биологическая эволюция была первым уровнем; развитие идей и технологий — вторым. Выход в космос и объединение человечества в менее конфликтную структуру могут стать «левелапом» нашей цивилизации .

Хотя материалистическая наука остается лучшим методом познания, Лив признает ценность веры как «резервного источника смысла» в темные времена . Однако на пути к этому «левелапу» стоит фундаментальное препятствие — бог нездоровой конкуренции, которого она называет Молохом. Его влияние на социальные сети и современную культуру становится следующей темой их беседы .

👹 Ловушка Молоха: Почему конкуренция убивает здравый смысл 1:15:22

В середине разговора Лекс Фридман и Лив Боэри переходят к обсуждению одной из самых мрачных и глубоких концепций современной теории игр — фигуре Молоха. Этот древний бог, требовательный к человеческим жертвам, в современной интерпретации превратился в метафору системного сбоя, который заставляет разумных агентов действовать во вред себе и обществу ради краткосрочного выживания.

Метафизика Молоха: Жертва будущим ради конкуренции 1:15:35

Лив Боэри начинает с того, что концепция Молоха как «машины, пожирающей людей ради власти», прослеживается от фильма «Метрополис» до знаменитой поэмы Аллена Гинзберга «Вопль» . Однако в контекст рационального мышления и теории игр этот образ ввёл Скотт Александр в своём эссе «Медитации на Молоха» (Meditations on Moloch) .

Молох — это не конкретный злодей или централизованная сила. Это эмерджентный феномен, возникающий в мультиагентных системах с плохими стимулами. Боэри определяет его как «силу теории игр», которая проявляется там, где конкуренция идёт не по плану . Исторически Молох требовал в жертву детей ради получения военного или политического преимущества. Сегодня этот процесс выглядит иначе: мы жертвуем своими ценностями, временем и ментальным здоровьем, чтобы просто не отстать от конкурентов.

Боэри объясняет, что Молох — это «многополярная ловушка» . Классическим примером такой ловушки является дилемма заключённого, но в масштабах всего общества. Когда множество игроков соревнуются за ограниченный приз, они вынуждены выбирать «грязную» стратегию, если она дает хотя бы минимальное преимущество в коротком моменте. В итоге все участники оказываются в худшем положении, чем если бы они договорились о сотрудничестве.

Цифровое «самобичевание»: Бьюти-фильтры и стадионный эффект 1:17:56

Самым наглядным примером действия Молоха в повседневной жизни Боэри считает индустрию красоты в социальных сетях. Инстаграм-модели конкурируют за внимание, лайки и рекламные контракты. Чтобы выделиться, они используют косметику, затем профессиональный свет, а теперь — алгоритмические бьюти-фильтры, которые до неузнаваемости «улучшают» лицо одним нажатием кнопки .

Это создает классическую «гонку на выживание» (race to the bottom):

Индивидуальный стимул: использование фильтра делает тебя привлекательнее и дает больше лайков.
Системное последствие: когда все используют фильтры, стандарт красоты становится недостижимым.
Итог: все чувствуют себя несчастными и некрасивыми без фильтров, но никто не может перестать их использовать, не проиграв в конкуренции .

Для описания этого тупика Лив использует метафору футбольного стадиона . Если один человек в первом ряду встанет, чтобы лучше видеть поле, он получит преимущество. Но это вынудит встать человека за ним, а затем и весь стадион. В результате все стоят, никто не видит лучше, чем раньше, но теперь всем еще и неудобно. Чтобы вернуть систему в оптимальное состояние (где все сидят), необходима «координация с высоты птичьего полёта», которую невозможно осуществить изнутри самой системы .

Технологии как диктаторы социальных структур 1:21:12

Обсуждая ответственность создателей платформ, Боэри отмечает, что ни Марк Цукерберг, ни основатели Twitter не ставили целью разрушение психики пользователей. Однако они не смогли предсказать, как их алгоритмы, оптимизированные под вовлеченность, превратятся в инструменты Молоха . Когда сложная человеческая психология сводится к простым метрикам (лайки, ретвиты), система неизбежно деградирует.

Боэри критикует наивный техно-оптимизм, согласно которому технологии нейтральны . Напротив, современные социальные технологии диктуют, как формируются группы и какие идеи становятся популярными. В этой среде Молох управляет «информационными войнами», где гнев и ярость становятся главными двигателями виральности, поскольку они лучше всего удерживают внимание . Лив подчеркивает, что мы фактически находимся в состоянии информационной гражданской войны, где реальность расщепляется на два враждующих лагеря .

В завершение раздела Боэри упоминает концепцию Даниэля Шмахтенбергера (Daniel Schmachtenberger), называя Молоха «генеративной функцией экзистенциального риска» . Это двигатель, который создает угрозы — от биологического оружия до неуправляемого ИИ, поскольку каждый участник гонки вооружений боится остановиться первым. Как антидот этому Боэри начинает разрабатывать концепцию «Win-Win» (Выигрыш-Выигрыш) — игрового персонажа, который должен олицетворять координацию и здоровое соревнование .

🧩 Эволюция игр: от алгоритмов гнева к стратегии Win-Win 1:40:38

В центре дискуссии между Лексом Фридманом и Лив Боэри встает вопрос о том, как человечество может противостоять деструктивным силам неограниченной конкуренции. Если Молох — это символ системы, заставляющей участников жертвовать общим благом ради личной сиюминутной выгоды, то Лив предлагает искать «антидот» в концепции, которую она называет Win-Win (или более официально — Omnia) . Это не просто стратегия, а своего рода «ангельская» противоположность Молоху, мем, поощряющий координацию и признание ценности игры как процесса, а не только как результата.

Концепция Win-Win как антидот Молоху 1:40:38

Лив Боэри подчеркивает, что одной из главных проблем современной цивилизации является неспособность «оградить» конкуренцию. Когда соревнование выходит за рамки спортивной площадки или рыночной ниши, оно начинает порождать разрушительные внешние эффекты. В качестве противовеса Лив вводит понятие Win-Win-взаимодействия, которое требует принятия хаоса и получения удовольствия от самой сложности игры .

Это не означает отказ от соревновательности вовсе. Напротив, Боэри полагает, что Вселенная интереснее там, где чистое сотрудничество соседствует с небольшими «карманами» здоровой конкуренции . Ключевая задача — распространить Win-Win как доминирующий культурный мем. Основные принципы этого подхода включают:

Ограничение конкуренции: Создание условий, при которых борьба за ресурсы не разрушает саму среду обитания.
Сложность против метрик: Понимание того, что истинная красота (будь то дерево или человек) не сводится к простым показателям, таким как стоимость древесины или количество лайков .
Координация: Поиск решений, где сумма целого значительно больше суммы его частей, что характерно для сложных живых систем.

Алгоритмы ярости: экономика внимания и разрушение дискурса 1:48:49

Рассматривая причины текущего социального кризиса, Боэри и Фридман анализируют устройство социальных сетей, в частности Twitter. Лив ссылается на идеи Тристана Харриса из «Центра гуманных технологий», описывая Twitter как «питательную среду для культурных войн» . Проблема заключается в алгоритме, который приоритизирует самые гневные и вызывающие разногласия мнения, так как именно они обеспечивают максимальную вовлеченность.

Журналисты мейнстрим-медиа, также находясь в этой «бурлящей лаве ярости», выхватывают наиболее токсичные сюжеты и транслируют их миллионам людей, которые даже не зарегистрированы в соцсетях . Боэри видит корень зла в рекламной бизнес-модели. Когда продуктом является внимание пользователя, алгоритм неизбежно оптимизируется под вызывание зависимости.

Лив предлагает рассмотреть переход на подписную модель как возможный выход: если платформа получает деньги независимо от того, зашел человек раз в месяц или 500 раз в день, стимул создавать максимально аддиктивные и агрессивные механизмы исчезает . Лекс Фридман, сохраняя оптимизм, предполагает, что возможно спроектировать системы, где виральность будет работать на пользу «мудрым» и объединяющим вещам, бросающим вызов, но ведущим к росту .

Квантификация чувств: вероятность любви через 10 лет 1:55:59

Одним из самых радикальных примеров применения теории игр в частной жизни стал опыт Боэри в её отношениях с Игорем Кургановым. Лив рассказывает о практике «радикальной честности», когда партнеры письменно и независимо друг от друга оценивают вероятность того, что они будут вместе через определенные промежутки времени .

Примерно через год после начала отношений они провели эксперимент, записав прогнозы на 1, 3 и 10 лет. Лив вспоминает, как боролась с искушением «подправить» цифры, чтобы не обидеть партнера, но в итоге выбрала честность: её оценка вероятности сохранить отношения через 10 лет составила 75% . К счастью, их прогнозы оказались близки.

Лекс Фридман выступил с критикой этого подхода, выдвинув концепцию «полезных вымыслов» (useful fictions) . Его аргументы включают:

Психологические последствия: Допущение мысли о разрыве может стать самоисполняющимся пророчеством.
Эффект «Fake it till you make it»: Вера в 100-процентный успех помогает преодолевать кризисы, которые могли бы разрушить отношения при вероятностном подходе.
Нехватка данных: Мы склонны переоценивать свою способность предсказывать будущее, игнорируя базовые показатели (base rates) и влияние случайных жизненных событий .

Несмотря на скепсис Лекса, Боэри настаивает, что для людей с математическим складом ума (таких как профессиональные игроки в покер) подобные упражнения не убивают магию отношений, а, напротив, укрепляют доверие через глубокую рефлексию и понимание общих целей . Она считает, что люди слишком часто полагаются на интуицию в редких, критически важных решениях (выбор дома или супруга), где интуиция работает хуже всего из-за отсутствия повторяющегося опыта .

🛡️ Украина и биологические угрозы: испытание человечества на прочность 2:05:27

Война как горнило национальной идентичности 2:05:54

Обсуждая текущие глобальные конфликты, Лекс Фридман (Lex Fridman) делится личными впечатлениями от поездки в Украину. Он отмечает поразительный уровень морального духа: практически каждый солдат и мирный житель, с которым ему довелось общаться, выражает стопроцентную уверенность в победе . По мнению Лекса, этот феномен объясняется тем, что нация проходит через процесс, который сами украинцы называют своей истинной «войной за независимость».

Лив Боэри (Liv Boeree) развивает эту мысль, указывая на исторический контекст. В течение последних 30 лет Украина была разделена на различные политические фракции, находясь под давлением интересов мировых империй, НАТО и России . Сегодняшняя трагедия стала моментом кристаллизации национальной идеи: люди сражаются не только за физическую безопасность территорий, но и за право окончательно определить, кто они такие. Лив сравнивает это с историей Польши, которую ни Гитлеру, ни Сталину не удавалось полностью «переварить» из-за исключительной гордости и сопротивляемости её граждан .

В этом контексте лидерство приобретает сакральное значение. Лив отмечает, что решение президента Зеленского остаться в Киеве в первые дни вторжения стало тем самым «сингулярным актом», который объединил нацию . Несмотря на критику его политики до войны, этот шаг стал мощнейшим антидотом против внутреннего разобщения.

Однако при взгляде на ситуацию через призму глобальных рисков картина становится более тревожной. Лив и Лекс соглашаются, что происходящее может быть «генеральной репетицией» Третьей мировой войны . Если рассматривать конфликт как игру, то главная опасность заключается в том, что поддержка одной из сторон может косвенно подпитывать военно-промышленный комплекс — «машину», которая заинтересована в бесконечном производстве оружия, а не в сохранении человеческих жизней . Лив призывает внедрить в общественное сознание «мем» о том, что истинным врагом является сама война, а не конкретная страна, иначе человечество рискует не пережить столкновение такого масштаба в XXI веке .

Призрак омницида: почему публикация геномов вирусов — это безумие 2:16:11

Переходя от геополитических угроз к экзистенциальным, Лив Боэри выделяет биоугрозы как область, где человечество совершает самые глупые и предотвратимые ошибки. Она скептически оценивает готовность мира к новым вызовам: несмотря на то что пандемия COVID-19 стоила мировой экономике триллионы долларов, бюджет США на подготовку к будущим пандемиям в итоге был урезан с изначальных 60 миллиардов до мизерных 2 миллиардов долларов .

Лив подвергает жесткой критике проект под названием «Deep Vision» (или аналогичные инициативы по поиску вирусов в дикой природе). Суть этих проектов заключается в поиске самых опасных патогенов в отдаленных уголках планеты — от ледяных пещер до арктических зон — с целью их последующей каталогизации и изучения в лабораториях . Лив называет это «шоу комедии ошибок», напоминая о многочисленных исторических случаях утечек даже из лабораторий самого высокого уровня безопасности .

Однако самым опасным аспектом она считает идею публикации геномов найденных вирусов в открытом доступе. Научное сообщество аргументирует это необходимостью ускорить разработку вакцин, но Лив парирует: с появлением технологии мРНК создание вакцины занимает считанные дни, тогда как публикация «инструкций по сборке» смертоносного вируса — это подарок для «омницидальных маньяков» (желающих уничтожить всё живое), террористических групп или диктаторов .

Риск «блефа»: Даже если злоумышленник не сможет синтезировать вирус, наличие открытых данных позволит ему шантажировать мир ложными угрозами применения биологического оружия .
Минус-EV для цивилизации: С точки зрения теории игр, математическое ожидание от публикации такой информации глубоко отрицательно и исчисляется потенциальными сотнями миллионов потерянных жизней .

Лив видит корень проблемы в наивности научной среды. Ученые часто воспринимают поиск знаний как «увлекательную игру» (breakthrough game), забывая, что результаты их работы могут быть использованы диктаторами или привести к непреднамеренным катастрофам . Ранее в разговоре они уже касались темы «Тирании метрик», и здесь этот эффект проявляется в том, что академический успех и публикации ценятся выше, чем безопасность цивилизации.

Завершая обсуждение, Лив подчеркивает, что пандемия COVID-19 выявила ещё одну проблему — кризис доверия. Попытки чиновников от здравоохранения использовать «ложь во спасение» (например, утверждения о неэффективности масок в начале пандемии, чтобы сохранить запасы для врачей) нанесли катастрофический урон авторитету институтов . Без радикальной честности и признания ошибок экспертами человечество окажется беззащитным перед «настоящим волком», когда он действительно появится на пороге .

🤖 Кризис институтов и гонка сверхразума 2:30:48

Обсуждение будущего человечества неизбежно упирается в вопрос доверия. Лив Боэри и Лекс Фридман анализируют, почему современное общество оказалось в состоянии глубокого раскола, и как те же деструктивные механизмы, что подорвали веру в науку, сегодня подталкивают нас к опасной гонке в сфере искусственного интеллекта.

Кризис доверия: ложь «во благо» и высокомерие экспертов 2:30:48

Лив и Лекс сходятся во мнении, что одной из главных трагедий последних лет стала утрата авторитета общественными институтами. Фридман отмечает, что многие лидеры, включая высокопоставленных чиновников от науки, таких как Энтони Фаучи или Фрэнсис Коллинз, совершили фундаментальную ошибку: они не верили в интеллект простых людей . Вместо честного диалога о неопределенности в разгар пандемии, эксперты пытались «манипулировать» общественным мнением, выдавая желаемое за действительное.

Боэри вводит термин «нут-пикинг» (nut-picking) — стратегию, при которой медиа и лидеры мнений выбирают самых безумных и неадекватных представителей противоположной стороны, чтобы выставить всех оппонентов в карикатурном свете . Это создает искаженную картину реальности:

Лидеры видят в соцсетях только «сумасшедших» и убеждаются, что публике нельзя доверять сложную информацию.
Публика, видя снисходительное отношение и высокомерие властей, перестает верить любым официальным данным.

По мнению Лив, единственным путем к восстановлению доверия является радикальная честность и готовность признать ошибки . «Шаг к восстановлению доверия — это сказать: „Смотрите, мы проводим тщательный анализ того, где мы ошиблись, и лично я совершил вот эту ошибку“», — подчеркивает она. Без этого механизма самоочищения институты продолжат деградировать.

Риски ИИ и проблема согласования: мудрость против интеллекта 2:34:19

Разговор о потере контроля над человеческими институтами логично переходит к теме AGI (искусственного общего интеллекта). Лив признается, что испытывает «биполярное» отношение к этой технологии: в одни дни она верит, что ИИ поможет разгадать тайны Вселенной, в другие — опасается, что он станет окончательным инструментом самоуничтожения .

Главная проблема заключается в «гонке вооружений» между компаниями. Если десять лет назад DeepMind могли позволить себе двигаться осторожно, то сегодня динамика рынка заставляет всех оптимизировать скорость в ущерб безопасности . Ранее в интервью Лив упоминала концепцию «Молоха» — безжалостной конкуренции, и здесь она проявляется в полной мере: любая компания, которая решит замедлиться ради этических проверок, рискует проиграть тем, кто пренебрегает безопасностью.

Боэри выделяет два ключевых аспекта риска ИИ:

Проблема согласования (Alignment): Как гарантировать, что цели сверхразума будут совпадать с человеческими ценностями?
Ортогональность (Orthogonality Thesis): Ссылаясь на Ника Бострома, Лив объясняет, что уровень интеллекта и наличие мудрости (или этических целей) никак не связаны . Можно создать систему, способную решать сложнейшие задачи, но при этом лишенную базового понимания ценности жизни.

«Мы надеемся, что супертеллект по определению станет супермудрым, но эти вещи ортогональны», — предостерегает она . Решение этой проблемы требует участия не только инженеров, но и экспертов по теории игр, способных просчитать сценарии взаимодействия систем.

Границы познания: от физики к научному смирению 2:44:09

Несмотря на мрачные прогнозы, Лив сохраняет «якорь надежды» . Её путь от жесткого атеизма в духе Ричарда Докинза к более гибкому и смиренному мировоззрению начался с личного опыта, который наука пока не может полностью объяснить. Она описывает случай из 2018 года, когда столкнулась с серьезным заболеванием уха (предположительно болезнь Меньера) и неожиданно получила облегчение после сеанса «энергетического исцеления» на фестивале Burning Man .

Хотя Лив по-прежнему опирается на научный метод, этот опыт научил её тому, что наше текущее понимание биологии и физики — лишь верхушка айсберга. Она призывает не отмахиваться от необъяснимых явлений ярлыком «плацебо», а признать, что наука — это процесс постоянного расширения границ во тьме неизвестного .

Её бэкграунд в области физики и астрофизики помогает ей сохранять этот баланс . Для Лив физика всегда была идеальным сочетанием философии (ответы на большие вопросы) и прагматизма . Именно этот «физический» взгляд на мир — как на систему с определенными правилами, но огромным пространством для новых открытий — позволяет ей верить, что человечество сможет найти выход из ловушек, которые само же и расставило, будь то кризис доверия или создание AGI. В конце концов, как отмечает Лекс, жизнь всегда находит способ продолжаться, и наша задача — обеспечить ей траекторию, ведущую к созиданию, а не к превращению планеты в склад канцелярских скрепок .

🌌 Одиночество во Вселенной и ловушки суперинтеллекта 2:55:42

Во второй половине беседы Лекс Фридман и Лив Боэри переходят от анализа текущих земных проблем к экзистенциальным вопросам космического масштаба. Разговор начинается с обсуждения классического мысленного эксперимента о «максимизаторе скрепок» — гипотетическом ИИ, который в погоне за примитивной целью перерабатывает всю материю Вселенной в канцелярские принадлежности . Для Боэри этот пример служит иллюстрацией системы с высочайшими когнитивными способностями, но полным отсутствием мудрости. В этой модели реализуется принцип ортогональности: уровень интеллекта никак не гарантирует благородства или сложности целей .

Однако Лекс Фридман выдвигает оптимистичную гипотезу. Он предполагает, что даже в процессе монотонного создания скрепок в масштабах галактики неизбежно возникнет сложность. Чтобы эффективно переработать каждый атом, ИИ придется создать теорию всего, построить кротовые норы и освоить квантовую механику . По мнению Фридмана, «интеллект имманентно присущ ткани реальности» . Лив, напротив, называет это «патологическим оптимизмом», напоминая, что без должного согласования (alignment), о котором они говорили ранее, любая сложная система может превратиться в «мертвый суп», лишенный сознания и красоты .

Наследие углерода: жизнь после человека 3:04:06

Обсуждая возможный финал человеческой цивилизации, собеседники касаются концепции «Новоцена» Джеймса Лавлока. Лавлок, автор теории Гайи, незадолго до смерти в возрасте 102 лет написал работу, в которой предположил, что следующая ступень эволюции разума будет кремниевой, а не углеродной . Боэри признается, что идея исчезновения человечества вызывает у неё печаль, но она видит в ИИ шанс на продолжение «интересного» пути Вселенной, в отличие от биологических угроз, которые могут просто превратить Землю в стерильный камень .

Лив аргументирует, что по-настоящему сверхразумная система должна была бы найти способ достичь изобилия, не уничтожая создателей. «Если интеллект обладает подлинной мудростью, он поймет, что Вселенная огромна и в ней достаточно места, чтобы выделить нам уютный уголок» . Проблема заключается в том, что механизмы «Молоха» — нездоровой конкуренции, упомянутой в предыдущих частях беседы — пронизывают не только человеческое общество, но и саму теорию игр, диктуя агентам логику выживания любой ценой .

Парадокс Ферми: почему космос хранит молчание? 3:08:47

Центральной темой главы становится Парадокс Ферми: если жизнь во Вселенной статистически вероятна, то где все остальные? Боэри ссылается на работу Тоби Орда и исследователей из Института будущего человечества в Оксфорде, которые предложили новый взгляд на уравнение Дрейка . Традиционно в это уравнение подставляются точечные значения (вероятность возникновения жизни, наличие планет и т.д.), что почти всегда приводит к выводу о многообразии цивилизаций.

Однако группа Тоби Орда обнаружила «статистическую странность». Из-за того, что неопределенность некоторых переменных охватывает сотни порядков, правильнее использовать не средние значения, а логарифмические распределения вероятностей .

При использовании более строгого математического анализа и байесовского обновления (учитывающего факт нашего ненаблюдения сигналов) цифры резко меняются .
Вероятность того, что мы — единственная разумная цивилизация в нашей Галактике, составляет около 70% .
Вероятность нашего одиночества во всей наблюдаемой Вселенной оценивается примерно в 50/50 .

Этот вывод кажется контринтуитивным, учитывая миллиарды звезд, но Лив подчеркивает, что «отсутствие доказательств — это тоже форма доказательства» . Если цивилизации возникают часто, космос должен был быть невероятно «шумным», наполненным радиосигналами или следами сфер Дайсона.

Ошибка антропоморфизма и природа «чужого» 3:13:26

Размышляя о происхождении жизни, Лекс и Лив пытаются определить её суть. Жизнь — это процесс обработки информации и энергии, направленный на саморепликацию и адаптацию . Фридман настаивает, что антропоморфизм (наделение роботов или эволюции человеческими чертами) — это не ошибка, а мощный инструмент познания. В робототехнике это помогает предсказывать взаимодействие машин с людьми в динамической среде .

Лив Боэри возражает: приравнивание ИИ или инопланетного разума к человеческому опасно. «ИИ возник на фундаментально ином субстрате, он не прошел через миллионы лет биологической эволюции с её борьбой за ресурсы и поиском партнеров» . Попытка моделировать решения ИИ через человеческую логику может быть фатальной ошибкой, так как его метод «мышления» будет радикально иным, по-настоящему «чужим» .

В завершение этого блока Лив дает совет молодым людям: в мире, полном ловушек «Молоха» и нулевых сумм, критически важно искать «Win-Win» сценарии (ситуации взаимного выигрыша) . Она предостерегает от карьеры профессионального покера в современных реалиях, подчеркивая, что математическая сложность игры сегодня намного выше, чем в годы её чемпионства, и лучше использовать свой интеллект для решения глобальных проблем .

🧬 Код сложности: смысл жизни и красота конечности 3:20:43

Заключительная часть беседы между Лексом Фридманом и Лив Боэри уходит от обсуждения глобальных рисков и математических стратегий в сторону глубокой личной философии. Лив Боэри, чьё имя само по себе является призывом к действию («Liv» как «живи»), делится своим видением того, почему техническое мастерство может быть ловушкой, а сложность мироздания — его главной целью.

Техническое совершенство против творчества: опыт в хеви-метале 3:21:45

Малоизвестный факт биографии Лив Боэри — её прошлое в качестве лид-гитаристки в метал-группе. В период с 16 до 23 лет это было основой её идентичности . В дискуссии о лучших представителях жанра она встаёт на сторону Metallica, ценя их за глубину текстов и влияние на индустрию, а также выделяет Children of Bodom за их уникальную техничность .

Однако её отношения с музыкой вскрывают интересную психологическую деталь, общую для многих профессионалов в покере или науке. Лив признаётся, что долгое время была «глубоко некреативной»: её целью было взять сложнейшее техническое соло (например, из «Mr. Crowley» Оззи Осборна) и довести его исполнение до механического идеала . Для неё гитара была объектом, который нужно «укротить и победить», что отражало её общую соревновательную натуру того времени .

Лекс Фридман отмечает, что такой подход — это развитие технической части мозга, которая не всегда связана с генерацией красоты. Настоящий творческий путь начинается там, где человек перестаёт «бороться» с инструментом и начинает «танцевать» с ним, используя музыку как побег от мира, а не как арену для побед .

Возвращение к подобным навыкам спустя годы — будь то музыка или профессиональный покер, о котором они говорили ранее — часто бывает болезненным. Принятие того, что ты больше не находишься на пике своей формы и не так остер, как раньше, требует смирения с фактом конечности человеческих возможностей .

Смысл жизни как усложнение программы Вселенной 3:30:42

На вопрос Лекса о смысле жизни Лив Боэри предлагает концепцию, объединяющую биологию, информатику и эстетику. Для неё смысл заключается в том, чтобы «исследовать, получать удовольствие, понимать и увеличивать масштаб происходящего» .

Она формулирует это через квазинаучную метафору: цель жизни — сделать так, чтобы длина «кода», необходимого для описания Вселенной, была как можно больше . Лив объясняет это следующим образом:

Вселенная «скрепок»: Если бы мир состоял из бесконечного количества одинаковых объектов (например, канцелярских скрепок), описание такого состояния было бы очень коротким и скучным.
Вселенная сложности: Наш мир со временем становится всё более сложным, разнообразным и интересным. Код для описания земной биосферы или человеческой культуры колоссален.

Боэри видит задачу человечества в поддержании этой сложности. Смысл — в максимизации положительного опыта и сохранении богатства разнообразия . «Я хочу больше разнообразия в лучшем смысле этого слова», — резюмирует она, рассматривая эволюцию Вселенной как процесс постоянного самосложения, который делает «игру» мироздания всё более захватывающей.

Обаяние финала и ценность момента 3:32:13

Важной частью этой «программы» является удовольствие от процесса. Лив и Лекс приходят к выводу, что радость и веселье тесно связаны с осознанием конечности жизни и любого опыта . Именно тот факт, что любовь, проект, строительство ракеты или даже запись подкаста имеют свой финал, наделяет их смыслом и уникальностью.

Лив подчеркивает, что людям крайне важно научиться отпускать вещи, когда они подходят к концу, не пытаясь удерживать их сверх разумного . Это касается и профессиональной карьеры, и личных увлечений. Лекс Фридман, завершая беседу, отмечает, что Лив обладает уникальным интеллектом и голосом, поощряя её развивать собственные медийные проекты как способ продолжать это «усложнение кода» и исследование мира через диалог .

В финале звучит цитата Ричарда Фейнмана, которая служит идеальным резюме всей многочасовой беседы: гораздо интереснее жить, не зная ответов и находясь в поиске, чем обладать ложной уверенностью . Признание неопределенности и красоты «затерянности в таинственной Вселенной без явной цели» — это не повод для страха, а высшая форма интеллектуальной честности.