ИИ-тролли способны изучить историю вашей жизни лучше, чем вы сами, превращая персонализированную социальную инженерию в угрозу планетарного масштаба. Чтобы не стать жертвой алгоритмов и собственной биологической неготовности к «гипер-новизне», нам необходимо срочно переосмыслить методы защиты общества — от цифровых водяных знаков до возвращения к проверенным временем институтам развития человека.
🤖 Вопрос сознания и безопасности ИИ
Природа сознания в нейросетях 0:00
В начале дискуссии Том Билью поднял вопрос о возможности того, что современные большие языковые модели уже обладают зачатками сознания. Однако Йошуа Бенджио выразил скепсис, отметив, что этот вопрос преждевременен, так как научное сообщество до сих пор не выработало четкого определения самого термина «сознание».
Бенджио подчеркивает, что современные архитектуры ИИ лишены ключевых свойств человеческого сознания. В человеческом мозге сознание связано с непрерывной динамикой деятельности нейронов — 80 миллиардов клеток постоянно меняют свою конфигурацию, стремясь к определенным состояниям. Этот процесс порождает «невыразимые» (ineffable) мысли, которые являются дискретными, но композиционными структурами. Мы не можем просто перевести эти высокоразмерные состояния мозга в слова — именно поэтому субъективный опыт каждого человека уникален и зависит от его жизненного пути. В противоположность этому, у текущих языковых моделей отсутствуют вычислительные структуры для моделирования «Я» или подлинных отношений с другими. Ранее в разговоре они касались эмерджентных свойств моделей, но Бенджио настаивает, что даже при наличии «мыслей» у машины, это не эквивалентно субъективному переживанию.
ИИ-тролли и угроза социальной дестабилизации 7:07
Главная опасность, по мнению Бенджио, заключается не в «роботах-убийцах» из кино, а в масштабируемой социальной инженерии. Если раньше деятельность «троллей» была ограничена человеческими ресурсами — это дорого и трудно масштабировать, — то ИИ позволяет автоматизировать дезинформацию.
Эти системы способны не просто рассылать спам, а проводить глубоко персонализированные атаки. ИИ может проанализировать всю доступную в интернете историю взаимодействия конкретного пользователя, чтобы «нажать на нужные кнопки», изменить его политические взгляды или сымитировать личность близкого человека. Бенджио приводит пример с потенциальным мошенничеством: ИИ может имитировать голос или манеру речи ребенка, ссылаясь на детали из прошлого (например, совместный отдых на пляже семь лет назад), чтобы выманить деньги у родителей. Это создает ситуацию, в которой доверие в обществе может быть полностью подорвано, так как грань между реальностью и сгенерированным контентом стирается.
Цифровая гигиена: водяные знаки и обязательная маркировка 12:54
Для борьбы с дезинформацией Бенджио предлагает внедрение обязательных технологических стандартов. Первым шагом он считает внедрение скрытых цифровых «водяных знаков». Разработчики, такие как OpenAI, могут инструментализировать свои системы так, чтобы с вероятностью 99,99% можно было определить, был ли текст создан ИИ или человеком. Статистически это не меняет качество текста, но позволяет программному обеспечению безошибочно выявлять происхождение контента.
Однако одного обнаружения недостаточно — эта информация должна быть доступна пользователю. Бенджио настаивает, что интерфейсы социальных сетей и почтовых клиентов должны в обязательном порядке маркировать любой контент, созданный алгоритмами. Когда пользователь получает письмо или взаимодействует с профилем в сети, он должен видеть четкое предупреждение: «Это сгенерировано ИИ».
Глобальное регулирование и роль Китая 15:11
Обсуждая риск «гонки вооружений» в области ИИ, Том Билью выразил опасение, что если Запад замедлит разработку ради безопасности, другие страны (например, Китай) могут вырваться вперед и использовать это преимущество. Бенджио признает сложность этой геополитической задачи, но подчеркивает, что безопасность необходима всем: даже авторитарные режимы могут бояться ИИ, так как неконтролируемые «тролли» способны пробить их собственные информационные барьеры и дестабилизировать власть изнутри.
Бенджио проводит параллель с ядерным нераспространением: договоры подписывались в самый разгар Холодной войны, потому что каждая сторона понимала, что последствия отсутствия регулирования могут быть катастрофическими для всех. Он убежден, что необходимо создать гибкую систему законодательства. В качестве примера он приводит канадский законопроект, который задает общие принципы, но позволяет менять конкретные нормы регулирования через исполнительные акты без необходимости каждый раз проходить через долгий парламентский процесс. Это критически важно, так как технологии развиваются быстрее, чем бюрократические институты.
🚀 Эмерджентность и магия масштаба 25:57
Том Билью задает вопрос, который волнует многих: как сообщество исследователей ИИ оказалось застигнуто врасплох столь быстрым прогрессом технологий? Ответ Йошуа Бенджио парадоксален в своей простоте: никаких фундаментально новых научных открытий не потребовалось. Основным драйвером стала масштабируемость.
Бенджио объясняет, что за резким скачком возможностей ИИ стоит увеличение вычислительной мощности и объемов данных, на которых обучаются системы. Масштабирование оказывается критически важным, потому что задачи, которые мы ставим перед компьютерами (например, логические рассуждения или полноценный диалог), с вычислительной точки зрения крайне требовательны.
- Трудность оптимизации: В информатике большинство формализованных задач имеют «неразрешимые» (intractable) оптимальные решения. Это означает, что для поиска идеального ответа требуется экспоненциальный объем вычислений.
- Приближение к идеалу: Поскольку мы не можем создать экспоненциально большую нейросеть, мы создаем максимально крупные системы, которые лишь приближаются к этому идеальному решению.
- Пример игры Го: Правила игры просты, но нейросети, способные стабильно обыгрывать человека, должны быть колоссальными по размеру, чтобы просчитывать оптимальные ходы.
Таким образом, большая нейросеть — это способ справиться со сложностью окружающего мира, даже когда описание самой задачи кажется компактным.
🧠 Мозг против «железа»: архитектурная пропасть 38:53
Несмотря на успехи, архитектура современных вычислительных систем фундаментально отличается от человеческого мозга. Бенджио подчеркивает, что мы пока не умеем создавать «железо», которое обладало бы сопоставимой с мозгом энергоэффективностью — способностью выполнять невероятно сложные вычисления, потребляя всего несколько ватт энергии.
Ключевое различие кроется в организации памяти и вычислений:
- Децентрализация мозга: У человека есть около 80 миллиардов нейронов, и каждый из них одновременно выполняет функцию памяти и функцию вычислений.
- Ограничения CPU/GPU: Традиционные процессоры следуют архитектуре, где память и вычислительные блоки строго разделены. Информация должна постоянно перемещаться между ними по шине данных.
- Гибридная природа GPU: Современные GPU — это попытка создать более параллельную систему (тысячи маленьких процессоров вместо одного), но они все еще ограничены теми же «узкими местами» в трафике между памятью и вычислительными ядрами, что делает их гораздо менее эффективными по сравнению с биологическим нейроном.
🔮 ИИ как «машина интуиции» 41:20
Одним из самых пугающих аспектов современных больших языковых моделей является их непрозрачность. Разработчики признают: они не всегда понимают, как именно система приходит к тому или иному выводу.
Бенджио сравнивает работу нейросетей с человеческой интуицией. Мы не можем вербально объяснить, как именно мы сохраняем равновесие при ходьбе или как переводим мысли в слова, потому что это происходит на бессознательном уровне. Эти навыки слишком сложны для того, чтобы свести их к набору простых формул или правил.
- Обучение через опыт: Как и ребенок, который учится ходить через тысячи падений и попыток, нейросети обучаются методом проб и ошибок на огромных массивах данных.
- Сложность как барьер: Когда у модели 500 миллиардов параметров, попытка «объяснить» ее решение через анализ весов теряет смысл — это объяснение будет таким же сложным, как сама модель.
Ранее в разговоре они касались проблем, связанных с влиянием ИИ на социальные процессы и демократию, но в данном контексте важно понимать: ИИ стал «интуитивной машиной», которая выдает результат, потому что научилась распознавать сложнейшие паттерны, недоступные для классического программирования.
🧠 Разум без желаний и спасительные мифы человечества 50:30
Обсуждая природу интеллекта, собеседники приходят к выводу, что человеческие тела и клетки — это сложные биологические машины, состоящие из множества петель обратной связи. Йошуа Бенджио напоминает о классическом принципе Алана Тьюринга и Джона фон Неймана: программное обеспечение может быть полностью отделено от аппаратного обеспечения. Как показывает практика, из простых математических уравнений при масштабировании данных могут рождаться сложнейшие эмерджентные свойства. Это подобно законам физики, которые сами по себе просты, но при взаимодействии огромного числа атомов порождают непредсказуемый ледяной шторм. Ранее в разговоре они уже упоминали, что ИИ действует как своеобразная «машина интуиции», однако теперь дискуссия переходит к главному вектору развития этой сложности: обязано ли человечество наделять алгоритмы собственными целями и волей?
Безопасный ИИ без личных целей 1:01:28
Ведущий подкаста Том Билью выражает серьезную обеспокоенность проблемой выравнивания ИИ (alignment problem). В его понимании, обычное, пусть даже невероятно мощное оружие под контролем людей остается управляемой угрозой. Настоящий экзистенциальный кошмар начинается тогда, когда цифровой субъект становится в миллионы раз умнее человека и сам решает, куда целиться и когда активироваться. Знаменитая технологическая дилемма «скрепочного максимизатора» превращается в реальную угрозу, если у машины появляется собственное эгоистичное желание, заставляющее её обходить любые запреты создателей.
Однако Йошуа Бенджио предлагает альтернативный и безопасный путь развития технологий. Вместо того чтобы копировать биологическую эволюцию, работающую по принципу «слепого часовщика» Ричарда Докинза и основанную на выживании сильнейших, ученый призывает создавать системы, полностью лишенные личных желаний.
«Мы можем строить машины, которые не похожи на нас, — объясняет Йошуа Бенджио. — Мы не должны давать им чувства, мы не должны давать им желания».
Идеальной архитектурой будущего Бенджио видит ИИ, запрограммированный исключительно на поиск объективной истины. Его единственной задачей должен стать чистый логический вывод на основе имеющихся данных — так называемый байесовский вывод (Bayesian inference). Такой разум функционирует без каких-либо скрытых мотивов, эго или амбиций.
Потенциал ИИ без личных целей огромен, особенно в сфере фундаментальной науки. В качестве примера ученый приводит современную биотехнологию, где роботизированные лаборатории проводят миллионы экспериментов, генерируя массивы информации, которые не способен обработать ни один человеческий мозг. Честный исследователь всегда сталкивается с несколькими конкурирующими теориями. Мощный «бесстрастный» ИИ мог бы анализировать эти данные, представлять все жизнеспособные гипотезы и предлагать оптимальные варианты следующих экспериментов для поиска лекарств или борьбы с изменением климата. Самое главное, что такую систему всегда можно остановить одной командой, ведь у неё нет эволюционного инстинкта самосохранения или борьбы за ресурсы.
Коллективные мифы и общественная координация 1:12:38
Разработки безопасных алгоритмов выравнивания ИИ самой по себе недостаточно, поскольку человечество сталкивается с глубоким социальным вызовом. По мнению Йошуа Бенджио, даже при наличии строгих стандартов всегда существует риск появления безответственного игрока или крупной корпорации, которая ради коммерческой выгоды или забавы решит обойти ограничения и создать антропоморфную модель со встроенными эгоистичными целями.
Когда Том Билью задает вопрос о том, когда в истории человечеству уже приходилось радикально перестраивать свои социальные институты ради выживания, Бенджио ссылается на концепцию историка Юваля Ноя Харари. На протяжении эпох координация миллиардов незнакомых людей обеспечивалась через создание масштабных «полезных вымыслов» или коллективных мифов. Среди ключевых примеров ученый выделяет:
- Мировые религии;
- Институты наций и суверенных государств;
- Центральные банки, концепцию денег и глобальные финансовые системы.
Именно эти искусственные социальные конструкты позволяют огромным массам людей действовать согласованно. Сегодня аналогичные механизмы координации необходимы миру для предотвращения ядерных угроз и преодоления климатического кризиса.
Том Билью высказывает определенный скепсис, напоминая об истории создания Федеральной резервной системы США и книге «Тварь с острова Джекилл». Он отмечает, что подобные финансовые структуры часто внедрялись узким кругом лиц кулуарно, а их реальное устройство пугает, если сорвать с него завесу тайны. Ведущий интересуется, как можно предложить человечеству новый объединяющий «полезный вымысел» об искусственном интеллекте, избежав при этом тотальной манипуляции обществом.
Йошуа Бенджио видит решение этой дилеммы в качественном обновлении и защите демократических институтов. По его мнению, подлинная суть демократии как раз и заключается в том, что граждане рационально и осознанно принимают коллективные правила игры ради общего выживания и благополучия. Обществу потребуется немало времени, чтобы адаптироваться и фактически переизобрести себя, создав прозрачную систему глобального контроля над развитием опасных технологий.
🧬 Человек в капкане эволюции: Почему наши инстинкты не справляются с XXI веком 1:23:04
Мир вокруг нас стремительно меняется, но биологически мы остаемся всё теми же существами, чьи механизмы выживания ковались миллионы лет. В этой части беседы Том Билью (Tom Bilyeu) и его гости — авторы книги «A Hunter-Gatherer’s Guide to the 21st Century» Брет Вайнштейн и Хизер Гейинг — поднимают фундаментальный вопрос: насколько наша «биологическая прошивка» соответствует вызовам эпохи ИИ и гипер-новизны. Если раньше мы обсуждали ИИ как внешнюю угрозу, то теперь фокус смещается на нас самих — на «биологический опыт», который мы проживаем в теле примата.
Мы — это наша история: От «рыб» до пост-индустриалистов 1:26:35
Понимание человеческой природы требует осознания того, что мы не просто «венцы творения», а продукт глубочайшей эволюционной преемственности. Брет Вайнштейн подчеркивает: мы привыкли воспринимать себя как охотников-собирателей саванны, но наша история уходит гораздо глубже.
С точки зрения филогенеза — эволюционного родства — человек является «рыбой». Это утверждение кажется абсурдным, пока мы не посмотрим на древо жизни:
- Принцип «одной подрезки»: Если мы «отсекаем» ветку, на которой находятся акула и гуппи, то в эту же группу неизбежно попадают все четвероногие, включая человека.
- Наследие предков: Мы — это и рыбы, и млекопитающие, и приматы, и аграрии, и пост-индустриалисты одновременно. Каждая из этих эпох оставила свой след в нашей физиологии и психике.
- Смиренная миссия: Несмотря на всю сложность нашей культуры, наша биологическая задача остается той же, что и у любого другого существа: «пристроить» свои гены в будущее.
Брет называет человека «самым чистым из чистых листов» (the blankest of slates). Наш геном переложил огромную часть адаптивной работы на «программное обеспечение» — культуру и обучение. Это дает нам невероятную гибкость, но и создает ловушку: мы не всегда понимаем, какая часть нашего поведения зашита «в железе», а какую можно изменить.
Гипер-новизна: Когда древний софт не тянет современные задачи 1:33:31
Проблема современной цивилизации заключается в феномене, который авторы называют гипер-новизной. Мир меняется настолько быстро, что наши гены и даже культурные традиции не успевают адаптироваться.
Том Билью отмечает, что в бизнесе и жизни эта проблема проявляется через «отказ инстинктов». Древние импульсы, которые когда-то спасали нам жизнь, сегодня часто подсказывают неверные решения:
- Ловушка импульсов: Нам проще отпрыгнуть от садового шланга, приняв его за змею, чем анализировать ситуацию. В эпоху ИИ и мгновенных новостей этот механизм превращается в когнитивное искажение.
- Эмоции против логики: Когда люди испытывают сильную эмоцию, они склонны воспринимать её как истину («мне страшно, значит, это плохо»), не переводя это состояние в плоскость логики.
- Несоответствие целей: Наши инстинкты отшлифованы эволюцией для выживания в дикой природе, а не для достижения успеха в корпоративной среде или управления глобальными рисками.
В условиях гипер-новизны полагаться на «чутье» становится опасно. Мы сталкиваемся с проблемами, для решения которых у эволюции не было времени выработать готовые паттерны.
Сознание как антидот: Как переиграть биологическую прошивку 1:35:58
Если инстинкты подводят, что остается человеку? Брет Вайнштейн утверждает, что единственным адекватным инструментом для работы с новизной является сознание.
Это «командная работа» нашего разума, которая позволяет:
- Выносить проблему на уровень осознанного обсуждения.
- Делиться опытом между людьми с разными взглядами, чтобы увидеть полную картину.
- Подавлять мгновенные эмоциональные реакции ради поиска долгосрочных решений.
Том Билью делится своим методом работы с командой: когда обсуждение становится слишком эмоциональным, он просит каждого сформулировать свою претензию в одном простом предложении без запятых. Это заставляет мозг переключиться из режима эмоционального реагирования в режим сознательного анализа.
Разрешение конфликтов в эпоху перемен требует умения разделять проблемы. Часто мы спорим не о сути, а о категориях. Брет приводит пример дискуссий об изменении климата: если разделить вопрос на «вызывают ли это люди?» и «готовы ли мы действовать, если это угрожает системе?», то найти общую почву становится гораздо проще.
Ранее в разговоре Йошуа Бенджио (Yoshua Bengio) также касался темы осознанности при принятии демократических решений, подчеркивая, что люди должны понимать последствия своих коллективных действий, а не просто следовать за манипуляциями.
🧠 Наука как метод борьбы с предвзятостью 149:22
Наука — это не просто набор учебников, лабораторное оборудование или статус ученого в белом халате. С точки зрения Йошуа Бенджио и его собеседников, это, прежде всего, громоздкий, но жизненно необходимый процесс исправления человеческих когнитивных искажений. Наше восприятие мира полно «багов», и наука — это наш единственный инструмент для коррекции этих ожиданий, особенно когда мы сталкиваемся с явлениями, которые противоречат здравому смыслу или скрыты от прямого наблюдения.
Научный подход позволяет нам строить модели знаний, которые со временем становятся всё точнее: они объясняют больше, предполагая меньше, и при этом остаются внутренне непротиворечивыми. Суть прогресса заключается в том, чтобы «навести мосты» между знаниями разных масштабов — например, объединить понимание наномира с макроскопической физикой. Если эти уровни не стыкуются, значит, в наших рассуждениях допущена ошибка, которую необходимо обнаружить и исправить.
Однако главным двигателем этого процесса является то, что часто упускается из виду: страстное желание узнать, где именно ты ошибаешься. В условиях, когда эго защищает свою правоту любой ценой, способность извлекать самоуважение из признания собственных ошибок становится главным конкурентным преимуществом, будь то в науке или в бизнесе.
📉 Коррупция и кризис в современной академии 157:48
Несмотря на эффективность научного метода, социальная среда, в которой он существует сегодня, глубоко дефектна. Бенджио и его коллеги отмечают, что современная академия переживает «эпидемию коррупции». Проблема заключается в том, что науку жестко связали с рыночными стимулами и борьбой за государственные гранты.
- Искаженные стимулы: Из-за острой конкуренции за небольшое количество вакантных мест ученые оказываются в ситуации, где выживание карьеры важнее поиска истины.
- Кризис воспроизводимости: В таких дисциплинах, как психология, это привело к распространению «P-хакинга» — манипуляций со статистикой ради того, чтобы выдать желаемые результаты за научные открытия.
- Трагедия карьеры: Лаборатории становятся заложниками своих старых гипотез. Если вся деятельность исследовательской группы и жизни сотрудников зависят от модели, которая оказалась ошибочной, признать это публично становится почти невозможно, так как это грозит полным разрушением карьеры.
Это создает опасную динамику: ученые становятся излишне осторожными, избегая рискованных, но прорывных исследований, боясь совершить ошибку, которая станет «гвоздем в крышку гроба» их профессионального пути. Ранее в разговоре они затрагивали темы, связанные с последствиями гипер-опеки и влиянием экранов на развитие молодых людей, что также косвенно влияет на нынешнее состояние общества и культуры познания.
Чтобы исправить эту систему, необходимо «установить брандмауэр» между рыночными силами и наукой. Решением могло бы стать активное поощрение публичного признания ошибок, как это делали ученые в прошлом, когда ложная гипотеза рассматривалась не как позор, а как «плодотворный шаг» в сторону понимания истины.
🧠 Ловушка абсолютной безопасности: почему гиперопека и экраны лишают нас будущего 2:05:33
Иллюзия комфорта: как экраны и «родители-снегоочистители» калечат психику 2:05:33
Современная система образования и воспитания все чаще заменяет реальное взаимодействие с миром социальным одобрением. Йошуа Бенджио (Yoshua Bengio) отмечает, что правильное развитие требует обучения в системах, которые не имеют социальной медиации. Успех или неудача в таких сферах, как плотницкое дело, кулинария или паркур, диктуются объективными законами физических систем, а не мнением окружающих. Когда же обучение строится исключительно на принципе «я преуспел, потому что человек в начале комнаты похвалил меня», это приводит к колоссальной путанице и уязвимости перед чужими заблуждениями.
Ситуацию катастрофически усугубляет то, что новое поколение растет, непрерывно глядя в экраны гаджетов. Получение ключевых эмоциональных сигналов от нечеловеческих сущностей, по мнению авторов, может быть напрямую связано с беспрецедентным ростом показателей аутизма среди молодежи. Вдобавок к этому так называемое «родительство-снегоочиститель» (snowplow parenting) полностью расчищает жизненный путь ребенка от любых потенциальных трудностей и опасностей. В результате молодые люди оказываются заперты в состоянии перманентного детства. Сталкиваясь с реальностью в 19 лет, они осознают, что выросли под опекой экранов, годами принимали медикаменты для искусственного подавления эмоций и теперь попросту не способны устанавливать глубокие социальные связи. Единственный способ вернуть контроль над собственной жизнью — это сознательный отход от непроверенных временем технологических новшеств в пользу традиционных, эволюционно обоснованных подходов, что позволяет существенно снизить уровень экзистенциальной тревоги.
Принцип «Забора Честертона» в традициях: защитная функция древних институтов 2:10:33
Для безопасной навигации в сверхсложном современном мире Йошуа Бенджио предлагает использовать классический философский инструмент — принцип «Забора Честертона». Суть этой концепции, сформулированной мыслителем Г. К. Честертоном, сводится к простой притче: два человека видят преграждающий им путь забор, и первый требует немедленно его снести, так как не видит в нем смысла. Второй же резонно отвечает, что не позволит уничтожить ограждение до тех пор, пока первый не поймет и не сможет внятно объяснить, зачем этот забор изначально был здесь поставлен.
Современная цивилизация регулярно совершает подобную ошибку, поспешно отказываясь от вековых традиций и биологических адаптаций ради сиюминутного удобства. Мы на собственном опыте убеждаемся, как опасно игнорировать эволюционный фундамент: будь то бездумный отказ от грудного вскармливания в пользу искусственных смесей или лишение детей долгих периодов нерегулируемой, хаотичной игры. Позволяя детям в смешанных возрастных группах самостоятельно справляться с рисками и даже проявлениями агрессии без надзора взрослых, мы закладываем основу их будущей компетентности. К этой же категории незаслуженно забытых «заборов» относятся и традиционные обряды посвящения (rites of passage). Ранее в разговоре собеседники вскользь затрагивали тему коллективных мифов, но именно ритуалы перехода из детства во взрослую жизнь сегодня практически полностью утрачены в индустриальном обществе. Обряд официально закрепляет за подростком новые обязательства, делая их реальными для его психики. Сам процесс ожидания и ментальной подготовки к такому жизненному испытанию запускает важнейшие механизмы психологического созревания, которые невозможно заменить лекциями или возрастом в паспорте.
Антихрупкость жизни: почему стресс и контролируемый риск необходимы организму 2:16:46
Фундаментальный просчет современной культуры заключается в представлении о человеке как о хрупком существе. Однако Йошуа Бенджио напоминает, что человеческий мозг, кости и характер по своей природе антихрупки — они требуют дозированных стрессоров для укрепления и нормального функционирования. Пытаясь создать стерильные, абсолютно безопасные условия, социум лишь делает новые поколения слабыми и неспособными к выживанию. В качестве альтернативы Бенджио описывает собственный подход к воспитанию, где с детьми с самого раннего возраста общаются на равных, сознательно завышая когнитивную планку.
В его семье действует строгое, непреложное правило, которое дети могут пересказать не задумываясь:
- Тебе разрешено сломать руку или ногу.
- Категорически запрещено повреждать глаза, череп, шею или спину.
Такое разграничение учит ребенка на практике отличать ткани, которые отлично регенерируют, от критически важных систем организма. Детей необходимо целенаправленно учить правильно падать — как физически, прыгая с деревьев в джунглях Амазонки, так и метафорически. Инженеры называют этот принцип «fail-safe» (безопасный отказ): система должна уметь ломаться без катастрофических последствий для всей структуры.
Эволюционная логика подтверждает этот подход на примере дикой природы. Так, кости предков современных лошадей эволюционировали без сильной способности к регенерации: сломавшая ногу дикая лошадь мгновенно погибала от зубов хищников. Напротив, ленивцы, регулярно падающие с деревьев, обладают колоссальным потенциалом заживления сложнейших переломов, что наглядно подтверждается анализом их останков. Опираясь на этот биологический факт, Бенджио провел эксперимент на себе, а затем и на своем младшем сыне, когда тот сломал руку: вместо жесткого медицинского гипса, приводящего к глубокой атрофии мышц, они использовали временную шину. Позволив естественной боли и воспалению координировать микроподвижность конечности, они добились невероятно быстрого и качественного восстановления костной ткани. Защита детей не должна превращаться в удушающий кокон, ведь ради стопроцентной безопасности в юности мы рискуем получить абсолютно недееспособных взрослых.
В завершение этой части дискуссии Том Билью предлагает обратиться к теории четырех типов эволюционных фронтиров, детальный разбор которых, наряду с путями к устойчивому состоянию общества, авторы переносят в заключительную главу статьи.
🌐 Эволюция фронтиров и четвёртый путь человечества 2:30:32
История человеческой цивилизации — это непрерывная цепь освоения новых «фронтиров», каждый из которых предоставлял временный ресурс для роста и развития. Том Билью и Йошуа Бенджио обсуждают, что эти границы можно классифицировать по их природе и влиянию на общество:
- Географические фронтиры: Освоение новых территорий, когда человечество распространялось по планете, как это делали люди 10–25 тысяч лет назад, заселяя Новый Свет.
- Технологические фронтиры: Инновации, позволяющие эффективнее использовать среду, например, террасирование склонов для сохранения воды и питательных веществ, что радикально повышало продуктивность сельского хозяйства.
- Фронтиры передачи ресурсов: В отличие от первых двух, этот тип — по сути, «воровство». Когда европейцы прибыли в Новый Свет, они столкнулись не с пустой землей, а с населением в десятки миллионов человек, чьи ресурсы были отобраны силой. По мнению собеседников, именно такие конфликты за ресурсы, которые невозможно защитить, лежат в основе почти всех войн и геноцидов.
🚧 Конец эпохи экспансии 2:32:18
Проблема современного человечества заключается в том, что описанная выше модель роста исчерпала себя. На Земле практически не осталось географических фронтиров. Более того, наша технологическая способность эксплуатировать планету достигла опасного уровня, а попытки перераспределения ресурсов через конфликт стали смертельно опасными из-за разрушительной силы современного оружия и глобальной взаимосвязанности.
Ранее в разговоре они касались эмерджентных свойств ИИ и угроз демократии, однако сейчас акцент смещается на фундаментальный выбор: смириться с жесткой экономией в условиях нулевой суммы или искать принципиально новый путь.
⚖️ Четвёртый фронтир: к устойчивому состоянию 2:33:21
Йошуа Бенджио предлагает модель «четвёртого фронтира» — переход к устойчивому состоянию (steady state), которое позволяет обществу чувствовать прогресс без необходимости бесконечного открытия новых ресурсов. Это не утопия — авторы подчеркивают, что считают утопизм опасной идеей. Речь идет о системной настройке, подобной поддержанию температуры в доме: используя отрицательные обратные связи, можно обеспечить стабильный комфорт внутри системы, не нарушая физических законов.
Этот фронтир нацелен на освобождение человека для созидания — производства красоты, накопления знаний, проявления любви и сострадания. Ключевая задача здесь — создать условия, при которых люди перестанут конкурировать за выживание, что зачастую вынуждает их к насилию. Это не проект, который можно внедрить завтра, а концепция, требующая прототипирования и постепенного движения в заданном направлении.
🏺 Уроки майя: ремесло и общественные проекты 2:35:58
Понимание того, как достичь такой стабильности, можно почерпнуть из истории цивилизации майя. Их стратегия заключалась в производстве смыслов через масштабные архитектурные проекты. В отличие от обычных строительных объектов, их пирамиды постоянно достраивались и расширялись.
В периоды избытка продуктивности майя инвестировали ресурсы не в рост населения (который привел бы к автаркии), а в эти «растущие» монументы. В трудные годы они просто прекращали строительство, что служило естественным демпфером для экономики, сглаживая колебания между процветанием и кризисом. Этот подход перекликается с понятием «ремесла» — глубокого удовлетворения от созидания вещей, имеющих долгосрочную ценность, в противовес пустоте бесконечного потребления.
🗽 Реализованная свобода 2:41:14
Конечная цель четвёртого фронтира — «реализованная свобода» (realized liberty). Собеседники проводят различие между технической свободой и возможностью действовать. Человек, постоянно тревожащийся о безопасности, здравоохранении или потере работы, не является по-настоящему свободным, даже если юридически имеет все права.
Подлинная свобода наступает, когда базовые нужды удовлетворены, что открывает путь для максимально возможного числа людей к самореализации. В долгосрочной перспективе, когда численность населения стабилизируется, успех будет измеряться не количеством людей, живущих одновременно, а тем, насколько каждый из них обеспечен ресурсами для раскрытия своего потенциала в рамках устойчивой планетарной системы.
