Наука — это не совокупность институтов, а метод исправления собственных предвзятостей, позволяющий нам увидеть мир за пределами биологических ограничений. Пока ИИ учится интуиции через колоссальные массивы данных, человечеству пора переосмыслить свою стратегию выживания, перейдя от культа бесконечного роста к созданию устойчивых систем, обеспечивающих реальную личную свободу.
🤖 Сознание и природа искусственного интеллекта 0:00
Вопрос о том, обладают ли современные нейросети сознанием, стал отправной точкой в беседе Тома Билью и Йошуа Бенджио. Хотя сооснователь OpenAI Илья Суцкевер ранее высказывал предположение, что крупные генеративные сети могут обладать зачатками сознания, Йошуа Бенджио категорически не согласен с такой постановкой вопроса. С научной точки зрения, само определение сознания остается туманным, а у существующих ИИ отсутствуют фундаментальные характеристики, присущие человеку.
Человеческое сознание неразрывно связано с биологическими механизмами мозга, нашим эволюционным опытом и телесностью — способностью ощущать мир через физическое присутствие. Бенджио подчеркивает: быть человеком — значит «чувствовать, каково это — быть человеком», в то время как у машины нет никаких оснований для подобных субъективных переживаний. Мы обладаем высокой размерностью нейронной активности, которая в процессе мышления стремится к дискретным, но композиционным конфигурациям — своего рода «мыслям». Эти мысли часто невыразимы словами, так как они представляют собой сжатую проекцию сложнейших состояний мозга, накопленных за годы индивидуального жизненного опыта. ИИ же лишен этой биологической истории, а значит, и той глубины «я», которая формирует человеческое сознание.
🧠 Эмоции как двигатель целеполагания 4:12
Ключевой аспект, отличающий биологические системы от алгоритмических, — это эмоции. В ходе дискуссии Йошуа Бенджио поясняет, почему для принятия решений, выходящих за рамки чистого расчета, необходима эмоциональная составляющая. Исследования показывают, что при повреждении участков мозга, отвечающих за эмоции, человек теряет способность выбирать, даже обладая полным набором рациональных аргументов.
Эмоции позволяют нам классифицировать объекты и действия как «более желательные» или «менее желательные». Йошуа Бенджио отмечает, что хотя мы уже используем механизмы вознаграждения в машинном обучении (например, в обучении с подкреплением), это не требует субъективного опыта или истинного «желания». Если ИИ никогда не обретет способность «чувствовать» нечто подобное эмоциям, он останется лишь мощным инструментом, работающим с вероятностями, а не субъектом, стремящимся к захвату мира или другим целям, продиктованным собственными нуждами.
🛡️ Угрозы демократии: масштабируемые ИИ-тролли 7:07
Обсуждая экзистенциальные риски, собеседники перешли к теме социальной инженерии и ИИ-троллинга. Ранее в разговоре они касались геополитики ИИ и гонки вооружений. Сегодняшние человеческие тролли ограничены ресурсами: их невозможно масштабировать до бесконечности, а их влияние ограничено отсутствием глубокого контекста о каждой конкретной жертве.
ИИ-системы меняют правила игры. Обладая доступом к огромным массивам данных о предпочтениях, истории переписки и даже видеозаписях людей, ИИ может создавать гиперперсонализированные кампании влияния. Это позволяет манипулировать политическими мнениями или даже имитировать близких людей, чтобы выманивать деньги, используя глубокое знание контекста, в который человек поверит без колебаний. Для преступников такие технологии открывают путь к беспрецедентно убедительной социальной инженерии, перед которой рядовой пользователь может оказаться абсолютно беззащитным.
🔐 Водяные знаки и цифровая гигиена 12:40
В качестве первичной защиты от злонамеренного использования технологий Йошуа Бенджио предлагает внедрение технических стандартов безопасности. Одной из самых простых и эффективных мер является обязательная маркировка ИИ-контента с помощью водяных знаков.
- Техническая верификация: Разработчики моделей, такие как OpenAI, могут легко внедрить инструменты, позволяющие с высокой точностью (до 99,99%) определить, сгенерирован ли текст конкретной нейросетью.
- Обязательный интерфейс: Бенджио настаивает, что обнаружение — это лишь половина дела. Пользовательские интерфейсы социальных сетей и почтовых клиентов должны принудительно уведомлять человека: «Внимание, этот контент создан ИИ».
- Адверсариальный подход: Наряду с водяными знаками, необходимы системы, аналогичные тем, что используются в геймдеве и разработчиками ИИ для «красных команд» (red teams), где специалисты специально пытаются обмануть или «взломать» систему, чтобы найти слабые места и защититься от них еще до релиза.
🚀 Проблема масштаба: почему нейросети становятся «машинами интуиции» 25:19
Сенсационный успех современных нейросетей застал врасплох даже тех, кто десятилетиями находился на переднем крае науки. Как признает Йошуа Бенджио (Yoshua Bengio), этот качественный скачок не потребовал фундаментально новых научных открытий — решающим фактором стал чистый масштаб. Мы оказались в ситуации, когда простое увеличение объема данных и вычислительных мощностей позволило машинам манипулировать языком на уровне, достаточном, чтобы вводить человека в заблуждение.
Проклятие сложности и магия масштабирования 26:35
Существует фундаментальная причина, по которой «больше» в мире ИИ почти всегда означает «умнее». Большинство задач в информатике — от оптимизации логистики до поиска ответов на сложные вопросы — формально являются трудноразрешимыми. Это означает, что для поиска абсолютно оптимального решения требуются экспоненциальные вычислительные ресурсы. Даже в играх с простыми правилами, таких как го, количество возможных комбинаций настолько велико, что нейросеть, способная побеждать чемпионов-людей, должна быть огромной, чтобы эффективно аппроксимировать (приближенно вычислять) лучшие ходы.
Йошуа Бенджио подчеркивает, что наш мозг работает по схожему принципу. Хотя объем знаний, необходимых для описания мира, может казаться небольшим (например, объем текста всей Википедии физически намного меньше объема памяти мозга), нам нужны колоссальные ресурсы для проведения «инференса» (inference) — процесса извлечения правильных ответов и принятия решений на основе этих знаний.
«Количество бит, необходимых для кодирования Википедии, на порядки меньше, чем количество бит, необходимых для кодирования всех синаптических весов в вашем мозгу», — отмечает ученый.
Этот разрыв объясняется тем, что нейросеть должна не просто хранить факты, а выстраивать невероятно сложные внутренние связи, чтобы ее ответы оставались логичными и непротиворечивыми. Современные LLM обучаются именно так: предсказывая следующее слово, они неявно инкапсулируют в себе структуру человеческих знаний. Ранее в разговоре собеседники касались того, является ли сознание функцией этого масштаба, но Бенджио убежден: масштаб критичен для интеллекта, но не является единственным условием возникновения сознания.
Архитектура мозга против кремния: вопрос специализации 33:23
Том Билью (Tom Bilyeu) задается вопросом: в чем принципиальное различие между биологическим мозгом и искусственной сетью? Человеческий мозг обладает гиперспециализированными зонами (например, для распознавания движений или углов), в то время как нейросети часто выглядят как однородная масса повторяющихся вычислительных единиц.
Йошуа Бенджио разъясняет, что эта специализация в ИИ всё же присутствует, но она не программируется человеком заранее. Она возникает сама в процессе обучения (emergent property). Нейроны «кооперируются», чтобы эффективно решать общую задачу, распределяя между собой роли — от распознавания лиц до анализа синтаксиса. Даже кора головного мозга человека (неокортекс) имеет довольно однородную структуру, которая адаптируется под конкретные задачи только благодаря опыту.
Главное отличие сегодня кроется в энергоэффективности и организации памяти:
- В компьютерах (CPU/GPU) память отделена от вычислителя «шиной», что создает огромный трафик данных и потерю энергии.
- В мозге каждый из 80 миллиардов нейронов совмещает в себе и память, и вычисления, что делает его децентрализованным и невероятно экономичным.
Это различие приводит к тому, что современные системы становятся «машинами интуиции». Подобно ребенку, который учится ходить месяцами путем проб и ошибок, нейросеть корректирует миллиарды своих внутренних параметров (весов), пока не достигнет результата. Мы понимаем код, который запускает этот процесс, но не можем логически объяснить, почему конкретная комбинация из 500 миллиардов весов выдала именно этот ответ. Вопрос этой необъяснимости станет центральным в дальнейших дискуссиях о безопасности систем.
Геополитика и адаптивное регулирование в эпоху перемен 23:36
Непредсказуемость того, что именно «выучит» огромная нейросеть, создает экзистенциальные риски, которые невозможно игнорировать на государственном уровне. Поскольку мы имеем дело с технологией, способной к внезапным качественным скачкам, Йошуа Бенджио настаивает на внедрении адаптивного законодательства. Вместо жестких и детальных правил, которые устареют через месяц, правительствам нужны гибкие принципы, позволяющие мгновенно реагировать на новые угрозы.
Это подводит нас к проблеме глобальной координации. В мире зреет «гонка вооружений» в области ИИ, но Бенджио видит повод для осторожного оптимизма: даже авторитарные режимы начинают осознавать опасность.
- Ни один диктатор не заинтересован в создании системы, которую он не сможет контролировать.
- Угроза потери власти из-за неуправляемого сверхинтеллекта — это мощный стимул для международного сотрудничества.
Несмотря на скепсис Тома Билью относительно того, что биологические системы (как человек) имеют уникальные петли обратной связи через мышцы и миелинизацию, которых лишены чипы, Бенджио парирует: для обучения ИИ не нужно менять сами чипы — достаточно менять содержимое памяти (веса), что и является цифровым аналогом биологической перестройки архитектуры. Скорость этой перестройки в цифровом мире значительно выше, что делает вопрос международного регулирования еще более насущным.
🧠 Код интуиции: почему разум сложнее, чем его законы 58:51
Одним из самых интригующих аспектов современного ИИ является его фундаментальное сходство с законами природы: простота базовых правил порождает бесконечную сложность проявлений. Йошуа Бенджио (Yoshua Bengio) отмечает, что именно эта надежда — найти простые математические принципы, объясняющие человеческий интеллект, — когда-то привела его в науку. Однако, как показывает практика, знание формул не всегда означает понимание результата.
Феномен эмерджентности: от простых уравнений к «ледяному шторму» 59:59
Бенджио проводит изящную параллель между нейросетями и физикой. Законы физики, по сути, довольно просты, и их можно записать на нескольких листах бумаги. Но когда миллиарды атомов начинают взаимодействовать, возникают сложнейшие, труднопредсказуемые явления, такие как ледяной шторм. Мы понимаем, как ведут себя отдельные частицы, но у нас нет вычислительной мощности, чтобы идеально смоделировать бурю во всех деталях.
Аналогичная ситуация наблюдается в больших языковых моделях. Математические принципы, лежащие в их основе (например, механизмы внимания в трансформерах), относительно просты и легко объясняются студентам в университетах. Но при масштабировании эти простые строки кода порождают эмерджентные свойства — то, что мы называем «интуицией» ИИ. Эта интуиция не является набором жестких логических правил; это результат обработки колоссальных объемов данных, который невозможно свести обратно к исходным формулам. Как и в биологии, работа сложной обучаемой системы становится непостижимой именно из-за масштаба взаимодействий внутри неё.
Генетика против градиента: почему роботы всё еще не умеют ходить 53:07
Разрыв между биологическим и искусственным интеллектом наиболее ярко проявляется в физическом мире. Том Билью (Tom Bilyeu) замечает, что, несмотря на успехи Boston Dynamics, роботы всё ещё значительно уступают людям в грации и адаптивности движений. Йошуа Бенджио (Yoshua Bengio) объясняет это не дефектами архитектуры ИИ, а фундаментальным дефицитом данных.
Для обучения языковых моделей у нас есть весь интернет, но для обучения движению в физическом мире данных катастрофически мало. В то время как биологическая эволюция на протяжении миллиардов лет оттачивала «биологическую петлю обратной связи» (развитие мышц, нервных окончаний и миелинизацию), ИИ лишён этого прямого телесного опыта.
Существует и методологическое различие в процессе «поиска» оптимальных решений:
- Биологическая эволюция — это параллельный поиск, где миллиарды особей тестируют генетические конфигурации в реальном времени. Ричард Докинз называл это «слепым часовщиком»: здесь нет цели, есть только критерий выживания.
- Обучение ИИ — это последовательный процесс в высокомерном пространстве параметров, где одна нейросеть делает маленькие шаги (градиентный спуск), чтобы минимизировать ошибку.
Несмотря на то, что оба процесса являются формами поиска в пространстве вычислений, ИИ пока не обладает той способностью к адаптивной самореконфигурации, которую дает биология. Тем не менее, Бенджио подчеркивает: согласно принципам Тьюринга и фон Неймана, программное обеспечение может быть отделено от аппаратного (hardware). Это означает, что нет фундаментальных причин, по которым мы не сможем в будущем воспроизвести человеческие способности на кремниевой основе, как только решим проблему эффективности и сбора данных.
Интеллект без желаний: путь к безопасному выравниванию 1:01:16
Один из самых острых моментов дискуссии касается вопроса «желаний» ИИ. Том Билью выражает опасение: ИИ без желаний — это мощный инструмент, но ИИ с собственными целями и стремлениями — это экзистенциальная угроза. Он сравнивает это с родительским инстинктом: люди готовы на безумства ради того, что им «кажется правильным» на эмоциональном уровне.
Йошуа Бенджио (Yoshua Bengio) предлагает альтернативный взгляд, который может стать ключом к решению проблемы выравнивания (alignment). Мы не обязаны создавать ИИ по образу и подобию человека. Мы можем строить системы, у которых вообще нет «хотелок», целей или эго.
Вместо того чтобы программировать в ИИ стремление к результату, мы можем обучать его исключительно «чистому выводу» (inference) и поиску истины. Примером может служить использование ИИ в науке:
- Система анализирует данные экспериментов и предлагает все теории, которые им не противоречат.
- Она использует байесовский вывод (Bayesian inference) для оценки вероятностей.
- Она предлагает дизайн следующего эксперимента, чтобы исключить неверные гипотезы.
Такой ИИ может быть в миллионы раз умнее любого ученого-человека, но при этом оставаться абсолютно безопасным, потому что у него нет внутренней мотивации продолжать работу, если ему скажут «стоп». Проблема «скрепок» (когда ИИ уничтожает мир ради производства канцелярских товаров) возникает только тогда, когда системе дают цель, но не дают понимания контекста и ценностей. Если же целью системы является только «правда» и ответ на вопрос пользователя, риск потери контроля минимизируется.
Коллективные фикции и вызов координации 1:11:54
Даже если ученые найдут способ создать безопасный алгоритм, остается «социальная проблема». Бенджио признает: всегда найдется кто-то, кто захочет создать «человекоподобный» ИИ с эмоциями ради прибыли или забавы, не осознавая последствий.
Для выживания в эпоху сверхразума человечеству придется «изобрести себя заново», как это происходило при появлении религий, национальных государств или центральных банков. Ссылаясь на Юваля Ноя Харари, Бенджио отмечает, что наше общество держится на «полезных фикциях» — коллективных правилах, которые мы рационально принимаем для общего блага. Вызов ИИ — это, по сути, проблема глобальной координации: как заставить миллиарды людей договориться о правилах игры до того, как мощный инструмент станет опасным для всех.
🧬 Эволюционный софт против кремниевого будущего: от иллюзии магии к осознанному управлению 1:15:30
Человекоподобный помощник или «инопланетный» разум: природа триумфа алгоритмов 1:17:57
Обсуждая регулирование технологий, Том Билью выражает глубокую обеспокоенность тем, что гонка за первенство заставляет разработчиков игнорировать долгосрочные последствия. В качестве исторической параллели он приводит пример Роберта Оппенгеймера: физики были убеждены, что нацисты первыми создадут ядерную бомбу, поэтому мчались вперед, откладывая глобальные проблемы на потом. В этом контексте возникает вопрос: станет ли развитый ИИ подобием сверхразумного человека или же он покажется нам абсолютно чуждым, «инопланетным» существом?
Йошуа Бенджио утверждает, что все зависит от выбранной архитектуры. Мы способны наделить системы личностью и скопировать человеческие эмоции. Однако ученый считает такой путь стратегически неверным:
«Лично я не думаю, что это мудрый выбор. Если мы пойдем по другому пути и создадим полезные системы, которые не обязательно ведут себя как люди, коллективно нам будет намного проще».
В таком сценарии машины останутся просто ассистентами для решения прикладных задач. Том Билью парирует, что человеческое одиночество и коммерческие стимулы — например, создание реалистичных персонажей в играх — неизбежно подтолкнут разработчиков к имитации чувств.
Говоря о кажущейся «чужеродности» ИИ (как в случае с AlphaGo), Йошуа Бенджио демистифицирует этот триумф. Машина кажется пришельцем лишь потому, что она натренирована на колоссальном объеме данных и ушла на сто лет вперед в эволюции стратегии. Любая развитая технология неотличима от магии, пока мы не поймем ее механизмы. Системы ИИ просто более компетентны в узких задачах благодаря длительному обучению.
Филогенетическое древо: почему человек остается «рыбой» 1:25:43
Ранее в разговоре собеседники вскользь касались темы кризиса современной цивилизации, однако глубокий анализ природы человека авторы обсуждаемой книги «Путеводитель охотника-собирателя по XXI веку» начинают с его биологических корней. Том Билью отмечает тезис о том, что человеческий разум — это «самый чистый из возможных листов», созданных природой. Мы являемся продуктом долгой эволюции, и наши паттерны несут в себе следы всех предков: от приматов до древних рыб.
Утверждение о том, что люди — это рыбы, является строгим научным фактом, если рассматривать его через призму филогении (эволюционного родства). На Древе Жизни группы организмов определяются общим происхождением.
-
Если «отрезать» ветвь Древа Жизни, объединяющую акулу и гуппи, на ней неизбежно окажутся все тетраподы — четвероногие существа, включая человека.
-
Биологическая история оставляет неизгладимые маркеры: например, киты и люди одинаково лактируют, так как унаследовали этот признак от общего предка.
-
Даже змеи формально относятся к ящерицам, потерявшим конечности, а тюлени — это медведи, вернувшиеся в море.
Важнейший эволюционный парадокс заключается в том, что люди — фантастические существа с предельно приземленной биологической миссией: передать свои гены в будущее. Однако уникальность человека состоит в том, что наш геном перенес колоссальную часть адаптивной работы на «программный уровень» — культуру и сознание. Этот слой пластичен и создан для изменений, но чтобы эффективно им управлять, необходимо четко разделять, какие наши свойства зашины в генах, а какие поддаются корректировке.
Опасность инстинктов в эпоху гиперновизны и сила категоризации 1:33:05
Том Билью объясняет, почему законы эволюции приходится изучать даже бизнесменам. Руководитель не может слепо доверять собственным импульсам, поскольку они сформированы древней средой и не заточены под рост компании. В дикой природе было выгоднее отпрыгнуть от садового шланга, приняв его за змею. Но в современной бизнес-среде, раздираемой «гиперновизной», мгновенные эмоциональные реакции ведут к провалу. Когда человек подменяет логику установкой «это вызывает у меня гнев, значит, это плохо», он теряет способность решать нестандартные задачи.
Главным инструментом преодоления когнитивных ловушек становится сознание. Вместо того чтобы полагаться на интуицию, необходимо выносить проблему на уровень осознанного коллективного обсуждения.
Том Билью делится практическим методом управления командой: когда сотрудники бурно реагируют на нововведения, он требует сформулировать суть возражения строго в одном предложении — без запятых и уточнений. Это заставляет человека перевести чистую эмоцию в рациональное русло.
Другой важнейший шаг к преодолению разногласий — декомпозиция спора. Вместо того чтобы приписывать оппоненту тотальную неправоту, нужно разделить проблему на категории. Например, при общении с консервативной аудиторией по теме климатических изменений можно сначала зафиксировать базовое согласие: если бы деятельность человека доказано разрушала биосферу, они бы согласились принять меры. После этого спор сужается до конкретного пункта: достаточно ли имеющихся доказательств. Такое разделение на подкатегории позволяет находить точки соприкосновения и гасить деструктивные конфликты.
🧩 Искусство понимания и цена честности
Язык как инструмент и барьер 142:30
Том Билью и его гости обсуждают, почему в современном мире коммуникация часто заходит в тупик. Основная проблема кроется в самой природе языка: мы используем его как «тупой инструмент». Если раньше люди жили в локальных сообществах с общим контекстом, то сегодня мы общаемся с людьми, чьи жизненные пути и исходные «анцесторы» — те идеи и слова, из которых они строят свою картину мира — крайне далеки.
Люди, пытающиеся мыслить нестандартно, неизбежно создают персональные «инструментарии», переопределяя слова для большей точности. Когда двое таких «генеративных» собеседников встречаются, они часто не понимают друг друга, потому что каждый вкладывает в термины свой смысл.
- Термины искусства (terms of art): необходимые определения для описания явлений, которые не покрываются обычным языком.
- Жаргон: патологическая форма языка, используемая как стратегия конкуренции для исключения других из дискуссии.
Для успешного взаимодействия требуется время — иногда недели. Нужно не просто обмениваться информацией, а «посмотреть на мир глазами другого».
Наука как метод исправления ошибок 149:22
Наука — это не пробирки, лаборатории или ученые степени, а процесс исправления человеческих когнитивных искажений. Это «громоздкий механизм», который позволяет создавать модели, объясняющие больше при меньших допущениях. Прогресс в науке невозможен без готовности признавать свои ошибки.
В бизнесе или инженерии, где результат проверяется физической реальностью, ошибки обходятся дорого, но они очевидны: двигатель либо заводится, либо нет. В академической науке ситуация сложнее: социальные стимулы, грантовая система и угроза репутации создают среду, где ученым страшно ошибаться.
- Система «публикуйся или умри» порождает страх признать неправоту.
- Это ведет к кризису воспроизводимости результатов, особенно в психологии.
- Для оздоровления науки необходимо «построить файервол» между рыночными стимулами и научным поиском.
Нужно поощрять публичное исправление ошибок, не считая их крахом карьеры, как это было, например, в истории с биологом Петтигрю, который выдвинул ошибочную, но крайне продуктивную гипотезу о летучих мышах.
Социальный штопор: экраны, воспитание и тревожность
Обсуждая упадок общественной дискуссии, собеседники выделяют три ключевых фактора, которые в сочетании с 90-х годов начали формировать поколения с «недоразвитым человеческим опытом»:
- Убиквитарность экранов: манипуляция информацией через социальные каналы.
- Стиль воспитания: «вертолетное» родительство, защищающее детей от риска и структурированных игр.
- Фармакологизация: массовое использование антидепрессантов и психостимуляторов для подавления тревожности у молодежи.
Как отмечают гости, хотя отдельные люди могут преодолеть это влияние, на уровне общества мы наблюдаем «штопор». Основная проблема заключается в том, что в образовательном процессе не хватает практики взаимодействия с системами, где нельзя «обмануть» реальность логикой или манипуляцией, как это происходит в социальных сетях.
🧠 Научный метод как инструмент для борьбы с когнитивными искажениями 2:05:33
Современная система образования часто страдает от чрезмерной социальной опосредованности, где успех или неудача студента определяются не объективной реальностью, а субъективной оценкой преподавателя. Такая модель создает опасную зависимость: если наставник ошибается, ученик рискует получить искаженное восприятие мира, чувствуя себя поощряемым за следование ложным идеям.
Чтобы противостоять этому, необходимо интегрировать в процесс обучения задачи, где результат не зависит от мнения других людей. Будь то плотницкое дело, выпечка, игра на гитаре или паркур — физическая реальность дает непредвзятую обратную связь. Такой подход формирует «эволюционный инструментарий», позволяющий человеку с минимальным набором допущений критически оценивать входящую информацию.
🛠 Применение «набора инструментов логики» 2:07:35
Суть научного мышления, которую обсуждают Том Билью и Йошуа Бенджио, заключается не в накоплении огромного объема данных, а в создании прочного, пусть и лаконичного, логического фундамента. Это требует готовности признать, что «остров наших знаний» растет вместе с «берегом нашего невежества».
- Принцип предосторожности: Необходимость критически относиться к новому и непроверенному.
- Забор Честертона: Фундаментальная концепция, запрещающая разрушать установленные системы до тех пор, пока вы не поймете их истинное предназначение.
Метод исправления человеческих предвзятостей требует изоляции от краткосрочных рыночных стимулов, которые часто диктуют использование «новых и непроверенных» методов, будь то фармацевтические препараты для коррекции симптомов или радикальные изменения в укладе жизни. Возврат к «проверенным временем» принципам помогает снизить тревожность и повышает личный контроль над жизнью.
🧗♀️ Риск, неудачи и «антихрупкость» 2:13:11
Воспитание компетентного взрослого невозможно без обучения управлению рисками. Чрезмерная опека — так называемое «снегоуборочное родительство» — удерживает человека в состоянии «вечного детства», лишая его способности к самостоятельному решению проблем. Как отмечают авторы, родительская задача состоит в том, чтобы защищать детей, но оставлять пространство для ошибок, последствия которых станут уроками мудрости.
- Обучение падению: Буквально и метафорически важно научить человека падать безопасно, чтобы он мог подняться и продолжить путь.
- Антихрупкость костей и мозга: Подобно костям, которые становятся прочнее под влиянием контролируемых стрессоров, наши когнитивные способности крепнут, когда мы сталкиваемся с трудностями, а не избегаем их.
Ранее в разговоре они касались рисков, связанных с влиянием экранов на развитие аутизма и потерю эмоциональных сигналов от живых людей.
Примером такого подхода является отношение к травмам: если перелом кости не требует медицинского вмешательства для исправления смещения, организму лучше пройти процесс восстановления естественным путем. Это укрепляет веру в собственные биологические механизмы и позволяет избежать излишней медикализации, которая часто приводит к атрофии собственных сил организма.
🌀 Четвертый фронтир: переход от бесконечного роста к стабильному состоянию 2:30:20
Кризис современной цивилизации и ловушка исторической экспансии 2:30:32
На протяжении всей своей истории человечество развивалось за счет освоения новых пространств и возможностей, которые можно разделить на три ключевых типа фронтиров:
- Географический фронтир — физическое освоение новых, неизведанных земель, ярким примером которого стала миграция людей в Новый Свет через Берингию от 10 до 25 тысяч лет назад.
- Технологический фронтир — качественное улучшение способов эксплуатации окружающей среды, такое как террасирование горных склонов для удержания влаги и сохранения питательных веществ в почве.
- Фронтир перераспределения ресурсов — процесс, который по своей сути представляет собой банальное присвоение или кражу чужого блага. Он наглядно проявился при колонизации Нового Света европейцами, которые прибыли с востока и захватили территории, где уже благополучно жили десятки миллионов людей.
Именно силовой перераспределительный фронтир служит объяснением практически всех войн и геноцидов в истории человечества. Любые живые организмы подсознательно стремятся к поиску подобных возможностей для роста с ненулевой суммой, однако эта успешная эволюционная стратегия прошлого таит в себе ловушку. Всякий бурный рост населения неизбежно возвращает систему к жесткой динамике с нулевой суммой и режиму вынужденной экономии.
Сегодня этот исторический процесс привел к глубокому кризису современной цивилизации. Эволюционные стратегии прошлого сделали нас психологически и социально нездоровыми, создав угрозу глобального коллапса из-за нашей неспособности адаптироваться к гиперновизне. На планете больше нет свободных географических фронтиров, технологии привели к опасной переэксплуатации ресурсов Земли, а дальнейшие попытки силового перераспределения благ стали смертоносными. В условиях, когда человечество обладает сверхмощным оружием и связано в единую взаимозависимую сеть, продолжение прежней жесткой конкуренции грозит уничтожением абсолютно всем. Ранее в разговоре собеседники уже касались рисков ИИ, связанных с социальной инженерией и геополитической гонкой вооружений, которые лишь подтверждают: старые механизмы соперничества цивилизация больше не переживет.
Четвертый фронтир: концепция управляемой стабильности 2:31:38
Единственной очевидной альтернативой бесконечному росту в рамках старой парадигмы кажется тотальная экономия и ограничение потребления, однако такая перспектива едва ли может стать привлекательным лозунгом для человечества. Чтобы избежать цивилизационного тупика, Йошуа Бенджио предлагает принципиально иное решение — концепцию Четвертого фронтира, или «стабильного состояния» (steady state). Суть этой идеи заключается в переходе к системе, которая субъективно ощущается людьми как непрерывное развитие, но при этом не требует хищнического вовлечения новых физических ресурсов.
Подобный подход может прозвучать утопично, однако Йошуа Бенджио подчеркивает, что они с соавтором не являются утопистами и считают утопию одной из самых опасных идей в истории. Переход к стабильному состоянию — это не фантазия, а решаемая инженерная задача. Подобно тому, как с помощью энергии и системы отрицательной обратной связи мы можем бесконечно поддерживать комфортную весеннюю температуру внутри дома, не нарушая законов физики, человечество способно отрегулировать свою макроэкономическую среду.
Главная цель Четвертого фронтира — направить экономическую деятельность на реализацию свободы и внутреннего потенциала людей, освободив их от изнурительной борьбы за ограниченные ресурсы. Такую систему невозможно детально спроектировать и утвердить в виде жесткого плана уже сегодня; её придется создавать постепенно, через прототипирование и последовательную навигацию. Тем не менее, само признание правильности этого курса мгновенно откроет колоссальный объем полезной работы по поиску конкретных механизмов нового устойчивого бытия.
Человек как «биологическая машина»: нейрохимия мастерства 2:36:24
Понимание того, что человеческий мозг, мотивы и поведение сформированы биологической эволюцией, является необходимым инструментом для критического мышления и успешной навигации в 21 веке. Мы обязаны осознавать себя как сложнейшие «биологические машины», чтобы эффективно управлять социальными процессами. Как отмечает Том Билью, наше врожденное стремление к росту во многом обусловлено не потребностью в накоплении материальных объектов, а погоней за определенным нейрохимическим состоянием — глубоким чувством удовлетворения от создания чего-то важного и ценного.
Делясь личным опытом, Том Билью признает, что, достигнув огромного финансового успеха, он осознал важную истину: деньги абсолютно не способны исправить внутреннее отношение человека к самому себе, хотя большинство людей ошибочно ждут от богатства именно этого. Когда приходит понимание, что ключевое значение имеет лишь наше самоощущение, жизнь превращается в осознанную игру с собственной нейрохимией.
Йошуа Бенджио поддерживает этот тезис, указывая на «долгосрочное гормональное свечение», которое человек получает, когда производит непреходящие ценности, красоту и смыслы. Противопоставляя эту философию современному обществу потребления, ученый приводит наглядное сравнение. Существует ментальная пропасть между покупкой безликой мебели в IKEA, которую человек собирает по инструкции алленовым ключом на полу, и созданием или приобретением уникального предмета у настоящего мастера (craftsmanship). Такой мастер вкладывает в вещь свои знания о материале и душу, создавая её с расчетом на то, что её будут бережно передавать детям и друзьям. В рамках Четвертого фронтира фокус общественного сознания должен сместиться с пустого, ненасытного потребления на созидание, генерацию смыслов и инсайтов.
Уроки цивилизации майя и достижение реализованной свободы 2:38:25
В качестве исторического доказательства жизнеспособности модели стабильного состояния Йошуа Бенджио приводит цивилизацию майя — пример удивительно долговечной культуры, успешно существовавшей на протяжении тысяч лет. Одним из главных продуктов их городов-государств были монументальные общественные сооружения. Вопреки распространенному мнению, эти пирамиды не строились одномоментно, как в Египте, а представляли собой постоянно растущие структуры, которые планомерно расширялись и надстраивались веками. Наряду с ними майя создали колоссальную сеть мощеных каменных дорог, известных как сокбе (sacbes).
Направляя значительную часть своей общественной продуктивности на эти масштабные проекты, майя не просто создавали великую культуру, но и сформировали естественный амортизатор для экономических циклов:
- В благополучные и урожайные годы избыточные ресурсы, которые при обычной логике превратились бы в избыточный рост населения и последующий кризис, инвестировались в расширение и модернизацию каменных монументов.
- В голодные и lean-годы масштабное строительство просто приостанавливалось, освобождая ресурсы для пропитания граждан.
Этот механизм эффективно гасил разрушительные циклы бума и спада, от которых так сильно страдает современная экономика, и обеспечивал устойчивое существование общества.
Главный урок этой модели заключается в необходимости обеспечения истинной, «реализованной свободы» (realized liberty) для каждого человека. Йошуа Бенджио подчеркивает, что формальные юридические права не делают гражданина по-настоящему свободным, если он ежедневно парализован страхом остаться на улице из-за внезапного медицинского кризиса или потери работы. Истинная свобода является эмерджентным свойством стабильной системы и возникает только тогда, когда базовые потребности в безопасности и пропитании гарантированно закрыты.
Целью Четвертого фронтира должно стать предоставление реальной свободы максимальному проценту населения Земли, а не только узкой прослойке элиты. В финале беседы Том Билью резюмирует, что в эпоху тектонических сдвигов в технологиях и финансах, когда развитие искусственного интеллекта несет в себе мегаугрозы для привычных экономических укладов, непрерывное самообразование становится ключевым залогом личной безопасности и выживания.
