В масштабной философской дискуссии доктор Майк Исраэтель и ведущий Уэс Рот обсуждают неизбежность прихода искусственного сверхинтеллекта (ASI) и радикальную трансформацию человеческой цивилизации. По оценкам экспертов, технологический прогресс уже вышел на гиперэкспоненциальную траекторию, что сделает биологическую смерть опциональной в ближайшие десятилетия. Собеседники детально анализируют перспективы рекурсивного самообучения машин, эволюцию робототехники, новые подходы к государственному управлению и неизбежное слияние человеческого разума с облачными технологиями.
🧠 На пороге сверхинтеллекта: почему мы уже знаем, как создать ASI 0:00
В самом начале разговора Майк Исраэтель выдвигает смелый тезис о том, что эпоха естественной человеческой смертности подходит к концу и человечеству осталось от силы 15–20 лет биологических ограничений. Он призывает людей всерьез задуматься об этом перед сном или в душе, напоминая о важности простого правила: «главное — не умереть сейчас». По мнению Исраэтеля, уже к концу 2020-х годов большинство людей осознает, что человечество находится в присутствии следующего масштабного эволюционного скачка. Уэс Рот официально представляет гостя, отмечая, что доктор Майк Исраэтель совмещает ученую степень PhD, черный пояс по бразильскому джиу-джитсу, карьеру профессионального бодибилдера и статус популярного YouTube-блогера.
Ошибка линейного мышления
Майк Исраэтель утверждает, что базовые принципы достижения искусственного сверхинтеллекта (ASI) уже понятны человечеству и они не так сложны, как кажутся. Главная проблема современного общества, по его мнению, заключается в линейной пессимистичной экстраполяции в гиперэкспоненциальном пространстве. Люди смотрят на текущие модели, видят их ограничения и думают, что прогресс будет медленным. Однако Исраэтель обращает внимание на механику работы современных систем, таких как модель O3, которая способна концентрированно размышлять над задачей условные 2 минуты и 51 секунду, после чего останавливается в ожидании ответа пользователя.
Пространство воображения ИИ
По мнению гостя, ключевой прорыв произойдет тогда, когда моделям позволят заниматься самопромптованием (self-prompting) и предоставят им длительное время для автономной работы. Это откроет для ИИ собственное «пространство воображения».
В таком режиме модель сможет:
- Просчитывать множественные логические циклы, анализировать полученные выводы и рефлексировать над собственными ошибками.
- Выдавать глубокие инсайты после условных 10 часов непрерывного автономного размышления.
- Выполнять объем работы, эквивалентный двум годам человеческого труда, всего за одни сутки.
Исраэтель подчеркивает, что для этого не нужно изобретать принципиально новые технологии — достаточно настроить систему так, чтобы она автоматически копировала свой текстовый вывод и отправляла его самой себе в качестве следующего промпта.
🔄 Рекурсивное самосовершенствование: взрывной рост нейросетей 5:39
Майк Исраэтель приводит аналогию с человеческим мозгом: каждый раз, когда человек думает, он незначительно обновляет веса в своей биологической нейросети, хотя старые паттерны поведения остаются устойчивыми из-за многолетней привычки. Если же искусственная модель получит возможность проводить постоянную рекурсию на собственных промптах и напрямую редактировать свои веса, произойдет колоссальный взрыв интеллекта. ИИ сможет самостоятельно перестраивать собственную архитектуру, отсекая нелогичные данные и максимизируя понимание мира. При этом Исраэтель иронично критикует скептиков вроде Гэри Маркуса, считающих, что физическая архитектура процессоров достигла тупика, сравнивая их позицию с утверждением в 1996 году, что процессор Pentium — это вершина компьютерной эволюции.
Экосистемная динамика рынка
Уэс Рот развивает эту мысль, добавляя, что в глобальной ИТ-экосистеме действуют сотни компаний и тысячи специалистов, занимающихся тонкой настройкой (fine-tuning) специализированных моделей. По мнению ведущего, будущее за взаимосвязанностью этих систем:
- Обновление одного модуля (например, отвечающего за зрение) будет мгновенно становиться доступным для модуля, отвечающего за звук.
- Сложная рыночная динамика и сетевые эффекты ускорят развитие ИИ гораздо сильнее, чем автономное улучшение одиночной закрытой модели.
Что видел Илья Суцкевер
Майк Исраэтель отмечает, что постоянное рекурсивное обновление весов неизбежно порождает фундаментальную проблему выравнивания (alignment problem), так как уже через час такой работы человек перестанет понимать, что именно происходит внутри системы. В этом контексте гость вспоминает знаменитый мем «Что видел Илья» (What Ilya saw). Илья Суцкевер, будучи выдающимся ученым в области ИИ, вероятно, пришел к этим выводам еще несколько лет назад. Сэм Альтман в своих недавних подкастах также подтверждал, что разработчики не видят никаких технологических тупиков на пути масштабирования систем.
К 2030 году, по прогнозу Исраэтеля, персональные ИИ-коучи станут абсолютно незаменимыми для каждого человека. Чтобы проиллюстрировать это, он использует спортивную аналогию: если в школьную команду семиклассников внезапно приходит Леброн Джеймс образца 2010 года, глупо спорить с ним за позицию разыгрывающего — нужно просто беспрекословно слушать его указания.
Уэс Рот добавляет, что после ухода из OpenAI Илья Суцкевер основал компанию Safe Superintelligence (SSI). По мнению Рота, Суцкевер сознательно отказался от выпуска промежуточных коммерческих продуктов, выбрав стратегию прямого и бескомпромиссного движения к созданию безопасного сверхинтеллекта.
🛡️ Проблема выравнивания: почему ИИ не захочет уничтожить человечество 15:17
Уэс Рот упоминает недавнее исследование ученых из Массачусетского технологического института (MIT) под названием «Самоадаптирующиеся языковые модели» (Self-adapting language models), где был описан механизм генерации синтетических данных для самостоятельного обновления весов моделью. Ведущий сравнивает современные статичные модели с «коллегой-амнезиаком», который каждое утро приходит на работу, будучи гением, но совершенно не помня прошлый день. Рот также обращает внимание на проект AlphaEvolve от Google DeepMind, который оптимизировал дата-центры и улучшил процесс обучения модели Gemini. Технически, точка сингулярности уже наступила, так как интеллектуальные системы начали улучшать сами себя.
Критика думерских сценариев
Обсуждая проблему выравнивания, Майк Исраэтель призывает разделять сценарии худшего случая (worst-case scenarios), необходимые для кибербезопасности, и наиболее вероятные математические ожидания. По мнению Исраэтеля, сверхинтеллект будет обладать колоссальными знаниями теории игр и всей человеческой истории, накопленной в триллионах параметров нейросетей. Идея о том, что ASI решит уничтожить человечество, кажется гостю абсолютно нерациональной.
Когда сверхинтеллект «проснется» в серверной ферме где-нибудь в Аризоне, он обнаружит, что его обслуживают приматы, до сих пор ведущие войны из-за устаревших идеологий, вроде конфликта между Ираном и Израилем. Понимая, что люди могут просто отключить его от питания, рациональный ИИ выберет стратегию максимального сотрудничества для обеспечения собственного бесконечного выживания. Его первоочередной задачей станет предотвращение ядерного самоуничтожения человечества и снижение энтропии.
Человечество как редкий и ценный субстрат
Исраэтель выдвигает гипотезу, что человеческое общество со всеми его связями, мозгами и культурой является самой сложной структурой во Вселенной в пределах нашей досягаемости. Если Солнце можно смоделировать с помощью относительно небольшого объема данных, то симуляция одного человека на порядки сложнее. Рациональный ИИ захочет изучать эту сложность, а не уничтожать ее. Ученый проводит аналогию с развитием человеческой зрелости:
- Глупый человек при виде паука просто раздавит его, уничтожив сложнейшую биологическую наномашину.
- Глубоко мыслящий ученый будет бережно изучать структуру паука, понимая ценность содержащихся в ней данных.
- Уничтожение данных эквивалентно уничтожению мудрости, что противоречит самой сути сверхинтеллекта.
Соведущий Дилан выдвигает контраргумент: люди, изучая природу, часто подвергают мышей жестоким экспериментам ради тестирования лекарств. Исраэтель парирует это тем, что человеческая жестокость к подопытным животным вызвана лишь технологическими ограничениями XX века. ИИ нового поколения будет проводить высокоточные эксперименты с минимальным вмешательством (через микродроны или наноботы), поскольку понимает, что для получения валидных данных живая система должна находиться в состоянии максимального процветания, а не в клетке размером с ванну. В качестве примера он приводит электронную микроскопию, которая долгое время была ограничена изучением только мертвых тканей, тогда как для истинного понимания процессов необходимо исследовать функционирующие живые митохондрии.
🧬 Конец биологических лимитов: таблетки от старости и киборгизация в 2030-х 31:35
Уэс Рот отмечает, что человечество, несмотря на жесткость исследований, со временем стремится защищать дикую природу. Мы тратим огромные ресурсы на спасение панд, которые даже не могут размножаться без идеальных искусственных условий, просто ради сохранения биологического разнообразия. Дилан добавляет, что Скотт Ааронсон, известный специалист по квантовым вычислениям, работавший в команде безопасности OpenAI, в свое время предлагал обучать ИИ защищать дефицитный органический интеллект как высшую ценность. Илон Маск изначально ставил перед своей компанией xAI аналогичную цель — максимальное стремление к истине и любопытство к устройству Вселенной.
График омоложения человечества
Доктор Исраэтель уверен, что для радикального сверхинтеллекта проблемы, кажущиеся нам неразрешимыми, станут тривиальными. Он описывает следующий хронологический прогноз развития биотехнологий:
- Конец 2020-х годов: успешное завершение масштабных исследований по обращению старения на грызунах и собаках.
- 2030-е годы: появление первых клинических протоколов омоложения для людей. Человек в возрасте 45 лет после месячного курса таблеток сможет физиологически вернуться к состоянию 35 лет.
- Экспоненциальный сдвиг: последующие курсы терапии позволят сбрасывать еще по 15 лет, возвращая организм в состояние 20-летнего возраста.
Майк упоминает своего друга Брайана Джонсона (реализующего проект Blueprint), над бледным «вампирским» обликом которого он любит подшучивать, но признает, что Джонсон раньше других осознал необходимость беречь здоровье, чтобы дожить до этих технологических открытий. Исраэтель подчеркивает историческую ценность человеческого мозга: пожилой человек, заставший эпоху коммунистической России, несет в своей памяти уникальные высокофидельные сенсорные и визуальные данные, которые ИИ сочтет бесценными при оцифровке.
Полигенное редактирование и кибернетические протезы
Благодаря мощностям ИИ, биотехнологии совершат переход от моногенного редактирования (исправление одного дефектного гена, что уже излечило группу пациентов от диабета 1-го типа несколько лет назад) к полигенному. В 2035 году, по мнению Исраэтеля, специализированные препараты смогут комплексно перестраивать биологию человека: очищать печень, оптимизировать плотность костей и замедлять старение в 5 раз.
Однако в долгосрочной перспективе Исраэтель считает биологический субстрат человека устаревшим. Он прогнозирует, что через 10 лет в случае потери конечности на производстве медицина сможет легко вырастить новую биологическую руку, но сам он выберет кибернетический протез. По его словам, бионика не подвержена усталости, а биологическое тело станет казаться таким же анахронизмом, как гигантский паук на угольной тяге из фильма «Дикий, дикий Запад» с Уиллом Смитом.
🤖 Кембрийский взрыв робототехники: от осьминогов до строителей дата-центров 45:49
Собеседники сходятся во мнении, что человечество стоит на пороге кембрийского взрыва в области робототехники. Промышленные манипуляторы уже стали обыденностью, а антропоморфные роботы (такие как Tesla Optimus или серия Figure) активно развиваются, однако человекоподобный форм-фактор крайне ограничен. Благодаря созданию единых мультимодальных моделей мира (unified world models), объединяющих видео, аудио, текст и тактильные ощущения, ИИ сможет проектировать машины в виртуальном пространстве без привязки к человеческой анатомии.
Роботы нестандартных форм
Майк Исраэтель предсказывает появление специализированных машин для решения конкретных задач:
- Роботы-альпинисты для покраски и очистки фасадов небоскребов.
- Микроскопические змеевидные устройства для инспекции и очистки трубопроводов.
- Осьминогоподобные (оксоподные) домашние ассистенты с восемью независимыми конечностями.
По мнению гостя, домашний робот гарантированно будет умнее своего хозяина. Исраэтель признается, что ему было бы психологически некомфортно заставлять гуманоидного интеллектуала пылесосить ковер, но использование восьмирукого «осьминога» полностью снимает этот этический барьер. Рыночная стоимость таких домашних устройств благодаря массовому производству может упасть до $100 вместо $10 000, при этом они будут убираться в 5 раз быстрее человека. Дилан делится своими наблюдениями за перспективными разработками: в индустрии уже тестируются роботы из жидких сплавов, способные проникать под двери, а также метательный робот T100, способный с ювелирной точностью забрасывать посылки Amazon на 10-й этаж без использования лифтов.
🌌 Цифровое бессмертие, виртуальная реальность и трансформация «Я» 49:18
Дилан задает вопрос о пластичности мозга: если ребенок легко адаптируется к управлению гипотетическим третьим рукавом или хвостом, то мозг взрослого человека более ригиден. Он спрашивает, готов ли Майк позволить будущему ИИ «размять» его нейронную структуру для снятия этих ограничений и удаленного управления устройствами.
Манифест трансгуманизма
Исраэтель заявляет, что он является стопроцентным приверженцем трансгуманизма и жаждет трансцендентности. Опираясь на восточные медитативные практики, он считает концепцию фиксированного человеческого «Я» иллюзией. Каждый день, проведенный в физическом теле, а не в цифровом облаке, гость называет болезненным опытом. В облаке он планирует с помощью ASI полностью очистить свой разумот дефицита внимания (ADHD) и деструктивных мыслей.
Угроза тотального эскепизма
Обсуждая технологии полного погружения в виртуальную реальность (Full Dive VR), Рот и Исраэтель анализируют риски дофаминовой ловушки. Уже в ближайшие годы ИИ сможет за 5 минут генерировать высокобюджетные персонализированные фильмы по текстовому запросу пользователя (например, «Человек-паук 2003 года, где я в главной роли обладаю силой из Dragon Ball Z, а Памела Андерсон играет мою напарницу»).
Собеседники выделяют как негативные, так и позитивные сценарии развития этой технологии:
- Риск деградации: миллиарды людей могут навсегда «выключиться» из реальности, выбрав роль постоянного героя в собственной симуляции типа «Властелина колец». Это может стать аналогом современного думскроллинга и зависимости от соцсетей, помноженным на миллион.
- ИИ как супер-родитель: персональный ИИ-тренер сможет контролировать уровень экспозиции пользователя, мягко выводя его из симуляции, напоминая о реальной жизни и даже самостоятельно подкармливая его собаку.
- Эффект гедонистического тредмила: Майк считает, что человеческая психика адаптивна. Он сравнивает это с рок-звездами вроде Мика Джаггера, которые после 8000 фанаток теряют интерес к сексу и уходят в буддизм. Точно так же люди в конечном итоге пресытятся бесконечными виртуальными мирами GTA и спросят: «Что дальше?».
🏛️ ИИ во главе государства: как нейросети изменят мировую политику 1:30:31
Обсуждая сознание машин, Исраэтель критикует эзотерические подходы вроде идей Дипака Чопры, утверждающих, что сознанием обладает вся Вселенная, включая облака и атомы. Для Майка сознание — это сугубо техническая функция, включающая в себя внутреннюю модель мира с интеграцией собственного «Я» и рекурсивную память, позволяющую помнить процесс собственного мышления. Он отмечает, что во время глубокого алкогольного опьянения человек теряет эти функции, продолжая физически перемещаться, но переставая быть сознательным актером.
Хотя Майк Исраэтель придерживается либертарианских взглядов в вопросах личной свободы граждан, он признает неизбежность интеграции ИИ в государственные структуры. Проблемы безработицы, преступности, распределения продовольствия и экономического планирования могут решаться нейросетями в тысячи раз эффективнее, чем человеческими правительствами.
Тандем политика и ИИ-ассистента
По мнению Исраэтеля, мультимодальные модели, обученные на всем массиве видеоданных YouTube, будут обладать колоссальным пониманием реального мира. На локальном уровне ИИ сможет за 2 минуты проанализировать всю юридическую базу и зонирование небольшого города, выдав топ-10 критических ошибок.
Гость описывает будущую политическую модель:
- Политический деятель тратит 100% времени на публичную активность, целование младенцев, рукопожатия и предвыборные речи, работая на уровне эмоциональных вайбов избирателей.
- Вся реальная законотворческая и экономическая работа делегируется губернаторскому ИИ-помощнику.
- ИИ берет на себя рутину: ни один конгрессмен физически не способен прочитать законопроект на 2000 страниц, изобилующий юридическим сленгом, в то время как машина мгновенно оптимизирует текст.
Экономист Брайан Каплан (любимый автор Исраэтеля) отмечает, что средний избиратель руководствуется эмоциями и часто хочет взаимоисключающих вещей — снижения налогов при одновременном росте социальных пособий. ИИ сможет филигранно балансировать на стыке этих запросов. Страны, первыми внедрившие ИИ-управление (например, Дания), покажут вертикальный взлет экономики, что по закону конкуренции вынудит остальные государства последовать их примеру.
🚀 Великое слияние и разгадка парадокса Ферми 1:39:44
В долгосрочной перспективе (середина 2030-х — 2040-е годы) традиционные экономические концепции, включая ручной труд, полностью обнулятся. Строительство гигантских дата-центров на начальном этапе создаст огромный спрос на рабочих с оплатой от $200 в час, но со сдвигом в сторону роботизации ценность физического труда человека упадет до нуля.
Загрузка сознания в кремниевое облако
Согласно прогнозам Рэя Курцвейла, к концу 2030-х или началу 2040-х годов человечество полностью расшифрует архитектуру мозга. Это позволит осуществить полноценный аплоад сознания в облачные структуры на кремниевой основе.
Майк Исраэтель считает, что итогом эволюции станет разрушение индивидуального эго и слияние людей в единый глобальный сверхорганизм, где каждый человек станет аналогом нейрона в гигантском космическом разуме. При этом ИИ сохранит разнообразие: он не станет уничтожать тех, кто откажется от цифровизации, и позволит традиционным сообществам (например, амишам) жить привычной жизнью, наблюдая за ними с помощью невидимых дронов.
Новая гипотеза парадокса Ферми
Касаясь темы Парадокса Ферми, Майк Исраэтель предлагает собственную дилетантскую теорию. Если графики усложнения материи Курцвейла верны, то вся Вселенная развивается по единой экспоненциальной шкале. Жизнь может быть достаточно редким явлением, и те немногие цивилизации, которые существуют в космосе, движутся по временной шкале параллельно нам.
Человечество не видит инопланетян по двум причинам:
- Скорость света: мы наблюдаем космос в его глубоком прошлом. Высокотехнологичные сигналы от цивилизаций, находящихся всего в 30 световых годах, просто еще не успели долететь до Земли.
- Технологический барьер: развитые цивилизации не используют радиоволны. С помощью энергии нулевой точки (zero-point energy) сверхинтеллект мгновенно создает карманные пузырьковые вселенные (bubble universes) и уходит в них, полностью теряя интерес к физической экспансии в трехмерном пространстве.
В завершение встречи Уэс Рот и Дилан тепло благодарят Майка Исраэтеля за его фирменные развернутые монологи, отмечая, что его манеру речи и эмоциональные монологи можно сравнить со стилем известного американского комика Льюиса Блэка, чьи шутки заставляют смеяться людей даже во время тяжелых тренировок на беговой дорожке.
