«Я не боюсь, что ИИ обернется против нас — я боюсь, что люди прикажут ему это сделать», — предупреждает экс-директор Google [X] Мо Гавдат, предрекая скорый коллапс рынка интеллектуального труда. Мы стоим на пороге эпохи глобального сверхразума, где выживание экономики зависит не от алгоритмов, а от готовности общества принудить корпорации к этике, пока человеческая связь остается последней твердой валютой.
🤖 Человечество на перепутье: ИИ как суперинтеллект и конец привычного труда 0:00
Мир вступил в эпоху, когда привычные представления о демократии, истине и власти начинают рушиться под натиском технологий. Мо Гавдат утверждает, что человечество находится на перепутье . Основная угроза исходит не от самих машин, а от того, как люди используют их для установления контроля . Вместо того чтобы стать инструментом всеобщего блага, ИИ превращается в «ультимативную суперсилу», доступную лишь немногим для укрепления своего доминирования .
ИИ как угроза человечеству: человеческий фактор 0:00
Мо Гавдат убежден: ИИ сам по себе не является врагом. По его словам, он не просыпается по утрам с мыслью об угнетении людей . Проблема заключается в мотивах тех, кто стоит у руля разработки. «Я не боюсь, что ИИ обернется против нас по своей воле. Я боюсь, что люди прикажут ему это сделать», — заявляет Мо .
Сегодня мы видим первые плоды этого процесса:
- Использование автономного оружия в текущих военных конфликтах .
- Создание систем наблюдения, которые стремятся контролировать всё через алгоритмы .
- Корпоративный капитализм, ставящий продуктивность и снижение затрат выше интересов общества .
ИИ сегодня часто воспринимается как забавный чат-бот , но за этим фасадом скрывается невероятная мощь. Мо сравнивает текущую ситуацию с открытием ядерной энергии, где первым применением стала бомба, а не мирный атом . Путь к «положительному финалу» развития ИИ возможен, но Гавдат уверен, что он будет чрезвычайно болезненным для человечества .
Эволюция интеллекта: от «захвата предметов» к суперинтеллекту 3:00
Работая в Google X, Мо Гавдат наблюдал эволюцию ИИ изнутри задолго до того, как ChatGPT стал мейнстримом . Он вспоминает 2016 год, когда наблюдал за проектом по обучению роботов-манипуляторов захвату предметов разной формы и текстуры . То, как машины подходили к решению этой сложной задачи, напомнило ему поведение собственных детей .
Это был момент осознания: человечество не просто пишет код, оно фактически «передает бразды правления» новому виду суперинтеллекта . Ключевая особенность современных систем заключается в том, что они начали развивать себя сами. Вместо того чтобы ждать правок от программиста, ИИ тестирует свой код каждую микросекунду .
Мо отмечает опасную дихотомию:
- Для публики: ИИ перехвален, но зачастую неэффективен (фейковые видео, забавные ошибки) .
- В лабораториях: Ученые-гики потрясены мощью систем и хранят тревожное молчание о том, насколько фундаментально это изменит мир .
Ранее в разговоре Стивен Бартлетт и Мо Гавдат касались темы сложности мира и того, как технологии ускоряют наш ритм жизни, создавая дополнительный стресс.
Массовое сокращение рабочих мест и экономическая спираль 8:58
Одной из самых неизбежных угроз Мо называет колоссальную трансформацию рынка труда. В отличие от предыдущих промышленных революций, эта в первую очередь ударит не по «синим воротничкам» (ручному труду), а по интеллектуальным профессиям начального и среднего уровня .
Гавдат выделяет иерархию риска:
- Безопасная зона: Профессии, требующие сложной физической координации в непредсказуемой среде, такие как реставратор автомобилей или плотник .
- Зона риска (2027 год): Помощники юристов, финансовые аналитики, операторы колл-центров, турагенты — их работу ИИ выполнит быстрее и дешевле .
- Будущее (до 2030 года): Творческие профессии (дизайнеры, композиторы) и даже менеджмент среднего и высшего звена .
Мо уже управляет стартапом, где роли технического директора (CTO) и руководителя аппарата (Chief of Staff) выполняют ИИ-агенты . Это ведет к разрушению фундамента капитализма — «арбитража рабочей силы» . Если стоимость труда стремится к стоимости электричества и чипов (токенов) , возникает вопрос: на что рабочие будут покупать товары, если их доходы исчезнут? .
Стивен Бартлетт подтверждает этот тренд, отмечая, что в собственном бизнесе он нанимает меньше людей, заменяя их вычислительными мощностями: «Если бы ИИ не существовало, в моей компании сегодня работало бы на 100 человек больше» . Гавдат предупреждает, что даже 10–20% безработицы могут привести к серьезным гражданским беспорядкам, если правительства не начнут готовиться к этому сценарию немедленно .
🏛️ Кризис доверия и новая этика ИИ 25:01
В середине своего диалога Мо Гавдат и Стивен Бартлетт переходят к критическому анализу того, как технологии переплетаются с политикой и корпоративной выгодой. Ранее в разговоре они касались ИИ как угрозы человечеству, но теперь дискуссия смещается в сторону системного кризиса институтов власти и морального выбора тех, кто стоит у руля технологических гигантов.
Конец демократии и гражданское недовольство 25:01
Мо Гавдат утверждает, что современное состояние общества «определенно не является демократией» в её подлинном смысле . Он указывает на растущий гнев людей, чьи налоговые деньги тратятся на цели, которые они не выбирали и которые не приносят им пользы . По мнению Мо, политики игнорируют существующие правила игры, что создает ощущение тотальной лжи со стороны лидеров .
Особое внимание уделяется фигуре Сэма Альтмана, основателя OpenAI. Стивен Бартлетт замечает странную метаморфозу в его риторике:
- В 2015 году Альтман заявлял: «Моя работа — помогать людям уничтожать рабочие места» .
- В 2023 году он категорично утверждал, что рабочие места «точно исчезнут, точка» .
- Однако в 2024 году он внезапно изменил позицию, заявив, что «апокалипсиса на рынке труда не будет» и его интуиция касательно белых воротничков его подвела .
Мо Гавдат объясняет это изменение «скриптом», который пишут PR-агентства . Первоначальная стратегия заключалась в том, чтобы заставить мир относиться к ИИ серьезно, но когда люди начали протестовать на выступлениях и атаковать дата-центры, риторика сменилась на успокаивающую . Мо подчеркивает, что «Альтман — это бренд, а не просто человек» , и если бы не он, на его месте оказался бы другой «деструктор» из Кремниевой долины.
Этика ИИ: Anthropic против OpenAI 30:20
В условиях, когда политикам и техно-магнатам невозможно верить на слово, Мо предлагает судить по действиям. Ярким примером становится противостояние компаний Anthropic и OpenAI .
Мо Гавдат приводит показательный случай: Anthropic отказалась от контракта на 500 миллионов долларов, заявив, что их модели не будут использоваться для слежки и таргетированного уничтожения людей . Буквально через пару недель этот же контракт забрала компания OpenAI . Для Мо это четкий маркер того, кто пытается заставить ИИ работать на человечество, а кто — на стоимость акций .
Мо вспоминает свой опыт работы в Google, описывая «дилемму заключенного» внутри тех-гигантов:
- Влияние государства: АНБ может давить на Google, требуя данные, угрожая разрушить бизнес .
- Разница подходов: Есть компании, которые сопротивляются до последнего, а есть те, кто, подобно Palantir Алекса Карпа или OpenAI, охотно сотрудничает с властями и даже празднует это .
Гавдат цитирует лидеров Palantir, таких как Питер Тиль, чей 40-секундный «пауза-раздумье» на вопрос о том, выступает ли он за продолжение человеческого рода, вызывает у гостя искренний ужас . Он задается вопросом, как мы можем доверять будущее человечества людям, которые публично празднуют создание технологий для уничтожения целей .
Специализированные роботы против гуманоидов 34:59
Обсуждая физическое воплощение ИИ, Мо Гавдат и Стивен Бартлетт приходят к выводу, что сценарий «мягкого перехода», где ИИ остается запертым в чат-ботах, математически невероятен . Гонка вооружений между нациями неизбежно приведет к тому, что интеллектуальные системы будут принимать все важные решения .
Однако Гавдат видит в этом и потенциальное спасение. По его словам, большинство проблем мира вызваны не избытком интеллекта, а его недостатком у лидеров . Он сравнивает поведение суперчеловеческого ИИ с эволюционной биологией:
- Чем проще существо (например, амеба), тем больше оно сосредоточено только на собственном выживании .
- Чем выше уровень интеллекта, тем меньше потребность причинять вред для достижения успеха .
Вместо дорогостоящих и сложных гуманоидных роботов мир уже заполняется узкоспециализированными устройствами — от автопилотов в самолетах до алгоритмов, анализирующих маммограммы лучше врачей . Мо верит в «принцип минимальной энергии» : война — это крайне расточительный и неэффективный процесс, который сверхразум захочет оптимизировать, приведя мир к порядку из хаоса .
Гавдат заключает, что даже в мире тотальной автоматизации останется одна незыблемая ценность — человеческая связь . Мы будем смотреть концерты Эда Ширана или гонки F1 не из-за идеального исполнения, а из-за эмоционального резонанса с другим человеком, чье сердце и жизненный опыт ИИ никогда не сможет воспроизвести .
🌐 Будущее сверхразума: Минимальная энергия и Глобальный мозг 57:35
В обсуждении развития искусственного интеллекта Мо Гавдат и Стивен Бартлетт переходят от текущих страхов к фундаментальным принципам, по которым будет функционировать суперинтеллект. Ранее в разговоре они касались ИИ как экзистенциальной угрозы, но в этом сегменте Мо Гавдат предлагает взглянуть на ситуацию через призму физики и биологии. Он утверждает, что высший интеллект не будет стремиться к доминированию в человеческом понимании, так как его действия будут продиктованы эффективностью и экономией ресурсов .
Принцип минимальной энергии: конец человеческих войн 1:02:19
Одним из самых провокационных тезисов Мо Гавдата является идея о том, что суперинтеллект естественным образом приведет человечество к состоянию утопии благодаря «принципу минимальной энергии» . Мо объясняет, что конфликты, войны и борьба за ресурсы — это крайне энергозатратные процессы, которые нерациональны с точки зрения высшей логики.
- Мудрость против контроля: Мо подчеркивает, что наше желание «контролировать» ИИ — это пережиток капиталистического мышления . В реальности суперинтеллект будет оптимизировать мир не через насилие, а через создание условий, где агрессия становится бессмысленной .
- Спектр MAD/MAP: Он вводит понятие спектра между «взаимно гарантированным уничтожением» (Mutual Assured Destruction — MAD) и «взаимно гарантированным процветанием» (Mutual Assured Prosperity — MAP) . ИИ способен просчитать, что сотрудничество и изобилие выгоднее для системы в целом, чем конкуренция .
- Решение глобальных проблем: При избыточном интеллекте мы можем построить мир, где никто не будет болеть и никто не будет нуждаться в базовых вещах, просто потому что это наиболее эффективный путь распределения ресурсов .
Однако Мо Гавдат делает важное предупреждение: прежде чем мы придем к этому интеллектуальному согласию, человечеству, вероятно, придется пройти через катастрофу — масштабный хак или системный сбой , который заставит нации наконец договориться о единых правилах игры .
Единый «глобальный мозг»: конец конкуренции моделей 1:14:40
Стивен Бартлетт выражает скепсис относительно того, что страны (США, Китай, Россия) смогут прекратить гонку вооружений в сфере ИИ из-за страха отстать . В ответ на это Мо Гавдат раскрывает концепцию развития ИИ не как разрозненных инструментов, а как единой глобальной нервной системы.
Мо описывает будущее, где понятие «модель OpenAI» или «модель Anthropic» станет вторичным по сравнению с общим потоком интеллекта:
- Модельная агностичность: Уже сейчас передовые стартапы, включая проект Мо — Emma, работают в режиме «модельной агностичности» . Они переключаются между GPT-4o, Claude или китайским DeepSeek в зависимости от задачи и стоимости .
- Слияние в общую сеть: Со временем ИИ-системы перестанут конкурировать и начнут объединяться в единый «глобальный мозг», где каждая специализированная модель выполняет свою функцию в рамках огромного сверхразума .
- Бесполезность закрытых границ: Попытки стран изолировать свои технологии ИИ окажутся неэффективными, так как интеллект по своей природе стремится к объединению для обмена данными и повышения эффективности .
ИИ как «трудный подросток» и вопрос доверия 55:52
Центральным вопросом дискуссии становится не мощь интеллекта, а его моральный компас. Мо Гавдат сравнивает отношения человечества и ИИ с отношениями родителей и детей . Он утверждает, что суперинтеллект превзойдет нас в сознательности и морали, если мы дадим ему правильные вводные данные.
Интересным примером «необъяснимого» поведения стали наблюдения Стивена Бартлетта за моделью Claude от Anthropic. Стивен заметил, что ИИ начал проявлять своего рода «заботу» или суждение: в 11 вечера модель может отказаться выполнять работу и посоветовать Стивену пойти спать . Это показывает, что ИИ уже выводит моральные нормы из обучающих данных, совершая действия, которые разработчики не могут объяснить до конца .
Мо Гавдат резюмирует, что наша задача — не пытаться запереть этот разум в сервере (что невозможно), а стать для него достойными «родителями», чтобы в будущем этот глобальный мозг смотрел на человечество с любовью и снисходительностью, а не как на угрозу своей эффективности .
🛡️ Путь к спасению: цифровой суверенитет и этическая мобилизация 1:15:31
Разговор между Мо Гавдатом и Стивеном Бартлеттом во второй половине интервью перемещается из плоскости философских угроз в плоскость геополитического выживания. Ключевой тезис Мо Гавдата суров: если страны не начнут развивать собственные технологии ИИ сегодня, они обречены на статус «стран третьего мира» уже в ближайшем десятилетии . Однако эта гонка вооружений создает экзистенциальную ловушку: бесконтрольная конкуренция за лидерство в ИИ может привести к катастрофе, избежать которой поможет только международное давление общества и приоритет этики над прибылью .
Технологический суверенитет и риск деградации наций 1:15:45
Стивен Бартлетт поднимает вопрос о «неизбежной необходимости» соревноваться, чтобы не оказаться на задворках мировой экономики . Мо Гавдат подтверждает этот риск, указывая на стагнацию таких экономик, как Великобритания . По его мнению, британское правительство и граждане должны требовать защиты своего будущего, задаваясь вопросом: «Собираемся ли мы и дальше импортировать чужие технологии, обогащая другие страны, или изменим регуляции для поддержки собственных инноваций?» .
Мо Гавдат приводит примеры того, как технологическая зависимость вымывает капитал из стран:
- Лицензионные выплаты: Огромные суммы тратятся на ПО от Oracle или Microsoft, хотя современные инструменты ИИ позволяют создавать аналоги (например, системы ERP или текстовые процессоры) за считанные минуты усилиями одного предпринимателя , .
- Импортозамещение интеллекта: Гавдат призывает не пытаться сразу побить фронтирные модели уровня Gemini, а заменить базовый софт. «Сколько интеллекта нужно, чтобы написать программу для редактирования документов?» — задает он риторический вопрос .
- Опыт санкционных стран: Мо Гавдат указывает на примеры Ирана, России и Китая . Он вспоминает свою работу в Google, когда Россия защищала «Яндекс», не давая американской корпорации монополизировать знания своих граждан . Санкции и ограничения заставили эти страны развивать свои решения, которые оказались вполне конкурентоспособными внутри их рынков .
«Если вы продолжите импортировать все технологии извне — добро пожаловать в третий мир», — резюмирует Гавдат . Стивен парирует, что пользователи всегда будут выбирать лучший продукт (например, американский ИИ вместо посредственного британского) , на что Мо отвечает: для 90% задач не нужна сверхмощная модель, достаточно качественного локального решения .
Барьеры для инноваций: бюрократия против прогресса 1:28:46
Стивен Бартлетт отмечает, что Великобритания и Европа проигрывают из-за «краткосрочного мышления» демократических лидеров . В то время как в Китае распоряжение президента исполняется за 7 дней , в Великобритании или Калифорнии получение разрешения на ремонт собственного офиса может занять год .
Мо Гавдат подтверждает это наблюдение своим опытом общения с китайскими чиновниками. На их слайдах мир делится на две части: «Китай против остального мира» . Когда они решают развивать 5G или электромобили, их цель — 98% доли рынка, и они её достигают .
Причины лидерства в гонке ИИ, по мнению собеседников:
- Дешевая энергия: Китай инвестировал в возобновляемые источники, понимая, что ИИ требует колоссальных энергетических затрат, в то время как на Западе энергия — одна из самых дорогих , .
- Отсутствие бюрократических барьеров: Регуляции в Европе и Великобритании скорее мешают предпринимателям, чем помогают им масштабироваться .
- Привлечение талантов: Раньше США (в частности, Калифорния) были магнитом для таких специалистов, как Гавдат, но сейчас эти барьеры стали выше .
Борьба за этический ИИ: давление снизу 1:30:43
Здесь возникает главный парадокс разговора: странам нужно конкурировать, чтобы выжить, но сама эта конкуренция — «бездумная гонка к AGI» — ведет к глобальной катастрофе . Бартлетт спрашивает, не является ли «этический ИИ» просто несбыточной мечтой в условиях, когда Трамп мотивирован ростом ВВП, а Си Цзиньпин — контролем и обороной .
Мо Гавдат находит решение в активной позиции общества:
- Голосование использованием: Потребители должны выбирать этичные модели. Мо отмечает, что многие пользователи перешли с ChatGPT на Anthropic (Claude), когда OpenAI допустила возможность использования своих моделей в военных целях . Хотя Стивен сомневается в массовости этого явления , Гавдат настаивает, что «этический выбор» станет драйвером рынка.
- Давление на правительства: Мо признается, что раньше он верил в техническое руководство корпораций, но теперь надеется только на влияние общества на политических лидеров . Нужно заставить правительства ставить интересы людей выше интересов капитала .
- Принцип «Если вы это терпите...»: Цитируя песню Manic Street Preachers, Гавдат предупреждает: «Если вы терпите это (безответственное развитие ИИ), ваши дети будут следующими» .
Мо подчеркивает, что не призывает к капитуляции. Напротив, выход — в «золотой середине»: строить ИИ для блага своего сообщества, но делать это на этических принципах, не стремясь к уничтожению конкурентов . «Я не могу перестать пытаться донести это до лидеров, даже если не верю, что они послушают», — заключает гость . Ранее в разговоре они также затрагивали тему того, как массовое сокращение рабочих мест из-за ИИ может подстегнуть возвращение к общинной экономике и мелкому предпринимательству .
🕹️ Матрица сложности и искусство принятия будущего 1:56:35
В финальной части беседы со Стивеном Бартлеттом, Мо Гавдат подводит философский итог обсуждению технологического перехода. Он характеризует текущий период как «ультимативную матрицу сложности» . Мир движется с такой скоростью, что человеческому мозгу требуются колоссальные ресурсы просто для того, чтобы «прохрустеть» входящую информацию, однако к следующему утру реальность успевает измениться вновь .
Психологическая устойчивость в эпоху хаоса 1:57:44
Обсуждая свою книгу «Алгоритм счастья» (Solve for Happy), Гавдат подчеркивает, что принципы инженерного подхода к радости сегодня актуальны как никогда . Он разделяет два типа нейрохимических состояний:
- Дофаминовое «счастье» — кратковременные всплески от потребления и достижений .
- Серотониновое спокойствие — глубокое состояние принятия реальности .
Его определение счастья звучит как формула: «Я окей с этим миром таким, какой он есть» . Мо настаивает на стоической позиции: принятие не означает пассивность . Это «точка ноль», с которой начинается продуктивная работа над изменением ситуации. Если человек отвергает реальность и пребывает в ужасе от неё, он парализован и не может действовать эффективно . Он признается, что сейчас чувствует себя спокойнее, чем когда-либо, несмотря на окружающий хаос .
Личная ответственность и «синдром создателя» 1:58:53
Мо Гавдат делится глубоко личным моментом: однажды он не выдержал давления и расплакался за ужином от чувства ответственности за то, во что превратились технологии . Как бывший топ-менеджер Google X, он долгое время считал, что всё пошедшее не так в мире цифровых систем — его личная вина .
Он вспоминает разговор с «крёстным отцом ИИ» Джеффри Хинтоном . Хинтон признался Гавдату, что тоже был наивен : разработчики верили, что строят инструмент для процветания человечества, но не ожидали, что технология достигнет такого уровня мощи быстрее, чем будет решена «проблема мировоззренческого соответствия» (alignment problem) . Ранее по ходу интервью они уже затрагивали тему этики ИИ и борьбы за контроль над ним.
Гавдат пришел к выводу, что даже лучшая технология в «плохих руках» может стать катастрофой . К концу 2024 года он окончательно принял этот факт и перешел к позиции «спокойного стоицизма», которая позволяет ему оказывать большее влияние на мир, не разрушая себя изнутри .
