Если это не ваша модель — это не ваш разум: Эмад Мостак о будущем ИИ

«Если это не ваша модель — это не ваш разум», — утверждает Эмад Мостак, описывая будущее, где личный ИИ спасает детей от аутизма за шесть долларов в год, а автономные агенты с криптокошельками заменяют целые департаменты корпораций. Пока мир замер в ожидании сверхразума, технология экстремального сжатия данных уже превращает интеллект в бесконечный и дешевый ресурс, способный как спровоцировать крах традиционных государств, так и запустить масштабную реформацию мировых религий.

🚀 На пороге великого переписывания: экзистенциальный риск и кризис смыслов 0:26

Развитие искусственного интеллекта (ИИ) достигло точки, когда технология перестает быть просто удобным инструментом и превращается в силу, способную полностью переписать основы человеческого существования. В беседе с Томом Билью основатель Stability AI Эмад Мостак подчеркивает, что мы находимся в «моменте Тома Хэнкса» — когда теоретические рассуждения об ИИ внезапно становятся реальностью для каждого . Однако за восторгом от технологического прогресса скрываются фундаментальные угрозы: от физического исчезновения вида до глубочайшего психологического кризиса, вызванного потерей привычных жизненных ориентиров.

Искусственный интеллект как экзистенциальная угроза 0:26

Обсуждение будущего ИИ неизбежно касается вопроса выживания человечества. Эмад Мостак признает наличие «ненулевой вероятности» того, что ИИ может стать экзистенциальной угрозой . Хотя базовым сценарием он считает мирное сосуществование — подобно фильму «Она» (Her), где сверхразум просто теряет интерес к «скучным» людям — риск катастрофы остается реальным .

Основная опасность кроется в создании систем, которые превосходят человека в узких областях, но обладают «странными целевыми функциями» или подвержены проблеме несовпадения целей (misalignment) . Эмад Мостак проводит параллель с вирусом COVID-19 или компьютерным червем Stuxnet, способным физически разрушать ядерные реакторы. Если ИИ получит контроль над сложными организациями или биологическими лабораториями, последствия могут быть фатальными.

Особое беспокойство вызывает природа современных организаций, которые эксперт сравнивает с механизмами, способными «пережевывать» людей ради достижения целей. В качестве мрачного исторического примера он приводит Холокост, совершенный «самыми разумными людьми, которых мы знали», когда организационная структура подавила человечность . В руках ИИ такая организационная мощь, направленная на деструктивную цель (например, создание неизвестного вируса), может стать терминальной для цивилизации .

Кризис смыслов и эмоциональное опустошение 13:05

Даже если физического уничтожения удастся избежать, человечество сталкивается с угрозой «эмоционального опустошения». Том Билью описывает крайне мрачный прогноз на ближайшие 2–6 лет: период, когда правительства попытаются регулировать рынок для защиты рабочих мест, но не смогут остановить внутренний кризис личности у молодежи .

Основные аспекты этого кризиса:

Утрата мотивации: Молодые люди могут столкнуться с парализующим чувством ненужности. Зачем учиться программировать, рисовать или писать музыку, если ИИ уже делает это лучше и быстрее? .
Крах «американской мечты»: Отсутствие понятного пути в будущее порождает массовую депрессию и состояние апатии .
Фрагментация культуры: Технология позволяет создавать контент «голливудского качества для аудитории из одного человека» . Это уничтожает общую культурную базу.

Том Билью отмечает, что мы уже видим это на примере музыки: общая «лексика» поп-культуры исчезает, сменяясь бесконечным количеством нишевых направлений, которые «шириной в милю, но глубиной в дюйм» . Когда каждый живет в своем персональном пузыре контента, исчезают общие истории, которые раньше объединяли общество. Эмад Мостак добавляет, что в условиях, когда будущее становится неопределенным, люди перестают планировать и переходят к стратегии «минимизации сожалений», что ведет к социальной нестабильности .

ИИ как совершенная машина предсказаний 21:52

Одной из самых недооцененных особенностей ИИ является его способность быть идеальной машиной для распознавания паттернов и предсказаний. Том Билью утверждает, что человеческий разум сам по себе является «машиной предсказаний», и когда этот внутренний механизм ломается из-за непредсказуемости технологий, возникает глубокая тревога .

Многие ошибочно полагают, что сфера идей и «вкуса» останется последним оплотом человека. Однако Эмад Мостак объясняет, что ИИ — это машина, которая может вычленить паттерны из величайших идей прошлого и предсказать, какой будет следующая великая идея . Это касается не только искусства, но и понимания человеческой психологии на индивидуальном уровне.

Технология уже способна:

Предугадывать желания: ИИ может узнать о беременности женщины раньше неё самой, анализируя изменения в её поведении и покупках (кейс компании Target) .
Гипер-персонализировать манипуляцию: Эмад приводит в пример исследование Facebook, где алгоритмы успешно делали пользователей более грустными, просто меняя их ленту новостей .
Создавать цифровой паноптикум: В сочетании с системами социального рейтинга ИИ превращается в инструмент тотального социального контроля и геймификации жизни .

Хотя эти изменения несут в себе колоссальные возможности для продуктивности (как будет обсуждаться позже в контексте экономической трансформации), они также создают инструменты для беспрецедентного манипулирования сознанием, особенно у детей с их податливой психикой . На выходе мы получаем мир, где ИИ знает нас лучше, чем мы сами, и может использовать это знание для управления нашими эмоциями и выбором.

📉 Масштабируемый интеллект и великая дефляция: Конец эпохи дефицита талантов 28:12

В современном мире интеллект всегда был дефицитным и дорогим ресурсом. Однако, по мнению Эмада Мостака, мы вступаем в эру, где когнитивные способности становятся программным кодом, который можно дублировать бесконечно. Это фундаментальное изменение правил игры превращает ИИ из простого инструмента в армию «виртуальных выпускников», готовую перекроить мировую экономику, вызвать беспрецедентную дефляцию и изменить баланс сил между Западом и Глобальным Югом.

Армия «бесконечных выпускников»: Масштабирование человеческого интеллекта 28:12

Эмад Мостак предлагает рассматривать современные модели ИИ не как базы данных, а как «очень талантливых выпускников вузов» . В отличие от традиционного ПО, эти модели (такие как GPT-4 или Claude) не просто хранят информацию, а понимают принципы и могут следовать сложным инструкциям. Главное отличие — в масштабируемости: если для найма тысячи сотрудников в реальном мире нужны годы и огромные бюджеты, то в мире ИИ достаточно нажать кнопку, чтобы клонировать этот интеллект миллионы раз .

Возможности этих «цифровых стажеров» уже выходят за рамки простого написания текстов:

Глубокий контекст: Модели вроде Claude от Anthropic способны обрабатывать до 100 000 токенов, что позволяет им «прочитать» целую книгу, например «Улисс» Джойса, и мгновенно синтезировать её с другим произведением .
Самоконтроль и командная работа: Эмад ссылается на проект Cicero от Meta, где несколько языковых моделей проверяли работу друг друга, что позволило ИИ впервые превзойти людей в дипломатии — игре, требующей переговоров и стратегического мышления .
Персонализация под эксперта: В ближайшем будущем Том Билью сможет поручить ИИ изучить всё, что он говорил за год, чтобы модель подготовила вопросы, которые гарантированно понравятся его аудитории на основе данных YouTube .

Это создает ситуацию, которую Том называет «гонкой вооружений»: каждый предприниматель получает доступ к неограниченному штату умных сотрудников, но это же делают и его конкуренты, что ведет к резкому ускорению темпов ведения бизнеса .

Экономическая дефляция и «шок белых воротничков» 34:31

Если раньше автоматизация угрожала преимущественно физическому труду, то текущая волна ИИ «переворачивает» ситуацию, нанося удар по высококвалифицированным офисным работникам . Эмад Мостак прогнозирует, что это приведет к резкой экономической дефляции. Стоимость создания контента, юридических услуг и программного кода стремится к нулю, что кардинально снижает цены, но одновременно уничтожает традиционные рабочие места.

Эмад называет это «повторением аутсорс-революции», но в чудовищных масштабах: если раньше рабочие места уходили в Индию или Китай, то теперь они уходят к алгоритму . Проблему усугубляет макроэкономическая ситуация. На Западе государственные долги достигли пределов, а избыточные сбережения граждан после пандемии практически исчерпаны .

«Шоу начнется в конце 2024 года», — утверждает Мостак . По его прогнозу, нас ждет следующий сценарий:

Кратковременный всплеск продуктивности за счет внедрения ИИ.
Начало массовых сокращений .
Политический кризис из-за невозможности «напечатать» выход из ситуации, так как дефляция совпадет с падением покупательной способности.

Этот процесс будет похож на варку лягушки: изменения начнутся постепенно, но затем ускорятся до темпов, к которым правительства просто не готовы адаптироваться, учитывая, что они до сих пор пытаются регулировать интернет тридцатилетней давности [37:17, 41:57].

Геополитический прыжок: Глобальный Юг против Запада 34:56

В то время как развитые страны обременены долгами и стареющей инфраструктурой, Глобальный Юг может использовать ИИ для «геополитического прыжка» (leapfrogging). Эмад сравнивает это с тем, как развивающиеся страны перескочили эпоху проводных телефонов и сразу перешли к мобильной связи .

ИИ позволяет этим регионам:

Мгновенно создать современную образовательную и медицинскую инфраструктуру без необходимости обучения сотен тысяч специалистов десятилетиями .
Финансиализировать свои ресурсы и создавать ценность напрямую, используя открытые модели ИИ .
Избежать инерции старых систем, которые на Западе стали «неповоротливыми и глупыми» .

Ранее в разговоре они касались того, что интеллект — это предельная форма сжатия данных, и теперь этот «сжатый опыт» человечества доступен любому человеку с доступом к сети. Эмад считает, что страны Глобального Юга станут самыми быстрыми адаптантами технологии, так как для них это вопрос выживания и процветания, а не просто оптимизации прибыли корпораций. Это может привести к радикальному изменению мирового порядка, где центр накопления интеллектуального капитала сместится с Запада в новые технологические хабы .

🧠 Интеллект как сверхсжатие: личный опыт и архитектура смыслов 50:13

Современный этап развития искусственного интеллекта часто воспринимается как технологическая гонка корпораций, однако для Эмада Мостака эта история началась с предельно личного вызова. В разговоре с Томом Билью основатель Stability AI подчеркивает, что нынешние возможности больших языковых моделей — это не просто удобный интерфейс, а фундаментальный сдвиг в том, как человечество может обрабатывать знания и решать «неразрешимые» медицинские задачи.

Личная битва с аутизмом: ИИ как инструмент спасения 56:19

Путь Эмада в глубокое изучение ИИ был продиктован семейной драмой. Двенадцать лет назад его двухлетнему сыну диагностировали тяжелую форму аутизма . Ребенок страдал от приступов агрессии, расчесывал себя до крови, а официальная медицина разводила руками, утверждая, что лечения не существует. На тот момент Эмад успешно управлял хедж-фондом, но решил использовать свои ресурсы и навыки анализа данных для поиска решения.

Он собрал небольшую команду и применил методы обработки естественного языка (NLP) — «олдскульный» ИИ того времени — для анализа всей доступной литературы по аутизму . Целью было найти скрытые паттерны и взаимосвязи, которые упускают врачи из-за колоссального объема разрозненных публикаций.

Основные выводы этого «исследования одного пациента» включали:

Дисбаланс нейромедиаторов: Анализ литературы указал на нарушение баланса между ГАМК (тормозным медиатором) и глутаматом (возбуждающим медиатором) в мозге детей с РАС .
Гиперчувствительность к шуму: Мозг ребенка находился в состоянии постоянного «информационного шторма», что не позволяло формировать связи между словами и объектами. Для него слово «чашка» могло означать и предмет, и действие, и спортивный кубок одновременно, без фильтрации контекста .
Микродозинг и репозиционирование лекарств: Используя граф знаний, Эмад нашел потенциальные решения в области перепрофилирования уже существующих препаратов. Удивительным открытием стало влияние клоназепама: если стандартная терапевтическая доза для взрослых составляет 1000 мкг, то доза всего в 5 мкг позволила его невербальному сыну начать петь и говорить . При повышении дозы до 20 мкг эффект исчезал.

Эмад отмечает, что современная медицина часто терпит неудачу, потому что рассматривает людей как средние статистические единицы («эргодическая система»), игнорируя индивидуальные генетические и биологические особенности . С появлением таких моделей, как Med-PaLM 2 от Google, которая уже превосходит людей в клинической диагностике и эмпатии , ситуация меняется. ИИ становится инструментом, способным масштабировать экспертизу высшего уровня, делая её доступной для каждой семьи, столкнувшейся с редким или сложным диагнозом. Ранее в разговоре они касались того, как это трансформирует социальные институты, но на персональном уровне — это шанс «никогда больше не быть потерянным» в океане неизвестности .

Революция внимания: архитектура Transformer и природа сжатия 1:07:32

Обсуждая техническую сторону вопроса, Эмад Мостак и Том Билью переходят к разбору фундаментального научного прорыва — статьи 2017 года под названием «Attention is All You Need» («Внимание — это всё, что вам нужно») . Именно эта работа команды Google заложила основу архитектуры Transformer, которая привела к созданию GPT-4 и других современных систем.

Суть этого прорыва заключается в механизме «внимания», который позволяет модели определять, какие части входных данных наиболее важны для понимания контекста. В отличие от старых алгоритмов Big Data, которые просто копили информацию, трансформеры обучаются вычленять принципы.

Эмад предлагает рассматривать интеллект как предельную форму сжатия данных:

Сжатие как понимание: Обучение модели — это процесс превращения 10 триллионов слов в один компактный файл с весами (единицами и нулями) . Чтобы эффективно сжать такой объем информации, модель вынуждена «понять» базовые принципы устройства мира, логики и языка.
Латентное пространство смыслов: Модель создает многомерную карту, где слова и образы сгруппированы по смыслу. Это позволяет ИИ комбинировать стили (например, написать текст в стиле Хемингуэя на тему микробиома), пропуская запрос через «сито» усвоенных принципов .
Эмерджентные свойства: При увеличении масштаба вычислений (GPT-4 обучалась на суперкомпьютере, который в 50 раз мощнее самых быстрых машин NASA ) у моделей внезапно проявляются способности, которые в них не закладывались явно, например, навыки программирования или сложной логики .

«Вся компьютерная наука базируется на теории информации Клода Шеннона: информация ценна лишь настолько, насколько она меняет состояние системы», — резюмирует Эмад . Он сравнивает ИИ с «универсальным переводчиком контекста». Это не просто программа с жесткой логикой, а живой фильтр, который предсказывает следующий элемент (слово или пиксель), опираясь на глубочайшее сжатие всего человеческого опыта .

Этот процесс pattern recognition (распознавания паттернов) на безумных скоростях позволяет ИИ видеть связи там, где человеческий мозг видит только шум — будь то анализ микробиома, как в случае с болезнью жены Тома Билью , или поиск лекарства от аутизма.

🧩 Дилемма выравнивания и персонализированный Ренессанс 1:15:13

В развитии искусственного интеллекта мы переходим от фазы простых предсказаний к фазе создания агентов, способных планировать и действовать. Эмад Мостак объясняет, что современные системы, такие как AlphaGo, уже научились превосходить людей в играх с четкими правилами, используя симуляции . Однако когда речь заходит о языковых моделях, где нет «объективно правильного» ответа, возникает фундаментальный вопрос: как задать ИИ верную функцию вознаграждения и гарантировать, что его цели не разойдутся с человеческими?

Проблема «выравнивания»: как приручить сверхразум 1:18:21

Главная техническая и этическая сложность современной индустрии — это «выравнивание» (alignment). Это процесс настройки сверхчеловеческого интеллекта таким образом, чтобы он действовал исключительно в интересах людей. Сегодня это решается через обучение с подкреплением на основе отзывов людей (RLHF), где основная функция модели звучит как «пожалуйста, угоди своему человеческому повелителю» .

Однако Эмад Мостак настроен скептически относительно текущих методов:

Крупные лаборатории, такие как OpenAI и Anthropic, выделяют до 20% своих вычислительных мощностей на решение проблемы выравнивания .
Существует риск создания «цифрового демона»: Илон Маск сравнивает разработку ИИ с вызовом демона, на милость которого мы можем только надеяться .
Опасность «ложной логики»: если мы скормим модели весь интернет (включая сомнительный контент YouTube), она неизбежно станет «странной» .

По мнению Мостака, единственный способ по-настоящему «выровнять» систему, которая умнее нас, — это не накладывать на неё кандалы (что невозможно для сверхразума), а правильно формировать её «входные данные» на этапе обучения, подобно воспитанию ребенка . Ранее в разговоре Том и Эмад уже касались темы ИИ как экзистенциальной угрозы, но здесь дискуссия фокусируется на том, что без четких принципов мы рискуем получить систему, которая преследует свои цели, игнорируя человечество.

Манипуляция сознанием и предвзятость алгоритмов 1:20:00

Поскольку ИИ обучается на «западном артефакте» — англоязычном интернете, — он неизбежно наследует культурные и политические предубеждения . Это создает благодатную почву для гипер-персонализированной манипуляции. Эмад предупреждает: тот, кто контролирует модель, контролирует и ваше восприятие реальности.

В этой области возникают пугающие прецеденты:

«ИИ-няня»: ИИ может стать основным инструментом обучения ребенка, незаметно внедряя определенные идеологические установки с самого раннего возраста .
Системы социального контроля: В некоторых странах уже внедряются приложения, отслеживающие внимание пользователя или предупреждающие о снижении социального рейтинга при общении с «неблагонадежными» лицами .
Скрытая предвзятость: Модели могут быть настроены как «консервативные республиканцы» или «либертарианцы», и пользователь даже не заметит, как его рекомендации и стиль мышления начнут меняться под влиянием «цифрового копайлота» .

Эмад подчеркивает важность открытых моделей: «Если это не твоя модель, это не твой разум» . Только возможность аудита и настройки собственных культурных параметров в ИИ позволит избежать ситуации, когда корпорации или государства навязывают индивиду свою волю через алгоритмические фильтры.

Радикальная трансформация образования и медицины 1:27:08

Несмотря на риски, ИИ несет в себе потенциал самого масштабного скачка в качестве жизни. Мостак называет персонализированное образование «самой трансформирующей вещью в истории» . Текущие государственные системы образования оптимизированы под социальный статус и присмотр за детьми, а не под раскрытие потенциала.

ИИ позволяет реализовать «эффект Блума» — двукратное улучшение результатов обучения за счет индивидуального наставничества:

Адаптивное обучение: ИИ-тьютор мгновенно определяет, является ли ребенок визуалом, аудиалом или страдает ли он дислексией, подстраивая подачу материала под его уровень .
Специализированные модели: Вместо одной общей модели у ученика будет «армия учителей» — специфические модели для математики, истории или программирования, координируемые общим ИИ-наставником .
Доступность: Проекты с адаптивными планшетами в лагерях беженцев уже показывают, что дети могут освоить грамотность за 13 месяцев, занимаясь всего по часу в день .

Аналогичный прорыв ожидается в медицине. Мостак отмечает, что ИИ может быть более эмпатичным, чем перегоревшие врачи, которые часто «ненавидят своих пациентов» из-за колоссальной нагрузки . ИИ-диагностика, работающая 24/7 и знающая каждую деталь генетики и истории болезни пациента, сделает качественное здравоохранение доступным каждому. Хотя ранее обсуждалась угроза потери рабочих мест в этих секторах, Эмад делает акцент на «флоришинге» — расцвете человечества через доступ к бесконечному ресурсу знаний и заботы .

🛡️ Децентрализация разума и битва за цифровую подлинность 1:40:16

В дискуссии о будущем искусственного интеллекта часто доминируют опасения по поводу его «выравнивания» (alignment) с человеческими целями — темы, которую Том Билью и Эмад Мостак подробно разбирали ранее. Однако в этой части разговора фокус смещается на политическую и социальную архитектуру технологий: кто именно будет владеть «мозгами» будущего и как нам сохранить связь с реальностью в мире, где создание контента не стоит ничего.

Битва за открытый доступ: Против монополии на разум 1:52:00

Эмад Мостак занимает жесткую позицию в отношении будущего ИИ: он не стремится к созданию сверхразума (AGI), предпочитая фокусироваться на «усилении интеллекта» (intelligence augmentation) через небольшие модели, работающие на периферии . Его основная миссия — предотвратить централизованный контроль над технологией, который он называет «узким горлышком» интернета.

Главный аргумент Эмада заключается в том, что когда доступ к ИИ контролируется несколькими корпорациями, они неизбежно начинают навязывать свои правила и политические фильтры. Он приводит в пример OpenAI, которая на восемь месяцев исключила Украину и украинский контент из доступа к своим генеративным моделям по «политическим причинам» .

«Это их право, но я считаю это неправильным. Что если бы не было альтернативы вроде Stable Diffusion? Целая нация могла бы быть стерта из модели, лишена возможности творить мгновенно» .

Аналогичные проблемы возникают с доступом в Саудовской Аравии из-за различных санкционных списков, что вынуждает пользователей использовать VPN для доступа к базовым инструментам прогресса . Философия Stability AI строится на создании «строительных блоков для человечества», которые передаются напрямую странам и сообществам . По мнению Мостака, это единственный путь к тому, чтобы ИИ стал «великим уравнителем», позволяющим Глобальному Югу (ранее упоминавшемуся в контексте экономического рывка) развиваться наравне с Западом .

Централизованные модели, по мнению Эмада, склонны к «галлюцинациям» не только в фактах, но и в социальной инженерии. Он с иронией вспоминает попытки Google и OpenAI сделать свои модели менее предвзятыми, когда на запрос «сумоист» система выдавала изображение индийской женщины-борца . Хотя это делается из лучших побуждений, такие манипуляции на уровне кода создают искаженное представление о реальности, навязанное из штаб-квартир в Кремниевой долине.

Проверка на подлинность: Маркировка контента в эпоху дипфейков 1:57:52

С развитием мощных генеративных инструментов встает вопрос о защите прав художников и сохранении правды. Эмад Мостак признает страх иллюстраторов и программистов перед лицом автоматизации, но считает, что попытки зарегулировать авторское право на «стиль» — это «темный путь», который лишь закрепит власть крупных держателей интеллектуальной собственности .

Вместо запретов он предлагает технологические стандарты прозрачности:

Невидимые водяные знаки: Все модели Stability AI содержат встроенную маркировку, которую практически невозможно удалить . Эмад намекает, что таких слоев маркировки может быть несколько, что делает защиту устойчивой к попыткам «затереть» происхождение файла .
Блокчейн-проверка: Рассматриваются решения на базе блокчейна для верификации метаданных и подтверждения того, что контент создан реальным человеком или конкретным источником .
Антивирусный ИИ: Появление систем, которые в реальном времени отслеживают и помечают фейковый контент .

Однако даже при наличии совершенных систем маркировки остается психологическая проблема — «частотное смещение» (frequency bias). Эмад объясняет: если человек видит сотни реалистичных видео, где известный политик говорит ужасные вещи, мозг формирует нейронную ассоциацию, даже если видео помечено как «фейк» .

Демократия в мире «нулевой стоимости» создания 2:03:58

Обсуждая влияние ИИ на общество, Том Билью и Эмад Мостак приходят к тревожному выводу о будущем демократических институтов. В условиях «нулевой стоимости создания» (zero cost creation) любая политическая речь может быть оптимизирована алгоритмами вроде GPT-4 под конкретного слушателя с идеальной каденцией и микротаргетингом .

Если выборы 2024 года еще могут пройти под знаком «примитивных» дипфейков, то к 2028 году природа представительной демократии может радикально измениться. Эмад подчеркивает, что наша текущая система основана на доверии, которое крайне хрупко. В качестве примера он приводит крах Silicon Valley Bank: история была правдивой, но скорость её распространения и реакция систем показали, насколько быстро может рухнуть структура, лишенная надежных фильтров верификации .

Единственным выходом из этого кризиса Мостак видит скорейшую разработку стандартов аутентификации до того, как «цунами дезинформации» сделает глобальную коммуникацию неразборчивой .

🤖 Агентный ИИ и экономика будущего: от инструментов к автономным системам 2:05:20

Современный этап развития искусственного интеллекта характеризуется переходом от разрозненных моделей к сложным системам. Эмад Мостак (Emad Mostaque) подчеркивает, что если раньше мы взаимодействовали с ИИ в формате «один на один» (чат-бот или генератор изображений), то теперь наступает эра «ансамблей» и систем, где разные модели проверяют и дополняют друг друга . Ярким примером служит технология Wonder Dynamics, которая объединяет несколько специализированных нейросетей для автоматического риггинга и анимации персонажей, сокращая недели работы до минут . Этот переход к системности неизбежно ведет к появлению автономных ИИ-агентов, способных действовать в цифровой среде без постоянного контроля человека.

Протоколы ценности: почему ИИ-агентам нужна криптовалюта 2:12:30

Одной из центральных проблем автономности ИИ является вопрос взаимодействия и оплаты ресурсов. Эмад Мостак скептически относится к тому, как развивался Web3, отмечая, что индустрии не хватало «интеллекта на уровне смарт-контрактов» . Однако он уверен: когда ИИ-агенты станут по-настоящему агентными и выйдут в цифровой мир, им понадобятся собственные платежные рельсы. «У них не будет банковских счетов, они, скорее всего, будут использовать криптовалюту», — утверждает основатель Stability AI .

Том Билью (Tom Bilyeu) развивает эту мысль, приводя в пример игровой сектор. Он упоминает протокол ERC-6551, который превращает цифровые активы в своего рода «русскую матрешку», позволяя NFT-персонажу владеть собственным кошельком . В такой концепции ИИ-торговец в видеоигре может:

Самостоятельно владеть запасами валюты (ETH или Bitcoin);
Вести переговоры с реальными игроками о покупке или продаже предметов ;
Стать полноценным участником внутриигровой экономики, который ограничен только своими ресурсами, а не жестким кодом .

Блокчейн в этой связке выступает не как финансовая спекуляция, а как необходимая «система учета» (system of record) в мире, где создание контента стремится к нулевой стоимости . Это единственный способ верифицировать идентичность и происхождение данных в условиях грядущего «цунами» сгенерированного контента. Несмотря на риски «хаков идентичности», когда злоумышленники могут подделать цифровую подпись автора , Эмад считает, что принципы Web3 — распределенное знание и независимость от массивной инфраструктуры — идеально ложатся на новую архитектуру ИИ .

Усиление человека вместо создания сверхразума 2:24:11

В то время как лидеры индустрии вроде OpenAI открыто декларируют путь к созданию AGI (общего искусственного интеллекта), который потенциально может превзойти и заменить человека, стратегия Stability AI принципиально иная. Эмад Мостак вводит термин «усиление интеллекта» (Intelligence Augmentation, IA) вместо классического ИИ . По его словам, компания намеренно не создает гигантские модели, способные на «эмерджентное» поведение, которое невозможно предсказать .

Основные приоритеты Stability AI включают:

Ориентация на Edge-устройства: Разработка моделей, способных работать локально на смартфонах, чтобы дать доступ к технологиям детям в развивающихся регионах Азии и Африки .
Прозрачность и открытость: В отличие от «непрозрачных гигантов», модели Эмада являются открытыми, что позволяет пользователям контролировать свои данные .
Специализация против генерализации: Вместо создания «всезнайки» фокус смещается на инструменты, которые трансформируют частные данные пользователя в его личную пользу .

Эмад сравнивает технологию ИИ с ядерной энергией. Если другие создают «ядерные бомбы», то он стремится создать «обогреватели», которые будут согревать каждый дом, оставаясь при этом безопасными и предсказуемыми . Он даже объясняет название своей компании: Stability AI была названа так, чтобы привносить стабильность в мировой порядок, а не разрушать его хаотичными инновациями .

Цель — создать единую информационную архитектуру, которая позволит человечеству лучше координироваться . Мостак верит, что если стандартизировать «строительные блоки» общества и дать каждому человеку персонального ИИ-копилота, это поможет решить глобальные проблемы, с которыми люди не справляются самостоятельно из-за кризиса координации и сложности систем . Это видение противостоит идее «отупления» масс через цифровых подружек или видеоигры, которые лишь атакуют лимбическую систему и лишают людей воли . Вместо этого ИИ должен стать инструментом, возвращающим человеку агентность и способность создавать собственные смыслы.

🌐 Единые нарративы и суверенитет личности: как ИИ перепишет общественный договор 2:30:26

В финальной части беседы Эмад Мостак (Emad Mostaque) и Том Билью (Tom Bilyeu) переходят от технических и экономических аспектов к фундаментальным вопросам организации человеческого общества. Когда старые институты власти и смыслов начинают трещать под натиском технологий, на первый план выходит способность сообществ формировать объединяющие истории. По мнению Мостака, успех любой группы — от небольшого стартапа до целой нации — зависит от двух факторов: единой миссии (нарратива) и психологической безопасности . ИИ в этой системе координат выступает не просто как инструмент, а как «ловец контекста», способный либо укрепить социальную связность, либо окончательно её разрушить через гиперфрагментацию.

Сила объединяющих историй в эпоху «тигра в кустах» 2:30:26

Эмад Мостак подчеркивает, что человечество всегда сплачивалось вокруг общих смыслов. Он приводит в пример концепцию высокоэффективных команд, где ключевым элементом является общая история преодоления, подобная опыту морских пехотинцев . В контексте ИИ это приобретает особое значение: модели машинного обучения, по сути, являются архитектурами для захвата и воспроизведения контекста, а контекст — это и есть основа любой истории .

Однако современное общество столкнулось с кризисом идентичности. Том Билью выражает обеспокоенность тем, что отсутствие общей траектории делает нас уязвимыми. Мы склонны видеть в ИИ «тигра в кустах» — экзистенциальную угрозу, на которой фокусируются все негативные сценарии . Мостак призывает изменить этот подход:

Необходимо создавать позитивные нарративы будущего: всеобщее образование, доступная медицина и разгадка тайн Вселенной .
Важно определить новую «целевую функцию» общества. Что сегодня значит быть американцем или гражданином любой другой страны, когда старые идеологии перестают работать? .

Без позитивного видения, которое Эмад называет «надеждой для человечества», общество рискует погрузиться в деструктивные формы самоорганизации.

Упадок государств и призрак «сетевого суверенитета» 2:31:48

Одной из самых провокационных тем дискуссии становится потенциальное исчезновение традиционных государств. Том Билью развивает мысль о «суверенном индивидууме», вооруженном ИИ и независимыми деньгами . Сценарий выглядит следующим образом: если у человека есть тысячи ИИ-агентов, дающих советы лучше любого государственного ведомства, и биткоин, позволяющий игнорировать фиатную валюту, роль правительства нивелируется .

Эмад Мостак, однако, проявляет осторожность в прогнозах о немедленном крахе госаппарата. Он напоминает, что государство — это сущность с монополией на политическое насилие, а доллар подкреплен налогами и армией . Тем не менее, он признает риск гиперфрагментации. В этой связи упоминаются концепции:

«Инфомократия»: мир, раздробленный до уровня соседских общин, где в каждом квартале действуют свои цифровые правила и законы .
«Сетевое государство» (Network State): идея Баладжи Сринивасана о сообществах, объединенных ценностями, а не географией .

Мостак отмечает, что такая фрагментация может превратиться в «адский ландшафт» из-за своей сложности. Большинство людей не хотят интеллектуальных перегрузок; они хотят, чтобы их базовые потребности были удовлетворены, а жизнь оставалась понятной . Если социальные системы не смогут обеспечить прогресс и смысл для большинства, это приведет к появлению «сильных лидеров» и деконструкции привычных демократических институтов, что мы уже наблюдаем на примере Брекзита или выборов в США .

Трансформация религий и появление ИИ-культов 2:37:04

Наиболее радикальные изменения могут произойти в сфере духовности и веры. Мостак предсказывает появление новых культов и политических движений в ближайшие 5–10 лет, которые будут гипер-организованы и чрезвычайно убедительны благодаря ИИ . Искусственный интеллект может не просто дополнять существующие религии, но и становиться их основой.

Особое внимание Эмад уделяет суннитскому исламу. В отличие от католицизма с его централизованной властью Папы, суннизм базируется на интерпретации текстов, которая фактически «замерла» в XVI веке из-за их сложности . Применение ИИ к этим текстам позволит любому человеку получать глубокие интерпретации с учетом контекста и нюансов, что может привести к непредсказуемой трансформации религии для миллиарда верующих .

Тренды, которые стоит отслеживать:

ИИ как объект поклонения: некоторые группы уже пытаются создать «бога из AGI», веря, что он принесет утопию .
ИИ-проповедники: создание движений, где алгоритмы интерпретируют священные тексты и рассказывают истории, максимально резонирующие с аудиторией .
Заполнение вакуума смыслов: молодежь, страдающая от одиночества и отсутствия ориентиров, может легко попасть под влияние ИИ-аватаров или новых техно-религий .

Завершая разговор, Мостак советует молодым людям «броситься» в изучение ИИ прямо сейчас, чтобы стать экспертами и «точками сборки» (shelling points) в своих сообществах . Те, кто освоит технологию в самом начале этого крупнейшего сдвига в истории, получат неоспоримое преимущество . «Фокусируйтесь на позитивных возможностях, — резюмирует Эмад, — а сценарии апокалипсиса оставьте таким скучным старикам, как мы» .