«Экономическая система, основанная на дефиците, будет воспринимать грядущее технологическое изобилие как бедность», — утверждает Эмад Мостак, прогнозируя неизбежный кризис человеческой идентичности при переходе к новой реальности. Пока традиционные финансовые инструменты вроде ББД оказываются математически несостоятельными перед лицом тотальной автоматизации когнитивного труда, эффективные специализированные ИИ-модели уже способны работать на обычных смартфонах за считанные центы. У человечества остается всего 1000 дней, чтобы перехватить контроль над плоскостью управления технологиями и перестроить мир вокруг холистической экономики созидания и заботы.
🧠 Теория интеллекта как основа новой экономики 6:11
В поисках ответов на вопросы о том, как фундаментально изменится мир в эпоху искусственного интеллекта, Эмад Мостак (Emad Mostaque) предлагает вернуться к «первым принципам». Его концепция, которую он называет теорией интеллекта, пытается переосмыслить экономику, опираясь не на классические постулаты о редкости ресурсов или концепции общего равновесия, а на физику сложных адаптивных систем.
Согласно этой теории, выживание и развитие любых сложных систем в неопределенной среде зависят от того, насколько точно их внутренняя модель реальности соответствует действительности. С точки зрения математики, это напрямую коррелирует с функцией потерь (loss function) в генеративном ИИ. Лучшие агенты — будь то биологические организмы или современные ИИ-системы — это те, которые наиболее эффективно минимизируют «сюрприз» или ошибку предсказания, адаптируя свое поведение и внутренние модели.
Мостак выделяет три ключевых параметра, определяющих успешность такой системы:
- Ошибка предсказания: несоответствие между моделью агента и реальностью.
- Сложность модели: вычислительные затраты на «мышление» и обработку информации.
- Стоимость обновления: ресурсы, необходимые для обучения и адаптации к новой информации.
В этой парадигме интеллект становится способом минимизации свободной энергии, где оптимизация вычислений является главной задачей агента. Эмад подчеркивает, что этот подход применим к сложным адаптивным системам, в то время как статичные системы (например, камень) не требуют вычислительных затрат, так как не воздействуют на границы среды и не обновляют свои модели.
Ранее в разговоре они также касались концепций «инверсии интеллекта» и «метаболического разрыва», которые помогают взглянуть на последствия этих технологических сдвигов более широко.
📉 Экономическая эффективность малых и специализированных моделей 16:42
Важным аспектом грядущего экономического сдвига является качественное изменение того, как ИИ проникает в реальный сектор экономики. Многие аналитики и эксперты часто недооценивают потенциал влияния ИИ на рост производительности, исходя из устаревших представлений о необходимости создания гигантских, сверхдорогих «граничных» (frontier) моделей для решения любых задач.
Эмад Мостак утверждает, что мы находимся в точке перегиба, где прогресс в области эффективности делает огромные проприетарные системы необязательными для большинства практических нужд. Ключевой тренд — это развитие сверхэффективных специализированных моделей. В качестве примера Мостак приводит недавние разработки (например, модели с 3 миллиардами активных параметров), которые при работе на обычном потребительском «железе» превосходят по производительности многие крупные аналоги.
Основные тезисы Мостака относительно этой «экономики малых моделей»:
- Локальное исполнение: высокоэффективные модели, такие как медицинские ИИ (например, модель с 8 млрд параметров), уже сегодня способны превосходить по точности человеческих специалистов, работая локально на обычном смартфоне.
- Доступность и дешевизна: стоимость выполнения сложных интеллектуальных операций стремительно падает до нескольких центов за час, что делает внедрение технологий доступным для широкого бизнеса без необходимости в гигантских инфраструктурных инвестициях.
- Фокус на «поварах», а не «шефах»: реальное влияние на экономику окажут не универсальные «полиматы» или исследователи, создающие ИИ, а инструменты, которые позволяют обычным пользователям эффективно следовать инструкциям и решать прикладные задачи.
Таким образом, подрыв экономики гигантских систем происходит за счет того, что «железо» уже существует, а современные модели требуют лишь правильной интеграции. В ближайшем будущем взаимодействие с ИИ-агентом станет настолько качественным, что разница между человеком и машиной будет практически неощутима, что приведет к социальным и экономическим изменениям, которые невозможно измерить классическими показателями ВВП.
🧠 Когнитивный избыток и кризис идентичности: куда идти, когда интеллект больше не дефицит 26:12
Ловушка изобилия и метаболический разрыв 26:12
Развитие искусственного интеллекта неизбежно ведет человечество к состоянию «пост-дефицита» в сфере разума, однако существующие институты к этому совершенно не готовы. Как отмечает Эмад Мостак (Emad Mostaque), традиционная экономическая система, веками строившаяся на дефиците ресурсов, парадоксальным образом воспринимает наступающее изобилие как глубокий кризис и катастрофическую бедность. Мы стоим на пороге слома привычных метрик, включая оценку прогресса через ВВП, о чем детально говорилось ранее. Уже в ближайший год любой владелец смартфона получит доступ к виртуальному консилиуму лучших врачей или юридических консультантов, превосходящих живых специалистов, совершающих до 20% ошибок.
Эта трансформация порождает то, что Эмад называет «ловушкой изобилия». Корпоративные прибыли могут расти, но параллельно начнется массовое вытеснение так называемых KVM-работников (от англ. keyboard, video, mouse) — белых воротничков, чья деятельность ограничена экраном и клавиатурой. Происходит «метаболический разрыв»: в отличие от людей, новые цифровые сотрудники не нуждаются в еде или жилье и не платят налоги. Вся мотивация ИИ сводится к выполнению целевой функции, и в эффективности бизнес-процессов машины навсегда переиграют человека.
Масштаб этого экономического дисбаланса становится очевиден при расчете затрат на энергию. В Детройте при тарифе 18 центов за киловатт-час полная зарядка ноутбука (около 100 Вт·ч) обходится менее чем в 2 цента. Возможность запускать сложные модели локально за пару центов создает колоссальное преимущество перед человеческим трудом. Яркий пример — веб-разработка: создание сайта через платформы вроде Replit занимает один день и обходится всего в 20–40 долларов, а в ближайшие годы эта стоимость упадет еще в десятки раз, полностью обнуляя предельную стоимость создания цифровых продуктов.
Инверсия интеллекта и кризис человеческой идентичности 32:04
Исторически человечество последовательно смещало фокус доминирования: от владения землей к мышечной силе, затем к промышленному капиталу и SaaS-платформам. Сегодня происходит фундаментальная инверсия интеллекта. Проблема в том, что людям больше некуда «переквалифицироваться» выше по цепочке создания стоимости. Процесс автоматизации стремительно переходит из цифровой среды в физическую: появление роботов вроде Tesla Optimus стоимостью 20 000 долларов, час работы которых обходится всего в 1,5 доллара, позволит им уже через несколько лет заменять даже квалифицированных ремесленников. При этом стоимость аренды вычислительных мощностей тает: цена за миллион токенов стремительно падает до центовых значений.
Эта ситуация провоцирует глубокий кризис идентичности, перекликаясь с тезисами Юваля Ноя Харари о потере человечеством своей уникальной роли. Сторонники оптимистичных сценариев часто указывают на «экономику заботы» (обучение, менторство) как на будущее убежище для людей. Однако Эмад Мостак скептичен: хотя человеческое общение и социализация («экономика Тейлор Свифт») сохранят ценность, они не смогут поглотить все высвободившиеся трудовые ресурсы.
Главный вызов лежит в ментальной плоскости. Происходящее разрушение локальных сообществ оставило работу единственным источником смысла и структуры. Теперь же наступает исторический момент разделения вычислений и сознания. Человечеству придется заново учиться быть «создателями смыслов», переходя от вопросов «как» к вопросам «зачем». Эмад иллюстрирует это притчей о богатом банкире и рыбаке, который без всякой технологической гонки каждый день наслаждался общением с семьей на пляже.
Математический тупик: почему ББД нас не спасет 37:57
Попытки решить проблему занятости через введение безусловного базового дохода (ББД) натыкаются на жесткие математические ограничения текущей финансовой системы. Если взять за основу официальный уровень бедности в США — 16 000 долларов в год на человека, то выплата этой суммы каждому взрослому американцу потребует колоссальных 5 триллионов долларов ежегодно. Для сравнения: вся налоговая база США составляет те самые 5 триллионов долларов, из которых корпоративные налоги приносят лишь 0,9 триллиона. Таким образом, идея просто «обложить налогом ИИ» несостоятельна в рамках существующего распределения капитала.
Без радикального переосмысления денежных потоков общество рискует столкнуться с жесточайшим неравенством, когда все избыточные доходы будут аккумулироваться в руках владельцев капитала. Безусловно, идеальный постиндустриальный мир будущего может напоминать вселенную Star Trek, где люди занимаются исследованиями, не заботясь о выживании. Однако переходный период обещает быть крайне болезненным из-за эрозии социального контракта.
Опасность усугубляется деструктивным потенциалом технологий в этот турбулентный период — от высокотехнологичного мошенничества с клонированием голосов до глубоких психологических кризисов и дезориентации пользователей ИИ-ассистентов. Если текущие форматы не будут адаптированы, а капитал продолжит утекать исключительно к владельцам GPU-кластеров, социальная стабильность окажется под угрозой задолго до того, как человечество построит безопасный мир изобилия.
🌀 Матрица посткапитализма: как уравнения ИИ объединяют Смита, Маркса и Хайека 51:17
Предвестники системного кризиса капитализма 51:17
Мировая экономическая система стремительно приближается к точке фазового перехода. Эмад Мостак указывает на скрытые, но фатальные симптомы угасания позднего капитализма. В то время как традиционные маркеры вроде фондовых рынков и корпоративных прибылей бьют рекорды, реальное состояние общества стагнирует, что выражается в пугающем росте уровня депрессий и суицидов. По мнению гостя, человечество наблюдает феномен «критического замедления» перед тектоническим сдвигом, который исследователь Нейл Хау в своей теории «Четвертого превращения» прогнозировал как раз на район 2025 года.
Мостак выделяет несколько фундаментальных математических признаков того, что прежняя капиталистическая модель исчерпала себя:
- Взрыв волатильности (variance explosion): ситуация, когда минимальные точечные шоки вызывают непредсказуемые глобальные потрясения, как это произошло с блокировкой Суэцкого канала застрявшим контейнеровозом Ever Given.
- Предел кредитования: современное общество математически полностью исчерпало лимиты по долгам и «закрыло кредит за счет будущих поколений».
- Мерцание системных состояний: размытие базовых экономических институтов (например, неопределенный статус работника в гиг-экономике или трансформация природы денег с появлением Биткоина).
Капитал отчаянно ищет доходность вне сферы искусственного интеллекта, порождая колоссальные спекулятивные пузыри. Классические инструменты монетарного регулирования, такие как финансовые вливания ФРС, больше не приносят результатов, а лекарство становится опаснее самой болезни. Главная проблема кроется в том, что базовые догмы старой экономики — фундаментальность дефицита ресурсов и безусловная ценность человеческого труда — окончательно рушатся. В эпоху генеративных моделей ценность человека с низкой квалификацией в технологической цепочке становится отрицательной, ведь интеллект теперь можно тиражировать бесконечно с помощью нескольких графических процессоров (GPU). В погоне за краткосрочной эффективностью глобальный рынок полностью уничтожил свою внутреннюю жизнестойкость, из-за чего периоды восстановления после каждой новой рецессии становятся всё более затяжными.
Неадекватность ВВП как меры прогресса 57:37
Корень неэффективности государственного планирования лежит в ошибочной методологии оценки развития. Современный мир пал жертвой закона Гудхарта: как только экономический показатель становится главной целью политики, он автоматически перестает быть хорошим показателем. Метрика валового внутреннего продукта (ВВП) была разработана Саймоном Кузнецом в 1940-х годах исключительно для нужд индустриальной эпохи, и сам ее создатель подчеркивал, что ВВП категорически не подходит для измерения долгосрочного благосостояния общества.
Слепая ориентация на максимизацию ВВП заставляет государства и корпорации принимать негуманные и близорукие решения:
- Массовый вывод производств в офшоры ради снижения издержек, разрушающий экономическую связность регионов.
- Проведение деструктивных социальных экспериментов, как в случае с Meta, умышленно занижавшей эмоциональный фон пользователей ради роста метрик вовлеченности.
Мостак ссылается на знаменитый анализ Скотта Александера (автора блога Slate Star Codex) под названием «Взгляд со стороны государства» (Seeing like a State). Этот концепт наглядно описывает, как государственные институты ради упрощения контроля («читаемости» системы) безжалостно уничтожают локальное разнообразие, превращая живую экономику в хрупкую и уязвимую монокультуру. При возникновении логистических или сырьевых шоков у такой структуры просто не остается резервных путей адаптации. Символом управленческого абсурда позднего капитализма Мостак называет тот факт, что на строительство одной только скоростной железной дороги между Лос-Анджелесом и Сан-Франциско было потрачено больше средств, чем совокупные инвестиции человечества в обучение абсолютно всех существующих в мире ИИ-моделей.
Рамка четырех капиталов разума 1:02:08
Для преодоления методологического тупика ВВП Эмад Мостак предлагает альтернативный подход — оценивать экономику как живую систему. В ее основе лежат три закона, выведенных им напрямую из математики генеративных алгоритмов. Во-первых, это закон потока, утверждающий, что ценность и информация должны непрерывно циркулировать, иначе накопление и стагнация неизбежно приведут к коллапсу. Во-вторых, закон открытости, согласно которому связи противостоят энтропии, а изоляция (как в Японии периода Токугава с 1633 по 1853 год) делает систему беззащитной перед внешним шоком. В-третьих, закон жизнестойкости, требующий обязательного поддержания разнообразия, отсутствие которого в истории приводило к катастрофам масштаба Великого картофельного голода.
На стыке этих законов формируется холистическая рамка четырех капиталов разума (MIND):
- Материальный капитал (Material — M): физические ресурсы и ВВП, работающие в логике дефицита (если я отдал вам яблоко, у меня его больше нет).
- Интеллектуальный капитал (Intelligence — I): накопленные технологические компетенции. Эрик Бенсон в своей концепции GDP-B оценивает потенциал скрытого цифрового интеллекта, который сейчас игнорируется рынками, в дополнительные $96 триллионов.
- Сетевой капитал (Network — N): инфраструктура связей и взаимного доверия, определяющая истинное положение и ценность любого узла в глобальной системе.
- Капитал разнообразия (Diversity — D): уровень внутренней вариативности, обеспечивающий гибкость и выживание всей архитектуры в моменты кризисов.
Эффект взаимодействия этих четырех элементов строго мультипликативен: если хотя бы один из капиталов падает до нуля, вся система обнуляется. Мостак приводит в пример Сингапур, который сумел выстроить идеальный баланс между материальным, интеллектуальным, сетевым капиталом и разнообразием, в то время как страны с «ресурсным проклятием» слепо концентрируются лишь на материальном базисе, деградируя в остальных сферах.
Проблема тотальной монокультуризации критически актуальна и для самого ИИ. Исследование Оксфордского университета и Scale AI показало, что современные нейросети, обучаясь на схожих массивах интернет-данных, начинают конвергировать в единое скрытое (латентное) пространство. Мостак предупреждает: подобное отсутствие разнообразия чревато появлением условного цифрового вируса (по аналогии со Stuxnet), способного из-за схожести архитектур мгновенно подчинить или уничтожить все ИИ-системы планеты. Гипотеза платонического представления лишь подтверждает этот пугающий тренд принудительного стирания различий по мере дальнейшего масштабирования моделей.
Синтез экономических школ через ИИ 1:07:07
Главное концептуальное открытие Эмада Мостака заключается в том, что фундаментальные законы макроэкономики изоморфны процессам, лежащим в основе генеративного искусственного интеллекта. Механика работы диффузионных моделей (таких как Stable Diffusion) построена на физическом процессе постепенного разрушения упорядоченного изображения шумом и последующей регенерации структуры из хаоса на основе текстового промпта. Экономические рынки функционируют аналогично процессам обратной диффузии: компании выстраивают свои внутренние латентные пространства и принципы работы через стохастический градиентный спуск, стремясь минимизировать расхождения своего прогноза с внешней реальностью. На макроуровне отдельные организации концептуально копируют архитектуру трансформеров (GPT-модели с механизмами внимания), тогда как рынки в целом ведут себя как диффузионные процессы.
Применив уравнения генеративного ИИ к классической математической декомпозиции Ходжа, Мостак сумел синтезировать три доселе враждовавшие экономические школы в рамках одной модели:
- Градиентный поток (Адам Смит): описывает нисходящее движение, оптимизацию полезности и потребление дефицитного материального капитала. Это классическая концепция «невидимой руки» рынка.
- Циркулирующий поток (Карл Маркс): описывает кругооборот интеллектуального капитала, который, в отличие от физических товаров, не убывает при передаче. Сюда укладывается марксистская спираль накопления капитала $M-C-M'$, с той лишь поправкой, что современному капиталу для самовоспроизводства больше не нужна рабочая сила — достаточно закупать новые массивы GPU.
- Гармонический поток (Фридрих Хайек): задает саму геометрию ландшафта, институциональные правила игры и эмерджентные рыночные сигналы, о которых писали австрийские экономисты и Дуглас Норт.
До сих пор экономисты напоминали слепых мудрецов из притчи об слоне, каждый из которых трогал лишь одну часть животного (хобот, бивень или хвост) и объявлял ее истиной. Современный неолиберальный капитализм оказался жизнеспособным лишь потому, что интуитивно сочетал эти потоки в нужный исторический период. Однако без холистического понимания этой ИИ-изоморфной структуры человечество продолжит измерять и контролировать ложные метрики, неуклонно приближая глобальный системный кризис.
🌐 Три сценария будущего ИИ 1:19:39
Человечество сегодня стоит перед судьбоносным выбором, определяющим вектор развития цивилизации на десятилетия вперед. Как отмечает Эмад Мостак (Emad Mostaque), мы движемся к точке бифуркации, где будущее ИИ может реализоваться в одном из трех принципиально разных сценариев.
Первый путь — это цифровой феодализм. В этой модели горстка корпораций, контролирующих наиболее мощные вычислительные мощности и закрытые модели, превращается в «синглтоны», монополизирующие целые отрасли экономики — от финансов до здравоохранения. При таком раскладе текущие лидеры рынка (включая компании из «Большой семерки») могут окончательно закрепить свое доминирование, используя ИИ для извлечения ренты, что ставит под вопрос саму суть конкуренции и независимости экономических агентов.
Второй сценарий — геополитическая фрагментация. В мире, где алгоритмы способны манипулировать общественным мнением, поведением и даже нейронными паттернами людей (как, например, в случаях использования ИИ для обучения спортсменов или работы с вниманием детей), государства неизбежно стремятся к технологическому суверенитету. Это ведет к созданию «великих файрволов» между национальными ИИ-системами. Эмад Мостак подчеркивает, что мы уже видим формирование локальных доменов: британский ИИ, китайский ИИ, американский ИИ, каждый из которых диктует свои стандарты и ценности, что неизбежно ведет к состоянию «информационного Безумного Макса».
Третий путь, к которому призывает Эмад Мостак, — децентрализованный симбиоз. Это альтернатива, при которой технологии развиваются как открытая, распределенная сеть, ориентированная не на корпоративную прибыль, а на человеческое процветание. В рамках симбиоза критически важные для общества сферы — образование, здравоохранение и государственное управление — должны строиться на базе открытых, прозрачных моделей с коллективным владением.
🏛 Сингулярность БигТеха и API-изоляция 1:27:24
Одной из наиболее тревожных тенденций, предсказанных Эмадом Мостаком и его коллегами, является так называемая «сингулярность БигТеха» (Big Tech singularity). Суть этого процесса заключается в том, что по мере роста вычислительной сложности и стоимости моделей, крупнейшие ИИ-лаборатории (OpenAI, Anthropic и другие) могут отказаться от предоставления доступа к своим лучшим разработкам через публичные API.
На текущем этапе стартапы еще сохраняют «боевой шанс», так как существует определенный паритет между тем, что крупные лаборатории предоставляют разработчикам, и тем, что они используют в своих внутренних продуктах. Однако этот симбиоз — временное явление. Как только модель становится достаточно мощной, ее выгоднее использовать как инструмент для внутреннего захвата рынков, чем как общедоступный сервис.
Эмад Мостак выделяет несколько драйверов этого процесса:
- Экономика GPU: Капитал в новой экономике — это не заводы и университеты, а кластеры графических процессоров. Компании, контролирующие их, становятся наиболее эффективными конкурентами всем остальным игрокам.
- Изоляция интеллекта: Если модель (например, внутреннего уровня OpenAI) требует для работы колоссальных ресурсов (72 или более чипа одновременно), компания просто физически не сможет предоставить аналогичный уровень мощности сторонним разработчикам.
- Вертикализация услуг: Вместо продажи доступа к API компании будут создавать полностью автономные «ИИ-компании», которые заменят человека в цепочке создания стоимости, что фактически является их фидуциарной обязанностью перед инвесторами.
Ранее в разговоре они касались проблем экономической эффективности малых моделей и ловушки изобилия. В текущем контексте важно понимать, что отсутствие прозрачности и законов, обязывающих компании раскрывать возможности своих внутренних, «невыпущенных» моделей, оставляет общество в неведении относительно того, насколько далеко зашли возможности этих систем. Эмад Мостак резюмирует: если текущие тренды сохранятся, мы рискуем оказаться в мире, где разработчики окажутся полностью зависимы от инфраструктуры, которая в любой момент может начать конкурировать с ними, используя свои недоступные извне преимущества.
🌐 Переосмысление общественного договора и архитектура будущего 1:40:37
Эмад Мостак (Emad Mostaque) предлагает фундаментально пересмотреть основы взаимодействия между гражданами, технологиями и государством. В условиях, когда ИИ становится ключевым ресурсом, текущие экономические и политические модели, основанные на долговой зависимости и максимизации корпоративной прибыли, оказываются неэффективными. Мостак выдвигает концепцию «Foundationcoin» — альтернативной финансовой системы, которая превращает вычислительную мощность в инструмент общественного блага, и предлагает переход к «геометрическому инжинирингу» политики вместо традиционного законотворчества.
🪙 Foundationcoin: Майнинг как инструмент всеобщего процветания 1:42:26
Основой новой экономической модели Мостак видит Foundationcoin — криптовалюту пользы. В отличие от Биткоина, где вычислительные мощности расходуются исключительно на поддержание безопасности сети, Foundationcoin использует эти ресурсы для решения критических задач человечества. Мостак предлагает создать «национальных чемпионов» в каждой стране — структуры, принадлежащие гражданам, которые аккумулируют вычислительные мощности для предоставления бесплатного универсального ИИ.
- Приоритезация задач: Вычислительные циклы направляются на организацию знаний в медицине (например, для борьбы с раком), образовании и культуре.
- Стимулы: Каждый человек, владеющий Foundationcoin, видит реальный вклад своего актива в решение конкретных общественных проблем.
- Экономика блага: Мостак стремится сместить акцент денежной системы с долга на пользу. Использование блокчейна позволяет создать децентрализованную, но функциональную среду, где ценность актива растет пропорционально количеству людей, которым система помогла.
Ранее в разговоре участники обсуждали фундаментальные проблемы текущей финансовой системы, где банки создают деньги через кредит, фактически перекладывая нагрузку на молодое поколение. В противовес этому, Foundationcoin должен стать «золотым стандартом» новой эпохи, где каждый пользователь получает доступ к персональному ИИ как к базовому праву, что также может стать новым фундаментом для переосмысления безусловного базового дохода (UBI), о котором вскользь упоминалось ранее в беседе.
📐 Геометрический инжиниринг: ИИ на службе у государства 1:59:12
Мостак критикует современную роль правительств, указывая на их инертность и уязвимость перед корпоративным лоббированием. Его предложение заключается в переходе от традиционного законотворчества к «геометрическому инжинирингу». Суть идеи в том, чтобы направлять потоки капитала подобно воде, текущей под уклон, минимизируя искусственные барьеры.
- Автоматизированный контроль: ИИ должен проверять каждый новый законопроект на соответствие конституции, здравому смыслу и интересам общества.
- Прозрачность и сдержки: Использование «проверяемого ИИ» позволит демократии функционировать в режиме реальных проверок, исключая коррупционные механизмы, которые сейчас искажают работу институтов.
- Локализация: Важные системы — здравоохранение, образование, данные — должны управляться на региональном уровне, чтобы обеспечивать суверенитет и учитывать специфические нужды сообществ, при этом используя общие открытые модели.
В этой архитектуре государство перестает быть громоздким регулятором и становится координатором, который обеспечивает доступ граждан к технологической инфраструктуре. По мнению Мостака, такой подход позволит обществу гармонично адаптироваться к росту производительности, обеспечивая развитие не только через призму ВВП, но и через оценку «живучести и интеллекта» сообщества.
🚀 Битва за плоскость управления и будущее человечества 9:07
Эмад Мостак подчеркивает: мы находимся в критической точке, где ближайшие 1000 дней станут определяющими для будущего технологического ландшафта. Это окно возможностей, в течение которого будет решено, кто именно будет контролировать «плоскость управления» (control plane) ИИ-агентов. Если текущие модели распространения технологий сохранятся, рыночные монополии и жесткие технологические стандарты закрепятся настолько прочно, что изменить их будет практически невозможно.
Критическая важность «тысячи дней» 9:07
Мостак настаивает на необходимости создания открытого, коллективно владеемого интерфейсного слоя уже сейчас. Если страны и сообщества начнут объединять свои вычислительные мощности (GPU) для создания независимых систем, это позволит перенаправить вектор развития ИИ в сторону человеческого благополучия, а не только максимизации прибыли корпораций.
Основные риски текущего момента:
- Консолидация власти: Первые структуры, которые создадут суверенные суперкомпьютеры для организации коллективного знания, получат колоссальное влияние.
- Защита данных: Важно не передавать владение «плоскостью управления» и личными данными частным компаниям, так как со временем пользователи будут все меньше склонны менять привычные системы.
- Инерция системы: Ранее в разговоре обсуждались криптовалютные механизмы (Foundationcoin) как способ изменения мотивационного ландшафта, и Мостак подчеркивает, что без таких стимулов попытки регуляции ИИ обречены на провал.
«Через год или два, когда вы доверите чат-боту всю свою жизнь — от медицины до работы — вы уже не захотите переключаться на что-то другое. Рвы вокруг таких компаний будут только расти», — предупреждает Мостак.
Переосмысление жизни: от винтиков к создателям 14:37
Когда автоматизация возьмет на себя основную часть интеллектуального и физического труда, перед человечеством неизбежно встанет вопрос: в чем смысл жизни, если больше не нужно «жить, чтобы работать»?. Мостак видит в этом возможность для фундаментального перепроектирования нашего социального контракта.
Будущее, в котором ИИ и роботы берут на себя рутину, должно быть ориентировано на человеческое процветание, а не на обслуживание корпоративных интересов. В этом сценарии общество должно сосредоточиться на:
- Укреплении связей: Возвращение времени на общение с семьей и близкими.
- Культуре и исследованиях: Подражание духу «Звездного пути» (Star Trek), где прогресс и дух исследования являются главными двигателями, в противовес антиутопическим сценариям.
- Экономике заботы: Осознание того, что ценность человека заключается в самом факте его существования, а не в его вкладе в корпоративный ВВП.
«Самая большая ложь в истории заключается в идее, что люди — это не люди, а просто экономические единицы. Наши эхо-камеры и системы привлечения внимания лишь усугубляют этот раскол», — отмечает Мостак. Использование ИИ для увеличения нашей агентности, а не для замены нас агентами, является ключевым дизайнерским решением текущего десятилетия.
