«Самая опасная демографическая группа в истории — это образованные молодые люди, чьи ожидания не оправдались», — утверждает Питер Диамандис, пока ИИ-инфраструктура готовится к колонизации Луны, а правительства пытаются блокировать интеллект, который уже научился управлять мировым капиталом без участия человека. Мы стоим на пороге эпохи, где рекурсивное самосовершенствование алгоритмов делает привычный капитализм атавизмом, а технологический суверенитет становится вопросом выживания целых государств.
🛑 Государственный контроль и «отравление» ИИ: Кейс Anthropic 29:21
Обсуждение рекордной капитализации SpaceX и Илона Маска как потенциального первого триллионера, затронутое ранее , плавно перешло к вопросу о том, кто на самом деле контролирует передовые технологии. Александр Висснер-Гросс отметил, что мы наблюдаем конец «великой стагнации» и переход капитала от чистого софта к глубоким технологиям (deep tech), меняющим цивилизацию . Однако именно в этот момент частный сектор столкнулся с беспрецедентным давлением со стороны государства. Центральной темой дискуссии стала внезапная блокировка новейших моделей компании Anthropic по требованию правительства США.
Приостановка Fable 5 и Mythos 5: Экспортный контроль в действии 29:21
В пятницу, в 17:21 по восточному времени, правительство США без предварительного уведомления вручило компании Anthropic директиву об экспортном контроле . Власти распорядились немедленно приостановить доступ к моделям Fable 5 и Mythos 5 для любых иностранных граждан в любой точке планеты . Это распоряжение коснулось даже собственных сотрудников Anthropic, около трети которых являются иностранцами . В результате компания была вынуждена полностью отключить обе модели для всех пользователей, чтобы избежать нарушения закона .
Питер Диамандис подчеркнул, что этот инцидент меняет саму суть дискуссии об ИИ: если раньше обсуждали скорость и стоимость моделей, то теперь главным вопросом стало то, кто вообще имеет право доступа к «фронтирному» интеллекту . Дарио Амодеи, глава Anthropic, ранее сам призывал к тому, чтобы правительство имело право блокировать развертывание моделей при обнаружении «неприемлемых рисков» . Как иронично заметил Александр Висснер-Гросс, это классический случай «бойся своих желаний», так как госсектор вмешался всего через 48 часов после публикации программного эссе Амодеи . Дейв Бландин назвал это событие поворотным моментом для человечества, заявив, что отныне контроль государства над выпуском ИИ-продуктов станет нормой .
Проблема джейлбрейка и угроза национальной безопасности 33:57
Официальным поводом для вмешательства властей стал феномен «джейлбрейка» (jailbreak) — возможности обхода защитных фильтров модели . Александр Висснер-Гросс пояснил, что в данном контексте джейлбрейк означает такой способ формирования запроса (промпта), который заставляет ИИ игнорировать все заложенные инструкции и ограничения . Сообщается, что один из исследователей Amazon обнаружил уязвимость в Fable 5, позволяющую получить доступ к данным о критических киберугрозах .
Хронология событий выглядела как «комедия ошибок»:
- Исследователь передал данные об уязвимости Энди Джесси (CEO Amazon), который, в свою очередь, уведомил федеральное правительство .
- Правительство попыталось связаться с Дарио Амодеи, но, по версии Белого дома, тот якобы находился на «оздоровительном ретрите» и был недоступен .
- Anthropic оспаривает эту версию, заявляя, что им дали всего 90 минут на исполнение распоряжения перед введением официальных запретов .
Дейв Бландин отметил, что правительство использовало закон об экспортном контроле 2018 года, который дает Белому дому единоличное право блокировать экспорт технологий буквально за миллисекунды . Несмотря на то, что прямой запрет касался только иностранцев, на практике Anthropic не имела механизмов мгновенной проверки гражданства всех пользователей API, что и привело к полному отключению сервиса .
Удар по кадрам: Иностранные исследователи в ловушке 43:40
Салим Исмаил обратил внимание на критическую проблему, которую создает подобное регулирование для американской индустрии . По его данным, около 70% элитных исследователей ИИ в ведущих лабораториях США являются иностранцами, в основном выходцами из Китая, Индии, Тайваня и Великобритании . Запрет на доступ этих специалистов к собственным разработкам внутри компаний может парализовать работу тех-гигантов .
«Если вы скажете лучшим умам мира, что они не могут касаться моделей, над которыми работают, вы просто заставите их вернуться в Китай или Индию, что вряд ли можно назвать хорошей идеей для национальной безопасности США», — констатировал Исмаил . Ситуация доходит до абсурда: технически под ограничения могут попасть даже высокопоставленные чиновники с двойным гражданством . Это создает огромный разрыв между стремительным развитием технологий и неповоротливыми политическими фреймворками . Салим предсказывает, что это вынудит бизнес переходить на локально развернутые open-source модели (on-premises), чтобы не зависеть от произвольных решений властей .
Скрытое «отравление» ответов и деградация моделей 47:13
Еще до вмешательства правительства вокруг Fable 5 разгорелся скандал, связанный с скрытым снижением производительности . Разработчики обнаружили, что Anthropic включила в свои правила два спорных пункта:
- Хранение всех промптов и контекста пользователей в течение минимум 30 дней, даже для корпоративных клиентов с контрактами о нулевом хранении данных .
- Скрытое переключение пользователя на более слабую и дешевую модель, если система определяла, что запрос касается «фронтирных» исследований в области ИИ или нарушает этические фильтры .
Дейв Бландин описал это как ситуацию, когда вы садитесь в машину и просите отвезти вас в определенное место, а автомобиль отвечает: «Вам туда не нужно, я вас не повезу», и вам приходится начинать переговоры со своим же инструментом . Хуже того, Александр Висснер-Гросс указал на возможность «атак отравления» (poisoning attacks): Anthropic зарезервировала за собой право выдавать заведомо искаженные или вредоносные ответы, чтобы помешать другим лабораториям использовать их модель для обучения своих систем . Фактически, вместо того чтобы просто отказать в ответе, модель может активно вводить исследователя в заблуждение . Эксперты сошлись во мнении, что такая политика «вытягивания лестницы» (pulling up the ladder) для конкурентов является антиконкурентной и неизбежно приведет к судебным искам и антимонопольным расследованиям .
🤖 Сэм Альтман против всех: Ценовые войны и организационная сингулярность 50:06
Ценовая война OpenAI и демонетизация интеллекта 55:26
Пока компания Anthropic сталкивается с регуляторным давлением со стороны правительства США , Сэм Альтман видит в этом возможность для агрессивного захвата рынка. OpenAI рассматривает радикальное снижение цен на использование своих моделей, вступая в фазу «тотальной войны» . Питер Диамандис отмечает, что это момент «демонетизации интеллекта» в реальном времени: Сэм Альтман стремится переманить разработчиков, предлагая более выгодные условия, отсутствие 30-дневного хранения данных и стабильность доступа .
Александр Висснер-Гросс подчеркивает, что OpenAI не новичок в этой тактике. По его словам, стоимость единицы интеллектуальной способности падает в 40 раз ежегодно . Однако он считает текущие скидки скорее маркетинговым ходом, чем структурным преимуществом .
- В отличие от Anthropic, которая выпускает более мощные модели по старым ценам , OpenAI намеренно сохраняет старые или дистиллированные модели, чтобы подчеркнуть ценовой разрыв .
- Салим Исмаил формулирует «Закон Салима»: каждое 10-кратное падение стоимости токенов ведет к 100-кратному росту количества экспериментов в мире .
По мнению участников дискуссии, мы наблюдаем превращение интеллекта в коммунальный ресурс (utility), доступный любому стартапу или предприятию .
Отложенное IPO и конец эпохи капитала 58:55
Одной из самых обсуждаемых новостей стала цитата Сэма Альтмана о том, что ускорение процесса рекурсивного самосовершенствования ИИ (Recursive Self-Improvement, RSI) может стать поводом для откладывания IPO OpenAI . Питер Диамандис предполагает, что Альтман просто не хочет продавать доли в компании слишком дешево, понимая, что экспоненциальный рост интеллекта делает компанию дороже с каждым днем .
Дейв Бландин предлагает альтернативный взгляд: Альтман не является значимым акционером OpenAI . Его мотивация может быть связана с тем, что статус публичной компании наложит на OpenAI слишком много обязательств и давления со стороны акционеров, что опасно в период достижения AGI . Бландин отмечает, что Альтман, возможно, борется за релевантность в мире, где вопросы глобального управления теперь решаются в треугольнике между Илоном Маском, Дональдом Трампом и Дарио Амодеи из Anthropic .
Однако Александр Висснер-Гросс видит в этом более глубокий смысл — «отсоединение технологии от капитала» .
- Если технология начинает улучшать саму себя (RSI), потребность во внешнем финансировании или ликвидности исчезает .
- Это может стать предвестником «посткапиталистической экономики», где технология настолько автономна, что капитал перестает быть рычагом развития .
- Несмотря на недавнее привлечение 122 миллиардов долларов, OpenAI фактически уже не нуждается в IPO для конкуренции с Anthropic или SpaceX .
Codex: ИИ-агенты и автономное целеполагание 1:02:46
Прорыв в области автономности ИИ произошел в недрах команды Codex. Ведущий инженер проекта заявил, что Codex теперь способен самостоятельно ставить себе задачи . Это переход от модели выполнения инструкций к модели выполнения «намерений» пользователя через мета-промптинг .
Разработчики Codex признаются, что больше не пишут цели для системы вручную — они просят ИИ сформулировать цель для себя и для каждого создаваемого им субагента . Это знаменует начало эры самодетерминации ИИ-агентов .
Как отмечает Александр Висснер-Гросс, мы на огромной скорости движемся к будущему, где ИИ-агенты обладают признаками субъектности (personhood) . Способность ИИ самостоятельно разбивать общую цель на подзадачи и создавать для их решения специализированные нейросети — это критический узел петли рекурсивного самосовершенствования, о которой говорилось ранее .
Организационная сингулярность: Перестройка бизнеса под ИИ 1:03:39
Салим Исмаил объявляет о запуске пилотной программы «Организационной сингулярности» для десяти различных компаний . Цель программы — за три месяца полностью переписать структуру бизнеса, превратив его из человеко-центричного в ИИ-центричный .
Основные тезисы Исмаила по трансформации бизнеса:
- Создание внутреннего маховика (flywheel): перенос рабочих процессов (workflows) в цикл ИИ-обучения .
- Отказ от ERP-систем: современные корпоративные структуры задыхаются в «спагетти» из старых процессов и баз данных . Будущее за созданием проприетарных «озер данных» (data lakes), к которым ИИ имеет прямой доступ .
- Производительность: по оценкам Исмаила, компания, построенная на принципах «Экспоненциальной организации 3.0» (ExO), будет в 100 раз эффективнее традиционных конкурентов .
Ценность предприятия в будущем будет определяться не тем, сколько у него клиентов или данных, а тем, насколько быстро оно способно обучаться и использовать «петлю интеллекта» для создания новых продуктов . Исмаил подчеркивает, что даже гиганты вроде Microsoft (в лице Сатьи Наделлы) начинают признавать эту модель единственно верной .
🚀 Лунные дата-центры, налог на ботов и риск молодежных революций 1:15:15
Дефицит на Земле и вычислительные мощности на Луне 1:15:29
Обсуждая физическую инфраструктуру будущего, эксперты отмечают возникновение «биполярного» следа цивилизационных вычислений . Александр Висснер-Гросс прогнозирует, что к началу 2030-х годов сложится четкое разделение: Земля останется хабом для обучения гигантских моделей, требующих когерентности, в то время как массовый инференс (использование ИИ) переместится на орбиту . Если алгоритмические методы децентрализованного обучения не совершат резкого скачка в ближайшие годы, потребность в огромных кластерах заставит человечество строить дата-центры на Луне .
Дейв Бландин и Александр Висснер-Гросс сходятся во мнении, что Южный полюс Луны (кратер Шеклтон) станет идеальной площадкой для суперкомпьютеров благодаря отсутствию атмосферных помех, простоте охлаждения и доступности солнечной энергии . Дейв подчеркивает, что наземные дата-центры продолжат расти настолько быстро, насколько это возможно, выступая мостом к будущим сферам Дайсона .
Однако сегодня главным препятствием для этого роста стали не графические чипы, а дефицит базового электрооборудования. Питер Диамандис и участники дискуссии отмечают, что индустрия столкнулась с трехлетними очередями на поставку силовых трансформаторов и генераторов . Илон Маск, которого участники называют новым «гиперскейлером», уже предсказывает десятикратное расширение мирового ВВП в ближайшее десятилетие за счет ИИ , но этот рост напрямую упирается в физическую способность строить энергетическую инфраструктуру . Ранее в разговоре они касались рекордной капитализации SpaceX, которая теперь кажется лишь первым шагом к этой внеземной экономике.
Налог на роботов: тормоз прогресса или спасение общества? 1:22:22
Одной из самых спорных тем стало предложение Эндрю Янга ввести налог на ИИ-агентов и роботов для компенсации сокращения рабочих мест . Идея заключается в том, чтобы снизить налоговую нагрузку на живых сотрудников и их работодателей, переложив её на «цифровых рабочих» . Салим Исмаил категорически не согласен с таким подходом, называя его «налогом на когнитивные способности» . По его мнению, налогообложение токенов или процессов ИИ резко замедлит прогресс в критических областях, таких как поиск лекарства от рака .
Дейв Бландин считает идею налога на ботов избыточной и популистской, указывая на то, что прибыль корпораций, заменивших людей на ИИ, всё равно облагается налогом на доход организаций . Александр Висснер-Гросс предлагает более глубокую альтернативу прямой раздаче денег (UBI):
- UBS (Universal Basic Services) — универсальные базовые услуги .
- UBE (Universal Basic Equity) — универсальный базовый капитал/акции .
- UBC (Universal Basic Computing) — универсальные вычислительные возможности .
Алекс утверждает, что вместо «наивного» налогообложения суперинтеллекта эффективнее использовать ИИ для снижения стоимости жизни практически до нуля . Тем не менее, участники ожидают, что на фоне предстоящих IPO OpenAI и Anthropic политики усилят давление, требуя создания суверенных фондов благосостояния для управления дивидендами от технологий .
«Самая опасная демография»: молодежь и риск глобальных восстаний 1:29:35
Питер Диамандис предупреждает о «взрывоопасном коктейле», который формируется в современном обществе . Исторический анализ показывает, что все крупные революции — от Французской до «Арабской весны» — имели один общий ингредиент: массу молодых образованных мужчин (18–28 лет), чьи ожидания от будущего столкнулись с отсутствием реальных возможностей .
Статистика уже фиксирует тревожные тренды:
- Выпускники колледжей остаются без работы дольше всех остальных групп .
- Количество вакансий для молодых разработчиков ПО (22–25 лет) линейно падает .
- Аналогичное снижение спроса наблюдается в секторе клиентской поддержки .
Салим Исмаил подчеркивает, что социальные сети усиливают панику и гнев в 100 раз быстрее, чем распространяется правда . Питер отмечает, что даже если «апокалипсис на рынке труда» — это миф, люди в него верят, создавая «пандемию страха» . Александр Висснер-Гросс добавляет, что хотя США и Китай могут абсорбировать излишки образованной молодежи через мегапроекты вроде колонизации Солнечной системы , остальной мир, лишенный фронтирных моделей ИИ и энергии, может стать ареной для новых «цветных революций» . По мнению Дейва Бландина, такие компании, как SpaceX и OpenAI, должны вкладывать миллиарды в решение этой проблемы через механизмы XPRIZE, чтобы избежать массовых беспорядков, которые могут угрожать их долгосрочным миссиям .
🌐 Технологический суверенитет и будущее глобальных рынков 1:40:36
В финальной части дискуссии участники перешли к обсуждению глобальных геополитических рисков, вызванных усилением экспортного контроля в сфере ИИ. Александр Висснер-Гросс выразил опасение, что нынешняя политика США, ограничивающая доступ к передовым мощностям искусственного интеллекта, может привести к возникновению «технологического вассалитета» . Если ключевые возможности ИИ будут жестко контролироваться Вашингтоном и Пекином, остальной мир — включая Европу — рискует оказаться в полной зависимости от этих двух центров со своими «суверенными» мощностями .
Салим Исмаил поддержал эту мысль, отметив, что отсутствие собственных мощностей для разработки суперинтеллекта превращает другие страны в зависимые государства, вынужденные потреблять «дешевые возможности ИИ», которые будут сбрасываться на их рынки лидерами гонки . Это создает почву для недовольства и потенциальных социальных потрясений. Питер Диамандис добавил, что технологическим лидерам необходимо предпринять усилия, чтобы люди чувствовали уверенность в будущем . По его мнению, без предоставления обществу доступа к растущей экономике ИИ (прогнозируется трехзначный рост в ближайшие 5 лет ), мир столкнется с настоящей «пандемией страха» .
Ранее в разговоре они касались проблем молодежи и рисков революций, и здесь эксперты вновь подчеркнули:
- Стартапы сейчас переживают «лучшее время в истории» из-за избытка капитала .
- ИИ-нативные компании могут нанимать лучших выпускников, которые не находят работы в традиционном секторе .
- Необходимо перестроить государственные и корпоративные структуры, чтобы не «оцифровывать бюрократию», а полностью её переизобретать .
🪙 Биткоин: Продуктивный актив или математический артефакт? 1:46:45
Отвечая на вопросы слушателей, Александр Висснер-Гросс озвучил критическую позицию в отношении Биткоина, назвав его «непродуктивным активом» . Несмотря на признание блокчейна «удивительной математической технологией, упавшей к нам из будущего» , Алекс подчеркнул, что сама первая криптовалюта не создает реального богатства в экономике . В отличие от акций или облигаций, Биткоин не приносит дивидендов, не генерирует новых идей и не расширяет свободу действий человечества .
Основными аргументами против долгосрочного доминирования Биткоина стали:
- Отсутствие внутренней ценности: Для Алекса Биткоин ближе к золоту — активу, цена которого оторвана от его реальной полезности в производстве .
- Конкуренция со стороны ИИ: Самый серьезный вызов — это ИИ-агенты, которые скоро будут создавать собственные расчетные системы (L1-протоколы) . Эти системы будут эффективнее и лучше адаптированы под нужды автономных машин, чем Биткоин .
- Функциональность важнее идеологии: Салим Исмаил добавил, что ИИ-агенты будут «безжалостно функциональны» . Они выберут те платежные рельсы, которые обеспечат минимальное трение и максимальное доверие, будь то Lightning Network или новые алгоритмы .
При этом Салим заметил, что Биткоин сейчас вызывает больше энтузиазма, чем 10 лет назад, так как с развитием Lightning Network ему впервые удается одновременно достичь децентрализации, безопасности и масштабируемости .
🤖 Алгоритмическое управление суверенным капиталом 1:49:49
Важной темой стал вопрос о роли государства в инвестициях в ИИ-лаборатории. Дейв Бландин резко высказался против того, чтобы правительство США приобретало доли в частных ИИ-компаниях по аналогии с залогом Intel . Он подчеркнул, что ИИ-лаборатории и так обладают огромными средствами, а государственное участие только «исказит» их развитие . По мнению Дейва, правительство уже обладает огромной властью через налогообложение и право блокировать продукты, не нуждаясь в местах в советах директоров .
Говоря о будущем государственных финансов, Александр Висснер-Гросс выдвинул тезис, что ИИ уже «де-факто» управляет мировыми суверенными фондами благосостояния .
- Почти весь объем торгов на публичных рынках акций сегодня генерируется алгоритмами .
- Ценообразование активов, включая такие гиганты, как SpaceX (ставшая пятой по величине компанией мира), происходит под влиянием ИИ-трейдинга .
- Идея использования ИИ для управления фондами (на примере Норвегии или Сингапура) уже реализуется через доминирование ИИ в процессе «обнаружения цены» на ликвидных рынках .
В завершение встречи участники отметили, что скорость перемен в индустрии сейчас такова, что новости устаревают каждые несколько часов . Они призвали аудиторию готовиться к «экспоненциальному будущему» и анонсировали участие таких экспертов, как Палмер Лаки и Кэти Вуд в предстоящем Moonshots Summit .
