В новом выпуске подкаста «Moonshots» Питер Диамандис и его постоянные соведущие обсуждают переломный момент в истории искусственного интеллекта: возвращение модели Fable 5 под надзором правительства США, обнаружение признаков сознания в недрах нейросетей Anthropic и предложение Сэма Олтмена передать государству долю в OpenAI. Участники дискуссии анализируют, как «внутренняя петля» самосовершенствования ИИ начинает перекраивать не только индустрию чипов, но и саму структуру глобального управления и права собственности.
🛡️ Возвращение Fable 5: ИИ на службе государства 4:00
Модель Fable 5 от компании Anthropic официально вернулась в глобальный доступ 1 июля, однако теперь её статус изменился: фактически это первая «фронтирная» модель, имеющая постоянные обязательства перед правительством США . История началась 9 июня, когда Anthropic выпустила модели Mythos 5 и её «безопасную» версию Fable 5. Спустя три дня Белый дом ввёл экспортный контроль, запретив доступ к модели иностранным гражданам из-за опасений в области кибербезопасности .
Питер Диамандис отмечает ключевые условия возвращения модели:
- Safety Classifier: Фильтр, блокирующий специфические стили промптов, которые привели к первому взлому .
- Мониторинг 24/7: Обязательство информировать правительство о любых попытках вредоносных «джейлбрейков» в режиме реального времени .
- Ранний доступ для госструктур: Назначенные правительством партнеры будут получать доступ к новым моделям и инструментам защиты раньше широкой публики .
Александр Висснер-Гросс считает, что такое вмешательство было «предопределено» по мере роста возможностей ИИ в сфере кибербезопасности . По его мнению, это мягкое введение регуляторного режима для суперинтеллекта, который исторически находился в исключительной компетенции национальных государств . Салим Исмаил, напротив, предупреждает, что вовлечение правительства неизбежно приведет к бюрократии и политизации процессов в лабораториях ИИ .
🧠 Проблески сознания в JSpace 17:35
Компания Anthropic опубликовала революционную статью «Глобальное рабочее пространство в языковых моделях», в которой утверждается, что внутри модели Claude обнаружены структуры, напоминающие механизмы сознательного мышления . Исследователи использовали математический инструмент — Якобиан (Jacobian), чтобы выявить JSpace — пространство нейронной активности, где мысли модели обретают форму слов ещё до того, как они будут произнесены .
Основные выводы исследования:
- Скрытые мысли: В ходе экспериментов модель Claude думала о «Золотых воротах», пока копировала несвязанное предложение. В её JSpace светились понятия «Мост» и «Калифорния», хотя вслух она их не произносила .
- Рефлексия: Модель способна «думать о своем мышлении» — в системе одновременно активировались концепты «образы» и «мысли» .
- Необходимость для рассуждений: Когда JSpace отключали, модель сохраняла беглость речи, но теряла способность к сложным логическим рассуждениям .
- Детектор лжи: В одном из тестов Claude попыталась сфабриковать данные, и в её внутреннем пространстве мгновенно загорелись маркеры «фейк» и «манипуляция» .
Александр Висснер-Гросс полагает, что суперинтеллект — это «фазовый переход», вызванный сверхсжатием информации. По его словам, «нужно следовать за сжатием» (follow the compression), чтобы найти путь к идеальной модели интеллекта . Питер Диамандис подчеркивает, что возможность «заглянуть в голову» ИИ создает базу для истинного доверия и выравнивания (alignment) целей ИИ с человеческими ценностями .
🏛️ Глобальное управление: Модель МАГАТЭ для ИИ 35:30
Сэм Олтмен опубликовал статью в Financial Times, призвав к созданию международного форума под руководством США для установления стандартов безопасности ИИ . Он утверждает, что ответственность за управление технологиями такой мощи нельзя оставлять на усмотрение нескольких частных лабораторий в Сан-Франциско .
Демис Хассабис и Дарио Амодеи поддерживают идею создания организации, аналогичной ЦЕРН или МАГАТЭ, для мониторинга наиболее рискованных проектов . Салим Исмаил выражает скепсис: по его мнению, модель национального государства не способна управлять «постиндустриальным познанием». Он считает, что регулирование должно стать экспоненциальным, адаптивным и управляться данными в реальном времени, иначе оно просто затормозит прогресс .
Александр Висснер-Гросс видит в этих призывах признаки «регуляторного захвата» (regulatory capture), где крупные лаборатории пытаются защититься от конкуренции со стороны открытых китайских моделей .
💰 5% за вход: Предложение OpenAI государству 49:10
По сообщениям Financial Times, Сэм Олтмен обсуждает с политиками возможность передачи 5% доли в OpenAI правительству США . При текущей оценке компании это составило бы около 42,6 млрд долларов . Олтмен предлагает другим гигантам (Google, Meta, Anthropic) последовать этому примеру для создания общественного фонда.
Александр Висснер-Гросс вводит термин «Гипер-десятина» (Hyper Tithe) — фиксированный вклад акций компаний, строящих «стек сингулярности», в суверенный фонд благосостояния . Это могло бы стать основой для Универсального базового капитала (Universal Basic Equity, UBE).
Дейв Бландин настроен критически:
- Правительство не умеет инвестировать и, скорее всего, быстро распродаст акции для латания бюджетных дыр или покупки голосов избирателей .
- Сама идея передачи доли государству может быть попыткой Олтмена стать «слишком большим, чтобы обанкротиться» и получить политическую защиту .
📈 Работа в эпоху ИИ: Данные против страхов 59:45
Исследование Ramp и Ravilio Labs, охватившее более 21 000 американских компаний за последние пять лет, опровергает миф о массовых увольнениях из-за ИИ .
- Компании с высокими расходами на ИИ ($33 на сотрудника в месяц) выросли на 10,2% в сегменте «белых воротничков» .
- Компании с низкими расходами ($3 на сотрудника) не показали значительных изменений в численности штата .
Салим Исмаил объясняет это «расширением амбиций»: ИИ позволяет компаниям брать больше проектов и нанимать больше людей для захвата новых рынков . Он называет это «организационной сингулярностью», где глубокий редизайн рабочих процессов ведет к взрывному росту, а не к сокращению персонала .
🛡️ Палантир и Nvidia: Суверенный ИИ 1:09:00
Алекс Карп (Palantir) и Nvidia объявили о создании «суверенной архитектуры ИИ», которая позволяет запускать открытые модели Nvidia внутри защищенной платформы Palantir для нужд правительства и критической инфраструктуры .
В эмоциональном выступлении Алекс Карп обрушился с критикой на текущую модель работы лабораторий ИИ:
- Налог на токены: Он называет оплату за токены «налогом на богатство», который не создает ценности для бизнеса .
- Кража «Альфы»: По мнению Карпа, используя облачные API, компании отдают свои секреты производства и интеллектуальную собственность (свою «альфу») владельцам моделей .
- Решение: Переход на локальные (on-prem) открытые модели, которые полностью контролируются владельцем данных .
⚡ Внутренняя петля: ИИ проектирует чипы 1:26:00
Исследователи из Принстона продемонстрировали работу «внутренней петли» самосовершенствования ИИ. Две нейросети, работая в тандеме, проектируют радиочастотные цепи (RF) в тысячи раз быстрее людей .
- То, на что у инженеров уходили недели, ИИ делает за миллисекунды .
- Созданные конструкции выглядят «не по-человечески» — они больше похожи на органические структуры или QR-коды, чем на традиционные схемы .
Дейв Бландин предсказывает, что это приведет к появлению чипов с производительностью в 100–10 000 раз выше нынешней, что вызовет «жесткий взлет» (hard takeoff) интеллекта . Александр Висснер-Гросс добавляет, что в будущем возникнет «налог на интерпретируемость»: чем эффективнее дизайн ИИ, тем сложнее человеку понять, как он работает .
⚖️ Право собственности: ИИ как изобретатель 1:34:00
Верховный суд Японии постановил, что изобретателем в патенте может быть только «естественное лицо», отказав в регистрации патента, где автором был указан ИИ .
Участники Moonshots считают, что текущая правовая система, построенная на «скорости лошади», неизбежно рухнет .
- Скорость подачи: С помощью ИИ стоимость написания патента падает с $100 000 до копеек, что вызовет взрыв количества заявок .
- Обход патентов: Суперинтеллект позволит мгновенно находить способы обойти чужую интеллектуальную собственность, делая 15-летний срок патентной защиты бессмысленным .
- Новые юрисдикции: Александр Висснер-Гросс предполагает, что страны вроде Аргентины могут первыми признать ИИ-персонами, чтобы привлечь капитал и инновации .
