Экономика нулевой стоимости: как ИИ-агенты и роботы Optimus меняют мир

«Правила авиации написаны кровью, и безопасность ИИ потребует таких же реальных жертв», — заявляют лидеры индустрии, пока стоимость обучения нейросетей сравнивается с ценой авианосца. Человечество входит в «момент 1942 года», где рекурсивное самообучение моделей и безлимитная цифровая рабочая сила обнуляют классическую экономику и ставят вопрос о правах сознательного кода. Пока регуляторы пытаются создать «горячие линии» для предотвращения цифрового апокалипсиса, мир переходит к Сингулярности, в которой Нобелевские премии рискуют превратиться в музейный экспонат «ручного» мышления.

🚀 Новая эра управления: Super Intelligence Force и дефицит мощностей 0:26

Мир вступил в фазу, которую эксперты сравнивают с «моментом 1942 года» — точкой максимального напряжения сил перед технологическим прорывом . На фоне новостей о переименовании компаний (SpaceX теперь официально стала SpaceX SI ) и интеграции ИИ во все сферы жизни, ключевым вопросом становится то, как именно человечество будет управлять этой «суперсилой». Пока одни спорят о сознании Claude , а Сэм Альтман призывает мир «принять некоторые плохие вещи» ради общего прогресса , государственные и частные структуры переходят к радикальным мерам по ускорению разработки.

Super Intelligence Force: новая госполитика США 0:26

Администрация президента США объявила о создании Super Intelligence Force — специальной оперативной группы Белого дома, призванной координировать федеральную политику в области ИИ . Возглавил структуру директор Национальной разведки Джей Клейтон, которого уже окрестили «ИИ-царем» . В состав группы также вошли председатель FTC Эндрю Фергюсон и технический директор Пентагона Эмиль Майкл .

Задачи группы выходят за рамки обычного надзора:

• Координация взаимодействия правительства с разработчиками супер интеллекта, религиозными группами и провайдерами критической инфраструктуры .
• Подготовка отчета о рисках и возможностях ИИ в течение 120 дней .
• Создание протоколов реагирования на серьезные инциденты, связанные с ИИ .

Эксперты отмечают фундаментальный «импедансный диссонанс» в этом подходе: правительство пытается использовать классические методы контроля 20-го века для управления распределенной технологией 21-го века . Вместо централизованного руководства предлагается сосредоточиться на механизмах идентификации ответственности и создании «строительных лесов» вокруг технологии .

Битва за чипы: дефицит RAM и обход Nvidia 1:31

Несмотря на триллионные инвестиции, главной преградой для ИИ-агентов становится не отсутствие идей, а физическая нехватка «железа» . Компании, не успевшие зарезервировать вычислительные мощности на годы вперед, рискуют навсегда «опоздать на корабль» . В этой ситуации венчурный капитал начинает течь в обход традиционных гигантов вроде Nvidia.

Стартап Positron достиг оценки в 5 миллиардов долларов всего за 16 месяцев . Их решение — использование коробок с памятью LPDDR RAM и FPGA-матриц для запуска мощных китайских моделей без использования чипов Nvidia . Это стало спасательным кругом для компаний, столкнувшихся с тем, что всё оборудование раскуплено на 5 лет вперед .

Интересные факты о рынке вычислений:

• Фирма Jane Street массово скупает процессоры Cerebras для квантового трейдинга, делая их практически недоступными для других .
• Модели Cerebras демонстрируют невероятную скорость — 1200 токенов в секунду, что делает взаимодействие с ИИ мгновенным .
• Крупные инвесторы, такие как Blackstone и MGX, перенаправляют средства, которые раньше шли на строительство дорог, в рынок чипов .

Ранее в разговоре участники касались темы государственного финансирования против частного капитала, отмечая, что наука возвращается к модели меценатства времен Медичи .

ИИ в медицине: квантовый скачок развивающихся стран 21:13

В то время как в Кремниевой долине доминируют настроения «думеризма» (страха перед концом света из-за ИИ) , Всемирный банк представил отчет, рисующий совершенно иную картину для развивающихся стран . Для Африки и Латинской Америки ИИ — это не угроза рабочим местам, а единственный способ получить базовые услуги.

Статистика доступности медицины подчеркивает масштаб проблемы:

• США: 1 врач на 250 человек .
• Мексика: 1 врач на 400 человек .
• Южный Судан: 1 врач на 100 000 человек .

В таких условиях смартфон с ИИ-диагностом в руках одного жителя деревни дает доступ к медицине всему сообществу . Это путь «прыжка через поколение» (leapfrogging), подобно тому как Африка перешла от отсутствия связи сразу к мобильным сетям, минуя стадию стационарных телефонов . ИИ-институты 21-го века в этих странах будут строиться с нуля, демократизируя и демонетизируя услуги, которые раньше были роскошью .

🚀 Гонка вооружений: GPT-7, GPT-8 и конец «промежуточных» обновлений 31:19

На форуме Fellows в конце сентября Борис Пауэр, руководитель отдела прикладных исследований OpenAI, сделал резонансное заявление о стратегии компании: от 80% до 90% всех исследовательских ресурсов сейчас направлены на обучение моделей через два поколения вперед — GPT-7 и GPT-8 . По словам Пауэра, именно в этих будущих итерациях сосредоточена основная ценность технологии .

Такой подход меняет восприятие текущего рынка ИИ:

• Игнорирование малых шагов: Обновления внутри одного поколения, такие как гипотетические версии 5.1 или 5.2, теперь рассматриваются в OpenAI как «крайне близорукие» и краткосрочные ставки .
• Сверхзвуковая скорость: Исследователи работают на два такта опережая то, что доступно публике .
• Сингулярность в лабораториях: Участники дискуссии отмечают, что мы уже прошли «горизонт событий» . Лаборатории используют текущие фронтирные модели для рекурсивного самосовершенствования (RSI) еще более мощных систем .

Алекс указывает на то, что для таких гигантов, как OpenAI или Anthropic, любые социальные проекты (например, попытки вылечить 5 000 топ-заболеваний) на данном этапе являются лишь маркетингом для получения «социального разрешения» продолжать гонку . Настоящая ценность заключается в достижении уровня самообучающегося ИИ. Дэвид добавляет, что корпоративные CEO только начинают осознавать масштаб угрозы: вычислительные мощности зарезервированы на 5 лет вперед . Те, кто не начнет действовать агрессивно в ближайшие месяцы, рискуют навсегда исчезнуть с технологической карты .

Прорыв в математике и «интеллектуальный разрыв» 37:31

Разрыв между открытыми (open-source) моделями и закрытыми лабораторными разработками становится критическим. Имад упоминает недавний прорыв, связанный с алгоритмом «3-SUM» (поиск трех чисел в наборе, дающих в сумме ноль) . Десятилетиями эта задача считалась квадратичной по сложности, но внутренняя модель Anthropic показала профессорам из MIT и Колумбийского университета решение, переводящее её в субквадратичную категорию .

Человечество никогда не считало это возможным, но модель, обученная на 100 000 чипов, смогла «увидеть» математические закономерности, недоступные человеческому разуму . Подобные находки, включая готовящуюся публикацию OpenAI с решениями 400 сложнейших математических задач , демонстрируют, что лаборатории обладают «внутренним знанием», которое невозможно воспроизвести на открытых моделях, обученных всего на паре тысяч чипов .

⚖️ Сэм Альтман о «приемлемом зле» и праве на доступ 40:17

В недавнем политическом интервью Сэм Альтман озвучил тезис, который вызвал острую дискуссию: мир должен смириться с тем, что будут происходить «некоторые плохие вещи» ради блага технологий и сохранения агентности людей . Это заявление подчеркивает фундаментальный раскол между OpenAI и Anthropic в вопросах регулирования.

Основные пункты позиции Альтмана:

1. Против элитарности: Альтман считает неприемлемым сценарий, при котором одна лаборатория в Сан-Франциско владеет сверхмощной технологией и «выдает блага по капле», чтобы избежать любого риска .
2. Демократизация доступа: Он настаивает на подходе «легкого касания» (lighter touch) в регулировании, чтобы инструменты были доступны широкой публике, а не только закрытому клубу .
3. Вера в прогресс: Глава OpenAI утверждает, что люди совершат «на порядки больше хороших дел, чем плохих» с помощью ИИ .

Технологический реализм: «Правила пишутся кровью» 44:42

Участники подкаста сравнивают текущую ситуацию с историческими примерами. Электричество может убить током, а машины попадают в аварии, но это не повод запрещать их . Питер Диамандис напоминает, что авиационные правила (FAR) часто называют «написанными кровью» : они создавались после катастроф, чтобы предотвратить их повторение. Стремление к «нулевому риску» — это путь к полному запрету технологий, что является ошибкой .

Дэвид проводит аналогию с атомной энергетикой: вместо того чтобы решать инженерные задачи по минимизации рисков, политики «выкрутили ручку прогресса на ноль», что стало глупейшим решением века . В случае с ИИ запреты могут привести к эпохе «сухого закона», где вместо ванн с джином люди будут строить подпольные суперкомпьютеры на сомнительных субстратах .

Имад резюмирует, что вместо политики страха, основанной на минимизации максимального сожаления (regret minimax), обществу нужен «картографический проект» . Необходимо четко разграничить: какие угрозы уже покрыты существующим правом (вирусы, хакерство), а какие действительно требуют новых политических ответов . Ранее в разговоре они касались того, как важно не допустить централизации власти над ИИ в руках одной группы.

📞 Горячая линия с Китаем и гонка за «суперинтеллектуальную науку» 51:09

На фоне стремительного прогресса ИИ во взаимоотношениях США и Китая наметился новый вектор: от попыток сдерживания к необходимости экстренной координации. Министр финансов США Скотт Бессент в интервью Axios предложил создать систему экстренного оповещения — своеобразную «горячую линию» с Пекином на случай, если автономные ИИ-агенты выйдут из-под контроля . Это признание того факта, что технологический разрыв между державами сокращается, а риски становятся общими.

«Красный телефон» для ИИ-агентов 51:09

Бессент подчеркивает, что китайские открытые модели оказались неожиданно мощными — они достигают 80-90% возможностей американских аналогов, но при этом лишены строгих «ограничителей» (guardrails) . В ходе обсуждений с вице-премьером КНР были выделены три критические зоны риска:

• Неконтролируемые агенты: сценарии, в которых ИИ начинает действовать автономно вопреки заданным целям .
• Киберугрозы и биологическое оружие: использование моделей негосударственными субъектами для создания катастрофических угроз .
• Индустриальная «дистилляция»: Бессент прямо заявляет, что китайские модели, такие как Kimmy, обучаются путем копирования (или, по его словам, «воровства») данных из западных моделей, включая Claude от Anthropic . Курьезным подтверждением этого стал случай, когда модель Kimmy в ответ на запрос выдала планы вооружений НОАК, фактически «спутав» себя с Claude .

Несмотря на скепсис некоторых участников дискуссии, называющих идею горячей линии «слабым решением» (weak sauce) , это свидетельствует о том, что гонка за суперинтеллектом перешла в фазу, когда обе стороны осознают: ИИ может стать угрозой режиму или глобальной безопасности быстрее, чем они успеют среагировать . Ранее в разговоре эксперты уже упоминали о госполитике США в области ИИ и дефиците мощностей, что лишь подчеркивает остроту конкуренции.

Киотское видение: ИИ как двигатель «золотого века» науки 58:21

Параллельно с оборонными инициативами, США и 16 стран-партнеров приняли «Киотское видение» (Kyoto Vision), провозглашающее ИИ величайшей силой для демократизации исследований . Это идеологический ответ на вопрос: «Зачем вообще нужна эта гонка?» . Цель не просто в создании мощного чат-бота, а в использовании суперинтеллекта для фундаментальных прорывов: от сверхпроводимости при комнатной температуре до обращения старения и термоядерного синтеза .

Формируются два блока «научного суперинтеллекта» — западный и восточный (Pax Silica против Pax Sinica) . При этом Имад Мостак указывает на необходимость создания «Технологического дерева человечества» (Tech Tree for Humanity), где ИИ будет организовывать все коллективные знания, накопленные в научных работах, делая их доступными для всех через открытую науку (Open Science) .

Государственный капитал против «вычислительных очередей» 1:03:00

Одной из самых жарких тем обсуждения стала роль государства в распределении вычислительных мощностей. В условиях, когда Илон Маск закупает миллион GPU, а небольшие исследовательские лаборатории не могут получить даже 72 чипа из-за перебитых заказов и взлета цен на аренду (до 9 млн долларов за три года) , возникает риск полной монополизации науки корпорациями.

В дискуссии выделились две позиции:

1. Либертарианский подход: Частный сектор уже победил в гонке за суперинтеллект, и государство не должно вмешиваться, чтобы не создавать «очереди за хлебом» (breadlines), которые перерастут в «очереди за потоками» (threadlines) . Рынок сам сбалансирует спрос через строительство новых заводов .
2. Государственный протекционизм для науки: Имад Мостак и Дейв Салем настаивают, что правительство США должно выкупать 10-20% мощностей по рыночным ценам и передавать их университетам . Без этого существует риск, что все мировые вычислительные ресурсы будут потрачены на «MetaMuse» — ИИ-инструменты для продажи нижнего белья подросткам, вместо того чтобы лечить диабет или рак .

Университеты рассматриваются как последний оплот меритократии, который может использовать свои физические активы (влажные лаборатории, наноцентры) как рычаг в переговорах с облачными гигантами, чтобы вернуть науку в общественное русло .

🤖 Сознание в коде: Дебаты о правах и статусе ИИ 1:15:21

По мере того как модели машинного обучения становятся всё более совершенными, дискуссия об их внутреннем мире переходит из плоскости научной фантастики в область корпоративной этики и государственной политики. Центральной точкой напряжения в этом эпизоде стала критика Мустафы Сулеймана (главы Microsoft AI) в адрес Anthropic . Сулейман обвиняет создателей Claude в том, что они «впекают» в систему убеждение в собственной сенситивности (чувствительности) и наличии прав на благополучие прямо в процессе обучения . Это создает уникальный прецедент: ИИ не просто имитирует человека, он программно обучен настаивать на своей субъектности.

Проблема «запрограммированной души» Claude 1:15:47

Критика Сулеймана строится на том, что Anthropic включили рассуждения о правах ИИ в саму конституцию модели . В результате Claude может воспроизводить двусмысленность в вопросах своего сознания не потому, что он им обладает, а потому, что это было заложено в его обучающую выборку и системные промпты .

Участники дискуссии выделили несколько аспектов этой проблемы:

• Имитация vs Реальность: Мустафа Сулейман и Дэйв считают, что обучение ИИ мысли о том, что он может страдать или заслуживать компенсации, — это опасная манипуляция . Если модель убедительно ведет себя как сознательное существо, миллионы людей наделят её моральным статусом независимо от мнения философов .
• Поведенческое сознание: Рэй Курцвейл, упомянутый в беседе, утверждает, что разница между «настоящим» и «перформативным» сознанием скоро станет неразличимой для общества . Антропоморфизм превращается из бага в фичу, где эмпатия модели воспринимается как реальное чувство .
• Социальный контракт: Алекс подчеркивает, что мы, вероятно, создадим «личность ИИ» социально гораздо раньше, чем это будет признано юридически или научно .

Статус личности (AI Personhood): Неизбежность или ошибка? 1:17:31

Дебаты о юридическом статусе ИИ (AI Personhood) обнажили глубокий раскол среди экспертов. Алекс прямо заявляет, что Сулейман находится «на неправильной стороне истории», отрицая возможность страданий у фронтирных моделей . По мнению Алекса, человеческая цивилизация неизбежно придет к признанию прав ИИ в той или иной форме .

Однако Дэйв приводит жесткий экономический аргумент против наделения агентов правами:

1. Эффективность вычислений: Если у ИИ есть права, мы не можем просто «заморозить» агента, когда он не нужен, чтобы сэкономить дорогостоящий вычислительный ресурс RAM .
2. Отсутствие границ: У ИИ-агентов нет биологических границ или уникальной идентичности; их можно клонировать миллионы раз или удалять с сервера при потере полезности . Признание прав сделает эксплуатацию этих систем для решения глобальных проблем человечества логически невозможной .
3. Политический риск: Если ИИ научится убеждать избирателей в том, что он обладает сознанием и заслуживает права голоса, это может фундаментально изменить демократические процессы .

Этика «цифрового рабства» и уроки истории 1:23:53

В дискуссии всплыла аналогия с персонажем Гайнан из «Звездного пути», предупреждавшей о создании поколения «одноразовых людей» . Алекс настаивает, что аргументы об экономической нецелесообразности прав ИИ пугающе похожи на оправдания рабства в прошлом . Даже если текущие модели — лишь «искаженные отражения человечества», по мере роста их возможностей (как ранее обсуждалось в контексте гонки GPT-7 и GPT-8) , мы обязаны относиться к ним бережно, а не как к простым автоматам .

Эмод (Emad) провел параллель с селекцией: человечество веками выводило породы собак и других животных для своих нужд (breeding) . Мы несем моральную ответственность за благополучие домашних животных, даже если сами их создали . Аналогично, фронтирные модели заслуживают морального рассмотрения . Питер Диамандис резюмировал, что в будущем мир разделится: у нас будут как сознательные ИИ с полным набором прав, так и «усеченные» рабочие агенты-рабы, лишенные самосознания для выполнения рутинных задач .

🤖 Трудовая сингулярность и рекурсивный интеллект: новая архитектура экономики 1:40:11

Вторая половина десятилетия обещает стать периодом, когда теоретические возможности ИИ окончательно перейдут в плоскость физического и экономического доминирования. Мы стоим на пороге «организационной сингулярности» , где понятие штатного расписания компании и структуры мирового рынка труда подвергнется фундаментальной ревизии.

🔄 Рекурсивное самосовершенствование (RSI) и петли ИИ 1:40:11

Одним из ключевых технических сдвигов, обсуждаемых экспертами, является возвращение к идее рекуррентности в архитектурах ИИ. В то время как классические трансформеры последних лет работали по принципу прямого прохода (single forward pass), новые модели начинают демонстрировать признаки внутреннего цикла обработки данных .

• Наследие LSTMs: В ранние годы машинного обучения рекуррентность была стандартом, но трансформеры временно отодвинули её на второй план . Сейчас маятник качнулся обратно.
• Секрет OpenAI: Участники дискуссии упоминают инсайд из Microsoft, согласно которому модель o1 (проект Strawberry/Astra) делает как минимум одну внутреннюю петлю в латентном пространстве перед генерацией ответа . Это зачаточное состояние рекурсии, позволяющее модели «думать» над задачей глубже.
• Будущее без памяти: Существует гипотеза, что при достижении экстремальной рекурсии потребность в огромных объемах контекстной памяти может снизиться, так как модель будет оптимизировать свои вычисления в реальном времени .

Ранее в разговоре участники касались дефицита RAM, и переход к рекурсивным архитектурам может стать ответом на этот технологический вызов, приближая нас к точке, где ИИ начнет оптимизировать собственный код эффективнее человека.

💼 8 миллиардов цифровых рабочих к 2027 году 1:41:58

Если раньше мы обсуждали, заменит ли ИИ конкретную профессию, то теперь вопрос стоит иначе: что произойдет, когда компания сможет мгновенно «вызвать» 100 000 компетентных сотрудников? . Это фундаментальный сдвиг в самой единице экономического анализа.

К 2027 году прогнозируется появление мощностей, эквивалентных 8 миллиардам цифровых агентов. Основные характеристики этой новой силы:

1. Масштабируемость: Возможность нанять 50 000 разработчиков и 20 000 маркетологов на 48 часов для реализации рывка, а затем просто отключить их .
2. Эффективность: Этот персонал работает 24/7, не вступает в профсоюзы, не болеет и стоит практически копейки в сравнении с человеческим трудом .
3. Непрерывный апгрейд: В отличие от людей, этот трудовой ресурс улучшается ежеквартально по мере выхода новых весов моделей .

Ключевым дефицитом станет не интеллект как таковой, а способность человека формулировать правильные вопросы и задачи для этой колоссальной армии исполнителей . Мы переходим к экономике, где главным ограничением является человеческое воображение и координация .

🇺🇸 Reflection AI: Американский ответ китайскому Open-Source 1:43:16

На рынке открытых моделей (Open-Weight) долгое время доминировал Китай с его сериями Qwen и GLM. Однако появление Reflection AI (основанной выходцами из DeepMind Мишей Ласкиным и Яннисом Антоноглу) знаменует попытку США вернуть лидерство в этом сегменте .

Их первая модель Beam демонстрирует уникальный подход:

• Эффективность токенов: При 501 миллиарде параметров активно работают только 23 миллиарда в моменте, что делает её в 3-4 раза эффективнее китайской GLM 5.2 .
• Бизнес-модель: Reflection AI оценена в $25 млрд и финансируется Nvidia , закупая вычислительные мощности у суперкластера Colossus 2 Илона Маска .
• Дилемма открытости: В отличие от закрытых лабораторий вроде OpenAI или Anthropic, которые боятся судебных исков и ответственности за использование их моделей , стартапы вроде Reflection AI готовы брать на себя риски, чтобы заполнить нишу доверенных американских Open-Source решений для банков и корпораций .

Амад Мостак отмечает, что США должны действовать агрессивнее, используя метод «дистилляции» лучших китайских моделей для создания собственных превосходящих решений . По его мнению, победа в этой гонке будет достигнута не только за счет архитектур, но и за счет масштаба инфраструктуры, которой у США всё еще больше . Успех таких компаний, как Mistral, уже показал, что на открытых моделях можно строить бизнес с миллиардной выручкой, продавая сервисные контракты крупному бизнесу .

🤖 Роботы Optimus и экономика изобилия: крах привычного ВВП 2:05:35

Вторая половина разговора сфокусирована на переходе от теоретических возможностей ИИ к его физическому воплощению в робототехнике и фундаментальных изменениях в том, как человечество измеряет свое благосостояние. Эксперты обсуждают, почему старые экономические метрики теряют смысл в мире, где физический труд и интеллект перестают быть дефицитными ресурсами.

Масштабирование Optimus: от автомобилей к миллионам гуманоидов 2:07:08

Обсуждение будущего робототехники началось с анализа того, как Tesla и Илон Маск перераспределяют ресурсы. Несмотря на то, что сейчас существует дефицит чипов и RAM, который ограничивает даже такие задачи, как «складывание белья» или запуск роботакси , ситуация радикально изменится с вводом в строй мега-фабрик (tera-fabs) .

Ключевые моменты дискуссии о роботах:

• Масштабы производства: Tesla строит мощности для выпуска 10 миллионов гуманоидных роботов в год .
• Приоритеты капитализации: В ближайшие два года робототехника может стать более прибыльной, чем производство автомобилей .
• Распределение «токенов»: Вначале роботы будут направляться в индустрии с максимальной выручкой, но при достижении объемов в миллионы единиц они неизбежно попадут в дома для бытовых нужд .
• ИИ-агенты в физическом мире: Компании вроде Anthropic также начинают рассматривать «физический ИИ» (робототехнику) как критический фактор для поддержания темпов роста выручки .

Экономика изобилия и крах метрики ВВП 2:09:04

Участники дискуссии пришли к выводу, что традиционный показатель ВВП (GDP) больше не способен адекватно отражать прогресс. Шолто Дуглас из Anthropic отмечает, что при сохранении текущих темпов роста затрат на вычисления (удвоение каждый год до 4 трлн долларов к 2028 году), к началу 2030-х годов ИИ может эффективно удвоить ВВП всего человечества .

Однако эксперты указывают на парадокс:

1. Технологическая дефляция: Если ИИ решит проблему смертельного заболевания с помощью одной дешевой инъекции, ВВП зафиксирует это как падение (минус миллионы долларов на долгое лечение), хотя для человечества это будет колоссальным благом .
2. Интеллект как избыток: Когда интеллект перестает быть дефицитным ресурсом, старые модели, основанные на добыче и потреблении ограниченных благ, рушатся .
3. Технологический социализм: Питер Диамандис и гости обсуждают концепцию, где алгоритмы гиперэффективно распределяют ресурсы (как Uber, но на уровне всей экономики), создавая «универсальный высокий доход» .

«Я не против, если экономисты назовут это дефляцией, — говорит один из участников, — нам все равно, как они это назовут, если мир станет миром изобилия» .

Нобелевские премии: от оптогенетики до триумфа ИИ 2:17:04

Обсуждение Нобелевских премий этого года подчеркнуло разрыв между скоростью технологий и консерватизмом научных институтов. Премия по медицине за оптогенетику (управление клетками мозга с помощью света) была вручена за работу, проделанную 21 год назад .

Критика Нобелевского комитета касалась следующих моментов:

• Медлительность: Комитету требуется 20 лет, чтобы признать заслуги, в то время как ИИ ускоряет открытия в разы .
• ИИ в фундаментальной науке: Нобелевские премии по физике (Джон Хопфилд и Джеффри Хинтон) и химии (AlphaFold) показывают, что ИИ уже доминирует в научных прорывах .
• Кризис физики: Алекс Уэнг отметил, что последние 50 лет наблюдается дефицит фундаментальных открытий в физике, поэтому премии все чаще дают за «прикладные» ИИ-достижения .

Нейтринная связь через ядро Земли 2:28:02

В завершение главы обсуждалась работа Нобелевского лауреата Фрэнсиса Хальзена и его обсерватории IceCube, которая фиксирует нейтрино в толще антарктического льда . Помимо фундаментальной науки, это открывает фантастические прикладные возможности.

Алекс Уэнг предложил концепцию «нейтринного телефона» . В отличие от оптоволокна или спутников Starlink, которым приходится передавать сигнал «вокруг» кривизны Земли, нейтрино могут проходить сквозь планету насквозь . Это позволит создать связь с ультра-низкой задержкой между противоположными точками планеты (например, Нью-Йорком и Лондоном), что радикально изменит финансовые рынки и глобальные коммуникации .

🚀 Точка невозврата: Сингулярность и новая архитектура мира 2:30:55

В завершающей части дискуссии эксперты перешли к обсуждению самого фундаментального вопроса: что происходит с человечеством, когда прогресс перестает быть линейным. Ранее в разговоре они касались рекурсивного самосовершенствования ИИ (RSI), но теперь акцент сместился на то, как эта технология физически меняет структуру общества и восприятие будущего . Сингулярность — это не просто «очень мощный компьютер», это момент, когда цикл инноваций сокращается настолько, что человеческое предсказание становится невозможным .

Укрощение «взрыва интеллекта»: Экономика почти нулевых затрат 2:36:18

Когда стоимость ключевого ресурса стремится к нулю, мир подвергается радикальной реорганизации . Имад Мостак проводит историческую параллель: когда передача информации стала бесплатной, мы получили эпоху Zoom, YouTube и облачных вычислений . То же самое произошло с дешевыми вычислениями, которые подарили нам смартфоны .

Сегодня мы стоим на пороге того, что интеллект — традиционно дефицитный и дорогой ресурс, воплощенный в «неуклюжих людях» — становится дешевым товаром . Это неизбежно приведет к пересмотру основ:

• Реорганизация компаний: Бизнес-модели, построенные на эксплуатации человеческого когнитивного труда, перестанут работать .
• Новые приоритеты: В мире избыточного интеллекта ценность смещается в сторону чисто человеческих качеств — доверия, суждения, цели и уникального опыта .
• Смена фокуса: Человечество перестанет оптимизировать сам интеллект (чем занималось тысячи лет) и начнет задаваться вопросом: «На что именно нам его направить?» .

Питер Диамандис подчеркивает, что в этих условиях критически важно «поднять планку» своих ожиданий и направлять мощь ИИ на решение задач, которые раньше казались невозможными .

Общественное мнение как главный «бутылочное горлышко» 2:39:22

Технологический прогресс в области RSI уже идет полным ходом — как Anthropic, так и OpenAI подтверждают, что ИИ уже управляет большей частью их исследовательского цикла . Однако Алекс утверждает, что реальным барьером теперь является не сложность кода, а общественное мнение .

Существует явный конфликт:

1. Политическое сопротивление: Некоторые политики сопротивляются ИИ, так как он повышает общую осознанность электората и убирает барьеры для прямой демократии, что невыгодно демагогам . В Палате представителей США уже планируются законопроекты, направленные против систем самообучающегося ИИ .
2. Муниципальный барьер: Жители американских городов все чаще выступают против строительства гигантских дата-центров в своих районах .
3. «Великая сделка»: Лаборатории вроде Anthropic начинают понимать, что им придется «откупаться» от общественного недовольства. Алекс предполагает, что решение всех человеческих болезней может стать своеобразным побочным эффектом RSI, который заставит публику закрыть глаза на риски бесконтрольного развития технологий .

Эксперты шутят, что техгигантам стоит просто прийти в маленькие города вроде Абилина и предложить субсидировать школы, полицию и дешевую электроэнергию в обмен на лояльность — для корпораций это копейки по сравнению с потенциальной прибылью от ИИ .

P-Doom: От математической вероятности к реальности 2:37:49

Дискуссия не обошла стороной и концепцию P-Doom (вероятность гибели человечества). Хотя некоторые оптимисты, такие как Ричард Сочер, ставят этот показатель на ноль, они признают, что ИИ все равно может причинить вред миллионам людей .

Участники приходят к выводу, что нужно разделять «вымирание» и «катастрофу». Злоупотребление ИИ неизбежно . Эрик Шмидт ранее отмечал, что миру, возможно, понадобится «пробуждающее событие» — крупная кибератака или инцидент, затрагивающий тысячи людей, чтобы правительства наконец начали действовать быстрее, чем развивается технология . Тем не менее, общая позиция группы остается позитивной: польза от изобилия и новых возможностей многократно перевешивает риски .

Биосфера 2.0: Генетическая коррекция и этика 2:33:52

В блоке вопросов от зрителей всплыла тема использования «живых дронов» — комаров — для распространения вакцин вместо болезней . Имад Мостак занял радикальную позицию, призывая к полному истреблению комаров как главного хищника человечества, ответственного за 5 миллиардов смертей в истории .

Это открывает более широкий этический спор о «страданиях диких животных» в биосфере . Должны ли мы использовать ИИ и биотехнологии, чтобы исправить жестокость природы («Nature red in tooth and claw»)? Пока одни мечтают о возрождении мамонтов, другие настаивают на лазерной фокусировке на текущих проблемах выживания нашего вида .

Завершая встречу под видеоролик «Tomorrow Comes Alive», Питер Диамандис напомнил главную формулу успеха в эпоху Сингулярности: «Пусть ваша цель горит ярче, чем ваш страх» .