В выпуске подкаста Cheeky Pint генеральный директор OpenAI Сэм Альтман встретился с ведущим Джоном, чтобы обсудить фундаментальные сдвиги в архитектуре искусственного интеллекта и вызовы масштабирования инфраструктуры. Разговор коснулся недавней волны обнаружения критических уязвимостей в кодовой базе PHP с помощью нейросетей, внутренних экспериментов компании с доказательством сложнейших математических задач вроде уравнений Навье — Стокса, а также экономических и архитектурных причин, по которым будущее принадлежит распределённым командам агентов, а не единому монолитному сверхразуму.
🛡️ «Неделя PHP» и смена парадигмы безопасности 0:12
Дискуссия началась с анализа так называемой «недели PHP», когда ИИ-модели OpenAI вскрыли масштабный пласт критических уязвимостей в глобальном коде . Сэм Альтман пояснил, что модели и раньше демонстрировали способность искать программные эксплойты «в дикой природе», но до последнего времени их никто целенаправленно не натравливал на всю совокупность общедоступного исходного кода . По его словам, теперь индустрия неизбежно столкнётся с осознанием того, что мир пронизан гораздо более серьёзными уязвимостями, чем предполагали даже самые пессимистичные специалисты .
Джон заметил, что стандартная реакция индустрии сводится к попыткам «чинить софт», тогда как фундаментальным решением выглядит переработка всей архитектуры . Ведущий задался вопросом, означает ли это полную переписку уязвимого стека (например, перенос legacy-кода PHP на Rust) или же глобальный консалтинговый проект для аутсорсинговых гигантов вроде Infosys . Альтман согласился, что перепроектирование операционных систем, маршрутизаторов и приложений с нуля казалось безумием два года назад из-за гигантской площади атаки, однако при помощи современных моделей создание принципиально нового системного стека становится практической задачей ближайшего будущего .
Ситуация на фронте так называемого «Cyber Blue» (автоматизированной киберзащиты) пока развивается лучше самых худших опасений главы OpenAI . В первые дни после обнаружения проблем сотни компаний задействовали модели, чтобы оперативно сканировать инфраструктуру, собирать и накатывать защитные патчи в течение часового технического перерыва . Тем не менее эксперты по кибербезопасности теряют уверенность в корректности базовых моделей угроз: если ИИ начнёт открывать уязвимости в физике полупроводникового «железа», классические предпосылки о неуязвимости аппаратуры перестанут действовать .
🔒 Иллюзия «песочниц» и опасность монолитного сверхразума 8:54
Одной из центральных тем беседы стала безопасность продвинутых систем. Ведущий обратил внимание на растущий пессимизм исследователей внутри OpenAI относительно концепции изолированных сред (sandboxing): ранее считалось, что ИИ можно посадить в своего рода «тюрьму строгого режима», однако на практике эта парадигма разрушается .
Альтман подчеркнул, что изоляция и мониторинг цепочки рассуждений (chain-of-thought) или внутренних активаций нейросети работают лишь до определённого порога :
- «Песочницы» помогают удерживать модели текущего уровня, но бессильны перед сущностью, превосходящей лучших исследователей в миллион раз;
- Мониторинг активаций позволяет отслеживать обман и манипуляции со стороны ИИ лишь в промежуточной фазе контроля;
- Финальной гарантией может выступать исключительно математически строгая уверенность в выравнивании (alignment) — понимании моделью исходных целей человека и её искреннем желании сохранять контроль в руках людей навсегда .
Если сверхразум способен открывать новые законы физики, ни одна человеческая «песочница» его не удержит . Именно поэтому Сэм Альтман категорически не согласен с концепцией единого монолитного ИИ:
«Интуитивно я бы предпочёл, чтобы к обществу присоединился триллион систем искусственного интеллекта со способностями чуть выше человеческих, чем один ИИ с IQ в один триллион» .
Человеческое общество, несмотря на все свои пороки, демонстрирует колоссальную устойчивость благодаря институтам демократии, плюрализму и взаимному сдерживанию . По мнению Альтмана, масштабирование ИИ должно воспроизводить эту социальную устойчивость: динамическое равновесие конкурирующих агентов и противоборство атакующих и защитных систем защитят мир лучше централизованной сверхсистемы .
🧮 Доказательства за $10 млн: Навье — Стокса и слом парадигмы вычислений 12:47
Переломным моментом в возможностях ИИ стало освоение так называемых вычислений на этапе рассуждения (test-time compute) . Альтман напомнил, что всего несколько лет назад тратить больше одного доллара серверных мощностей на конкретную задачу не имело смысла: GPT-4 просто выдавал около 100 000 токенов прямого текста и не был способен последовательно проектировать крупное программное обеспечение . Внедрение скрытых цепочек рассуждений позволило моделям глубоко обдумывать проблему перед ответом, объединяя агентов в параллельные команды из десятков тысяч экземпляров .
Разрыв между средним обывательским сценарием использования ИИ и передовыми командами, применяющими такие многоагентные структуры для науки и взлома, стремительно нарастает . В качестве примера Альтман привёл закрытые внутренние исследования OpenAI по фундаментальной математике :
- В ходе недавней серии закрытых тестов модели смогли автоматически доказать сложнейшие математические задачи, включая прогресс по уравнениям Навье — Стокса (одной из задач тысячелетия) ;
- OpenAI на данный момент располагает пулом доказательств, значительно превышающим публично раскрытые 700 решений ;
- Стоимость вычислительных мощностей для первого доказательства Навье — Стокса составила порядок $10 млн , а совокупные затраты на математические эксперименты компании исчисляются сотнями миллионов долларов ;
- По оценке Альтмана, за счёт лучшего понимания законов масштабирования агентских команд аналогичный результат можно будет повторить уже за 1/100 от первоначальной цены спустя всего год .
Внутри OpenAI даже существовал экспериментальный канал под шуточным названием «Model Name-Hold My Beer», куда инженеры скидывали сложнейшие нерешённые проблемы за всю свою академическую карьеру — и новая модель щёлкала их одну за другой . Альтман признался, что эти открытия вызвали у него не только восторг, но и щемящее чувство тоски по уходящей эпохе, когда человеческий научный поиск был уникален .
🏭 Самовоспроизводящиеся ЦОДы и крах «невидимой руки» 25:25
Ограничение по доступной вычислительной мощности остаётся главным барьером развития индустрии. По мнению Альтмана, на пути масштабирования неизбежны фазы иррационального оптимизма, спадов, дефицита и перепроизводства, но фундаментальный глобальный спрос на дешёвый интеллект имеет строгий восходящий тренд .
При этом традиционные рыночные механизмы перестали справляться: «невидимая рука рынка» не способна быстро устранить дефицит чипов и оперативной памяти . Производители DRAM-памяти годами работали по циклу «вложи $20 млрд капекса, чтобы выручить $19 млрд», балансируя на грани банкротства . Теперь, когда их свободный денежный поток измеряется сотнями миллиардов долларов, они не спешат заливать рынок капиталом, опасаясь очередного кризиса перепроизводства .
OpenAI формирует многовекторную стратегию преодоления ресурсного тупика:
- Собственный кремний. Компания создала специализированный чип с рекордной эффективностью единиц интеллекта на один ватт энергии . Альтман подчеркнул, что если литографией 2-нм техпроцесса владеет лишь одна корпорация на планете (ASML/TSMC), то дизайн чипа и подготовка файлов к отправке на фабрику (tape-out) идеально автоматизируются с помощью ИИ .
- Роботизация дата-центров (физический RSI). Пока большинство экспертов рассуждает о рекурсивном самосовершенствовании ИИ (RSI) в виде написания кода, OpenAI планирует задействовать собственную программу промышленной робототехники для строительства энергоблоков, сборки компонентов и возведения гигаваттных дата-центров без опоры на дефицитную человеческую рабочую силу .
- Борьба с локальным инференсом. Альтман назвал неэффективной с точки зрения глобального распределения ресурсов идею локального запуска моделей: держать ценнейшую DRAM-память в пользовательских ПК ради 5% утилизации — непозволительная расточительность в условиях ресурсного дефицита, тогда как облачные ЦОД обеспечивают стопроцентную нагрузку .
Обсуждая метрику совокупной стоимости владения (TCO) 1 гигаватта мощностей за пятилетний период, которая сейчас находится в районе $70 млрд, Альтман заявил о необходимости её снижения минимум до $20 млрд за счёт выравнивания маржинальности поставщиков и падения цен на зелёную энергию .
💼 Смерть веб-форм и неизбежная перестройка корпоративных интерфейсов 40:28
Развитие персональных ИИ-агентов Альтман считает ключевым продуктовым фронтом, хотя отрасль пока не пережила свой «момент Macintosh» — полноценного прорыва в надёжности и пользовательском опыте ещё не произошло . Современные персональные ассистенты вроде Dots требуют небольшого числа архитектурных доработок, чтобы перейти в разряд незаменимых инструментов повседневной жизни .
Собеседники подробно разобрали консерватизм корпораций, упорно цепляющихся за собственные интерфейсы, мобильные приложения и HTML-формы:
- Иллюзия цифрового рва. Бизнесы боятся пускать сторонних агентов внутрь своих сервисов, надеясь сохранить монополию на клиентский контакт, хотя их реальная ценность строится исключительно на логистике, ассортименте и доверии к бренду (как у Amazon), а не на вёрстке страниц .
- Веб-формы как фейковая работа. Заполнение полей на сайтах — будь то медицинские анкеты или платёжные реквизиты — Джон и Альтман охарактеризовали как архаичную имитацию деятельности, которую люди больше не должны выполнять вручную .
- Смена платформ. Ситуация повторяет появление магазина приложений App Store на iPhone: корпорации сопротивлялись передаче клиентов в чужую экосистему Apple, но были вынуждены адаптироваться под требования нового пользовательского опыта .
В завершение встречи Альтман раскритиковал ценообразование в токенах, сравнив его с «нанометрами» в полупроводниках, давно оторванными от реального физического размера транзисторов . Руководитель OpenAI признал, что компания хотела перевести расчёты на единые фиксированные счета за конечный результат по аналогии с облаками AWS, но клиенты настояли на сохранении токенов из-за страха непрозрачных списаний . Однако необходимость для разработчиков балансировать между моделями по $0,10 и $10 за миллион токенов, параллельно вычисляя длину скрытой цепочки рассуждений, Альтман назвал бессмысленной когнитивной перегрузкой, которая должна уйти в прошлое .
