Конец эпохи масштабирования: куда движется глобальная ИИ-индустрия

The Cognitive Revolution 3,2 тыс. 2 ч 40 мин 21 мин 16.11.2024
Главное

Эпоха слепого масштабирования нейросетей закончилась, уступив место новому времени «чудес и открытий», где побеждает глубина рассуждений, а не размер моделей. На фоне этой технологической революции Кремниевая долина переживает тектонические сдвиги: от скрытых поглощений перспективных стартапов до попыток за бесценок забрать коммерческую часть OpenAI у ее некоммерческого крыла. Известный аналитик Цви Московиц разбирает, почему рынок ИИ неизбежно консолидируется вокруг пяти-семи платформ и почему единый госпроект США сейчас выглядит безопаснее коммерческой анархии частных лабораторий.

🤖 Илья Суцкевер и рассвет эпохи «чудес и открытий» 4:11

Одним из наиболее значимых событий последних месяцев стало объявление Ильи Суцкевера (Ilya Sutskever) о создании нового стартапа — Safe Superintelligence (SSI). Как отмечает Цви Московиц (Zvi Mowshowitz), этот проект ставит своей целью прямое достижение сверхразума, причем, как следует из названия, с акцентом на безопасность. На текущий момент компания придерживается политики «нулевого продукта» и крайне ограниченного информирования о своем прогрессе, что делает их деятельность намеренно непрозрачной.

По мнению Цви Московиц, само существование такого амбициозного плана в современных реалиях выглядит «поразительно правдоподобным», хотя вероятность успеха по-прежнему остается предметом дискуссий. Ключевой идеологический сдвиг, обозначенный Суцкевером, заключается в провозглашении окончания эпохи простого масштабирования вычислительных мощностей. Если 2010-е годы прошли под знаком экстенсивного роста, то сегодня индустрия переходит в «эпоху чудес и открытий».

Цви Московиц подчеркивает, что OpenAI также отошла от своей прежней стратегии «добавления нулей» ко всему подряд, так как она перестала приносить прежние плоды. В этой новой реальности качество данных и стратегия их использования начинают играть гораздо более важную роль, чем чистое наращивание мощностей. При этом Цви Московиц выражает здоровую скептичность: он не уверен, что текущий подход позволит достичь сверхразума, но признает, что сбрасывать такой проект со счетов было бы опрометчиво.

🧠 Оценка эффективности модели OpenAI o1 6:04

Вокруг модели OpenAI o1 сложилась противоречивая ситуация. С одной стороны, руководство ведущих лабораторий (включая Сэма Альтмана и Дарио Амодеи) заявляет об отсутствии фундаментальных барьеров на пути к AGI в ближайшие два-три года. С другой — экспертное сообщество все чаще говорит об «окончании эпохи масштабирования», ссылаясь на замедление прогресса в стандартных бенчмарках.

Цви Московиц пытается примирить эти точки зрения, предполагая, что старая стратегия линейного роста действительно упирается в «потолок» снижающейся отдачи. Именно здесь на сцену выходит модель o1, которая предлагает иной путь: использование вычислительных ресурсов на этапе инференса (inference-time compute) для уточнения процесса рассуждения и обучения.

Личный опыт использования o1 Preview у Цви Московиц оказался неоднозначным. Он описывает свои впечатления как работу с «не самым смышленым студентом», который тратит много времени на выполнение задачи, но зачастую не улавливает суть концептуальной логики, требуемой пользователем. Однако, несмотря на скепсис в отношении конкретной реализации, он допускает, что сама идея «длительного размышления» модели может стать ключевым методом преодоления текущих барьеров.

💻 ИИ-кодинг и опыт работы в Cursor 12:38

В профессиональной деятельности Цви Московиц находит применение ИИ в основном для написания кода. Он отмечает, что интеграция моделей в среду разработки Cursor стала настоящим «даром свыше». Основная трудность, с которой он сталкивается в других инструментах — это работа с контекстом (RAG), которая часто кажется ему непрозрачной и избыточно экономной.

При сопоставлении разных моделей для кодинга выявляются интересные нюансы:

Для Цви Московиц вопрос эффективности — это вопрос «состояния потока». Задержки модели o1, достигающие 45 секунд до первого токена, зачастую выбивают его из рабочего ритма. Он даже выработал привычку переключаться на другие задачи или экраны, чтобы не терять время в ожидании ответа. Тем не менее, он признает, что если модель действительно предлагает решение сложной архитектурной проблемы, эти «паузы на размышление» могут быть оправданы.

Ранее в разговоре они также кратко коснулись вопросов геополитики чипов, Тайваня и перспектив развития индустрии в контексте политики США, однако детальное обсуждение этих тем выходит за рамки данного фрагмента.

🃏 От «Магии» до компьютерных агентов: новые бенчмарки и консолидация ИИ-рынка 25:25

Сложность «Магии» и крах брутфорса 25:25

Цви Московиц подробно объясняет, почему создание колод в игре Magic: The Gathering (MTG) является невероятно сложной задачей для ИИ, близкой к ИИ-полной. В отличие от шахмат, здесь высок уровень скрытой информации и требуется глубокое стратегическое эвристическое мышление, а не простое логическое ветвление. Плохой игрок, даже тестируя карты целый месяц без копирования чужих дек, застрянет на низком уровне, в то время как эксперт способен составить отличную колоду почти мгновенно без предварительной обратной связи. По мнению Цви Московица, базовый брутфорс здесь бессилен: деки рождаются в голове мастера в полностью сформированном виде на основе распознавания сложных паттернов. Модели вроде Claude пробовали запускать в Magic Arena через интерфейс компьютерного управления, но они пока играют крайне слабо. Настоящим испытанием для ИИ стал бы драфт нового сета карт, полностью отсутствующих в обучающей выборке, где системе пришлось бы на лету адаптироваться к незнакомым механикам.

Преодоление порога MMLU и «Последний экзамен человечества» 36:10

Долгое время бенчмарк MMLU оставался главным критерием оценки экспертных знаний ИИ на рутинных задачах. Ранее в разговоре собеседники касались эффективности новой модели OpenAI o1, и именно она впервые преодолела символический барьер, набрав 92% правильных ответов против 88–89% у предшественников. Однако Цви Московиц призывает не переоценивать этот рубеж, иронично сравнивая его с условными электоральными прогнозами Нейта Силвера. Порог в 90% на MMLU — это искусственная стена, поскольку оставшаяся часть вопросов часто содержит ошибки в кодовой базе ответов или изначально двусмысленна. Раз этот тест пройден, индустрии пора переходить к Humanity's Last Exam («Последний экзамен человечества») от команды Дэна Хендрикса. Сам Цви отмечает, что сложность его собственной работы сегодня заключается не в решении изолированных глубоких задач, а в огромном объеме информации и умении проводить неочевидные концептуальные связи для построения ментальной карты реальности.

Агенты за экраном: Claude управляет компьютером 41:29

Выход функции Computer Use от Anthropic ознаменовал появление моделей, способных к открытым действиям в цифровом мире. Ведущий подкаста поделился забавным кейсом: чтобы обойти ограничения безопасности Claude 3.5 Sonnet, ему пришлось прибегнуть к «маленькой белой лжи», соврав ИИ, что он уже вышел из своего аккаунта. В итоге модель успешно управляла видеоплатформой Waymark, генерируя промпты для создания роликов даже качественнее, чем среднестатистический пользователь. Цви Московиц поддерживает стратегию итеративного развертывания Anthropic. Хотя подобные релизы подстегивают аппетиты инвесторов и ускоряют общую гонку, текущая слабая версия ИИ-агента служит идеальным демо для политиков и чиновников, включая администрацию, которую формирует Дональд Трамп. Увидев, как ИИ заказывает еду через DoorDash или оперирует простыми приложениями, регуляторы могут наглядно осознать масштаб грядущих изменений, пока технология еще не стала слишком опасной.

Эра ИИ-гигантов и креативные поглощения стартапов 47:36

Обсуждая расстановку сил на рынке, эксперты констатируют жесткую консолидацию технологического сектора. За пределами узкого круга «живых игроков» — куда Цви Московиц по-прежнему включает компанию XAI из-за её способности развернуть 100 000 ускорителей H100 в рекордные сроки и нулевой стоимости капитала — новые крупные лица практически не появляются со времен релиза GPT-4. Огромное количество венчурных денег, влитых во второй эшелон разработчиков базовых моделей, фактически сгорело, а сами амбициозные стартапы были «креативно поглощены» бигтех-гигантами.

Среди наиболее ярких примеров таких скрытых слияний выделяются:

Без доступа к колоссальному капиталу и собственным резервуарам данных автономное выживание невозможно. Ранее упоминалось, что Илья Суцкевер и его стартап SSI пытаются идти иным путем, фокусируясь на безопасности, но общая модель рынка неуклонно движется к олигополии из 5–7 мегаплатформ. По мнению Цви, это все же лучше, чем монополия, так как сохраняет конкурентную вариативность.

🧭 Вечно третий Gemini и парадоксальный прорыв NotebookLM 54:33

Рыночное позиционирование Google Gemini: Почему технологический лидер остаётся запасным вариантом 54:33

Ранее в разговоре собеседники подробно анализировали процессы консолидации ИИ-рынка и стратегий ведущих лабораторий, отмечая неизбежное сокращение числа ключевых игроков. В этой системе координат положение корпорации Google выглядит максимально парадоксальным. На уровне сухих цифр и бенчмарков модели семейства Gemini демонстрируют великолепную конкурентоспособность, привлекательную стоимость запросов и высокие лимиты на работу с API. Однако в реальной практике разработчиков и конечных пользователей Gemini раз за разом оказывается лишь третьим выбором — после Claude от Anthropic и ChatGPT от OpenAI. Ведущий подкаста признаётся, что при создании собственного приложения он интегрировал Gemini последним, а в повседневной жизни открывает вкладку Google только тогда, когда первые два инструмента не справились со своей задачей.

Цви Московиц (Zvi Mowshowitz) подтверждает этот тезис на личном опыте программирования Chrome-расширений. Он обратился к Gemini лишь потому, что Claude засыпал его ошибками авторизации (401) и, по иронии судьбы, не смог починить свой собственный код. Несмотря на то, что Gemini обошёлся дешевле и в целом справился с задачей, общее впечатление осталось смазанным: модель неохотно следует сложным инструкциям и регулярно создаёт мелкие проблемы. По словам Цви, его «жизненный опыт» взаимодействия с Gemini Advanced говорит о том, что модель субъективно ощущается как более слабая, а её главное историческое преимущество — гигантское контекстное окно — сегодня перестало быть уникальным.

Среди ключевых причин такого отставания Цви Московиц выделяет несколько факторов:

В качестве иллюстрации Цви приводит личный пример: покупка смартфона за 1700 долларов ради функций Gemini AI себя совершенно не оправдала. Функция поиска обведением экрана (Circle to Search) ни разу не понадобилась ему в реальной жизни. Попытки использовать ИИ для автоматического входа в звонки или в качестве полноценного голосового ассистента в телефоне провалились, заставив задуматься о переходе на iPhone. Даже интеграция в Google Docs разочаровывает: базовая просьба резюмировать открытый документ в конце страницы заканчивается тем, что система расписывается в собственном бессилии.

Эта системная проблема проистекает из внутренней структуры корпорации. Google функционирует как конгломерат разрозненных департаментов, которые практически не общаются друг с другом, не перенимают чужие наработки и вынуждены заново изобретать и внедрять одни и те же решения. Ситуация не меняется кардинально даже с учётом того, что Microsoft начинает добавлять Gemini в GitHub Copilot. На рынке формируется жёсткое разделение труда: пользователи чётко знают, что для написания кода или глубокого анализа научных статей они выберут Claude, для специфических рассуждений — o1, а к Gemini обратятся преимущественно ради поискового заземления (Google Search grounding), где экспертиза Google по-прежнему непревзойденна.

Аудио-подкасты в NotebookLM: Технический прорыв против информационной банальности 58:51

Проблемы Google с продуктовой интеграцией наглядно иллюстрирует судьба инструмента NotebookLM. Цви Московиц отмечает, что пытался использовать этот сервис для обработки ИИ-статей, но быстро забросил, поскольку базовая модель слишком часто допускала глупые ошибки. Единственной по-настоящему прорывной функцией, привлекшей внимание всей индустрии, стала автоматическая генерация аудио-подкастов силами двух ИИ-ведущих. Ведущий подкаста называет это невероятным техническим достижением и потрясающей демонстрацией возможностей, которая на голову превосходит любой другой синтезированный аудиоконтент на рынке.

Тем не менее, Цви Московиц даёт этой функции уничтожающую практическую оценку: «Боже, пристрелите меня». При великолепном техническом исполнении — динамичном взаимодействии двух голосов, которые приятно слушать — продукт страдает от критически низкой плотности информации и запредельного уровня банальности. Вместо точного и буквального разбора сложных научных тем, например, биологических статей, NotebookLM скатывается в поверхностные поп-научные аналогии. Попытка объяснить работу антител через метафору «идеального ключа к единственному замку» вызывает у подготовленного слушателя лишь раздражение, однако переломить этот шаблон с помощью промптов невозможно.

Главный изъян текущей реализации подкастов в NotebookLM заключается в полном отсутствии гибкости и интерактивности. Цви противопоставляет этот опыт своим экспериментам с ИИ-литературой (включая интерактивный контент категории NSFW): даже объективно слабый текст становится увлекательным, если у пользователя есть возможность направлять сюжет, корректировать автора и сохранять собственную субъектность. Готовый аудио-подкаст полностью лишает слушателя этого преимущества. Настоящее обучение с помощью ИИ строится на живом диалоге: получить быстрый ответ и точечно углубиться в непонятные места, корректируя модель на ходу.

С точки зрения продуктового дизайна, Google здесь совершил редкий для себя маневр. Обычно компания дробит функции на мелкие модули, оставляя пользователя под полным контролем, из-за чего теряется «магия» технологии. В случае с NotebookLM разработчики пошли по пути амбициозного монолитного решения (end-to-end moonshot), создавая продукт «под ключ», но полностью забыли добавить инструмент для последующего взаимодействия с результатом. Надежду на исправление ситуации даёт дорожная карта команды NotebookLM, озвученная на подкасте Latent Space: разработчики планируют внедрить аудиорежим реального времени. Это способно перевести пользовательский опыт на качественно иной уровень, превратив слушателя в полноправного третьего участника беседы, способного менять ход обсуждения прямо на лету.

🔮 Прогнозы сроков и дефиниции AGI 16:35

Обсуждая текущее состояние ИИ-индустрии, Цви Московиц обращает внимание на то, что прогнозы по достижению сильного искусственного интеллекта становятся всё более агрессивными. По данным Metaculus, медианный прогноз для «слабого» AGI сейчас установлен на 2027 год, при этом модальное значение (наиболее вероятный исход) указывает на конец 2026 года. Цви признаёт, что склонен доверять этим оценкам, учитывая стремительный прогресс, например, в тестах SWE-bench, где показатели выросли с 5% до 50% всего за год.

Однако сама концепция AGI вызывает у Цви скепсис из-за проблем с определением. Текущие критерии, такие как прохождение теста Тьюринга (в стиле премии Лёбнера), решение Winograd Schema Challenge, математические тесты SAT или обучение игре Montezuma’s Revenge менее чем за 100 часов, кажутся ему либо уже достигнутыми, либо плохо отражающими реальную суть интеллекта [17:21–18:22]. Цви отмечает, что ИИ сегодня не стремится «пройти» тест Тьюринга в классическом понимании — разработчики специально ограничивают модели, чтобы они не выглядели как люди, склонные к лени или ошибкам [19:21–19:51]. В конечном счёте, вопрос о достижении AGI сводится не к техническим возможностям, а к выбору — захотят ли разработчики создавать системы, имитирующие человеческое поведение.

🧬 Видение будущего от Дарио Амодеи 21:00

Цви подробно анализирует эссе Дарио Амодеи, которое предлагает альтернативный взгляд на мощные ИИ-системы, избегая перегруженного термина AGI. Амодеи описывает сценарий, в котором ИИ обладает способностями на уровне нобелевских лауреатов во всех дисциплинах и эффективно использует компьютеры для действий в реальном мире. Ключевая гипотеза эссе заключается в возможности «сжатия» века биологических и медицинских открытий в период от 5 до 10 лет. Цви находит этот аргумент убедительным: история биомедицины показывает, что прогресс движется за счёт небольшого числа ключевых инструментов-платформ, подобных CRISPR, и появление нового «цифрового» инструмента может вызвать лавинообразный эффект [22:23–22:50].

Тем не менее, Цви считает этот прогноз «странной научной фантастикой». Основная критика заключается в том, что Амодеи описывает мир, где мы используем ИИ исключительно для направленных медицинских прорывов, игнорируя при этом тот факт, что та же технология неизбежно приведёт к взрывному развитию самого ИИ. Несмотря на критику второй половины эссе, где Амодеи призывает к «демократическому альянсу» против «плохих парней», Цви соглашается с общей вероятностью достижения такого уровня возможностей в 2026–2027 годах, отмечая, что это мнение разделяют многие специалисты в ведущих лабораториях [25:09–26:18].

🌏 Геополитика чипов и уязвимость Тайваня 32:55

Переходя к теме национальной безопасности, Цви подчёркивает тревожную стратегию США: ставка на ускоренное развитие ИИ, сохранение доминирования через ограничение доступа Китая к передовым чипам и последующее создание «нового американского порядка» [128:12–128:47]. По мнению Цви, это опасный путь, который рассматривает противников как интрактабельных (недоговороспособных) субъектов, заставляя мир «смахнуть пешки с доски» в надежде на благоприятный исход [131:58–132:11].

Особую обеспокоенность вызывает положение фабрик TSMC на Тайване. Цви указывает, что если Китай поставил цель вывести из строя производство микросхем, то это представляется вполне достижимым с помощью массированных атак, например, роев дронов [134:38–134:53]. Хотя Тайвань недавно заявил об ограничении экспорта технологий 2-нанометрового процесса, Цви сомневается, насколько это критично по сравнению с «сырым объёмом» производства [135:33–136:32].

Ситуация усугубляется тем, что распределённое обучение ИИ (по модели SETI@home) пока остаётся гипотетическим решением, но если оно станет эффективным, это кардинально изменит геополитическую динамику [137:00–138:00]. Ранее в разговоре они касались темы президентства Трампа и регулирования ИИ, что, по признанию Цви, является важными факторами для оценки риска катастрофы (PDoom), который он сейчас оценивает на уровне 0.6 [139:28–139:42].

-

⚖️ Регулирование ИИ: после вето SB 1047 1:41:12

Вето, наложенное на законопроект SB 1047 в Калифорнии, стало поворотным моментом, последствия которого индустрия и политики будут ощущать еще долгое время. Несмотря на то что Цви Московиц (Zvi Mowshowitz) и его собеседник в целом поддерживали финальную версию законопроекта, его отклонение открыло двери для более фрагментированного и потенциально деструктивного подхода к регулированию.

Основная проблема заключается в том, что SB 1047 мог стать «золотым стандартом» — сбалансированной моделью, которую копировали бы другие штаты. Вместо этого сейчас наблюдается опасная тенденция: регионы начинают рассматривать законопроекты, подобные инициативам в Техасе, которые опираются на европейский подход (EU-style) к регулированию ИИ. По мнению экспертов, такой подход несет все возможные издержки, не предлагая при этом существенных решений для минимизации экзистенциальных рисков.

Ситуация складывается парадоксально: даже консервативные штаты, такие как Техас, рискуют принять меры, которые можно охарактеризовать как «регуляторное самоубийство». Если не будет предложена разумная альтернатива, способная заполнить образовавшуюся после SB 1047 пустоту, подобные жесткие нормы могут стать доминирующим трендом по всей стране.

Риски для индустрии в такой модели регулирования весьма реальны:

Критически важно, чтобы администрация Дональда Трампа (Donald Trump) подошла к вопросу взвешенно. Отмена исполнительных указов Байдена без предоставления жизнеспособной альтернативы лишь усугубит хаос. Если новые правила будут сфокусированы на реальной безопасности, а не на «идеологических» требованиях, это позволит сохранить баланс между инновациями и контролем.

🏗️ Коммерциализация и будущее OpenAI 1:51:13

Параллельно с политическими баталиями внимание приковано к OpenAI и их масштабным планам по реструктуризации. Компания привлекла дополнительные 6 миллиардов долларов, что сопровождается жестким условием: обязательным преобразованием некоммерческой организации в коммерческую структуру в ближайшем будущем.

Ситуация вокруг этого перехода вызывает серьезные опасения по поводу легитимности сделки. По мнению критиков, это выглядит как «крупнейшая кража в истории», в ходе которой руководство пытается изъять у некоммерческого фонда контроль над активами, имеющими колоссальную рыночную стоимость, в обмен на долю в новой коммерческой структуре.

Основные пункты дискуссии о реструктуризации:

Хотя формально компания может аргументировать необходимость сделки тем, что без миллиардных вливаний на закупку GPU и электроэнергии она перестанет быть конкурентоспособной, критики настаивают: даже если реструктуризация неизбежна, текущие условия выглядят как сознательное занижение оценки в пользу частных интересов. Тем не менее, учитывая практику корпоративного мира, где зачастую «сила делает право», многие эксперты ожидают, что OpenAI добьется своего, несмотря на потенциальный общественный и юридический резонанс.

-

🤖 Политический разлом: крах UBI, трампономика для ИИ и неизбежность проекта «Манхэттен» 2:05:36

Крах надежд на UBI: почему эксперимент Сэма Альтмана не оправдал ожидания 2:05:36

Цви Московиц подробно анализирует масштабный эксперимент по внедрению безусловного базового дохода (UBI), финансировавшийся Сэмом Альтманом. Вопреки надеждам техно-оптимистов, результаты исследования оказались неутешительными и зафиксировали провал концепции в текущих реалиях. Основной вывод заключается в том, что простая раздача денег в развитых странах не приводит к автоматическому улучшению долгосрочного благосостояния граждан.

Участники эксперимента действительно стали работать меньше, но это привело к парадоксальному эффекту: их итоговый доход с учетом выплат порой оказывался даже ниже прежнего. К концу двухлетнего периода получатели пособия не улучшили свою жизнь на системном уровне. Выделенные средства ушли на текущее потребление, а не на накопление постоянного капитала, получение образования или развитие профессиональных навыков. Цви Московиц указывает на важную контекстуальную деталь — «эффект порога»:

Возможно, если бы эксперимент охватил целиком крупный город, результаты были бы иными, но наука этого пока не знает. Незначительные позитивные сдвиги в уровне счастья и времени, проведенном с семьей, не смогли перевесить общую экономическую неэффективность программы.

ИИ-политика Дональда Трампа: высокие ставки и сценарии «кошмара» 2:09:09

Обсуждая итоги президентских выборов, собеседники сходятся во мнении, что Дональд Трамп представляет собой крайне непредсказуемую фигуру с высокой дисперсией возможных исходов. С одной стороны, существуют серьезные хвостовые риски для экономики, государственного бюджета и демократических институтов. С другой стороны, для индустрии искусственного интеллекта администрация Трампа может открыть больше возможностей, чем потенциальное руководство Камалы Харрис, которая, скорее всего, продолжила бы бюрократический курс Байдена с избыточным акцентом на повестку DEI и второстепенные проблемы.

Негативный сценарий политики Дональда Трампа и Джея Ди Вэнса включает целый комплекс угроз:

Ранее в разговоре спикеры уже касались геополитики чипов и защиты Тайваня, и теперь они отмечают, что рынки предсказаний оценивают вероятность обострения вокруг острова при Трампе как более высокую. Кроме того, ранее авторы упоминали тренды регулирования после вето на законопроект SB 1047, и теперь Цви констатирует, что это окно возможностей для лоббирования закрылось.

Тем не менее, Цви Московиц видит и оптимистичный сценарий. Он сравнивает возможные решительные действия новой администрации с программой Operation Warp Speed в 2020 году, которая спасла мировую экономику во время пандемии. Трамп способен очистить регулирование от идеологических приоритетов, сохранив при этом базовые стандарты безопасности NIST. Трамп и Вэнс прагматичны, они способны быстро услышать правильных экспертов и жестко отреагировать на угрозу создания сверхинтеллекта со стороны геополических соперников.

Главным «кошмаром» для безопасности ИИ станет ситуация, если республиканцы начнут ассоциировать любые меры контроля ИИ с левой повесткой, слепо приняв философию Марка Андриссена о том, что «открытые модели принципиально безопасны». Ситуацию осложняет культурный раскол: большинство сторонников движения за безопасность ИИ разделяют исключительно леволиберальные ценности и органически не способны эффективно коммуницировать с консервативной администрацией Трампа.

Государственный проект «Манхэттен» как альтернатива хаотичной коммерческой гонке 2:24:47

Вместо паузы в разработке ИИ мир, судя по всему, движется к созданию масштабного государственного ИИ-проекта типа Манхэттенского. И хотя перспектива форсированной гонки с Китаем вызывает у многих рефлекторное отторжение из-за рисков безопасности, Цви Московиц предлагает оценивать эту неизбежность с позиций теории принятия решений.

Если проект «Манхэттен» (который Леопольд Ашенбреннер называет просто «Проектом») неотвратим, то участие в нем разумных исследователей является чистым благом. Это позволит направить разработку в более безопасное русло и гарантировать, что в технологической гонке победят США, причем победят максимально безопасным образом. Нежелание помогать государству из принципиальных соображений лишь отдаст контроль в руки деструктивных сил.

Цви Московиц резюмирует, что концентрация ресурсов в рамках единого национального проекта выглядит гораздо предпочтительнее и безопаснее, чем хаотичное соперничество трех-пяти коммерческих лабораторий, штурмующих технологический барьер в условиях жесткого рыночного давления. Включение государства — это далеко не идеальное решение, но оно определенно лучше, чем катастрофический дефолтный сценарий коммерческой анархии.

🚢 Стратегический взгляд на Закон Джонса и транспортную независимость 2:38:16

В завершающей части беседы Цви Московиц обращается к одной из наиболее парадоксальных, по его мнению, преград для американской экономики — Закону Джонса (Jones Act). Он предлагает переосмыслить этот протекционистский акт через призму риторики, близкой сторонникам администрации Дональда Трампа, чтобы сделать идею его отмены политически привлекательной и понятной широкой аудитории.

Экономический парадокс внутреннего рынка 2:38:43

Основной аргумент Московица строится на противоречии между стремлением к «решорингу» (возвращению производства в США) и текущими логистическими ограничениями. Логика проста: если целью является производство товаров внутри Америки для американских же потребителей, необходимо обеспечить эффективную и недорогую внутреннюю транспортировку этих товаров.

В текущих условиях Закон Джонса создает ситуацию, при которой перевозка грузов внутри США обходится дороже, чем их доставка из-за рубежа. Цви характеризует это как «тариф на самих себя» — искусственный барьер, который подрывает саму идею укрепления национальной экономики. По мнению спикера, такое ограничение является контрпродуктивным для любой стратегии, ориентированной на внутренний рынок.

Аргументация для реформ 2:39:29

Московиц предлагает набор доводов для потенциальной отмены или смягчения закона:

Таким образом, для Цви Московица этот шаг — это возможность реализовать прагматичную, «про-строительную» повестку, которая могла бы принести ощутимый результат, если бы администрация решилась на радикальное сокращение бюрократических «красных лент» и ограничений.

💬 Цитаты

«Илья сказал, что это больше не эпоха масштабирования... Теперь мы вернулись в эпоху чудес и открытий.»

Цви Московиц 05:22

«o1 Preview для меня супер не впечатляет. Каждый раз, когда я задаю ей вопрос, она думает некоторое время... и ни один из ответов не касается того, что я пытался сделать.»

Цви Московиц 11:20

«Once you hit 90% on an eval, I have to assume it's not already an eval for you anymore.»

«They're trying to steal most of OpenAI from the nonprofit... and they're trying to do it for a small fraction of OpenAI stock.»

«Унифицированный проект под эгидой США выглядит явно предпочтительнее, чем гонка трех-пяти ИИ-компаний к финишной черте на максимальной скорости.»

«Если у вас ситуация, когда доставка внутри Соединенных Штатов стоит дороже, чем доставка извне, это как налог на самих себя.»

👥 Спикер
📖 Термины
OpenAI o1
Новое семейство моделей ИИ, оптимизированное для логического мышления и решения сложных задач за счет увеличения времени инференса.
MMLU
Масштабный бенчмарк для оценки понимания языка моделями ИИ на основе тестов по различным академическим дисциплинам.
SB 1047
Законопроект штата Калифорния о безопасности ИИ, нацеленный на предотвращение глобальных катастрофических рисков со стороны крупнейших моделей.
UBI
Безусловный базовый доход — социальная концепция, предполагающая регулярную выплату государством фиксированной суммы денег каждому гражданину.
Закон Джонса
Федеральный закон США, регулирующий морскую торговлю и требующий, чтобы все товары между американскими портами перевозились исключительно на судах США.
Искусственный интеллект OpenAI Цви Московиц Илья Суцкевер Google Gemini регулирование ИИ