# Уэс Рот: «OpenAI жертвует безопасностью ради скорости выпуска o3?» Источник: https://www.youtube.com/watch?v=5taJhLo13hs Канал: Wes Roth Опубликовано: 11.04.2025 --- В мире искусственного интеллекта нарастает напряжение: пока ведущие лаборатории соревнуются в скорости выпуска новых продуктов, внутри индустрии всё громче звучат опасения по поводу безопасности. В новом обзоре блогер и ИИ-энтузиаст Уэс Рот (Wes Roth) анализирует появление загадочных «стелс-моделей» на платформе OpenRouter, планы OpenAI по масштабному обновлению линейки продуктов и этические дилеммы, с которыми сталкиваются сотрудники компании при попытке замедлить гонку вооружений ради тестов безопасности. ## 🥊 Гладиаторские бои роботов: Unitree выходит на ринг [[JUMP:00:00]] Уэс Рот начинает обзор с демонстрации кадров, которые легко спутать с гиперреалистичной компьютерной графикой. На видео человекоподобный робот от китайской компании Unitree участвует в спарринге с человеком [00:00]. Несмотря на то что машина весит всего около 45 килограммов, по мнению автора, она «бьёт выше своего веса» и демонстрирует поразительную устойчивость [00:13]. Компания Unitree, по словам Рота, достигла впечатляющего прогресса в робототехнике. Среди ключевых особенностей их подхода: * **Открытость данных:** Unitree делает ставку на open-source, создавая открытую экосистему для разработчиков [01:59]. * **Обучение в симуляции:** Для тренировки навыков роботов используется платформа Nvidia Isaac Gym [02:12]. * **Прозрачность как фактор доверия:** Уэс Рот отмечает, что на фоне напряжённых отношений между США и Китаем открытость исходного кода может несколько смягчить опасения пользователей по поводу безопасности и конфиденциальности при использовании китайских роботов в домашних условиях [02:39]. Автор анонсировал прямую трансляцию полноценного боя робота против человека, которая должна состояться в ближайший месяц [02:52]. Рот в шутку замечает, что обычно ему жалко роботов, когда их пинают для проверки стабильности, но в контексте боксёрского поединка в защитном снаряжении это выглядит вполне приемлемо [03:04]. ## 🕵️ Загадочные модели Quazar и Optimus Alpha [[JUMP:03:30]] Особое внимание ИИ-сообщества привлекло появление на платформе OpenRouter двух «стелс-моделей» — Quazar и Optimus Alpha [03:30]. Использование подобных площадок позволяет лабораториям проводить «слепое» тестирование своих продуктов в реальных условиях, получая отзывы пользователей без раскрытия бренда [03:55]. Основные характеристики модели Optimus Alpha, согласно данным из транскрипта: * **Контекстное окно:** 1 миллион токенов [04:22]. * **Специализация:** Высокая эффективность в написании кода [04:22]. * **Скорость:** Модель выдаёт результат практически мгновенно, без долгого «раздумья», что указывает на то, что это не специализированная reasoning-модель (модель для рассуждений) [05:55]. Уэс Рот предполагает, что за этими моделями стоит OpenAI. Это подтверждается постом Сэма Альтмана, который отметил, что «квазары — очень яркие объекты» [05:02]. В английском языке слово *bright* означает не только «яркий», но и «умный», что Рот расценивает как косвенное подтверждение авторства OpenAI [05:15]. Существует вероятность, что под этими кодовыми именами скрываются будущие релизы o4-mini или o4-mini high [05:42]. ## 📈 Дорожная карта OpenAI: конец эры GPT-4 [[JUMP:06:08]] По информации автора, OpenAI готовится к запуску сразу трёх новых моделей: o4 mini, o4 mini high и o3 [06:08]. При этом эпоха GPT-4 подходит к концу — оригинальную модель постепенно выводят из эксплуатации, заменяя её более современными архитектурами [07:00]. В профессиональной среде уже обсуждаются бенчмарки новых моделей. Мэтт Берман (Matt Berman) сообщил в Twitter, что загадочная Quazar Alpha якобы превосходит Claude 3.7 Sonnet в тестах, работая при этом в четыре раза быстрее [07:26]. Рот выделяет две основные ветки развития моделей OpenAI: 1. **Не-рассуждающие модели:** GPT-4o и ожидаемая GPT-4.5. Последняя, по мнению автора, будет отличаться высоким уровнем креативности и естественности языка [06:22]. 2. **Reasoning-модели (рассуждающие):** o1, o3 mini и o3 mini high [06:48]. ## ⚠️ Безопасность или скорость: конфликт внутри OpenAI [[JUMP:08:03]] Ссылаясь на инсайдеров и публикации, Уэс Рот поднимает вопрос о снижении приоритета тестов безопасности в OpenAI. По мнению источников, Сэм Альтман стремится выпускать продукты быстрее из-за высокого рыночного спроса, что идёт вразрез с более тщательными проверками, которые проводились ранее [08:03]. Важной фигурой в этом контексте стал Даниэль Кокотайло (Daniel Kokotajlo), бывший сотрудник OpenAI. Рот отмечает мужество Кокотайло, который пошёл на публичный конфликт с компанией, несмотря на риск потери опционов [08:57]. По словам автора, Даниэль утверждал, что около 80–90% благосостояния его семьи зависело от акций OpenAI, но он всё равно решил выступить в защиту «осведомителей» (whistleblowers) и требовать более строгих мер безопасности [09:10]. Ключевые опасения связаны с «Протоколом готовности» (Preparedness Framework) OpenAI [10:01]: * **Модель o3 mini:** Стала первой моделью, достигшей «среднего» (Medium) уровня риска в категории автономности [10:14]. * **Уровень «High» (Высокий):** По определению OpenAI, это уровень, при котором ИИ может выполнять задачи по самосовершенствованию (recursive self-improvement) и самостоятельно проводить исследования в области машинного обучения [10:40]. * **Опасность ускорения:** Рот подчёркивает, что способность ИИ к автономным исследованиям может вызвать лавинообразный прогресс, к которому общество не готово [11:19]. ## 🧠 Память ChatGPT и феномен «Разделения» [[JUMP:11:45]] В завершение Уэс Рот обсуждает новую функцию ChatGPT — долгосрочную память, которая позволяет боту запоминать детали прошлых диалогов для персонализации ответов [11:45]. Это нововведение вызвало неоднозначную реакцию. Эксперт Этан Моллик (Ethan Mollick) выразил мнение, что ИИ не должен смешивать рабочие задачи с личными деталями, и подчеркнул важность границ [12:39]. Исследователь OpenAI Ноам Браун (Noam Brown), ранее работавший в Meta над дипломатическим ИИ Cicero, в шутку предложил реализовать концепцию из сериала «Разделение» (Severance) [12:53]. Суть предложения в том, чтобы у пользователя было два профиля ИИ: * **Innie (Внутренний):** Для работы, знающий только профессиональный контекст. * **Outie (Внешний):** Для личной жизни, не пересекающийся с рабочими данными [12:53]. Уэс Рот заключает, что, хотя новости об ИИ выглядят многообещающе, к каждой из них стоит относиться с долей здорового скептицизма [13:20].