OpenAI, Strawberry и Orion: новая эра «королевского» ИИ? 0:00
Недавние публикации в издании The Information раскрыли шокирующие подробности о внутренних разработках OpenAI. Слухи о проекте Strawberry оказались правдой: эта технология, ранее известная под кодовым названием Q*, уже существует и была продемонстрирована представителям органов национальной безопасности США. Что еще более примечательно, Strawberry служит фундаментом для создания модели следующего поколения под названием Orion, которая, по мнению автора видео Уэса Рота, может кардинально изменить ландшафт ИИ, вопросы его безопасности и национальных интересов.
🍓 Strawberry: мост к продвинутому рассуждению 1:17
Проект Strawberry (тот самый Q*) направлен на то, чтобы наделить ИИ способностью не просто генерировать ответы, а осуществлять автономное планирование и проводить «глубокие исследования» в интернете.
- Суть технологии: По мнению Уэса Рота, Strawberry — это завершенная форма того, что описывалось в научных статьях Stanford о самообучающихся моделях рассуждения (STaR).
- Механизм: Модель обучается создавать цепочки рассуждений, «пошагово проговаривая» путь к решению задачи, что помогает избежать галлюцинаций.
- Атрибуция: Исследователь из Стэнфорда Ноа Гудман утверждает, что STaR позволяет моделям самостоятельно выходить на более высокие уровни интеллекта путем итеративного создания собственных тренировочных данных.
🌌 Orion: модель, которая «правит миром» из тени 11:26
Orion — это следующая флагманская модель OpenAI, в разработке которой Strawberry играет ключевую роль. Основная задача Strawberry здесь — создание высококачественных синтетических данных для обучения Orion.
По мнению Уэса Рота, стратегия OpenAI может напоминать биологическую модель: Orion — это «королева», которая находится в закрытой лаборатории и «откладывает яйца» (генерирует синтетические данные), а «дроны» (меньшие по размеру, узкоспециализированные модели) выходят к пользователям.
- Доступность: Рот полагает, что Orion никогда не будет выпущен для публики. Вместо этого OpenAI будет использовать ее для создания специализированных, компактных моделей, которые идеально подходят для конкретных задач — от программирования до клиентского сервиса.
- Безопасность: Такой подход позволяет компании сохранять контроль над самой мощной «королевской» моделью, выпуская наружу лишь безопасные инструменты, что, по словам ведущего, является существенным шагом для предотвращения попадания опасных технологий в руки противников.
🛡️ Геополитика и национальная безопасность 5:38
Демонстрация Strawberry государственным чиновникам — это не просто отчет о проделанной работе, а попытка выстроить новые стандарты взаимодействия.
- Защита технологий: Рот считает, что OpenAI пытается инициировать диалог о том, как обезопасить технологии от кражи иностранными противниками, такими как Китай.
- Критика открытости: В этом контексте Уэс Рот отмечает, что OpenAI может косвенно критиковать Meta и Марка Цукерберга за их политику «открытых весов» (open weights), делающую мощные модели доступными для всех. (Сам Цукерберг, по словам Рота, аргументирует, что открытый код способствует лучшей безопасности, хотя эта позиция вызывает споры в индустрии).
🤖 Обучение на конкурентах: «грязный секрет» индустрии 28:15
В индустрии ИИ процветает практика использования данных конкурентов для дообучения собственных систем.
- Пример Orca 2: Microsoft в своей статье признала, что использовала мощную модель GPT-4 для создания синтетических данных, на которых обучалась маленькая, но крайне эффективная модель Orca 2, превзошедшая многих конкурентов.
- Алгезия об Adobe: Рот упоминает обвинения в адрес Adobe Firefly, которые, несмотря на позиционирование как «этичного» ИИ, обучались, по слухам, на изображениях из Midjourney.
