# Возвращение Сэма Альтмана и загадка Q-Star: что на самом деле произошло в OpenAI Источник: https://www.youtube.com/watch?v=GFg98TDqCpw Канал: Yannic Kilcher Опубликовано: 23.11.2023 --- Недавние события в OpenAI превратились в настоящий техно-триллер с неожиданными поворотами, корпоративными интригами и слухами о создании искусственного интеллекта, угрожающего человечеству. Исследователь ИИ Янник Кильчер разбирает хронику возвращения Сэма Альтмана, роль Microsoft в этом кризисе и загадочный проект Q-Star, который мог стать истинной причиной конфликта внутри совета директоров. ## 🔄 Возвращение героев: Хроника камбэка в OpenAI [[JUMP:0:00]] После внезапного увольнения Сэма Альтмана и ухода Грега Брокмана ситуация в OpenAI менялась стремительно, напоминая сюжетный поворот в кино, где герои достигают низшей точки, прежде чем триумфально вернуться [0:14]. Первоначально Мира Мурати, назначенная временным генеральным директором, планировала вернуть Альтмана и Брокмана в компанию [1:36]. Она открыто встала на сторону Сэма, пытаясь заставить совет директоров пересмотреть своё решение. Однако совет директоров OpenAI в ответ на эти действия сохранял полное молчание и начал поиск собственного кандидата на пост CEO [1:49]. В итоге новым временным руководителем был назначен Эмметт Шир, сооснователь и бывший глава Twitch [2:31]. По словам Янника Кильчера, совет обращался и к другим кандидатам, но те ответили отказом. Основные этапы противостояния: * Мира Мурати пытается вернуть старую команду, надеясь, что совет не решится на массовые увольнения [2:02]. * Совет директоров игнорирует требования сотрудников и назначает Эмметта Шира [2:31]. * Microsoft вмешивается в ситуацию, предлагая Альтману и Брокману возглавить новое подразделение внутри корпорации [3:25]. ## ♟️ Шахматный ход Сатьи Наделлы [[JUMP:2:43]] Генеральный директор Microsoft Сатья Наделла опубликовал заявление, которое кардинально изменило баланс сил. Он подтвердил приверженность партнерству с OpenAI, но одновременно объявил, что Сэм Альтман и Грег Брокман присоединяются к Microsoft для руководства новой группой передовых исследований в области ИИ [3:11]. Этот шаг стал «абсолютным мастерским ходом» со стороны Microsoft [5:28]. По мнению Янника Кильчера, корпорация фактически приобрела OpenAI, не тратя лишних усилий, просто позволив совету директоров компании заниматься «клоунадой» до саморазрушения. Реакция сотрудников OpenAI была беспрецедентной: * Более 700 сотрудников из примерно 750 подписали открытое письмо с требованием отставки совета директоров [5:14]. * Сотрудники заявили о готовности массово перейти в Microsoft вслед за Альтманом [5:28]. * К письму присоединился даже Илья Суцкевер, который изначально входил в группу директоров, уволивших Сэма [4:47]. * Илья Суцкевер публично выразил глубокое сожаление о своём участии в действиях совета, заявив, что никогда не намеревался причинить вред компании [5:01]. ## 👑 «Мы вернулись»: Условия триумфального возвращения [[JUMP:5:40]] Несмотря на договоренности с Microsoft, Сэм Альтман и Грег Брокман оставались открытыми для возвращения в OpenAI, при условии, что оставшиеся члены совета директоров, инициировавшие увольнение, уйдут в отставку [5:52]. Клиенты OpenAI в этот момент находились в состоянии паники, опасаясь за стабильность API, на которых строится их бизнес [6:04]. В конечном итоге стороны достигли принципиального соглашения: 1. Сэм Альтман возвращается на пост генерального директора [6:58]. 2. Формируется новый первоначальный совет директоров, в который вошли Брет Тейлор, Ларри Саммерс и Адам Д’Анджело [6:58]. 3. Грег Брокман официально объявил о возвращении, написав в Twitter: «Мы вернулись» [7:11]. ## 🛡️ Раскол из-за безопасности и коммерциализации [[JUMP:7:39]] Хотя официальные причины увольнения Альтмана остаются туманными, Янник Кильчер выделяет несколько факторов, способствовавших конфликту. Один из членов совета директоров недавно опубликовал статью, критикующую подход OpenAI к безопасности при развертывании больших языковых моделей (LLM) [7:53]. Внутри компании наметился явный раскол на две группы: * **Группа Альтмана:** Сторонники быстрой коммерциализации, роста и активного внедрения технологий в массы [8:18]. * **Группа «безопасности»:** Сторонники осторожного подхода, опасающиеся рисков, связанных с созданием сильного ИИ (AGI). По словам Кильчера, эта фракция предпочитает держать технологии закрытыми [8:45]. Ведущий отмечает, что некоторые сотрудники подписывали письмо о возвращении Альтмана под давлением коллег, однако в условиях анонимных опросов трудно отделить реальное мнение от социального давления [8:59]. ## 🌟 Загадочный Q-Star: Прорыв к AGI? [[JUMP:9:39]] Самым интригующим развитием событий стало сообщение агентства Reuters о секретном проекте под названием Q-Star (Q*). По данным источников, перед увольнением Альтмана группа исследователей направила совету директоров письмо, предупреждая о мощном открытии, которое может угрожать человечеству [9:51]. Мира Мурати якобы подтвердила сотрудникам, что именно утечка или обсуждение проекта Q-Star спровоцировали действия совета [10:03]. Что известно о Q-Star на данный момент: * Модель продемонстрировала способность решать математические задачи на уровне начальной школы [10:15]. * Исследователи крайне оптимистичны в отношении будущего успеха этой архитектуры. * В сети начались массовые спекуляции: название интерпретируют как сочетание Q-обучения (Q-learning) и алгоритма поиска A* (A-star) [11:23]. * Предполагается, что новая модель способна к планированию и логическому выводу, что является важным шагом на пути к AGI [11:37]. Янник Кильчер предостерегает от излишнего хайпа, отмечая, что ИИ-инфлюенсеры (многие из которых ранее занимались криптовалютами) уже называют это «тем самым AGI», хотя реальных данных о методах работы Q-Star практически нет [10:41]. ## 🤡 Критика «пастухов» ИИ и уроки кризиса [[JUMP:13:00]] Подводя итоги этого «клоунского шоу», Янник Кильчер выражает скепсис в отношении людей, называющих себя защитниками безопасности ИИ. По его мнению, ситуация показала, что те, кто претендует на роль «мудрых пастухов», не способны даже нанять генерального директора на срок более двух дней [13:15]. Ключевые выводы автора: * Аргументы о «безопасности» часто используются для того, чтобы скрыть желание контролировать рынок и зарабатывать деньги [13:42]. * Любая малая группа людей подвержена личным распрям и неадекватным мотивациям, что делает централизованный контроль над ИИ опасным [13:55]. * Настоящая безопасность заключается в том, чтобы дать доступ к технологиям как можно большему количеству людей, а не замыкаться в узком кругу [14:08]. ## 🎭 Мемы и атмосфера в сообществе [[JUMP:14:20]] Завершая выпуск, Янник Кильчер делает обзор мемов, порожденных кризисом в OpenAI. Юмор в сообществе варьируется от шуток про Сатью Наделлу, «поглотившего» OpenAI за выходные, до ироничных картинок о том, как сотрудники мониторят ситуацию с Q-Star вместо сна [15:01]. Особенно выделяются следующие сюжеты: * Официальный аккаунт ChatGPT, отправляющий эмодзи сердечка Сэму Альтману, в то время как корпоративные аккаунты «дрожат от страха» [15:56]. * Сравнение Альтмана со Сталиным, который «исчезает» с фотографий, а затем возвращается [16:35]. * Разочарование от того, что даже специалисты по «алайменту» (выравниванию ИИ с человеческими ценностями) не смогли договориться между собой [17:12]. Ситуация продолжает развиваться, и, как отмечает Янник, к моменту выхода любого видео о OpenAI в мире ИИ могут произойти еще «десять миллиардов событий» [18:04].