В ноябре 2023 года мир технологий потрясло внезапное увольнение Сэма Олтмена из OpenAI — событие, которое едва не уничтожило самую дорогую ИИ-компанию мира за несколько дней. Новые подробности, всплывшие благодаря готовящейся к выходу книге, раскрывают глубинные причины конфликта: от тайных предупреждений Питера Тиля до идеологического влияния «пророков» ИИ-апокалипсиса и борьбы за контроль над будущим сверхразума.
🕶️ Теневой наставник: роль Питера Тиля в истории OpenAI 0:00
История увольнения Сэма Олтмена, по словам автора канала Уэса Рота, неожиданно начинается с фигуры Питера Тиля . Тиль, известный как «дон» так называемой «мафии PayPal» (куда входили Илон Маск, Макс Левчин и Рид Хоффман), на протяжении многих лет выступал ментором для ключевых фигур Кремниевой долины .
Особое внимание в видео уделяется способности Тиля находить таланты через его программу Thiel Fellowship, которая предлагает молодым людям $100 000 за отказ от колледжа ради реализации своих идей . Среди выпускников этой программы:
- Виталик Бутерин — создатель Ethereum .
- Дилан Филд — основатель figma, проданной Adobe за $20 млрд .
- Остин Рассел — самый молодой селф-мейд миллиардер в 25 лет .
- Лора Деминг — основательница Longevity Fund .
Сэм Олтмен также входил в круг общения Тиля. В ноябре 2023 года, буквально за несколько недель до увольнения Олтмена из OpenAI, они ужинали в Лос-Анджелесе . Именно во время этой встречи Тиль высказал опасения, которые впоследствии оказались пророческими.
🧠 Элиезер Юдковский и идеология «ИИ-думеров» 3:02
Главным предметом беспокойства Питера Тиля был другой его подопечный — Элиезер Юдковский. Юдковский является основателем движения за безопасность ИИ и считается лидером так называемых «ИИ-думеров» .
Основные тезисы Юдковского, изложенные в видео:
- Сверхразум (Superintelligence) неизбежно приведет к гибели человечества, если не будет идеально «выровнен» (aligned) с нашими ценностями .
- Развитие ИИ, скорее всего, закончится катастрофой .
- Движение «эффективного альтруизма» (Effective Altruism, EA) должно сфокусироваться на предотвращении угрозы со стороны неконтролируемого ИИ .
Тиль предупреждал Олтмена, что Юдковский буквально «запрограммировал» половину сотрудников OpenAI верить в то, что их работа может уничтожить мир . По мнению Тиля, влияние идей Юдковского и сообщества EA внутри компании стало критическим, и он предсказывал, что именно «эффективные альтруисты» в конечном итоге попытаются разрушить OpenAI изнутри .
⚔️ Тайный заговор внутри совета директоров 6:07
На момент кризиса совет директоров OpenAI состоял из шести человек: Ильи Суцкевера, Хелен Тонер, Адама Д’Анджело, Таши Макколи, Грега Брокмана и самого Сэма Олтмена . Уэст Рот отмечает, что Хелен Тонер и Таша Макколи были тесно связаны с движением эффективного альтруизма .
Пока Олтмен занимался развитием бизнеса, четверо членов совета (кроме самого Сэма и Грега Брокмана) проводили секретные встречи, обсуждая его отставку . В качестве причин для недовольства инсайдеры называют:
- Нарушения протоколов безопасности: Утверждается, что Олтмен запускал новые функции ChatGPT без одобрения совместного совета по безопасности с Microsoft. По данным Хелен Тонер, из множества релизов официальное одобрение получил только один .
- Запуск GPT-4 в Индии: Продукт был запущен для тестирования в Индии раньше, чем в остальном мире, без согласования с советом .
- Непрозрачность финансов: Совет узнал, что Олтмен лично владеет венчурным фондом OpenAI Startup Fund. Хотя Олтмен утверждал, что это временная структура и он не получает прибыли, совет счел это подозрительным .
- Стремительный рост ChatGPT: То, что планировалось как «исследовательское превью», превратилось в самое быстрорастущее приложение в истории, к чему совет не был готов .
📉 Провал переворота и «Двойной агент» Суцкевер 8:43
Илья Суцкевер, главный научный сотрудник OpenAI, считается человеком, который «толкнул первую домино» в этом процессе . Он посоветовал Хелен Тонер поговорить с Мирой Мурати (CTO компании), намекая на существующие проблемы .
Конфликт обострился, когда Тонер опубликовала статью с критикой OpenAI, утверждая, что конкуренты из Anthropic подходят к безопасности более ответственно . Олтмен попытался добиться увольнения Тонер, но, как утверждается в видео, солгал Суцкеверу, заявив, что другой член совета (Таша Макколи) поддерживает эту идею . Когда ложь вскрылась, совет окончательно решил действовать.
Увольнение произошло по видеосвязи, когда Олтмен был в отъезде . Однако совет совершил ряд критических ошибок:
- Они не предупредили Сатью Наделлу (CEO Microsoft), который узнал о случившемся за несколько минут до официального пресс-релиза и был в ярости .
- Они не предоставили внятных объяснений сотрудникам, ограничившись фразой, что Олтмен «не был последовательно откровенен» .
- Они надеялись, что Мира Мурати успокоит коллектив, но вместо этого она возглавила внутреннее восстание против совета .
Интересная деталь: после увольнения члены совета начали подозревать Илью Суцкевера в том, что он мог быть «двойным агентом» Олтмена, подосланным, чтобы проверить их лояльность и спровоцировать конфликт, который в итоге позволит Олтмену избавиться от неугодных директоров .
🔄 Возвращение и последствия 15:03
К утру понедельника почти все сотрудники OpenAI подписали письмо с требованием вернуть Олтмена, угрожая массовым увольнением в Microsoft . Самым неожиданным стало то, что среди подписавшихся были и Мира Мурати, и сам Илья Суцкевер .
Итоги кризиса:
- Сэм Олтмен восстановлен в должности .
- Представители движения «эффективного альтруизма» (Хелен Тонер и Таша Макколи) покинули совет .
- Илья Суцкевер и Мира Мурати позже также ушли из OpenAI, создав собственные стартапы (Суцкевер основал SSI — Safe Superintelligence) .
Уэс Рот резюмирует, что эта история напоминает сценарий фильма с тайными культами, двойными агентами и борьбой за власть в масштабах всего человечества . Он задается вопросом: был ли это просто проваленный переворот идеалистов или тонкая игра Питера Тиля и Сэма Олтмена по очистке компании от влияния EA-движения .
