Бывший член совета директоров OpenAI Хелен Тонер впервые подробно изложила свою версию событий, приведших к громкому увольнению Сэма Альтмана в ноябре 2023 года. В своем интервью она обвинила главу компании в систематическом сокрытии информации и манипуляциях, которые сделали невозможным независимый контроль со стороны совета. Автор канала Wes Roth подробно анализирует эти откровения, сопоставляя их с реальной подоплекой движения эффективного альтруизма и финансовыми аппетитами ИТ-гигантов.
💥 Причины раскола: в чём Хелен Тонер обвиняет Сэма Альтмана 0:00
По словам Хелен Тонер, Сэм Альтман в течение многих лет целенаправленно усложнял работу совета директоров, скрывая ключевую информацию и намеренно искажая факты. В качестве конкретных примеров Тонер приводит следующие инциденты:
- О запуске ChatGPT в ноябре 2022 года совет директоров вообще не был предупрежден заранее — участники узнали о релизе постфактум из социальной сети Twitter.
- Сэм Альтман скрыл от совета факт владения венчурным фондом OpenAI Startup Fund, хотя постоянно позиционировал себя как независимого члена совета без каких-либо финансовых интересов в компании.
- Глава компании неоднократно предоставлял недостоверную информацию о процессах безопасности, из-за чего совет не мог объективно оценить риски разработки.
Отдельно Тонер упоминает конфликт вокруг её исследовательского отчета «Decoding Intentions». В этой работе критиковался поспешный запуск ChatGPT и проводилось сравнение с конкурентом — компанией Anthropic, которая, по мнению автора, развивала технологии более ответственно. По утверждению Тонер, Сэм Альтман начал лгать другим членам совета директоров, пытаясль вытеснить её из его состава. В итоге в конце октября 2023 года все четыре члена совета, проголосовавшие позже за отставку Альтмана, пришли к выводу, что продолжать работу в условиях тотального недоверия невозможно.
🤫 Тайный бунт топ-менеджеров и страх мести 6:48
Как утверждает Хелен Тонер, решение совета директоров не было изолированным: в октябре 2023 года произошла серия конфиденциальных встреч с ключевыми топ-менеджерами OpenAI.
По словам экс-сопредседательницы совета, эти руководители сами вышли на контакт и предоставили документальные доказательства и скриншоты, подтверждающие ложь и манипуляции со стороны Сэма Альтмана. В этих разговорах менеджеры использовали термин «психологическое насилие» для описания атмосферы в компании и заявляли, что Альтман не является тем человеком, который способен безопасно привести команду к созданию сильного искусственного интеллекта (AGI).
Интересно, что этот внутренний раскол совпал по времени с инсайдами анонимного Twitter-аккаунта Jimmy Apples, который еще 24 октября 2023 года сообщил об изменении «вайба» в OpenAI и риске ухода ключевых сотрудников.
Тонер объясняет, почему после увольнения Альтмана сотрудники массово потребовали его возвращения, публикуя эмодзи с сердечками:
- Работникам навязали ложную дилемму: либо немедленное возвращение Альтмана без каких-либо условий, либо полное уничтожение компании. На кону стояли огромные деньги от грядущего тендерного предложения по выкупу акций, и люди просто боялись потерять свои рабочие места.
- Сотрудники испытывали сильный страх перед местью со стороны Альтмана, поскольку ранее уже сталкивались с его жесткой реакцией на критику. Когда запуск процесса его возвращения стал казаться неизбежным, несогласные предпочли промолчать, чтобы не испортить себе жизнь.
Кроме того, Тонер указывает на исторический бэкграунд Альтмана, который, по её сведениям, ранее был тайно уволен из акселератора Y Combinator, а до этого в его первом стартапе Looped руководство дважды требовало от совета директоров его отставки за «лживое и хаотичное поведение».
⚖️ Регулирование ИИ: от кредитных рисков до сценария «Валли» 14:15
В вопросах регулирования Хелен Тонер выделяет несколько уровней угроз. Для базовых ИИ-систем необходим контроль в сферах, где алгоритмы принимают критические решения: выдача кредитов, условно-досрочное освобождение или покупка недвижимости. В этих областях ИИ часто демонстрирует дискриминацию.
В качестве иллюстрации Тонер приводит реальный случай, когда полиция арестовала невиновную женщину на 8-м месяце беременности исключительно на основании ошибочного совпадения в системе распознавания лиц. По её мнению, технологии распознавания работают с разной эффективностью на разных демографических группах.
Говоря о долгосрочных рисках, Тонер выражает опасение, что продвинутый ИИ может дать любому «скрипт-кидди» в подвале хакерские возможности на уровне элитного киберотряда АНБ. Главный же экзистенциальный страх Тонер описывает через аналогию с мультфильмом «Валли» (Wall-E):
- Люди добровольно пересядут в мягкие автоматизированные кресла-коляски, потребляя еду и контент.
- Коммерческие стимулы заставят бизнес создавать продукты, удовлетворяющие лишь поверхностные сиюминутные желания.
- Все ключевые и судьбоносные решения постепенно перейдут к машинам, которые в принципе не имеют понятий о смысле жизни, красоте, радости или эстетике.
При этом в качестве утопического сценария Тонер видит использование ИИ для борьбы с изменением климата, создания избыточной и дешевой энергии, а также для модернизации сельского хозяйства.
🎭 Двойная риторика: скрытая повестка эффективного альтруизма 29:40
Ведущий Wes Roth предлагает взглянуть на ситуацию критически. По его мнению, многие организации, заявляющие о безопасности ИИ, манипулируют общественным мнением. Движение эффективного альтруизма (EA), к которому принадлежат и Хелен Тонер, и Сэм Бэнкман-Фрид (осужденный основатель биржи FTX), обладает внушительными ресурсами. Так, Виталик Бутерин пожертвовал около 665 миллионов долларов в криптовалюте Институту будущего жизни (Future of Life Institute), а общий объем фондов EA, ориентированных на экзистенциальные риски ИИ, превышает 1 миллиард долларов.
Рот отмечает, что сообщество так называемых «рационалистов» демонстрирует признаки элитарности и скрытности. На основе публикаций платформы LessWrong он указывает на внутреннее недовольство активистов притоком «глупых новичков» и наличие культа личности вокруг таких фигур, как Элиезер Юдковский.
Согласно анализу Рота, движение EA использует стратегию «двойной риторики» (double rhetoric):
- Внутренний круг (Core EA): Обсуждает исключительно «X-риски» (экзистенциальный риск уничтожения человечества или превращения его в скрепки). Активисты открыто пишут, что помощь элитным студентам в получении научных степеней имеет более высокую ожидаемую ценность, чем прямая помощь беднякам во всем мире. Сам Юдковский прямо заявлял, что темы помощи животным или бедным в Африке нужны лишь как «понятное обществу лицо» для маскировки непопулярных идей о борьбе с роботами-убийцами.
- Публичное лицо (External face): Для внешней аудитории Тонер и её единомышленники используют понятные триггеры — заботу о пенсионерах, теряющих медицинскую страховку Medicare из-за сбоев алгоритмов, или климатический кризис. По мнению Рота, это классический тактический прием «приманки и подмены» (bait and switch) с целью получить регуляторную власть над индустрией.
В качестве исторической параллели Рот приводит личные заметки Сэма Бэнкмана-Фрида перед судом, где тот детально расписывал стратегии манипулирования медиа: от имиджа ярого сторонника свободы крипты на Fox News до радикальной честности в Twitter — исключительно ради спасения собственной репутации, без связи с реальными убеждениями.
В заключение ведущий подчеркивает: безопасное внедрение ИИ жизненно необходимо, однако формированием регуляторной политики должны заниматься прагматичные специалисты, а не фанатичные «думеры», верящие в 100%-ю вероятность гибели человечества и готовые ради достижения своих целей использовать ложь и кулуарные интриги.
