# Илья Суцкевер о будущем: «Сверхразум уже в пределах досягаемости»

Источник: https://www.youtube.com/watch?v=KI3wIUDcIgM
Канал: Wes Roth
Опубликовано: 19.06.2024

---

Илья Суцкевер, один из ключевых архитекторов современных нейросетей и сооснователь OpenAI, официально прервал молчание после своего ухода из компании Сэма Олтмена. Его новый проект, Safe Superintelligence Inc. (SSI), ставит перед собой амбициозную цель — создать искусственный сверхразум, который будет безопасен по определению, минуя промежуточные коммерческие продукты и рыночную суету.

## 🔍 Загадочное исчезновение и триумфальное возвращение
[[JUMP:00:00]]

Илья Суцкевер долгое время оставался одной из самых таинственных фигур в индустрии ИИ. Как отмечает ведущий канала Уэс Рот, Суцкевер был ключевым разработчиком GPT-4, и его гениальность признавали такие титаны, как Илон Маск и Сэм Олтмен [00:12]. После ноябрьского переворота в совете директоров OpenAI, в котором Суцкевер сыграл решающую роль, он фактически исчез из публичного поля. В сети стали популярными мемы «Что видел Илья?» и «Где Илья?», а фанаты строили теории заговора о том, не заперт ли он в секретном бункере [00:51].

Теперь на вопрос «Где Илья?» есть четкий ответ: он основал компанию SSI. По словам Уэса Рота, Суцкевер больше не фокусируется на AGI (искусственном общем интеллекте) — он нацелен сразу на ASI (искусственный сверхразум) [01:05]. Суцкевер утверждает, что создание безопасного сверхразума является «самой важной технической проблемой нашего времени» [01:31].

## 🚀 SSI: Миссия «Прямого выстрела»
[[JUMP:01:31]]

Новая компания Суцкевера получила название Safe Superintelligence Inc. (SSI). Её бизнес-модель радикально отличается от существующих игроков рынка. Как подчеркивает ведущий, Илья называет свой подход «straight shot» (прямой выстрел) [01:31]. Это означает:

*   **Единая цель:** У компании только один продукт — безопасный сверхразум [01:45].
*   **Никаких отвлечений:** SSI не планирует выпускать демо-версии, подписки, API или промежуточные продукты для заработка денег [06:13].
*   **Изоляция от рынка:** Весь рабочий цикл защищен от краткосрочного коммерческого давления, что позволяет команде сосредоточиться исключительно на научных прорывах [03:41].

Суцкевер заявляет на сайте компании: «Сверхразум уже в пределах досягаемости» [02:23]. Это утверждение звучит особенно весомо на фоне мнений скептиков, считающих, что развитие ИИ уперлось в «стену» и прогресс больших языковых моделей (LLM) замедляется. Как вспоминает Уэс Рот, Суцкевер еще год назад предсказывал, что многие заговорят об «ИИ-зиме», но сам он уверен, что темпы прогресса будут только расти [02:36].

## 👥 Команда «взломщиков» и звездные сооснователи
[[JUMP:04:06]]

Для реализации этой миссии Суцкевер собирает «crack team» (в терминологии геймеров и айтишников — невероятно способную и сплоченную группу экспертов) [04:06]. Сооснователями SSI стали:

1.  **Дэниел Гросс (Daniel Gross):** Инвестор и инженер, ранее руководивший ИИ-проектами в Apple. Он был партнером в Y Combinator и инвестировал в такие стартапы, как GitHub, Coinbase и Instacart [04:55].
2.  **Дэниел Леви (Daniel Levy):** Бывший сотрудник OpenAI, работавший вместе с Суцкевером над обучением крупнейших моделей. Он имеет докторскую степень Стэнфорда и опыт работы в Google Brain и Facebook [05:09].

Интересной деталью является то, что Дэниел Гросс также поддерживает усилия Джона Кармака (создателя игры Doom) по разработке AGI в рамках компании Keen Technologies [05:36]. Суцкевер и Гросс имеют глубокие связи с Израилем, поэтому офисы SSI будут расположены в Пало-Альто (Калифорния) и Тель-Авиве [03:54].

## 🛡️ Безопасность на уровне «Ядерного реактора»
[[JUMP:06:40]]

В отличие от многих компаний, которые применяют фильтры безопасности (guardrails) к уже готовым моделям, SSI намерена «вшивать» безопасность непосредственно в саму архитектуру системы. Суцкевер проводит четкое различие: по его мнению, безопасность должна быть инженерной задачей, подобной безопасности ядерных объектов, а не просто вопросом модерации контента («trust and safety») [06:53].

Ведущий отмечает, что это выглядит как скрытая критика OpenAI, которая часто использует термин «Trust and Safety» [07:05]. Суцкевер считает, что сверхразум должен базироваться на ценностях, лежащих в основе либеральных демократий: свободе и демократии [09:29]. По мнению Ильи, будущие системы не будут просто собеседниками в чате — это будут автономные сущности, способные самостоятельно развивать технологии в гигантских дата-центрах [09:43].

## ⚖️ Анализ и критика: Еще один стандарт?
[[JUMP:10:10]]

Уэс Рот задается вопросом, насколько реалистична цель Суцкевера. С одной стороны, Илья обладает репутацией предельно серьезного и честного человека, который не склонен к пустым обещаниям ради хайпа [11:29]. С другой стороны, скептики могут увидеть в этом «инфляцию ожиданий»: если OpenAI обещает AGI, то новой компании приходится обещать ASI, чтобы привлечь внимание инвесторов [11:16].

Ведущий приводит в пример знаменитый комикс XKCD о стандартах: когда на рынке существует 14 конкурирующих стандартов и кто-то решает создать один универсальный, который всех объединит, в итоге получается 15 стандартов [10:24]. Аналогично:

*   Anthropic откололась от OpenAI ради безопасности [10:49].
*   Илон Маск создал xAI с той же целью [11:03].
*   Теперь Суцкевер создает SSI, обещая еще более высокий уровень безопасности и прогресса [11:03].

Тем не менее, Уэс Рот подчеркивает, что Суцкевер — фигура легендарная, и его уверенность в том, что сверхразум достижим в обозримом будущем, делает SSI одной из самых интригующих компаний в Кремниевой долине [09:04].