Сэм Альтман: Почему GPT-4 — это отстой и кто видел Илью?

🧱 Архитектура власти: Уроки «дворцового переворота» в OpenAI

События выходных 17–19 ноября 2023 года Сэм Альтман называет «самым болезненным профессиональным опытом» в своей жизни. Кризис, в ходе которого совет директоров внезапно уволил CEO, а затем был вынужден вернуть его под давлением сотрудников, стал для индустрии ИИ моментом истины.

Психологический аспект: Смерть и воскрешение

Альтман признается, что в первую же пятницу после увольнения он «принял смерть» своего детища. Он не планировал бороться за кресло, а уже к вечеру обсуждал с друзьями создание нового исследовательского проекта. Энергия, подпитываемая адреналином, позволила ему не спать и не есть четверо суток, находясь в состоянии «боевого транса».

Самым низким эмоциональным моментом он называет воскресный вечер, когда совет назначил временным CEO Эммета Шира, несмотря на заверения, что компромисс близок. Однако доминирующей эмоцией выходных Альтман называет не гнев, а любовь — беспрецедентную поддержку коллег и индустрии.

Уязвимость структуры

Кризис обнажил институциональную слабость OpenAI. Будучи некоммерческой организацией, совет директоров не отвечал перед акционерами и обладал почти абсолютной властью.

Ключевые изменения в новом совете:

• Опыт: В состав вошли «тяжеловесы» вроде Бретта Тейлора и Ларри Саммерса, обладающие опытом управления в условиях колоссального давления.
• Масштабируемость: Новый совет будет формироваться «пакетами» (slates), чтобы обеспечить баланс экспертизы: от юридической и технической до управленческой.
• Продотчётность: Альтман признает, что структура должна быть доработана так, чтобы совет отвечал перед миром, а не только перед самим собой.

🔍 Загадка Ильи Суцкевера и поиски AGI

Илья Суцкевер, сооснователь и главный ученый OpenAI, сыгравший ключевую роль в ноябрьских событиях, долгое время остается вне публичного поля. Это породило мнения о том, что он «увидел нечто пугающее» в недрах лаборатории.

Видел ли Илья AGI?

Сэм Альтман категорически опровергает слухи о том, что Илья Суцкевер или кто-либо другой в компании уже создал «сильный искусственный интеллект» (AGI).

• «Илья не видел AGI. Никто из нас его не видел», — утверждает Сэм.
• Он характеризует Илью как человека, находящегося в «постоянном душевном поиске», который воспринимает безопасность ИИ не как технический регламент, а как экзистенциальную ответственность перед человечеством.

Программа Q* (Q-Star)

На вопрос о таинственном проекте Q*, Альтман отвечает осторожно: «Мы не готовы об этом говорить». Однако он подтверждает интерес компании к проблеме «рассуждений» (reasoning) — способности ИИ решать задачи в несколько логических шагов, подобно тому, как человек доказывает математические теоремы.

⚖️ Юридическая война с Илоном Маском

Илон Маск, один из основателей OpenAI, подал иск против компании, обвиняя её в предательстве идеалов открытости и превращении в «закрытую дочернюю компанию Microsoft».

Позиция OpenAI

Альтман выражает глубокое сожаление из-за поведения Маска, называя его «одним из величайших строителей нашего времени». Основные аргументы Сэма в этом споре:

1. Неопределенность прошлого: В 2015 году никто не знал, как именно будет выглядеть путь к ИИ. Название «Open» подразумевало распространение благ технологии, а не обязательное раскрытие всего исходного кода.
2. Попытка поглощения: Альтман утверждает, что Маск в свое время сам предлагал сделать OpenAI коммерческой структурой под полным контролем Tesla, что противоречит нынешним обвинениям Илона.
3. Ирония Grok: Сэм иронично замечает, что Илон открыл код своей модели Grok только после того, как его обвинили в лицемерии на фоне иска.

Альтман резюмирует: «Это поведение, недостойное строителя». Он надеется на примирение в будущем, но сейчас сосредоточен на конкуренции продуктов, а не судебных тяжбах.

🎬 Sora: Генерация миров и физика реальности

Выход нейросети Sora, создающей гиперреалистичные видео, стал шоком. Сэм обсуждает не только визуальный ряд, но и то, что скрыто за ним.

Модель мира внутри нейросети

Sora демонстрирует удивительное понимание физики, например, сохранение объектов (occlusion), когда предмет исчезает за преградой и появляется снова в том же виде.

• Технически Sora обучается на «патчах» визуальных данных, аналогично токенам в тексте.
• Несмотря на ошибки (кошки с лишними лапами), Альтман считает, что масштаб данных и вычислительных мощностей позволит «пробить» текущие ограничения.

Экономика и Deepfakes

Перед релизом Sora компания фокусируется на двух вещах:

1. Эффективность: Сделать генерацию дешевой для массового пользователя.
2. Безопасность: Борьба с дипфейками и дезинформацией, особенно в контексте выборов.

🚀 Грядущая GPT-5: «Она будет просто умнее»

Альтман признается, что считает GPT-4 «в некотором роде отстойной» по сравнению с тем, что ждет нас впереди.

Чего ожидать от следующего поколения?

• Смещение парадигмы: GPT-5 не будет лучше только в программировании или только в письме. Ожидается качественный скачок по всем направлениям.
• Медленное мышление: Обсуждается возможность создания систем, которые тратят больше вычислительных ресурсов на сложные задачи (доказательство теорем) и отвечают мгновенно на простые вопросы.
• Персонализация и контекст: В будущем контекстное окно может вырасти до «миллиардов токенов», что позволит ИИ знать всю историю вашей жизни, все письма и предпочтения, становясь идеальным ассистентом.

🔋 Экономика будущего: $7 триллионов и закон энергии

Широко обсуждаемые слухи о необходимости привлечения $7 триллионов для развития инфраструктуры ИИ Альтман комментирует через призму ресурсов.

Вычисления как новая валюта

Сэм считает, что к концу десятилетия вычислительные мощности (compute) станут самым ценным товаром в мире. Цепочка ограничений выглядит так:

1. Чипы: Нужно строить больше фабрик (fabs).
2. Дата-центры: Необходима колоссальная логистическая работа.
3. Энергия: Это самый сложный узел. Альтман инвестирует в ядерный синтез (проект Helion), считая, что без прорыва в чистой и дешевой энергетике развитие ИИ замедлится.

🔮 Философия выживания и AGI

Альтман предсказывает, что путь к AGI будет «гигантской борьбой за власть». Он ожидает появления систем, способных совершать новые научные открытия, уже к концу этого десятилетия.

Главные тезисы о будущем:

• Программирование: Оно не исчезнет, но перейдет на уровень естественного языка. Программист будущего — это архитектор смыслов, а не составитель кода.
• Робототехника: OpenAI планирует вернуться к разработке «физических тел» для ИИ. Сэм считает депрессивной идею, в которой умный ИИ существует только в цифровом пространстве, а физический труд остается долей людей.
• Смертность: На вопрос о страхе смерти и опасности быть «устраненным» противниками ИИ, Сэм отвечает стоически. Он чувствует благодарность за возможность жить в эпоху величайшего фазового перехода человечества.

Альтман подчеркивает: ИИ — это не отдельный сверхразум, а «строительные леса», которые всё человечество возводит вместе. Мы не меняемся биологически, но благодаря этим инструментам становимся способны на вещи, которые казались магией всего несколько лет назад.