# Сэм Альтман о будущем ИИ: «Многие задачи безопасности станут задачами кибербезопасности»

Источник: https://www.youtube.com/watch?v=940zih5bee4
Канал: Stanford Online
Опубликовано: 11.11.2025

---

В рамках образовательного курса Stanford Online по кибербезопасности профессор Дэн Боне (Dan Boneh) провел интервью с генеральным директором OpenAI Сэмом Альтманом (Sam Altman). Собеседники обсудили будущее искусственного интеллекта, вопросы энергетической эффективности моделей, трансформацию образования и кибербезопасность как новую парадигму безопасности ИИ.

## 🧠 Будущее ИИ: научные открытия и проблема эффективности
[[JUMP:01:08]]

Сэм Альтман считает, что индустрия находится на «ранних этапах» развития глубокого обучения [01:08]. Несмотря на успех ChatGPT, запущенного 2,5 года назад, текущие системы всё еще имеют серьезные недостатки, которые предстоит устранить.

Ключевые технологические вызовы и цели:

*   **Эффективность данных:** По словам Альтмана, человек способен обучаться на одном примере, в то время как ИИ требуются колоссальные объемы данных [02:28]. Решение проблемы «нехватки данных» лежит в плоскости повышения эффективности обучения каждого отдельного байта информации [02:16].
*   **Автономная наука:** Одной из важнейших целей Альтман называет создание систем, способных самостоятельно совершать научные открытия [02:03].
*   **Суперразум как «леса» цивилизации:** По мнению Альтмана, суперразум уже существует в виде коллективного накопленного знания и инструментов человечества («технологического дерева»), где ИИ станет лишь следующим уровнем этой надстройки [03:49].

Дэн Боне выразил надежду, что вскоре увидит первую научную статью, полностью написанную ИИ и опубликованную в рецензируемом журнале [5:06].

## 🛡️ ИИ и кибербезопасность: новая специализация
[[JUMP:15:04]]

Сэм Альтман утверждает, что «безопасность ИИ» (AI Safety) скоро будет переосмыслена как «кибербезопасность ИИ» (AI Security) [16:23]. Он считает эту область одной из самых недооцененных и перспективных для карьеры сегодня [18:16].

В ходе дискуссии были выделены ключевые угрозы и направления работы:

1.  **Проблема персонализации и конфиденциальности:** Системы вроде ChatGPT становятся всё более персональными, зная историю диалогов и личные данные [17:14]. Альтман указывает на риск: если модель имеет доступ к медицинским данным пользователя и одновременно совершает покупки в интернете, критически важно гарантировать, что данные о здоровье не будут эксфильтрованы сторонними сервисами [18:04].
2.  **Аудит кода:** ИИ уже демонстрирует сверхчеловеческие способности в поиске уязвимостей в ПО [19:22]. Альтман полагает, что вскоре ИИ-агенты станут стандартными инструментами для тестирования кода перед его развертыванием [20:14].
3.  **Атаки и защита:** Обсуждались такие угрозы, как внедрение промптов (prompt injection), состязательные примеры (adversarial examples) и экстракция моделей через API [15:30].

## 💻 Трансформация профессии разработчика и образования
[[JUMP:21:07]]

Дэн Боне отметил, что его студенты-аспиранты уже практически не пишут код «с нуля», предпочитая формулировать псевдокод для нейросетей [20:42]. Сэм Альтман подтвердил, что в ближайшие 5–10 лет процесс разработки изменится кардинально.

Прогноз Альтмана для индустрии ПО:

*   Вместо штата разработчиков, реализующих ТЗ, компании будут использовать ИИ-агентов, которые «за ночь» напишут и протестируют код по описанию на английском языке [21:59].
*   Программирование станет скорее навыком общения с машиной и управления агентами, которые будут перемещаться по репозиториям и проверять код [22:13].

Относительно образования Сэм Альтман выразил сомнение в необходимости глубокого изучения классических алгоритмов сортировки или написания компиляторов вручную для большинства студентов [23:20]. По его мнению, навыки обучения нейросетей сейчас важнее, чем умение писать на ассемблере, хотя «мета-навык обучения» остается фундаментальным [25:56].

## ⚡ Энергетика и архитектура будущего
[[JUMP:33:20]]

В ответ на вопрос Дэна Боне о чрезвычайной энергозатратности ИИ по сравнению с человеческим мозгом (20-100 ватт), Сэм Альтман предложил иную метрику сравнения [33:33].

Аргументация Альтмана по затратам энергии:

*   Нельзя сравнивать затраты на *обучение* ИИ с *инференсом* (выводом) мозга человека [35:18].
*   Если учитывать 20 лет «обучения» человека до его продуктивного состояния, затраты становятся сопоставимыми. Справедливая метрика — «ватт на сгенерированный токен», и здесь ИИ уже близок к человеку [34:51].
*   Альтман ожидает стократного (100x) повышения эффективности в будущем благодаря новым архитектурам и, возможно, экзотическим технологиям вроде оптических вычислений [35:43].

В завершение встречи Сэм Альтман посоветовал студентам «держаться поближе к самым умным и оптимистичным людям», подчеркнув, что сейчас — лучшее время для начала карьеры в Computer Science за всю историю [37:41].