В рамках образовательного курса Stanford Online по кибербезопасности профессор Дэн Боне (Dan Boneh) провел интервью с генеральным директором OpenAI Сэмом Альтманом (Sam Altman). Собеседники обсудили будущее искусственного интеллекта, вопросы энергетической эффективности моделей, трансформацию образования и кибербезопасность как новую парадигму безопасности ИИ.
🧠 Будущее ИИ: научные открытия и проблема эффективности 1:08
Сэм Альтман считает, что индустрия находится на «ранних этапах» развития глубокого обучения . Несмотря на успех ChatGPT, запущенного 2,5 года назад, текущие системы всё еще имеют серьезные недостатки, которые предстоит устранить.
Ключевые технологические вызовы и цели:
- Эффективность данных: По словам Альтмана, человек способен обучаться на одном примере, в то время как ИИ требуются колоссальные объемы данных . Решение проблемы «нехватки данных» лежит в плоскости повышения эффективности обучения каждого отдельного байта информации .
- Автономная наука: Одной из важнейших целей Альтман называет создание систем, способных самостоятельно совершать научные открытия .
- Суперразум как «леса» цивилизации: По мнению Альтмана, суперразум уже существует в виде коллективного накопленного знания и инструментов человечества («технологического дерева»), где ИИ станет лишь следующим уровнем этой надстройки .
Дэн Боне выразил надежду, что вскоре увидит первую научную статью, полностью написанную ИИ и опубликованную в рецензируемом журнале .
🛡️ ИИ и кибербезопасность: новая специализация 15:04
Сэм Альтман утверждает, что «безопасность ИИ» (AI Safety) скоро будет переосмыслена как «кибербезопасность ИИ» (AI Security) . Он считает эту область одной из самых недооцененных и перспективных для карьеры сегодня .
В ходе дискуссии были выделены ключевые угрозы и направления работы:
- Проблема персонализации и конфиденциальности: Системы вроде ChatGPT становятся всё более персональными, зная историю диалогов и личные данные . Альтман указывает на риск: если модель имеет доступ к медицинским данным пользователя и одновременно совершает покупки в интернете, критически важно гарантировать, что данные о здоровье не будут эксфильтрованы сторонними сервисами .
- Аудит кода: ИИ уже демонстрирует сверхчеловеческие способности в поиске уязвимостей в ПО . Альтман полагает, что вскоре ИИ-агенты станут стандартными инструментами для тестирования кода перед его развертыванием .
- Атаки и защита: Обсуждались такие угрозы, как внедрение промптов (prompt injection), состязательные примеры (adversarial examples) и экстракция моделей через API .
💻 Трансформация профессии разработчика и образования 21:07
Дэн Боне отметил, что его студенты-аспиранты уже практически не пишут код «с нуля», предпочитая формулировать псевдокод для нейросетей . Сэм Альтман подтвердил, что в ближайшие 5–10 лет процесс разработки изменится кардинально.
Прогноз Альтмана для индустрии ПО:
- Вместо штата разработчиков, реализующих ТЗ, компании будут использовать ИИ-агентов, которые «за ночь» напишут и протестируют код по описанию на английском языке .
- Программирование станет скорее навыком общения с машиной и управления агентами, которые будут перемещаться по репозиториям и проверять код .
Относительно образования Сэм Альтман выразил сомнение в необходимости глубокого изучения классических алгоритмов сортировки или написания компиляторов вручную для большинства студентов . По его мнению, навыки обучения нейросетей сейчас важнее, чем умение писать на ассемблере, хотя «мета-навык обучения» остается фундаментальным .
⚡ Энергетика и архитектура будущего 33:20
В ответ на вопрос Дэна Боне о чрезвычайной энергозатратности ИИ по сравнению с человеческим мозгом (20-100 ватт), Сэм Альтман предложил иную метрику сравнения .
Аргументация Альтмана по затратам энергии:
- Нельзя сравнивать затраты на обучение ИИ с инференсом (выводом) мозга человека .
- Если учитывать 20 лет «обучения» человека до его продуктивного состояния, затраты становятся сопоставимыми. Справедливая метрика — «ватт на сгенерированный токен», и здесь ИИ уже близок к человеку .
- Альтман ожидает стократного (100x) повышения эффективности в будущем благодаря новым архитектурам и, возможно, экзотическим технологиям вроде оптических вычислений .
В завершение встречи Сэм Альтман посоветовал студентам «держаться поближе к самым умным и оптимистичным людям», подчеркнув, что сейчас — лучшее время для начала карьеры в Computer Science за всю историю .
