# Сэм Альтман о будущем ИИ: от проектирования самолетов до риска уничтожения криптографии Источник: https://www.youtube.com/watch?v=FpsLbCtqxWw Канал: Wes Roth Опубликовано: 17.11.2024 --- Интервью генерального директора OpenAI Сэма Альтмана президенту Y Combinator Гэри Тану (Gary Tan) стало отправной точкой для обсуждения будущего систем искусственного интеллекта. В беседе были затронуты темы от «безлюдного» научного прогресса до рисков взлома всей мировой финансовой системы. На основе этого материала автор канала Уэс Рот проанализировал текущий статус развития нейросетей и близость достижения AGI. ## 📈 Путь OpenAI: от «безумной» идеи до мирового лидерства [[JUMP:00:00]] История OpenAI началась с амбициозного прогноза Сэма Альтмана о том, что «суперинтеллект» может появиться уже через тысячи дней [00:52]. На заре компании многие эксперты в индустрии скептически относились к её целям, называя команду «безответственными детьми», которые не понимают, во что ввязываются [02:11]. Основная претензия заключалась в том, что OpenAI сфокусировалась исключительно на создании AGI (сильного искусственного интеллекта), в то время как отрасль занималась простыми задачами классификации изображений [02:52]. Ключевые факторы успеха компании, по мнению автора видео: * **Непоколебимая убежденность:** Альтман и его команда придерживались выбранного курса, даже когда их подход считали тупиковым [01:32]. * **Ставка на масштаб (Scaling):** В то время как другие диверсифицировали подход, OpenAI вложила все ресурсы в глубокое обучение и огромные вычислительные мощности [03:17]. * **Доступ к ресурсам:** Уэс Рот отмечает, что стартапы тех лет могли только мечтать о таком объеме вычислительной мощности, который удалось аккумулировать Альтману [03:55]. Этот подход напоминает стратегию Джеффри Хинтона, «крестного отца ИИ», который десятилетиями верил в нейронные сети, когда научное сообщество считало их неэффективными [01:44]. ## 🧠 Прорыв «нейрона настроений» и скрытое обучение [[JUMP:05:30]] Интересным фактом из истории компании является то, что изначально OpenAI не рассматривала большие языковые модели (LLM) как прямой путь к AGI. Они ставили эксперименты в робототехнике и игровом ИИ [05:40]. Поворотным моментом стало открытие исследователя Алека Рэдфорда (Alec Radford). Играя с отзывами на Amazon, Рэдфорд обнаружил так называемый «неуправляемый нейрон настроений» (unsupervised sentiment neuron) [06:10]. Нейросеть самостоятельно, без явных указаний со стороны программистов, научилась определять, является ли отзыв положительным или отрицательным [06:22]. Это пример **неявного обучения** (implicit learning). Автор видео сравнивает это с развитием ребенка: вы можете давать ему прямые инструкции (явное обучение), но ребенок также постоянно делает выводы о мире, просто наблюдая за поведением окружающих [07:15]. Именно этот «случайный» успех в понимании контекста и эмоций лег в основу архитектуры серии GPT [07:41]. ## 🚀 Пять уровней ИИ: мы на пороге четвертого [[JUMP:08:32]] Сэм Альтман и OpenAI используют классификацию из пяти уровней развития ИИ, чтобы оценить прогресс на пути к AGI: 1. **Level 1 — Базовый ИИ:** Простые чат-боты и системы классификации. 2. **Level 2 — Рассуждающие системы:** ИИ, способный решать логические задачи и понимать концепции (текущий статус GPT-4) [09:12]. 3. **Level 3 — Агенты:** Системы, способные действовать независимо и выполнять долгосрочные задачи. Пример — модель o1, которая «обдумывает» задачу перед действием [09:40]. 4. **Level 4 — Инноваторы:** ИИ, способный совершать новые научные открытия и предлагать изобретения, выходящие за рамки существующих человеческих знаний [10:06]. 5. **Level 5 — Организации:** ИИ, способный управлять целой компанией или сложной структурой на уровне управленца-человека [10:19]. По мнению Альтмана, переход к четвертому уровню случится гораздо быстрее, чем ожидает большинство скептиков [10:34]. ## 🛠 Доказательства прогресса: хакатон Y Combinator [[JUMP:10:46]] На недавнем хакатоне OpenAI и Y Combinator были представлены проекты, демонстрирующие возможности ИИ уровня «прото-инноватора»: * **Дизайн крыла самолета:** Одна из команд использовала GPT-4 для проектирования аэродинамического профиля (air foil). Нейросеть итеративно улучшала конструкцию, создав эффективную рабочую модель крыла, что обычно требует лет инженерного опыта [11:00]. * **Новая криптография:** Группа разработчиков применила модели OpenAI для создания алгоритма шифрования, который опытные криптографы не смогли взломать. Алгоритм был настолько необычным, что эксперты оказались в тупике [16:01]. * **Прогноз лесных пожаров:** Система анализировала спутниковые снимки, скорость ветра и растительность, предсказывая распространение огня с точностью, превосходящей человеческих аналитиков [19:21]. ## ⚠️ Угроза кибербезопасности и «проблема тормозов» [[JUMP:15:49]] Уэс Рот выражает опасение: если ИИ может создавать невзламываемое шифрование, он может найти и «короткие пути» для взлома существующих систем. Современная криптография строится на том, что с добавлением каждого нового символа в пароль сложность его подбора растет экспоненциально (перебор 7 символов занимает миллисекунды, а 12 символов — века) [17:20]. Существует теоретическая проблема «P против NP»: что, если ИИ найдет «математический трюк», позволяющий обходить этот перебор? [18:40]. По мнению автора, это мгновенно сделает прозрачными все банковские счета и системы национальной безопасности, к чему мир совершенно не готов [18:53]. В то же время эксперты по безопасности, такие как Майлз Брандейдж (Miles Brundage), покидают OpenAI, призывая «установить тормоза» раньше, чем машина разгонится до опасных скоростей [14:19]. Они считают, что сейчас индустрия больше движима рыночными стимулами, чем вопросами безопасности [14:44]. ## 📉 Замедление прогресса или информационный шум? [[JUMP:20:13]] Недавняя статья в *The Information* утверждает, что темпы обучения новых моделей OpenAI начинают замедляться, а прирост производительности становится инкрементальным, а не экспоненциальным [20:25]. В ответ на это скептики обвиняют Сэма Альтмана в создании излишнего «хайпа» для привлечения инвестиций. Однако Уэс Рот указывает на важный контраргумент: даже те исследователи, которые уходят из OpenAI из-за разногласий, не говорят о замедлении прогресса [21:04]. Напротив, они утверждают, что технологии развиваются слишком быстро. Косвенным подтверждением масштабных планов служит и то, что Microsoft инвестирует в перезапуск старой атомной электростанции на острове Три-Майл-Айленд специально для обеспечения энергией дата-центров под нужды ИИ [21:32].