# Сэм Альтман: современные модели ИИ — самые глупые в истории

Источник: https://www.youtube.com/watch?v=PkXELH6Y2lM
Канал: Bill Gates
Опубликовано: 11.01.2024

---

Сэм Альтман руководит OpenAI и считает современные модели искусственного интеллекта самыми примитивными из тех, с которыми когда-либо будет работать человечество [13:17]. В беседе с Биллом Гейтсом он представил план развития технологий на ближайшие два года, включая переход к мультимодальным системам и решение проблемы интерпретируемости нейросетей.

## 🧠 Дешифровка «черного ящика» нейросетей
[[JUMP:01:44]]

Билл Гейтс признал, что не ожидал от ChatGPT высокого качества работы, и выразил недоумение по поводу механизмов кодирования знаний в модели [1:57]. Сэм Альтман подтвердил, что сейчас понимание внутренних процессов ИИ находится на низком уровне [2:36]. Однако он прогнозирует полную расшифровку механизмов работы сетей в течение **пяти лет** [3:19].

Разработчики OpenAI используют эмпирические результаты для улучшения моделей, опираясь на «законы масштабирования» (scaling laws) [4:16]. Эти законы позволяют предсказывать эффективность будущих систем еще до начала их обучения. Глубокое научное понимание алгоритмов позволит значительно сократить затраты вычислительных мощностей и повысить точность ответов [3:36].

## 🚀 Вектор развития на ближайшие два года
[[JUMP:04:42]]

OpenAI выделяет четыре приоритетных направления совершенствования моделей:

*   Мультимодальность. Внедрение полноценной поддержки голоса, изображений и видео в обе стороны (ввод и вывод данных) [4:56].
*   Способность к рассуждению. Улучшение логических цепочек, которые в GPT-4 пока развиты крайне слабо [5:11].
*   Надежность. Переход от системы, которая выдает верный результат один раз из десяти тысяч, к модели, выбирающей лучший ответ в 100% случаев [5:25].
*   Персонализация. ИИ получит возможность использовать личные данные пользователя: электронную почту, календарь и предпочтения в планировании [5:51].

Сэм Альтман подчеркивает необходимость **адаптивных вычислений** [6:27]. Сейчас модель тратит одинаковое количество ресурсов на генерацию каждого слова, будь то простая связка или решение гипотезы Римана [6:41]. В будущем алгоритм будет распределять мощности в зависимости от сложности задачи.

## ⚖️ Глобальное регулирование и безопасность
[[JUMP:07:07]]

Участники дискуссии обсудили необходимость контроля над сверхмощными системами. Сэм Альтман предлагает создать международный орган по аналогии с **МАГАТЭ** для надзора за ИИ-кластерами [8:45].

Основные положения предлагаемого подхода:

1.  Определение порога вычислительной мощности, превышение которого требует обязательной регистрации системы [10:22].
2.  Допуск международных инспекторов для аудита безопасности моделей перед их развертыванием [10:36].
3.  Разделение краткосрочных рисков (копирайт, галлюцинации) и глобальных угроз (влияние на геополитический баланс сил) [8:17].

Сэм Альтман отметил, что во время мирового турне он встретил поддержку этой идеи у глав многих государств [10:49]. Несмотря на конкуренцию между США и Китаем, глобальное сотрудничество в сфере безопасности ИИ остается достижимой целью [10:36].

## 🤖 Робототехника и рынок труда
[[JUMP:14:55]]

OpenAI возобновляет работу над проектами в сфере робототехники. Ранее компания приостановила их из-за проблем с симуляторами и физической надежностью оборудования [15:21]. Теперь стратегия изменилась: сначала создание мощного когнитивного интеллекта, затем — его интеграция в физические платформы [15:34].

По мнению Сэма Альтмана, прогнозы десятилетней давности оказались ошибочными. Считалось, что ИИ сначала заменит синих воротничков, затем белых, и в последнюю очередь — творческих работников [16:43]. В реальности процесс идет в обратном порядке: творчество и кодинг автоматизируются первыми [16:57].

Развитие робототехники может быстро изменить рынок физического труда, как только инженеры создадут эффективные манипуляторы (руки и пальцы) [16:15]. При этом Сэм Альтман видит в ИИ инструмент повышения производительности: например, программисты уже сейчас работают в **три раза быстрее** с помощью нейросетей [12:10].

## 📉 Экономика и доступность интеллекта
[[JUMP:24:16]]

Стоимость работы нейросетей снижается быстрее, чем предсказывает закон Мура. За три года OpenAI сократила затраты на эксплуатацию модели GPT-3 в **40 раз** [24:42]. Для GPT-3.5 снижение составило около 10 раз за меньший период [24:59].

Сэм Альтман выделяет два ключевых ресурса для будущего качества жизни:

*   Стоимость интеллекта.
*   Стоимость энергии.

Стремление свести стоимость интеллекта к нулю является приоритетом для OpenAI [25:27]. Это позволит обеспечить равный доступ к качественному образованию и медицине [26:09].

## 🏢 Структура и культура OpenAI
[[JUMP:26:26]]

В компании работают около **500 сотрудников** [26:38]. Это значительно меньше штата таких корпораций, как Google или Microsoft. Сэм Альтман отметил, что средний возраст сотрудников OpenAI выше стандартного для стартапов Кремниевой долины — многим специалистам от 30 до 50 лет [27:16].

Компания намеренно нарушила правила акселератора Y Combinator:

1.  Разработчики потратили 4,5 года на исследования до запуска первого продукта [28:06].
2.  OpenAI не ориентировалась на запросы пользователей на ранних этапах [28:06].
3.  Исследовательская лаборатория работала без четкого понимания того, каким будет финальный продукт [28:06].

Такой подход стал возможен благодаря партнерству с Microsoft и Сатьей Наделлой, который поддержал долгосрочные инвестиции в исследования до появления выручки [29:13].

## 🎸 Личные привычки и поиск смысла
[[JUMP:17:10]]

Сэм Альтман использует **Slack** больше любого другого приложения на телефоне, включая электронную почту [17:26]. Для концентрации он слушает инструментальную музыку, предпочитая альбом Макса Рихтера «The New Four Seasons — Vivaldi Recomposed» [18:06].

Билл Гейтс выразил обеспокоенность тем, что ИИ может лишить людей чувства цели [20:47]. Если машина сможет искоренить малярию быстрее человека, возникнет вопрос: чем заниматься людям [20:59]. Сэм Альтман считает, что человечество перейдет в эпоху «пост-дефицита» и найдет новые способы самореализации, решая более сложные задачи [22:34].