Сэм Альтман руководит OpenAI и считает современные модели искусственного интеллекта самыми примитивными из тех, с которыми когда-либо будет работать человечество . В беседе с Биллом Гейтсом он представил план развития технологий на ближайшие два года, включая переход к мультимодальным системам и решение проблемы интерпретируемости нейросетей.
🧠 Дешифровка «черного ящика» нейросетей 1:44
Билл Гейтс признал, что не ожидал от ChatGPT высокого качества работы, и выразил недоумение по поводу механизмов кодирования знаний в модели . Сэм Альтман подтвердил, что сейчас понимание внутренних процессов ИИ находится на низком уровне . Однако он прогнозирует полную расшифровку механизмов работы сетей в течение пяти лет .
Разработчики OpenAI используют эмпирические результаты для улучшения моделей, опираясь на «законы масштабирования» (scaling laws) . Эти законы позволяют предсказывать эффективность будущих систем еще до начала их обучения. Глубокое научное понимание алгоритмов позволит значительно сократить затраты вычислительных мощностей и повысить точность ответов .
🚀 Вектор развития на ближайшие два года 4:42
OpenAI выделяет четыре приоритетных направления совершенствования моделей:
- Мультимодальность. Внедрение полноценной поддержки голоса, изображений и видео в обе стороны (ввод и вывод данных) .
- Способность к рассуждению. Улучшение логических цепочек, которые в GPT-4 пока развиты крайне слабо .
- Надежность. Переход от системы, которая выдает верный результат один раз из десяти тысяч, к модели, выбирающей лучший ответ в 100% случаев .
- Персонализация. ИИ получит возможность использовать личные данные пользователя: электронную почту, календарь и предпочтения в планировании .
Сэм Альтман подчеркивает необходимость адаптивных вычислений . Сейчас модель тратит одинаковое количество ресурсов на генерацию каждого слова, будь то простая связка или решение гипотезы Римана . В будущем алгоритм будет распределять мощности в зависимости от сложности задачи.
⚖️ Глобальное регулирование и безопасность 7:07
Участники дискуссии обсудили необходимость контроля над сверхмощными системами. Сэм Альтман предлагает создать международный орган по аналогии с МАГАТЭ для надзора за ИИ-кластерами .
Основные положения предлагаемого подхода:
- Определение порога вычислительной мощности, превышение которого требует обязательной регистрации системы .
- Допуск международных инспекторов для аудита безопасности моделей перед их развертыванием .
- Разделение краткосрочных рисков (копирайт, галлюцинации) и глобальных угроз (влияние на геополитический баланс сил) .
Сэм Альтман отметил, что во время мирового турне он встретил поддержку этой идеи у глав многих государств . Несмотря на конкуренцию между США и Китаем, глобальное сотрудничество в сфере безопасности ИИ остается достижимой целью .
🤖 Робототехника и рынок труда 14:55
OpenAI возобновляет работу над проектами в сфере робототехники. Ранее компания приостановила их из-за проблем с симуляторами и физической надежностью оборудования . Теперь стратегия изменилась: сначала создание мощного когнитивного интеллекта, затем — его интеграция в физические платформы .
По мнению Сэма Альтмана, прогнозы десятилетней давности оказались ошибочными. Считалось, что ИИ сначала заменит синих воротничков, затем белых, и в последнюю очередь — творческих работников . В реальности процесс идет в обратном порядке: творчество и кодинг автоматизируются первыми .
Развитие робототехники может быстро изменить рынок физического труда, как только инженеры создадут эффективные манипуляторы (руки и пальцы) . При этом Сэм Альтман видит в ИИ инструмент повышения производительности: например, программисты уже сейчас работают в три раза быстрее с помощью нейросетей .
📉 Экономика и доступность интеллекта 24:16
Стоимость работы нейросетей снижается быстрее, чем предсказывает закон Мура. За три года OpenAI сократила затраты на эксплуатацию модели GPT-3 в 40 раз . Для GPT-3.5 снижение составило около 10 раз за меньший период .
Сэм Альтман выделяет два ключевых ресурса для будущего качества жизни:
- Стоимость интеллекта.
- Стоимость энергии.
Стремление свести стоимость интеллекта к нулю является приоритетом для OpenAI . Это позволит обеспечить равный доступ к качественному образованию и медицине .
🏢 Структура и культура OpenAI 26:26
В компании работают около 500 сотрудников . Это значительно меньше штата таких корпораций, как Google или Microsoft. Сэм Альтман отметил, что средний возраст сотрудников OpenAI выше стандартного для стартапов Кремниевой долины — многим специалистам от 30 до 50 лет .
Компания намеренно нарушила правила акселератора Y Combinator:
- Разработчики потратили 4,5 года на исследования до запуска первого продукта .
- OpenAI не ориентировалась на запросы пользователей на ранних этапах .
- Исследовательская лаборатория работала без четкого понимания того, каким будет финальный продукт .
Такой подход стал возможен благодаря партнерству с Microsoft и Сатьей Наделлой, который поддержал долгосрочные инвестиции в исследования до появления выручки .
🎸 Личные привычки и поиск смысла 17:10
Сэм Альтман использует Slack больше любого другого приложения на телефоне, включая электронную почту . Для концентрации он слушает инструментальную музыку, предпочитая альбом Макса Рихтера «The New Four Seasons — Vivaldi Recomposed» .
Билл Гейтс выразил обеспокоенность тем, что ИИ может лишить людей чувства цели . Если машина сможет искоренить малярию быстрее человека, возникнет вопрос: чем заниматься людям . Сэм Альтман считает, что человечество перейдет в эпоху «пост-дефицита» и найдет новые способы самореализации, решая более сложные задачи .
