# Сэм Альтман и Мира Мурати о будущем ИИ, AGI и трансформации труда

Источник: https://www.youtube.com/watch?v=byYlC2cagLw
Канал: The Wall Street Journal
Опубликовано: 21.10.2023

---

В октябре 2023 года на мероприятии WSJ Tech Live генеральный директор OpenAI Сэм Альтман и технический директор Мира Мурати обсудили будущее искусственного интеллекта, развитие моделей GPT и социальные последствия технологической революции. В ходе дискуссии эксперты затронули вопросы определения AGI, проблемы безопасности и необходимость адаптации общества к изменениям на рынке труда.

## 🚀 Путь к AGI и эволюция интеллекта
[[JUMP:2:31]]

Сэм Альтман и Мира Мурати определяют AGI (искусственный общий интеллект) как систему, способную обобщать знания во многих областях и выполнять работу, эквивалентную человеческому труду, создавая при этом значительную экономическую ценность.

* **Цель создания AGI:** По мнению Альтмана, это создание «изобильного и дешевого интеллекта» наряду с дешевой энергией, что станет лучшим инструментом, когда-либо созданным человечеством для решения сложных проблем.
* **Сроки:** Оба эксперта полагают, что AGI появится в ближайшее десятилетие.
* **Смена ориентиров:** Мира Мурати отмечает, что определение интеллекта постоянно эволюционирует: то, что 10 лет назад считалось признаком ИИ, сегодня воспринимается как простой чат-бот.

По словам Сэма Альтмана, текущие модели ИИ в некоторых задачах могут выступать на уровне «среднего человека», однако в специфических областях, требующих глубокой экспертизы, человеческие специалисты по-прежнему значительно превосходят любые системы.

## 🧠 Развитие технологий и работа с данными
[[JUMP:8:04]]

Работа OpenAI над будущими итерациями GPT базируется на стратегии масштабирования (scaling), которая подразумевает использование огромных объемов вычислительных мощностей и данных для улучшения способности нейросетей предсказывать следующий токен.

* **Приоритеты:** При разработке новых моделей команда делает упор не только на мощность, но и на надежность, безопасность и мультимодальность.
* **Галлюцинации:** Мира Мурати признает, что проблема галлюцинаций (недостоверных ответов) полностью не решена, однако прогресс с использованием обучения с подкреплением на основе отзывов людей (RLHF), поиска (retrieval) и интеграции данных делает модели более точными.
* **Отношение к данным:** Сэм Альтман подчеркивает, что OpenAI стремится к партнерствам, которые выгодны обеим сторонам, включая владельцев контента, таких как The Wall Street Journal. Он предполагает, что в будущем ИИ потребует меньше данных для обучения, опираясь на способность к логическому рассуждению.

## 🤝 Отношения с пользователями и будущее устройств
[[JUMP:16:47]]

OpenAI активно работает над персонализацией взаимодействия с ChatGPT, внедряя функции памяти, настройки голоса и пользовательские инструкции.

* **Связь с ботом:** Мира Мурати отмечает, что системы будут интегрироваться во все сферы жизни, поэтому дизайн взаимодействия должен повышать продуктивность и креативность, оставаясь под контролем пользователя.
* **Граница между ИИ и человеком:** Сэм Альтман выражает скепсис по поводу создания глубоких эмоциональных связей с ИИ-друзьями. Компания осознанно использует название «ChatGPT», а не человеческое имя, чтобы подчеркнуть, что пользователь общается с инструментом, а не с личностью.
* **Будущее платформы:** Альтман считает, что появление таких мощных технологий неизбежно приведет к созданию новой вычислительной платформы, хотя признает, что идеальное устройство для взаимодействия с ИИ пока не изобретено.

## 🛡️ Безопасность и роль регулирования
[[JUMP:28:05]]

Вопрос безопасности ИИ является одним из самых критических. Эксперты сходятся во мнении, что развитие технологий несет риски, такие как киберпреступность или разработка новых патогенов, что требует ответственного подхода.

* **Позиция OpenAI:** Мира Мурати утверждает, что безопасность нельзя обеспечить в лабораторных условиях; технология должна проходить проверку в реальном мире, чтобы общество могло постепенно адаптироваться.
* **Роль государства:** Сэм Альтман выступает за международное регулирование наиболее мощных систем ИИ по мере приближения к уровню сверхчеловеческого интеллекта. При этом он подчеркивает, что ограничения для стартапов и Open Source решений были бы катастрофической ошибкой.
* **Дипфейки и манипуляции:** Оба собеседника считают, что реальный риск заключается не столько в поддельных изображениях (дипфейках), сколько в способности ИИ к скрытой, персонализированной манипуляции мнением.

## 💼 ИИ и рынок труда
[[JUMP:43:18]]

Одной из главных тем стал вопрос автоматизации и будущего рабочих мест. Участники беседы согласны, что ИИ радикально изменит структуру экономики.

* **Адаптация:** Сэм Альтман отмечает, что технологические революции всегда приводили к смене профессий, но ключевая проблема заключается в скорости нынешних изменений.
* **Человеческая природа:** Альтман убежден, что люди продолжат находить способы самовыражения и полезного труда, даже если их нынешние обязанности будут автоматизированы.
* **Доступность:** Мира Мурати подчеркивает, что именно широкая доступность ChatGPT, позволила обществу начать полноценный диалог о будущем, а не просто читать прогнозы в прессе.