В октябре 2023 года на мероприятии WSJ Tech Live генеральный директор OpenAI Сэм Альтман и технический директор Мира Мурати обсудили будущее искусственного интеллекта, развитие моделей GPT и социальные последствия технологической революции. В ходе дискуссии эксперты затронули вопросы определения AGI, проблемы безопасности и необходимость адаптации общества к изменениям на рынке труда.
🚀 Путь к AGI и эволюция интеллекта 2:31
Сэм Альтман и Мира Мурати определяют AGI (искусственный общий интеллект) как систему, способную обобщать знания во многих областях и выполнять работу, эквивалентную человеческому труду, создавая при этом значительную экономическую ценность.
- Цель создания AGI: По мнению Альтмана, это создание «изобильного и дешевого интеллекта» наряду с дешевой энергией, что станет лучшим инструментом, когда-либо созданным человечеством для решения сложных проблем.
- Сроки: Оба эксперта полагают, что AGI появится в ближайшее десятилетие.
- Смена ориентиров: Мира Мурати отмечает, что определение интеллекта постоянно эволюционирует: то, что 10 лет назад считалось признаком ИИ, сегодня воспринимается как простой чат-бот.
По словам Сэма Альтмана, текущие модели ИИ в некоторых задачах могут выступать на уровне «среднего человека», однако в специфических областях, требующих глубокой экспертизы, человеческие специалисты по-прежнему значительно превосходят любые системы.
🧠 Развитие технологий и работа с данными 8:04
Работа OpenAI над будущими итерациями GPT базируется на стратегии масштабирования (scaling), которая подразумевает использование огромных объемов вычислительных мощностей и данных для улучшения способности нейросетей предсказывать следующий токен.
- Приоритеты: При разработке новых моделей команда делает упор не только на мощность, но и на надежность, безопасность и мультимодальность.
- Галлюцинации: Мира Мурати признает, что проблема галлюцинаций (недостоверных ответов) полностью не решена, однако прогресс с использованием обучения с подкреплением на основе отзывов людей (RLHF), поиска (retrieval) и интеграции данных делает модели более точными.
- Отношение к данным: Сэм Альтман подчеркивает, что OpenAI стремится к партнерствам, которые выгодны обеим сторонам, включая владельцев контента, таких как The Wall Street Journal. Он предполагает, что в будущем ИИ потребует меньше данных для обучения, опираясь на способность к логическому рассуждению.
🤝 Отношения с пользователями и будущее устройств 16:47
OpenAI активно работает над персонализацией взаимодействия с ChatGPT, внедряя функции памяти, настройки голоса и пользовательские инструкции.
- Связь с ботом: Мира Мурати отмечает, что системы будут интегрироваться во все сферы жизни, поэтому дизайн взаимодействия должен повышать продуктивность и креативность, оставаясь под контролем пользователя.
- Граница между ИИ и человеком: Сэм Альтман выражает скепсис по поводу создания глубоких эмоциональных связей с ИИ-друзьями. Компания осознанно использует название «ChatGPT», а не человеческое имя, чтобы подчеркнуть, что пользователь общается с инструментом, а не с личностью.
- Будущее платформы: Альтман считает, что появление таких мощных технологий неизбежно приведет к созданию новой вычислительной платформы, хотя признает, что идеальное устройство для взаимодействия с ИИ пока не изобретено.
🛡️ Безопасность и роль регулирования 28:05
Вопрос безопасности ИИ является одним из самых критических. Эксперты сходятся во мнении, что развитие технологий несет риски, такие как киберпреступность или разработка новых патогенов, что требует ответственного подхода.
- Позиция OpenAI: Мира Мурати утверждает, что безопасность нельзя обеспечить в лабораторных условиях; технология должна проходить проверку в реальном мире, чтобы общество могло постепенно адаптироваться.
- Роль государства: Сэм Альтман выступает за международное регулирование наиболее мощных систем ИИ по мере приближения к уровню сверхчеловеческого интеллекта. При этом он подчеркивает, что ограничения для стартапов и Open Source решений были бы катастрофической ошибкой.
- Дипфейки и манипуляции: Оба собеседника считают, что реальный риск заключается не столько в поддельных изображениях (дипфейках), сколько в способности ИИ к скрытой, персонализированной манипуляции мнением.
💼 ИИ и рынок труда 43:18
Одной из главных тем стал вопрос автоматизации и будущего рабочих мест. Участники беседы согласны, что ИИ радикально изменит структуру экономики.
- Адаптация: Сэм Альтман отмечает, что технологические революции всегда приводили к смене профессий, но ключевая проблема заключается в скорости нынешних изменений.
- Человеческая природа: Альтман убежден, что люди продолжат находить способы самовыражения и полезного труда, даже если их нынешние обязанности будут автоматизированы.
- Доступность: Мира Мурати подчеркивает, что именно широкая доступность ChatGPT, позволила обществу начать полноценный диалог о будущем, а не просто читать прогнозы в прессе.
