Будущее OpenAI: Взгляд изнутри на AGI, агентов и исследования 0:06
OpenAI продолжает активную трансформацию, переходя от простой модели чат-ботов к созданию автономных систем, способных к глубокому рассуждению. В рамках fireside chat на OpenAI DevDay 2024 Сэм Альтман и Кевин Вейл обсудили текущие приоритеты компании, эволюцию концепции AGI и видение того, как искусственный интеллект изменит взаимодействие человека с компьютером в ближайшие годы.
🤖 Путь к AGI: от уровней к реальности 1:27
Понятие AGI (общего искусственного интеллекта) стало настолько перегруженным, что в OpenAI решили отойти от использования этого термина как бинарного понятия. Вместо этого компания внедрила пятиуровневую шкалу оценки возможностей моделей:
- Уровень 1: Чат-боты.
- Уровень 2: Рассуждающие модели (o1).
- Уровень 3: Агенты, способные действовать.
- Уровень 4: Инноваторы.
- Уровень 5: Организации.
По мнению Сэма Альтмана, OpenAI уже достигла второго уровня с выходом модели o1. Следующий шаг — создание агентов (уровень 3) — по его прогнозам, произойдет в недалеком будущем. Альтман считает, что развитие технологий будет следовать гладкой экспоненциальной кривой, поэтому в истории вряд ли будет зафиксирован конкретный день «появления AGI». Критическим рубежом, однако, он называет момент, когда ИИ станет значительно лучше самой OpenAI в проведении исследований в области ИИ.
🔬 Исследования как драйвер продукта 5:17
Несмотря на рост масштабов, OpenAI остается глубоко преданной научным исследованиям. Сэм Альтман подчеркивает, что компания не просто масштабирует вычислительные мощности, а продолжает искать новые парадигмы.
Кевин Вейл отмечает, что разработка продуктов в OpenAI фундаментально отличается от работы в других компаниях. Если в традиционном софте инженеры опираются на известный стек технологий, то в OpenAI возможности «железа» эволюционируют каждые пару месяцев. Это требует от продуктовых команд высокой адаптивности и готовности менять приоритеты в зависимости от того, что позволяет наука.
🛠 Агенты и контроль над компьютером 14:14
Агенты, способные совершать действия в реальном мире, станут главным технологическим прорывом 2025 года. Сэм Альтман уверен, что способность модели к рассуждению, которую демонстрирует o1, позволит разбивать сложные задачи на простые и последовательно их решать.
Однако на пути к полноценному управлению компьютером стоят серьезные препятствия:
- Безопасность: Необходимость крайне высокого уровня надежности, когда ИИ получает доступ к управлению интерфейсами.
- Доверие: Формирование архитектуры доверия между пользователем и автономным агентом.
Альтман признает, что подход компании к безопасности иногда может ограничивать доступность инструментов, но считает это оправданным риском. OpenAI придерживается стратегии итеративного развертывания: сначала запускать технологию в консервативном режиме, давая обществу время на адаптацию.
⚖️ Этические дилеммы и «человеческий API» 23:11
Одной из самых обсуждаемых тем стал Advanced Voice Mode, который Альтман назвал «взломом нейронных цепей мозга». Из-за естественности звучания модели пользователи склонны приписывать ей человеческие качества, что создает новые вызовы для безопасности. OpenAI осознает риски манипуляций, но пока находит баланс между полезностью и безопасностью, продолжая совершенствовать систему фильтров.
📈 Бизнес-стратегия и конкуренция 26:59
Сэм Альтман и Кевин Вейл поделились взглядом на рыночную позицию компании и конкурентов:
- NotebookLM (Google): Альтман открыто похвалил этот продукт за качественную реализацию подкаст-стиля и удобство, отметив, что миру нужно больше таких уникальных разработок.
- Anthropic Projects: Вейл отметил удачную концепцию «временных» рабочих пространств, которые дополняют идею более долговечных GPTs от OpenAI.
- Совет стартапам: Использование модной технологии не отменяет фундаментальных законов бизнеса. Стартапам необходимо строить устойчивое стратегическое преимущество, а не опираться только на возможности текущей модели.
