# Мира Мурати об OpenAI: «Мы учим ИИ не лгать»

Источник: https://www.youtube.com/watch?v=p9Q5a1Vn-Hk
Канал: Bloomberg Originals
Опубликовано: 16.06.2023

---

## Архитекторы будущего: OpenAI, Mira Murati и гонка ИИ
[[JUMP:0:00]]

В самом сердце Сан-Франциско, в неприметном офисном здании, компания OpenAI меняет представление о технологическом будущем. Создав такие продукты, как ChatGPT и DALL-E, стартап опередил крупнейших технологических гигантов, спровоцировав беспрецедентную конкурентную гонку в индустрии искусственного интеллекта. Ведущая программы The Circuit Эмили Чанг встретилась с техническим директором OpenAI Мирой Мурати, чтобы выяснить, как именно компания реализует свою стратегию развития, и какие вызовы стоят перед разработчиками.

### Роль Миры Мурати и философия OpenAI
[[JUMP:0:53]]

Мира Мурати занимает пост технического директора (CTO) OpenAI, выполняя функцию главного архитектора стратегии компании. По ее словам, основная задача CTO заключается в сочетании ежедневного руководства командами разработчиков с долгосрочным стратегическим планированием и выявлением технологических пробелов.

Внутренняя культура компании характеризуется стремлением к решению «невозможных задач». Хотя OpenAI известна своими прорывными продуктами, внутри команды существуют дискуссии:

* Специалисты периодически покидают компанию из-за разногласий относительно стратегии развертывания технологий.
* Для поиска консенсуса в компании налажен постоянный диалог, направленный на систематизацию проблем безопасности и этики.

Мира Мурати подчеркивает, что OpenAI сфокусирована на решении проблем галлюцинаций (ложных утверждений), достоверности и надежности моделей.

### ChatGPT: триумф и его побочные эффекты
[[JUMP:2:23]]

Решение выпустить ChatGPT в публичный доступ было принято после периода внутреннего тестирования, когда команда осознала необходимость получения обратной связи от реальных пользователей.

* **Масштаб:** ChatGPT стал самым быстрорастущим технологическим продуктом в истории.
* **Механика:** Модели основаны на нейронных сетях, обученных на массивах данных для предсказания следующего слова в предложении.
* **Эволюция:** С ростом вычислительных мощностей и объемов данных возможности моделей увеличиваются, становясь более полезными и точными.

Однако Мира Мурати признает наличие серьезных рисков:

* **Галлюцинации:** Модели могут убедительно выдавать вымышленные факты за истину. Мурати оправдывает использование этого термина тем, что «галлюцинирование» свойственно и людям, когда они не знают ответа и пытаются его придумать.
* **Дезинформация:** Это сложная проблема, с которой человечество не может справиться десятилетиями, и ИИ добавляет в нее новые нюансы.

### Экономика ИИ и роль венчурного капитала
[[JUMP:10:12]]

Инвестор и сооснователь LinkedIn Рид Хоффман, один из первых сторонников OpenAI, называет развитие ИИ «крещендо» (кульминацией) всех предыдущих технологических сдвигов: интернета, мобильных устройств и облачных вычислений.

* **Blitzscaling:** Хоффман считает, что скорость внедрения ИИ в нашу жизнь превысит темпы распространения iPhone. Он прогнозирует появление «второго пилота» (co-pilot) для каждой профессии.
* **Инвестиционный пузырь:** На вопрос о том, не является ли ажиотаж вокруг генеративного ИИ очередным «пузырем» (аналогично крипто-буму), Хоффман отвечает, что технология обладает гораздо более широким охватом всех сфер жизни, чем предыдущие тренды.
* **Конкуренция:** По мнению Хоффмана, в ближайшем будущем на рынке могут появиться от одной до трех компаний, сравнимых по размеру с «большой пятеркой» (Google, Meta, Apple, Amazon, Microsoft).

### Критика и регулирование
[[JUMP:18:18]]

Относительно критики со стороны Илона Маска, обвиняющего OpenAI в отходе от принципов «открытости» и превращении в коммерческую структуру, контролируемую Microsoft, Рид Хоффман заявляет:

1.  Маск ошибается: OpenAI по-прежнему управляется некоммерческой организацией (501c3), а коммерческая часть была создана для привлечения капитала для поддержки этой миссии.
2.  «Открытость» не означает «открытый исходный код» (Open Source): компания ограничивает доступ к коду моделей, чтобы предотвратить их использование для создания вредоносного контента, например, дипфейков или материалов сексуального характера с участием детей.

Обе стороны — и Мурати, и Хоффман — сходятся во мнении, что необходим надзор. Мира Мурати поддерживает идею создания федерального регулирующего органа, подобного FDA (Управление по контролю качества пищевых продуктов и лекарственных средств), который мог бы проводить аудит моделей искусственного интеллекта на основе согласованных принципов безопасности.