# Сэм Альтман: «ИИ должен стать усилителем человеческой воли»

Источник: https://www.youtube.com/watch?v=540vzMlf-54
Канал: ABC News
Опубликовано: 17.03.2023

---

## ИИ-трансформация общества: Сэм Альтман об угрозах, регулировании и будущем OpenAI
[[JUMP:0:00]]

Генеральный директор OpenAI Сэм Альтман обсудил с ведущим канала ABC News Джорджем Стефанопулосом потенциал искусственного интеллекта, риски его бесконтрольного развития и роль компании в формировании «цифрового будущего» человечества. Разговор коснулся самых острых тем: от угрозы крупномасштабной дезинформации до перспектив интеграции нейросетей в образование и экономику.

### 🌐 Искусственный интеллект как «умный усилитель» человечества
[[JUMP:0:26]]

По мнению Сэма Альтмана, популярность ChatGPT обусловлена его способностью вдохновлять людей и вознаграждать творческие эксперименты. Он рассматривает ИИ не как замену человеку, а как «второго пилота» — универсальный инструмент, способный выступать в роли персонального педагога, советника или помощника в профессиональной деятельности.

Основные тезисы Альтмана о потенциале технологии:

* **Кастомизация:** В будущем каждый человек сможет иметь собственную ИИ-систему, настроенную в соответствии с его личными ценностями и потребностями.
* **Экономика:** ИИ-инструменты повысят качество жизни, автоматизировав рутинные задачи и помогая решать сложнейшие профессиональные проблемы.
* **Разум вместо базы данных:** Альтман настаивает, что современные модели — это в первую очередь «двигатели рассуждения», а не просто справочники фактов, поэтому их обучение строится на развитии способности логически мыслить.

### ⚠️ Риски, угрозы и страх перед «неизвестным»
[[JUMP:1:06]]

Сэм Альтман открыто признает, что создатели ИИ испытывают опасения по поводу своего продукта. По его словам, человек, занимающийся разработкой столь мощных систем и не испытывающий страха, либо неискренен, либо заслуживает недоверия. 

Среди конкретных угроз, которые выделяет глава OpenAI:

* **Дезинформация:** Высокая вероятность использования моделей для создания масштабных кампаний по введению общественности в заблуждение.
* **Киберпреступность:** Возможность применения ИИ для написания вредоносного программного кода и осуществления хакерских атак.
* **Галлюцинации:** Главная проблема текущего этапа, при которой ИИ уверенно выдает вымышленные данные за истинные.
* **Авторитарный контроль:** Альтман назвал «леденящим кровь» заявление Владимира Путина о том, что лидер в сфере ИИ станет «правителем мира». Он подчеркивает, что цель OpenAI — создание систем, усиливающих человеческую волю, а не автономных механизмов, захватывающих контроль над обществом.

### 🛠️ Ответственность и «контакт с реальностью»
[[JUMP:1:18]]

Один из центральных вопросов интервью: почему OpenAI выпускает продукты в открытый доступ, не дожидаясь окончательного решения всех проблем безопасности?

Альтман утверждает, что разработка «в секретной лаборатории» несет больше рисков, так как лишает разработчиков критически важного опыта взаимодействия с реальностью. По его мнению, только через внедрение технологий в повседневную жизнь и создание «петли обратной связи» можно выявить опасные сценарии на ранних этапах, пока ставки еще относительно низки. 

Для минимизации вреда OpenAI предпринимает следующие шаги:

1.  **Red Teaming:** Привлечение внешних специалистов для тестирования систем на уязвимости.
2.  **Ограничение функционала:** Использование предобучения для того, чтобы модели отказывались выполнять потенциально опасные запросы (например, инструкции по созданию взрывных устройств).
3.  **Политический диалог:** Постоянное взаимодействие с государственными институтами и экспертами для выработки правил регулирования.

Альтман выразил надежду, что в будущем представители мировых правительств разработают единый «управляющий документ», который станет этическим кодексом для разработчиков подобных систем.

### 🏫 ИИ в школе: конец зубрежки или новый инструмент?
[[JUMP:19:21]]

Обсуждая влияние ИИ на образование, Альтман сравнил внедрение ChatGPT с появлением калькулятора, который навсегда изменил процесс обучения математике. 

* **Индивидуальное обучение:** Глава OpenAI видит огромный потенциал в использовании ИИ для создания персональных программ обучения, адаптированных под темп каждого ученика.
* **Сократический метод:** Новые функции GPT-4 позволяют модели выступать в роли Socratic-учителя, который не дает готовые ответы, а задает наводящие вопросы, заставляя студента самостоятельно прийти к пониманию темы.

Альтман признает, что это создает давление на учителей в вопросах проверки домашних заданий, но полагает, что такой формат «ночных офисных часов» и интерактивного обучения станет стандартом, который сделает будущих выпускников значительно более способными.