Руководители компании OpenAI Сэм Альтман и Мира Мурати в интервью телеканалу ABC News подробно обсудили будущее искусственного интеллекта, его влияние на общество и сопутствующие глобальные риски. Создатели ChatGPT откровенно признались в собственных опасениях, связанных с развитием технологии, и объяснили, почему закрытые лабораторные исследования опаснее контролируемого публичного релиза. В ходе беседы были затронуты критически важные темы — от трансформации рынка труда и образования до угрозы масштабной дезинформации и необходимости государственного регулирования.
🧠 Феномен ChatGPT и страхи создателей 0:00
37-летний генеральный директор OpenAI Сэм Альтман (Sam Altman) отмечает, что ChatGPT мгновенно захватил воображение мировой аудитории благодаря тому, что эта технология вознаграждает эксперименты и творческий подход к решению задач. Люди видят реальную пользу в том, как система помогает им учиться, творить и автоматизировать повседневные процессы. Тем не менее, стремительный взлет технологии порождает как восторг, так и серьезные опасения из-за огромного количества неизвестных факторов.
Сэм Альтман открыто заявляет, что обществу следует радоваться тому, что разработчики сами «немного напуганы» своим творением. По его мнению, если бы руководитель технологической компании утверждал, что полностью спокоен, ему не следовало бы доверять. Осознание потенциальной опасности заставляет команду OpenAI действовать с максимальной осторожностью.
⚠️ Главные угрозы и контролируемые ошибки 1:44
Сэм Альтман выделил несколько ключевых рисков, которые беспокоят его сильнее всего:
- Широкомасштабная дезинформация: Способность моделей генерировать убедительный и недостоверный контент в огромных объемах.
- Наступательные кибератаки: Поскольку системы ИИ все успешнее пишут компьютерный код, злоумышленники могут использовать их для автоматизации цифровых взломов.
- Высокая скорость изменений: Если масштабная трансформация рынка труда займет единичное количество лет, адаптация общества может оказаться критически сложной.
Разработчики убеждены, что удерживать ИИ исключительно в стенах лаборатории невозможно и опасно. OpenAI сознательно предоставляет доступ к продуктам на ранних стадиях, пока ставки относительно низки. Альтман считает, что создание систем уровня условной «GPT-7» в полной секретности с последующим внезапным выпуском на неподготовленный мир принесло бы гораздо больше разрушительных последствий, так как у общества не осталось бы времени на выработку механизмов защиты.
🛑 Безопасность на уровне кода и «кнопка выключения» 2:39
Технический директор OpenAI Мира Мурати (Mira Murati) пояснила, что ИИ является технологией общего назначения, из-за чего крайне сложно заранее предсказать все ее возможности и побочные эффекты. Она подтвердила, что технологию действительно можно направить на достижение негативных результатов. Именно поэтому доступ к новым моделям предоставляется с серьезными ограничениями.
Разработчики вмешиваются в процесс безопасности еще на этапе предварительного обучения (pre-training). По словам Миры Мурати, благодаря этому модель GPT-4 гораздо реже соглашается отвечать на деструктивные запросы — например, вероятность того, что она поможет пользователю создать бомбу, значительно снижена по сравнению с предыдущими версиями систем. Мурати также добавила, что поведение машин сегодня предсказать проще, чем поведение людей, поскольку алгоритмы подчиняются строгому научному процессу.
При этом Сэм Альтман развеял научно-фантастические мифы об автономном восстании машин. Он подчеркнул, что текущие модели физически находятся на серверах и пассивно ожидают ввода данных от человека. На вопрос о существовании «кнопки экстренного выключения» глава OpenAI ответил положительно, пояснив, что любой инженер компании имеет техническую возможность временно отключить систему или развернуть исправленную версию модели.
💼 Будущее рынка труда и проблема «галлюцинаций» 9:48
Одной из главных проблем текущих языковых моделей разработчики называют «галлюцинации» — феномен, при котором ИИ уверенно заявляет вымышленные факты, как если бы они были абсолютной правдой. Сэм Альтман предостерегает пользователей от слепого доверия системе, напоминая, что ChatGPT — это «движок рассуждений», а не база данных фактов. Модели обучаются логически мыслить и анализировать информацию, а не просто зазубривать терабайты данных.
Касательно массового уничтожения рабочих мест Альтман признает, что ИИ действительно ликвидирует миллионы текущих вакансий. Тем не менее, исторический опыт технологических революций показывает, что человеческая креативность безгранична. На смену старым профессиям придут новые, более совершенные виды деятельности, которые сейчас трудно даже вообразить. Продукт позиционируется разработчиками как «сопилот» (соавтор) для любой профессии, способный повысить общий стандарт уровня жизни.
🏛 Регулирование, Илон Маск и геополитический контекст 9:09
OpenAI не останется монополистом, и Сэма Альтмана беспокоит появление создателей, которые проигнорируют ограничения безопасности. Комментируя известное заявление Владимира Путина о том, что лидер в сфере ИИ станет «властелином мира», Альтман назвал эти слова пугающими, выразив надежду, что технология станет усилителем человеческой воли, а не автономным контролером человечества.
Идеальным сценарием регулирования Альтман видит объединение представителей правительств и международных институтов для создания единого руководящего документа с жесткими запретами на опасные действия ИИ. Разработчики языковых моделей должны будут использовать этот документ как обязательный свод правил.
Также глава OpenAI затронул критику со стороны Илона Маска (Elon Musk) касательно неточностей ChatGPT и его идеи создания TruthGPT. Альтман согласился с важностью стремления систем к истине и подчеркнул, что, несмотря на некоторые разногласия, они с Маском разделяют общее понимание важности навигации по рискам ради будущего человечества. Отвечая на вопрос о потенциальном воздействии на выборы в США в 2024 году, Альтман честно ответил, что точных прогнозов нет, но OpenAI будет пристально следить за ситуацией и сохраняет возможность оперативно менять правила работы системы.
🎓 Революция в образовании и антропоморфизм 17:09
Альтман призвал не антропоморфизировать ChatGPT. Биологически люди склонны воспринимать общающуюся с ними систему как мыслящее существо, однако в реальности пользователь взаимодействует с архитектурой Transformer в облаке, которая лишь предсказывает следующий текстовый токен. Модель не способна планировать уничтожение человечества, хотя Альтман допускает, что в далеком будущем при других архитектурах это теоретически возможно.
В сфере образования, несмотря на способность ИИ сдавать сложнейшие экзамены вроде SAT и экзамена на статус адвоката (bar exam), Альтман видит огромный потенциал. ИИ изменит подход к обучению так же, как когда-то это сделал калькулятор.
По мнению Альтмана, ИИ способен привнести в образовательный процесс фундаментальные улучшения:
- Персонализированное обучение: Возможность предоставить каждому студенту индивидуального цифрового наставника.
- Интеграция метода Сократа: Модели вроде GPT-4 могут обучать через наводящие вопросы, помогая глубже усвоить материал.
- Снижение нагрузки на преподавателей: Инструмент позволяет автоматизировать объяснение рутинных концепций, с которыми сталкиваются учащиеся.
Интеграция GPT-4 в качестве персонального наставника позволит революционизировать процесс обучения, разгрузить учителей и дать каждому ребенку индивидуальное качественное образование.
