Сэм Альтман: «Вы не должны доверять ни одной компании или человеку управление ИИ»

Bloomberg Originals 1,3 млн 24 мин 4 мин 18.08.2023
Главное

Технологический гигант Microsoft, долгое время находившийся в тени мобильной революции, совершил стремительный рывок в область искусственного интеллекта (ИИ), став главным партнером OpenAI. Эмили Чанг в рамках шоу The Circuit обсудила с главами обеих компаний, Сатьей Наделлой и Сэмом Альтманом, как интеграция нейросетей меняет бизнес-ландшафт и почему нынешний момент сопоставим с появлением интернета в середине 90-х.

🚀 Microsoft и OpenAI: Новая эра партнерства 0:02

После десятилетия стагнации котировок в начале 2000-х, Microsoft под руководством Сатьи Наделлы вернула себе статус ключевого игрока рынка . Стратегическим решением стало многомиллиардное инвестирование в стартап Сэма Альтмана OpenAI. В рамках сделки Microsoft предоставляет мощные серверные ресурсы и капитал, получая эксклюзивный доступ к технологиям ChatGPT для своих продуктов .

По словам Сатьи Наделлы, использование чат-бота стало для него «привычкой». Он отмечает, что ИИ помогает ему быть более вежливым и многословным в электронной переписке, что уже заметили его коллеги . Сатья Наделла считает, что современный ИИ — это не просто поиск, а инструмент навигации, к которому быстро привыкаешь как к необходимым «рельсам» для продуктивности .

🛠 От «автопилота» к «копилоту»: Трансформация труда 2:56

Сатья Наделла подчеркивает, что ИИ присутствовал в нашей жизни десятилетиями (в рекомендациях YouTube, TikTok или в поиске), но это было поколение «черных ящиков», работавших в режиме автопилота . Новая эра, по его мнению, знаменует переход к концепции «копилота» (сопилота), где пользователь сам управляет процессом через промпты .

Основные изменения в работе, по прогнозам главы Microsoft, коснутся следующих аспектов:

🔍 Война поисковиков и конкуренция с Google 5:37

Microsoft открыто бросает вызов доминированию Google на рынке поиска. Сатья Наделла признает, что на данный момент Microsoft является «очень маленьким игроком» в этой сфере, но рассматривает каждый отвоеванный дюйм доли рынка как крупную победу .

В то же время Google интегрирует ИИ в Google Docs и Gmail. Сатья Наделла утверждает, что конкуренция — это «фантастическая вещь» для индустрии и пользователей . Он выражает глубокое уважение к инновационности Google и ожидает жесткой борьбы во всех категориях ПО .

🛡 Этика и риски: Кто нажмет на «красную кнопку»? 6:42

На фоне опасений Центра гуманных технологий (Center for Humane Technology) о «гонке к безрассудству», Сатья Наделла объяснил решение расформировать отдельную команду по этике ИИ. По его мнению, безопасность, дизайн и этика теперь должны быть встроены в основной цикл разработки, а не существовать как побочный процесс .

Сэм Альтман, в свою очередь, недавно завершил мировое турне, в ходе которого обсуждал необходимость глобального регулирования ИИ с мировыми лидерами . Он привез из поездки более 100 страниц рукописных заметок с отзывами пользователей и опасениями политиков .

Ключевые тезисы Сэма Альтмана о безопасности:

  1. Сравнение с ядерным оружием: Сэм Альтман считает аналогии с ядерным оружием или биологическими угрозами оправданными, так как ИИ — мощная технология с потенциально «суперплохими» последствиями .
  2. «Кнопка выключения»: По словам Сэма Альтмана, в реальности не существует «большой красной кнопки» из кино. Вместо этого используются строгие протоколы безопасности, внешние аудиты и проверки «красными командами» (red teaming) .
  3. Экспоненциальный рост: Основной риск, по мнению главы OpenAI, заключается в том, что человеческая интуиция плохо справляется с пониманием экспоненциальных кривых. Если GPT-4 безопасен, это не гарантирует автоматическую безопасность GPT-9 .

💼 Будущее рабочих мест и образования 8:41

Обсуждая вопрос исчезновения профессий, Сатья Наделла с иронией вспоминает прогнозы о «двухдневной рабочей неделе» от Кейнса до Альтмана . Он признает наличие рисков замещения рабочих мест и давления на зарплаты, но подчеркивает, что рост продуктивности может привести и к росту доходов .

Сэм Альтман считает, что в будущем изменятся требования к образованию. Он выделяет критически важные навыки:

Сэм Альтман полагает, что человечество никогда не останется без дела. Задачи, которые мы выполняем сегодня, показались бы людям прошлого «не настоящей работой», и в будущем ситуация повторится .

🌎 Глобальное доверие и управление 19:46

Сэм Альтман подписал заявление из 22 слов, приравнивающее риск вымирания от ИИ к пандемиям и ядерной войне . Несмотря на это, он отказывается прекращать разработки, аргументируя это колоссальными выгодами для медицины, образования и науки .

На прямой вопрос о том, почему общество должно ему доверять, Сэм Альтман ответил: «Не должны» . Он считает, что:

Относительно слухов о покупке OpenAI корпорацией Microsoft, Сэм Альтман категоричен: компания не продается . Свои отношения с Илоном Маском, который критикует OpenAI, Альтман характеризует как сложные, отмечая, что не вполне понимает причины публичных атак со стороны Маска .

💬 Цитаты

«Я надеюсь, что мы движемся от автопилота к копилоту, где мы действительно управляем процессом.»

Сатья Наделла 03:35

«Вы не должны доверять одной компании и уж тем более одному человеку управление такой мощной технологией.»

Сэм Альтман 23:24

«Каждый дюйм, который мы отвоюем в поиске — это большая победа.»

Сатья Наделла 05:50
👥 Спикеры
🔗 Упомянутые сайты и проекты
📖 Термины
Копилот (Co-pilot)
Концепция ИИ-помощника, который работает вместе с человеком, предоставляя черновики и идеи, но оставляя финальное решение за пользователем.
Mosaic
Один из первых веб-браузеров с графическим интерфейсом, популяризировавший интернет в начале 90-х.
Red teaming
Процесс активного тестирования системы безопасности путем имитации атак или поиска уязвимостей сторонними экспертами.
📊 Цифры
🗓 Хронология
  1. 1993 Выход браузера Mosaic, начало популяризации интернета.
  2. 1995 Билл Гейтс пишет меморандум 'The Internet Tidal Wave'.
  3. 2023 Сэм Альтман совершает мировое турне для обсуждения регулирования ИИ.
⚖️ Другая сторона
Искусственный интеллект Satya Nadella Sam Altman Microsoft OpenAI ChatGPT