# Сэм Альтман: «Вы не должны доверять ни одной компании или человеку управление ИИ» Источник: https://www.youtube.com/watch?v=6ydFDwv-n8w Канал: Bloomberg Originals Опубликовано: 18.08.2023 --- Технологический гигант Microsoft, долгое время находившийся в тени мобильной революции, совершил стремительный рывок в область искусственного интеллекта (ИИ), став главным партнером OpenAI. Эмили Чанг в рамках шоу *The Circuit* обсудила с главами обеих компаний, Сатьей Наделлой и Сэмом Альтманом, как интеграция нейросетей меняет бизнес-ландшафт и почему нынешний момент сопоставим с появлением интернета в середине 90-х. ## 🚀 Microsoft и OpenAI: Новая эра партнерства [[JUMP:00:02]] После десятилетия стагнации котировок в начале 2000-х, Microsoft под руководством Сатьи Наделлы вернула себе статус ключевого игрока рынка [1:23]. Стратегическим решением стало многомиллиардное инвестирование в стартап Сэма Альтмана OpenAI. В рамках сделки Microsoft предоставляет мощные серверные ресурсы и капитал, получая эксклюзивный доступ к технологиям ChatGPT для своих продуктов [1:49]. По словам Сатьи Наделлы, использование чат-бота стало для него «привычкой». Он отмечает, что ИИ помогает ему быть более вежливым и многословным в электронной переписке, что уже заметили его коллеги [2:16]. Сатья Наделла считает, что современный ИИ — это не просто поиск, а инструмент навигации, к которому быстро привыкаешь как к необходимым «рельсам» для продуктивности [2:43]. ## 🛠 От «автопилота» к «копилоту»: Трансформация труда [[JUMP:02:56]] Сатья Наделла подчеркивает, что ИИ присутствовал в нашей жизни десятилетиями (в рекомендациях YouTube, TikTok или в поиске), но это было поколение «черных ящиков», работавших в режиме автопилота [3:10]. Новая эра, по его мнению, знаменует переход к концепции «копилота» (сопилота), где пользователь сам управляет процессом через промпты [3:35]. Основные изменения в работе, по прогнозам главы Microsoft, коснутся следующих аспектов: * **Business Chat:** Сатья Наделла называет базу данных продуктивности (письма, документы, встречи) самой важной в любой компании [3:48]. ИИ позволяет объединить эти разрозненные данные, чтобы моментально подготовить резюме перед встречей с клиентом [4:02]. * **Обучение инструментам:** Сатья Наделла считает, что пользователи должны научиться воспринимать ответы ИИ как черновики, требующие проверки, а не как финальный результат [4:43]. * **Масштаб перемен:** Он сравнивает выход ChatGPT с появлением браузера Mosaic в 1993 году и знаменитым меморандумом Билла Гейтса 1995 года о «цунами интернета» [5:08]. ## 🔍 Война поисковиков и конкуренция с Google [[JUMP:05:37]] Microsoft открыто бросает вызов доминированию Google на рынке поиска. Сатья Наделла признает, что на данный момент Microsoft является «очень маленьким игроком» в этой сфере, но рассматривает каждый отвоеванный дюйм доли рынка как крупную победу [5:50]. В то же время Google интегрирует ИИ в Google Docs и Gmail. Сатья Наделла утверждает, что конкуренция — это «фантастическая вещь» для индустрии и пользователей [6:17]. Он выражает глубокое уважение к инновационности Google и ожидает жесткой борьбы во всех категориях ПО [6:29]. ## 🛡 Этика и риски: Кто нажмет на «красную кнопку»? [[JUMP:06:42]] На фоне опасений Центра гуманных технологий (Center for Humane Technology) о «гонке к безрассудству», Сатья Наделла объяснил решение расформировать отдельную команду по этике ИИ. По его мнению, безопасность, дизайн и этика теперь должны быть встроены в основной цикл разработки, а не существовать как побочный процесс [6:55]. Сэм Альтман, в свою очередь, недавно завершил мировое турне, в ходе которого обсуждал необходимость глобального регулирования ИИ с мировыми лидерами [10:40]. Он привез из поездки более 100 страниц рукописных заметок с отзывами пользователей и опасениями политиков [10:53]. Ключевые тезисы Сэма Альтмана о безопасности: 1. **Сравнение с ядерным оружием:** Сэм Альтман считает аналогии с ядерным оружием или биологическими угрозами оправданными, так как ИИ — мощная технология с потенциально «суперплохими» последствиями [13:13]. 2. **«Кнопка выключения»:** По словам Сэма Альтмана, в реальности не существует «большой красной кнопки» из кино. Вместо этого используются строгие протоколы безопасности, внешние аудиты и проверки «красными командами» (red teaming) [14:35]. 3. **Экспоненциальный рост:** Основной риск, по мнению главы OpenAI, заключается в том, что человеческая интуиция плохо справляется с пониманием экспоненциальных кривых. Если GPT-4 безопасен, это не гарантирует автоматическую безопасность GPT-9 [21:11]. ## 💼 Будущее рабочих мест и образования [[JUMP:08:41]] Обсуждая вопрос исчезновения профессий, Сатья Наделла с иронией вспоминает прогнозы о «двухдневной рабочей неделе» от Кейнса до Альтмана [9:06]. Он признает наличие рисков замещения рабочих мест и давления на зарплаты, но подчеркивает, что рост продуктивности может привести и к росту доходов [9:19]. Сэм Альтман считает, что в будущем изменятся требования к образованию. Он выделяет критически важные навыки: * **Резильентность и адаптивность:** Способность быстро учиться новому [16:49]. * **Программирование:** Несмотря на развитие ИИ, Альтман советует продолжать учиться кодингу как способу тренировки мышления [17:03]. * **Креативность:** Поиск новых способов быть полезным обществу [17:43]. Сэм Альтман полагает, что человечество никогда не останется без дела. Задачи, которые мы выполняем сегодня, показались бы людям прошлого «не настоящей работой», и в будущем ситуация повторится [17:29]. ## 🌎 Глобальное доверие и управление [[JUMP:19:46]] Сэм Альтман подписал заявление из 22 слов, приравнивающее риск вымирания от ИИ к пандемиям и ядерной войне [20:14]. Несмотря на это, он отказывается прекращать разработки, аргументируя это колоссальными выгодами для медицины, образования и науки [21:49]. На прямой вопрос о том, почему общество должно ему доверять, Сэм Альтман ответил: «Не должны» [22:45]. Он считает, что: * Ни один человек или компания не должны единолично контролировать эту технологию [23:12]. * Совет директоров OpenAI имеет право уволить его, что является важным механизмом сдержек [23:12]. * Управление ИИ со временем должно быть «демократизировано» и принадлежать всему человечеству [23:12]. Относительно слухов о покупке OpenAI корпорацией Microsoft, Сэм Альтман категоричен: компания не продается [15:28]. Свои отношения с Илоном Маском, который критикует OpenAI, Альтман характеризует как сложные, отмечая, что не вполне понимает причины публичных атак со стороны Маска [16:08].