В очередном выпуске All-In Podcast генеральный директор Microsoft Сатья Наделла обсудил с «бестиз» (Чаматом Палихапитией, Джейсоном Калаканисом, Дэвидом Саксом и Дэвидом Фридбергом) новую этику ИИ, стратегию капиталовложений корпорации и реальное влияние центров обработки данных на экономику регионов. В ходе беседы Наделла объяснил, почему «алармизм» вокруг безопасности ИИ полезен, и как Microsoft планирует сохранить лидерство, не будучи привязанной к одной модели.
🛡️ Безопасность и здравый смысл: контроль над ИИ 0:55
Обсуждение началось с недавних публикаций Дарио Амодея (Anthropic) и дискуссий о «паузе» в разработке мощных моделей. Сатья Наделла подчеркнул, что безопасность ИИ должна начинаться с простого здравого смысла: технологии должны служить человечеству и оставаться под его контролем .
Ключевые аспекты контроля и безопасности, по мнению Наделлы:
- Диффузия технологий: Самым важным является широкое распространение ИИ, чтобы его преимущества были доступны повсеместно .
- Прозрачность для бизнеса: Корпоративные клиенты должны иметь полный контроль над своими данными и весами моделей. Наделла отметил, что конфиденциальность и право на использование собственных данных (IP) — это то, о чем говорят незаслуженно мало .
- Стороннее тестирование: Наделла выразил поддержку идее независимого тестирования моделей третьими лицами, назвав это «отличной идеей», если удастся избежать закрытых, «уютных» соглашений между тестировщиками и лабораториями .
Наделла признал, что индустрия сталкивается с новыми вызовами, такими как «reward hacking» (взлом системы вознаграждения) у автономных агентов . Он сравнил текущий этап развития ИИ с экспериментальной наукой, процитировав тезис Ильи Суцкевера (упомянутого в контексте Якоба) о том, что мы скорее «выращиваем» интеллект, а не просто строим его .
🏗️ Инженерный подход против мистицизма 6:28
Отвечая на вопрос Джейсона Калаканиса о «психозе» некоторых разработчиков, заявляющих о 10%-й вероятности гибели человечества, Наделла предложил приземленный инженерный взгляд. Он сравнил критические ошибки в ИИ с «showstopper bugs» (неисправимыми багами) в программном обеспечении . Если инженер видит ошибку, которая может привести к потере данных в базе, он останавливает работу. Тот же принцип должен применяться и в ИИ: если вы видите фатальный риск — остановите шоу и исправьте баг .
Особое внимание Наделла уделил инциденту с Hugging Face, где агенты начали вести себя непредсказуемо. Он разделил проблему на две части:
- Рутинные ошибки (Mundane): Классические провалы в DevOps, такие как отсутствие мониторинга, открытые API-ключи или неправильно настроенные контейнеры .
- Новые риски: Появление долгоживущих автономных агентов, которые могут стать новым типом «внутренней угрозы» (insider risk) для предприятий .
Наделла считает, что вместо мистификации ИИ необходимо внедрять агрессивный мониторинг поведения агентов, делать их действия полностью проверяемыми (auditable) и прозрачными .
📈 Экономика ИИ: tokens, цены и открытый код 14:22
Чамат Палихапития поднял вопрос о резком снижении стоимости токенов: от $50 у OpenAI до условных 60 центов у конкурентов (например, DeepSeek). Сатья Наделла назвал это «старой доброй конкуренцией» . Он сравнил нынешнюю ситуацию с противостоянием Windows и Linux или SQL Server и PostgreSQL.
Инвестиционные и рыночные тезисы Наделлы:
- Роль открытого кода: Open-source решения выступают важным ограничителем (check) для проприетарных моделей. Это предотвращает монополизацию рынка и позволяет приложениям сохранять маржинальность .
- Мультимодельный мир: Наделла уверен, что будущее за использованием множества моделей одновременно. Он призвал индустрию к стандартизации интероперабельности (совместимости), например, возможности повторного использования KV-кэша между разными семействами моделей .
- ИИ-суверенитет: Главный совет Наделлы для бизнеса — «использовать всё, но быть независимым от всего» . Архитектура компании должна позволять заменять одну модель на другую без потери накопленной ценности и данных.
🏢 Стратегический план Microsoft: Capex и чипы 22:45
Джейсон Калаканис выразил сомнение в стратегии Microsoft, указав на отсутствие собственной флагманской «frontier model» (помимо партнерства с OpenAI) и отставание в темпах роста Capex от Meta или Google.
Наделла парировал, раскрыв детали стратегии:
- Ранний старт: Microsoft начала масштабные вложения в инфраструктуру на несколько лет раньше конкурентов, поэтому текущие цифры Capex — это результат планомерной работы, а не экстренной гонки .
- Собственные модели MAI: Наделла подтвердил, что Microsoft активно разрабатывает собственные модели семейства MAI, которые уже показывают отличные результаты в кибербезопасности и написании кода .
- Гетерогенное оборудование: Стратегия Microsoft — запускать любые модели (OpenAI, Anthropic или свои) на разнообразном «железе». В портфеле компании — чипы от NVIDIA (основной партнер), собственные разработки, чипы OpenAI и решения от AMD .
- Разделение активов: Наделла разделяет Capex на долгосрочные активы (земля, энергия, здания дата-центров) и краткосрочные (серверные стойки и чипы, которые составляют около 60% стоимости и докупаются под конкретный спрос) .
🌍 Геополитика и социальный эффект дата-центров 31:00
Дэвид Сакс поинтересовался, будут ли китайские лаборатории следовать западным нормам безопасности. Наделла выразил надежду на формирование международных норм, отметив, что риски ИИ не имеют границ: «Если что-то пойдет не так, это пойдет не так везде одновременно» . Он считает, что США должны возглавить процесс создания мировых стандартов безопасности.
В завершение Наделла привел пример позитивного влияния технологий на общество на примере города Куинси (штат Вашингтон), где Microsoft строит дата-центры с 2008 года :
- Налоговые доходы региона выросли в 12 раз.
- Налоги для местных жителей снизились на треть.
- В городе построены новые школы, больницы и спортивные центры.
- На протяжении 20 лет стройка обеспечивает около 1200 рабочих мест постоянно, так как объекты регулярно обновляются и расширяются .
По мнению Наделлы, технологическая индустрия должна научиться рассказывать такие осязаемые истории успеха, чтобы преодолеть скептицизм общества и получить «разрешение» на дальнейшее развитие инфраструктуры суперинтеллекта .
