В рамках экспертной дискуссии в Стэнфордской высшей школе бизнеса главный научный сотрудник Microsoft Эрик Хорвиц обсудил долгосрочные перспективы развития искусственного интеллекта и его влияние на общество. Ученый сопоставил нынешнюю технологическую волну с промышленными революциями прошлого и представил детальное видение будущего, где вычислительный интеллект дополняет человеческие когнитивные способности. Ключевыми темами беседы стали цифровая безопасность, трансформация медицины, создание агентных рынков и сохранение уникальной роли человека в эпоху автоматизации.
⏳ Исторический масштаб: ИИ в перспективе столетий 3:00
Оценивая текущий этап развития технологий, Эрик Хорвиц предлагает смотреть на него не через призму ближайших десятилетий, а с позиции историков будущего, которые будут анализировать нашу эпоху спустя 700 лет. По его мнению, этот период обязательно получит свое уникальное название в учебниках истории. Для понимания динамики изменений ученый проводит параллели с другими технологиями общего назначения, такими как пар и электричество.
Исторический опыт показывает следующие темпы адаптации:
- Паровой двигатель: первые рабочие прототипы появились в 1769–1770 годах, однако потребовалось около века, прежде чем технология полностью раскрыла свой потенциал в промышленности.
- Электричество: коммерческое внедрение началось в 1880-х годах и распространялось на протяжении многих десятилетий.
Хорвиц соглашается, что искусственный интеллект развивается значительно быстрее паровой энергии или электричества, поскольку человечество уже живет в полностью электрифицированном мире. Тем не менее, по прогнозу спикера, через 20 лет нынешний этап будет восприниматься лишь как стадия раннего развертывания и первых практических реализаций.
Уникальной особенностью современности Хорвиц считает беспрецедентный уровень общественного обсуждения и прогнозирования рисков. По его словам, ни в эпоху появления пара, ни при зарождении авиации общество не задумывалось заранее о правилах и нормах — например, о недопустимости сброса зажигательных снарядов с воздуха. Сегодняшняя готовность экспертов и публики коллективно координировать развитие ИИ вызывает у главного научного сотрудника Microsoft оптимизм.
💼 Новые вызовы для бизнеса и высшего образования 5:49
В условиях, когда базовые знания и навыки стремительно коммодитизируются под воздействием ИИ, студенты по всему миру испытывают как сильное волнение, так и глубокую тревогу. Хорвиц убежден, что для будущих магистров делового администрирования (MBA) открывается колоссальное окно возможностей в сфере управления процессами интеграции новых технологий.
Ученый вновь обращается к аналогии с электрификацией: в свое время фабрики долго не могли эффективно внедрить электричество, продолжая использовать громоздкие центральные приводные валы с кожаными ремнями вместо распределенных независимых моторов. Подобное несоответствие (impedance mismatch) между возможностями базовых технологий и существующими бизнес-процессами наблюдается в организациях и сегодня.
Для успешной навигации в новой реальности Хорвиц рекомендует учитывать следующие факторы:
- ИИ как диверсифицированная экосистема: технологическая сфера не сводится к популярным инструментам вроде ChatGPT, Claude или Gemini. Несмотря на стандартизацию верхнего уровня глубоких нейросетей, ИИ остается сложной мозаикой технологий, которая со временем станет еще более дифференцированной.
- Отраслевая специализация стартапов: на рынке появляются компании, которые фокусируются на получении доступа к уникальным наборам данных в конкретных секторах экономики для тонкой настройки специализированных моделей под нужды индустрии.
Хорвиц советует студентам находить свою узкую область интересов, глубоко погружаться в нее, развивать междисциплинарный подход и стремиться выйти за рамки маркетингового хайпа ради реальной практической интеграции ИИ.
🤝 Синергия разума: эволюция человеко-машинного взаимодействия 14:57
Концепция сотрудничества человека и искусственного интеллекта (human-AI collaboration) зародилась как научно-исследовательское направление около 23–25 лет назад. В основе этого подхода, по словам Хорвица, лежит глубокое понимание человеческого когнитивного субстрата, описанного когнитивными психологами: сильных сторон нашего мышления и его естественных ограничений. Цель разработчиков заключается в создании систем, которые точно знают, когда им нужно сделать шаг вперед и подставить плечо, а когда — остаться в тени.
Сегодня пользователи учатся управлять генеративными моделями через промпты, привнося в систему сугубо человеческие цели, предпочтения и траектории любопытства. ИИ при этом берет на себя рутинное моделирование, поиск информации и расширение спектра рассматриваемых альтернатив.
Хорвиц делится личной историей о том, как во время празднования Дня благодарения в год релиза GPT его сестра, профессор литературы в Университете Северной Каролины в Эшвилле, выразила серьезную обеспокоенность. Она сетовала, что студенты используют текстовые нейросети бездумно, делегируя им написание эссе.
Главный научный сотрудник Microsoft полностью согласен с ее тезисом:
Учиться писать — это, вероятно, часть процесса обучения тому, как мыслить по мере взросления человека.
По мнению Хорвица, долгосрочная дорожная карта развития ИИ должна быть ориентирована не просто на исполнение команд пользователя, а на проектирование систем, способных осознанно поддерживать, развивать и оберегать человеческую индивидуальность и интеллект.
🔮 Границы возможного: стохастические движки и «галлюцинации» 18:52
Работа на острие прогресса требует от исследователей постоянного пребывания на «границе выполнимого» (edge of doability) — в пространстве, которое еще несколько месяцев назад считалось абсолютно недостижимым. Одним из главных барьеров на этой границе остаются «галлюцинации» современных моделей. Хорвиц признает, что ИИ является стохастическим движком, способным выдавать недостоверные данные, поэтому инженеры прикладывают огромные усилия для минимизации подобных ошибок в критически важных сферах, таких как здравоохранение.
Однако в контексте научного поиска и творчества «галлюцинации» могут приобретать неожиданную ценность. Опираясь на опыт общения с нобелевскими лауреатами по физике, Хорвиц отмечает, что способность стохастических систем генерировать нестандартные ассоциации в неизведанных областях знаний открывает огромные перспективы. В таком сценарии человек берет на себя роль направляющего фильтра, используя собственные эстетические критерии и фундаментальное понимание предмета для отсева ложных гипотез.
🌱 ИИ и процветание человечества: от биомедицины до образования 20:58
В своих выступлениях, включая Таннеровскую лекцию в Мичиганском университете, Хорвиц сопоставляет масштаб влияния ИИ на цивилизацию с изобретением языка. Подобно тому, как язык позволил Homo sapiens объединиться в мыслящие коллективы и построить цивилизацию, ИИ призван стать следующим эволюционным шагом. Ученый признается, что предпочитает использовать термин «вычислительный интеллект» (computational intelligence), так как фундаментальные принципы обработки информации применимы как к машинам, так и к биологическим нервным системам.
Среди ключевых технологических прорывов, которые ожидаются в ближайшие 10–15 лет, спикер выделяет:
- Нейродегенеративные заболевания: ИИ-технологии помогут найти эффективные методы терапии и совершить переворот в лечении болезней Альцгеймера, бокового амиотрофического склероза (ALS) и лобно-височной деменции (FTD).
- Онкология: благодаря ИИ-моделям для дизайна молекул и белков, в ближайшее десятилетие множество видов рака перейдут в разряд контролируемых хронических заболеваний или будут полностью излечены.
- Персонализированное образование: ИИ трансформируется в интеллектуальные тьюторские системы, адаптирующие подачу материала под особенности восприятия конкретного человека, что поможет преодолевать когнитивные барьеры (например, страх перед сложными математическими задачами) и оперативно переобучать рабочую силу.
🤖 Агентные рынки и комплексная оптимизация систем 26:53
Отвечая на вопрос о неочевидных точках трансформации экономики, Хорвиц призывает готовиться к структурным сюрпризам. Одним из наиболее перспективных направлений он считает формирование «агентных рынков» (agentic marketplaces) в течение ближайшего десятилетия. В такой экосистеме у каждого человека и организации появятся автономные ИИ-представители (прокси-агенты), которые будут осуществлять процессы купли-продажи, планирования и координации в рамках единых цифровых рынков. Исследовательские группы Microsoft уже опубликовали теоретическую работу на эту тему и выложили в открытый доступ симуляционную платформу для моделирования агентных взаимодействий. Вектор важности этой темы подтверждает и профильный воркшоп в Стэнфорде, организованный совместно с Consumer Reports.
Другим важнейшим полигоном для системной оптимизации выступает здравоохранение. Вместо точечного внедрения ИИ для автоматического распознавания диагнозов или транскрипции речи, по мнению Хорвица, необходимо переосмыслить всю цепочку сложных процессов: от процедур предварительного согласования (prior authorization) со страховыми компаниями до алгоритмов перераспределения ответственности между участниками системы. На текущем этапе регуляторные инициативы в США и Европе должны восприниматься экспертным сообществом как живой эксперимент, а не как финальные нормативные акты.
🛡️ Кризис подлинности: криптографическая защита от дипфэйков 32:03
Интерес Хорвица к проблеме фальсификации контента возник еще в 2015 году, когда исследовательская группа по компьютерным наукам из Стэнфорда продемонстрировала прототип системы, способной незаметно менять мимику и вкладывать любые слова в уста политиков на видео. Осознавая грядущую угрозу стирания границ между фактами и вымыслом, специалисты Microsoft инициировали разработку технологии медиа-провенанса (media provenance technology). Ее суть заключается в создании криптографической «сургучной печати», которая связывает каждый фотон, попавший на матрицу камеры, с пикселем на экране конечного пользователя.
Эта инициатива легла в основу международного стандарта C2PA Content Credentials, поддержанного крупнейшими технологическими и производительными компаниями мира. Недавно команда Хорвица опубликовала 54-страничный отчет, посвященный жесткому редтимингу (red teaming) этой защитной системы. Исследователи моделировали сценарии атак, способных скомпрометировать цифровые печати — например, с целью ложно заявить, будто многотысячная толпа, приветствующая Камалу Харрис в Детройте, была сгенерирована нейросетью. Результаты проверок подтвердили высокую надежность разработанных методов аутентификации.
Тем не менее, Хорвиц выделяет две глубокие социотехнические проблемы:
- Проблема «последнего метра»: как обычные пользователи реагируют на графические символы верификации и доверяют ли они им в действительности?
- Риск обесценивания несертифицированных свидетельств: правозащитные организации (например, WITNESS под руководством Сэма Грегори) выражают опасения, что реальные кадры военных преступлений или нарушений прав человека, снятые на обычные телефоны без криптографических меток C2PA, могут быть априори признаны фальшивками.
В качестве личного культурного эксперимента Хорвиц попросил дизайнеров создать цифровой маркер с надписью «100% human crafted» (Создано человеком на 100%), который он добавляет в конец писем, написанных полностью вручную, чтобы подчеркнуть ценность личных усилий в эпоху автоматической генерации текстов.
🎓 Менторство и «экономика заботы» 38:53
Эрик Хорвиц известен в Microsoft как один из самых активных и щедрых менторов: через его программы стажировок прошло более 150 докторантов (PhD), среди которых видные современные ученые Юре Лесковец и Майкл Бернштейн. Спикер признается, что наставничество помогает ему сохранять остроту ума и постоянно учиться у молодого поколения.
По мнению Хорвица, тотальная автоматизация рутинных когнитивных задач неизбежно приведет к переоценке человеческих отношений. На неформальной конференции Foo Camp ученый возглавил дискуссию о защите человеческой субъектности в эпоху ИИ. Участники сошлись во мнении, что автоматизация вызовет расцвет «экономики заботы» (caring economy), где на первый план выйдут эмпатия, совместное творчество, наставничество и передача уникального мастерства из рук в руки. Наставничество останется той сферой человеческой деятельности, которую невозможно автоматизировать алгоритмически.
💬 Ответы на вопросы: калибровка, переносимость моделей и хайп 44:20
В ходе сессии вопросов и ответов Хорвиц затронул фундаментальные инженерные и методологические проблемы ИИ:
- Проблема вероятностной калибровки: современные большие языковые модели не умеют точно оценивать вероятность истинности собственных ответов. Для безопасного внедрения ИИ в системы принятия решений разработчики должны добиться от моделей четко калиброванного уровня уверенности, чтобы эти данные можно было закладывать в математические модели анализа затрат и выгоды.
- Проблема непереносимости медицинских моделей: Хорвиц подчеркивает, что ИИ-системы, обученные в одной клинике, демонстрируют неудовлетворительные результаты при переносе в другую больницу из-за различий в демографии пациентов и оборудовании. Безопасное внедрение ИИ в здравоохранение потребует проведения долгосрочных рандомизированных клинических исследований. Кроме того, необходимо жестко отслеживать критические точечные отказы моделей. По аналогии с автопилотом Tesla, система может демонстрировать отличную среднюю статистику безопасности, но совершать катастрофические ошибки на границах своих возможностей (например, въезжать под грузовик), что абсолютно неприемлемо для общества.
Комментируя текущие многомиллиардные инвестиции и риск разочарования в технологиях, спикер признает неизбежность колебаний рынка и существование циклов хайпа Gartner. Однако, по мнению Хорвица, в «костре» современной ИИ-индустрии скопилось достаточное количество мощных «углей» — от прорывов в дизайне белков до успешной автоматизации медицинской документации, — чтобы поддерживать стабильный приток инвестиций и продолжать поступательное развитие. Ведущая дискуссии Сара Суль подтвердила важность верификации результатов ИИ, поделившись личным курьезным опытом: медицинский ИИ-транскриптор, использованный ее врачом, ошибочно добавил в ее карту запись о том, что пациентка прибыла на прием «в состоянии бреда и замешательства».
