# Профессор Стэнфорда объяснил разницу между обычным ИИ и Human-Centered AI Источник: https://www.youtube.com/watch?v=5UJ0uWqO1Ho Канал: Stanford Online Опубликовано: 02.02.2026 --- В рамках вебинара программы Stanford Online ведущие эксперты обсудили концепцию Human-Centered AI и методы проектирования систем искусственного интеллекта, заслуживающих доверия. Содиректор Стэнфордского института человекоцентричного ИИ (HAI) профессор Джеймс Ландей и управляющий директор Ванесса Парли разобрали, как культурные различия, суверенный ИИ и новые типы интерфейсов изменят взаимодействие общества с технологиями. По мнению спикеров, ключ к устойчивому внедрению ИИ лежит на стыке технологической эффективности, этики и глубокого понимания потребностей как отдельных пользователей, так и целых сообществ. ## 🧠 Философия человекоцентричного ИИ: за пределами пользовательского опыта [[JUMP:03:52]] Когда более семи лет назад основывался Стэнфордский университетский институт HAI, его создатели руководствовались тем, что колоссальное социальное влияние ИИ на образование, здравоохранение, финансы и госуправление требует междисциплинарного подхода. Профессор Джеймс Ландей отмечает, что просто хороших намерений или применения ИИ в важных сферах недостаточно для того, чтобы технология стала по-настоящему человекоцентричной. По мнению Ландея, концепция Human-Centered AI должна выходить далеко за рамки традиционного проектирования, ориентированного на пользователя (user-centered design), которое доминировало в ИТ-индустрии последние 30–50 лет. Обычный пользовательский дизайн учитывает интересы только того, кто непосредственно взаимодействует с системой. Человекоцентричный подход обязан оценивать побочные эффекты, затрагивающие людей, не являющихся прямыми пользователями. В качестве примеров таких скрытых эффектов Ландей приводит: * Алгоритмы распределения медицинских ресурсов, где ключевые решения принимает врач, но их последствия напрямую влияют на пациентов. * Системы размещения противопожарных служб в Лос-Анджелесе, определяющие безопасность районов, жители которых даже не знают о работе ИИ. * Труд специалистов из развивающихся стран, размечающих и обучающих данные для систем, которыми они сами никогда не будут пользоваться. Профессор подчеркивает необходимость перехода к «дизайну, ориентированному на сообщества» (community-centered design). Если ИИ-система становится успешной, она неизбежно масштабируется до общественнго уровня. Ландей указывает на новостную ленту Facebook, которая изменила представления людей о правде, и Instagram, повлиявший на восприятие собственного тела молодыми женщинами, как на наглядные примеры масштабного социального воздействия ИИ. Проектировать новые системы необходимо с учетом этих долгосрочных социальных последствий. ## 🌍 Культурный код больших моделей и «дефолтный» Запад [[JUMP:08:21]] Проблема соответствия ИИ общественным ценностям обостряется на международном уровне. Согласно опросам аудитории вебинара, около 60% респондентов не уверены, что современные системы ИИ отражают ценности и культуру их сообществ. Джеймс Ландей и Ванесса Парли поделились наблюдениями после возвращения с Всемирного экономического форума в Давосе. В таких странах, как Южная Корея, Сингапур и ОАЭ, существует серьезная обеспокоенность тем, что ведущие большие языковые модели транслируют культурные паттерны, чуждые местным сообществам. Причина этого тривиальна: базовые массивы обучающих данных берутся из интернета, где количественно доминируют Северная Америка и Западная Европа. Исследования аспирантки Стэнфорда Навы Хаикики подтверждают, что в современные модели ИИ глубоко встроена определенная онтология — философское понимание того, что значит быть человеком и существовать в мире. Если пользователь детально расспрашивает модель, она может извлечь данные о коренных или локальных культурах. Однако по умолчанию ИИ всегда выдает ответы, базирующиеся на доминирующей западной культуре. Живым примером этого феномена стала личная история Навы Хаикики, выросшей в Иране. Когда на лекциях она просит слушателей представить дерево, большинство западных людей видят статичный ствол, ветви и листья. Для Навы дерево — это часть огромной живой экосистемы, поэтому она сразу представляет его корневую систему, переплетенную под землей с другими организмами. Когда она попросила нейросеть изобразить дерево с точки зрения иранской культурной перспективы, модель выдала крайне стереотипный, поверхностный визуальный дизайн, полностью проигнорировав глубокое философское восприятие, присущее ее культуре. По мнению Ландея, заложенные по умолчанию западные ассоциации искусственно ограничивают потенциал проектирования приложений, которые создаются на базе этих моделей. ## 🛡️ Суверенный ИИ: борьба государств за стек технологий [[JUMP:13:15]] Термин «суверенный ИИ» (sovereign AI) практически не использовался еще год назад, но стал одной из главных тем обсуждения на форуме в Давосе. Команда института HAI в настоящее время готовит масштабный аналитический отчет, цель которого — дать четкое определение этому феномену и составить карту инициатив разных стран. Суверенный ИИ выражает стремление государств контролировать технологии искусственного интеллекта на своей территории для достижения ключевых целей: * **Национальная безопасность:** гарантия того, что внешние силы не смогут отключить критически важные ИИ-сервисы или использовать их против государства. * **Экономическая безопасность:** предотвращение оттока капитала в пользу зарубежных провайдеров и создание локальных прибыльных ИИ-продуктов. * **Культура и язык:** обеспечение корректной поддержки национального языка и сохранение локальной идентичности (онтологии) в ответах алгоритмов. * **Кадровый потенциал:** развитие собственной экосистемы специалистов и подготовка общества к работе с новыми технологиями. Джеймс Ландей выделяет пять уровней технологического стека, на которых государства пытаются установить суверенный контроль: 1. **Инфраструктура:** обеспечение физической безопасности и независимости цепочек поставок графических процессоров (GPU), а также развертывание дата-центров внутри страны. 2. **Данные:** жесткое регулирование внутренних потоков данных и запрет на их неконтролируемый вывоз за рубеж. 3. **Модели:** создание собственных базовых моделей вместо использования проприетарных американских систем (таких как GPT-5 от OpenAI или Gemini от Google) или открытых решений вроде Llama от Meta. 4. **Приложения:** контроль над программным обеспечением, создаваемым на основе базовых моделей и распространяемым внутри страны. 5. **Таланты:** удержание и обучение разработчиков, исследователей и инженеров. Ранние исследования HAI показывают, что разные страны фокусируются на совершенно разных элементах этого стека в зависимости от своих финансовых и технологических возможностей. ## 🏥 ИИ на практике: от цифровых сиделок до персональных тренеров [[JUMP:18:54]] Лаборатория профессора Ландея активно переносит теоретические принципы человекоцентричного ИИ в прикладные проекты, особенно в сфере здравоохранения и образования. Одно из направлений работы — создание интерактивных систем для детей, которые используют ИИ для генерации увлекательных развивающих историй. В медицине команда Ландея развивает два крупных проекта: ### 1. Старение в привычной обстановке (Aging in place) Проект исследует использование систем фонового (эмбиентного) сенсорного анализа в домах пожилых людей. ИИ помогает престарелым гражданам как можно дольше жить самостоятельно, сохраняя высокое качество жизни. Ключевая задача инженеров здесь — найти баланс между эффективностью мониторинга здоровья, конфиденциальностью данных пожилых людей и условиями труда приходящих социальных работников. ### 2. Персональный ИИ-коуч Bloom Разработчики создали ИИ-модель, обученную методологии «мотивационного интервьюирования» (motivational interviewing), применяемой профессиональными психологами и тренерами. Приложение Bloom не просто диктует инструкции, а ведет глубокий онбординг-диалог: расспрашивает пользователя о целях, прошлом опыте, удачах и неудачах, формируя программу тренировок совместно с человеком. Визуальный интерфейс Bloom выполнен в виде цифрового сада: по мере выполнения фитнес-задач на экране телефона расцветают новые цветы. Джеймс Ландей протестировал систему на себе, когда готовился к экстремальному пешему туру вокруг Монблана (Tour de Mont Blanc). Его целью было пройти 120 миль за 10 дней, ежедневно преодолевая по 3000 футов подъемов и спусков. ИИ-коуч Bloom отслеживал его тренировки и присылал контекстные, персонализированные подсказки. Например, после долгой пробежки приложение писало: *«Отличный бег сегодня! Это точно поможет тебе на Монблане»*. Алгоритм не повторял заученные фразы механически, а подстраивался под контекст, предлагая альтернативные варианты активности в дождливые дни или корректируя планы во время еженедельных чекаутов. Научное исследование эффективности Bloom, принятое к публикации, показало: группа пользователей, тренировавшаяся с ИИ-коучем, продемонстрировала качественное изменение отношения к собственному здоровью по сравнению с контрольной группой, использовавшей точно такое же приложение, но без текстового ИИ-наставника. По мнению Ландея, стандартные чат-боты вроде ChatGPT не способны добиться такого результата, поскольку они склонны директивно указывать, что делать, что у большинства людей вызывает отторжение. ## 📊 Парадокс доверия: почему Восток оптимистичнее Запада [[JUMP:23:24]] Анализ ежегодного отчета AI Index, публикуемого институтом HAI, выявил серьезные географические диспропорции в восприятии технологий. Согласно международным опросам Ipsos, в странах Запада (Северная Америка, Европа) лишь от 40% до 50% граждан согласны с тем, что продукты с ИИ приносят больше пользы, чем вреда. В то же время в странах Восточной и Юго-Восточной Азии (Малайзия, Индонезия, Китай) этот показатель достигает 60–70%. Профессор Ландей объясняет этот парадокс двумя факторами: ### Экономический фактор В развивающихся странах с низким уровнем дохода на душу населения ИИ воспринимается как уникальная возможность получить доступ к дефицитным услугам. По словам Ландея, если ИИ-диагност ошибается в 20% случаев (точность 80%), западный пользователь сочтет это неприемлемым, требуя стандартов высококлассной медицины. Однако в регионах, где врачей или психотерапевтов практически нет, появление доступного медицинского ИИ-агента с точностью 80% оценивается как колоссальный прорыв. ### Культурный фактор Экономика не объясняет феномен полностью, ведь богатые азиатские государства — Южная Корея и Япония — демонстрируют значительно более высокий уровень оптимизма по отношению к ИИ, чем США, Великобритания, Канада или Австралия. Ландей утверждает, что такие барьеры, как страх перед тотальной слежкой и потерей приватности, глубоко укоренены именно в западной культуре с ее традиционным подозрением к государственным и корпоративным институтам. В азиатских культурах эти опасения выражены значительно слабее. В качестве альтернативы доминированию крупных ИТ-гигантов из Северной Америки Ландей видит развитие истинно открытого ИИ (open-source с прозрачными исходными данными, а не просто открытыми весами моделей) в рамках международных коалиций. В Давосе Стэнфордский институт HAI объявил о стратегическом партнерстве с Высшей технической школой Цюриха (ETH Zurich), Федеральной политехнической школой Лозанны (EPFL) и Швейцарским институтом ИИ для создания противовеса коммерческим монополистам. ## 💼 Бизнес-кейс для этичного ИИ и миф о замене сотрудников [[JUMP:31:26]] Джеймс Ландей признается, что изначально скептически относился к корпоративной программе партнерства Stanford HAI, опасаясь, что крупный бизнес будет использовать взносы для «отмывания репутации» (reputation washing) под видом заботы об этике. Однако практическая работа с техническими директорами (CTO) и директорами по информационным технологиям (CIO) показала реальную озабоченность лидеров рынка. Компании панически боятся репутационных катастроф, предвзятости алгоритмов и судебных исков, а потому остро нуждаются в академических ориентирах и практических методологиях. Профессор считает заблуждением популярную стратегию экономистов и топ-менеджеров, направленную на быстрое увольнение рядовых сотрудников и замену их ИИ-агентами. На практике компании, избравшие этот путь, не получают ожидаемого возврата на инвестиции (ROI) и роста эффективности. Причина неудач кроется в том, что человеческий труд устроен гораздо сложнее, чем просто набор механических задач. Ландей описывает структуру рабочих процессов следующим образом: > «Между отдельными задачами существует огромный массив "невидимого клея". Это коммуникация с коллегами, понимание чужих эмоций, эмпатия, построение социальных связей ради взаимопомощи. ИИ абсолютно не приспособен к таким социальным навыкам». Наибольшую прибыль и продуктивность получат те компании, которые внедряют долгосрочное планирование: не увольняют людей, а используют ИИ для автоматизации рутины, перепроектируя рабочие процессы вместе со своими сотрудниками. ## 🔮 Мультимодальное будущее: закат эпохи графических интерфейсов [[JUMP:33:29]] Современный графический пользовательский интерфейс (GUI) — с мышью, кнопками, меню и тачскринами — доминирует в мире уже полвека. Он был изобретен в начале 1970-х годов в исследовательском центре Xerox PARC и популяризирован в 1984 году с выходом компьютера Apple Macintosh. По мнению Ландея, нынешний формат взаимодействия с ИИ, когда пользователь вынужден вводить текстовые промпты в маленькое диалоговое окно чат-ботов, — это лишь короткий, временный блайнд-спот в эволюции технологий. В ближайшие 5–10 лет индустрия совершит тектонический сдвиг к **мультимодальным агентным интерфейсам**. Будущие интерфейсы будут одновременно анализировать: * Голосовые команды и печатный текст. * Жесты и физическое наведение на объекты. * Биометрические сигналы пользователя (уровень стресса, усталость). * Окружающий пространственный контекст. Взаимодействие станет бесшовным: человек будет использовать те устройства, которые удобны в конкретную секунду. В лекционной аудитории пользователь перейдет на бесшумный ввод, в автомобиле переключится на голос, а в рабочем кабинете задействует несколько экранов, мышь и жесты одновременно, координируя действия со своим невидимым ИИ-помощником. Проводящие эту трансформацию ИТ-гиганты сильно заблуждаются, считая текстовое окошко венцом творения; этот паттерн полностью исчезнет к середине 2030-х годов. ## ❓ Ответы на вопросы: галлюцинации, кризис образования и личный опыт [[JUMP:36:04]] В финальной части вебинара Джеймс Ландей ответил на вопросы участников, затронув наиболее острые прикладные проблемы. ### Проблема прозрачности и когнитивной перегрузки Концепция прозрачности ИИ не означает, что рядовой пользователь должен лично инспектировать триллионы байт данных. По аналогии с бытовой техникой, где покупатель доверяет знаку качества независимых лабораторий (например, UL Labs), на рынке ИИ должны появиться авторитетные аудиторские организации, маркирующие безопасность моделей. Кроме того, доверие формируется на уровне интерфейса. Если ИИ совершает ошибку, а затем лжет пользователю, утверждая, что все сделал правильно, или раз за разом повторяет баг после корректировки, человек перестает ему доверять, как перестал бы доверять нерадивому сотруднику или другу. ### Неискоренимость галлюцинаций Ландей подчеркивает, что феномен галлюцинаций — когда ИИ придумывает несуществующие факты или юридические и академические цитаты — является фундаментальной архитектурной особенностью глубоких нейросетей. По своей природе они вероятностны. Существующие методы (многократные перекрестные запросы, взаимная проверка несколькими моделями) снижают процент брака, но полностью ликвидировать галлюцинации до создания принципиально новых типов ИИ невозможно. Пользователям необходимо сохранять критическое мышление и здоровый скептицизм, не воспринимая ответы ИИ как «заповеди на каменных скрижалях». ### Образование как главная жертва и бенефициар Вся мировая система образования (от детских садов до вузов) столкнется с жесткой необходимостью трансформации. Прежняя образовательная модель, построенная на механическом заучивании и репродуцировании информации, окончательно устарела, так как ИИ справляется с этим лучше человека. Ближайшие пять лет Ландей называет «сумасшедшим, бурным периодом». Школы будут метаться между попытками тотального запрета ИИ и бездумным попустительством, ведущим к деградации навыков мышления у детей. Однако ИИ сработает как «троянский конь»: он взломает архаичную, сопротивляющуюся изменениям систему образования и заставит чиновников внедрить передовые методики, которые десятилетиями пылились на полках профильных институтов. Процесс пойдет неравномерно: частные инновационные школы (такие как Alpha School в Остине) адаптируются мгновенно, тогда как неповоротливая государственная система общего образования будет отставать. ### Личный совет экспертов Главная рекомендация Ландея — преодолеть страх, не закрываться от технологии, а тотально внедрять ИИ в свою повседневную рабочую и домашнюю рутину. Только так можно на практике нащупать его реальные сильные и слабые стороны. Ванесса Парли в подтверждение тезиса поделилась личной историей: в мае прошлого года она полностью поручила ИИ написать торжественную речь для свадьбы своего брата. Загрузив в модель ключевые семейные воспоминания и задав правильный эмоциональный тон, Ванесса получила идеальный текст, вызвавший восторг у гостей. Главное, как иронично добавил Ландей, — тщательно следить, чтобы робот случайно не выдумал лишних компрометирующих историй.