# Профессор Фэй-Фэй Ли о Human-Centered AI: «Этика — это не тормоз, а стимул для инноваций»

Источник: https://www.youtube.com/watch?v=06M_xmHmDfw
Канал: Greylock
Опубликовано: 14.07.2021

---

В условиях стремительного развития технологий искусственного интеллекта (ИИ) возникает вопрос: как направить этот прогресс на благо человечества, а не во вред ему? В интервью каналу Greylock Фэй-Фэй Ли (Fei-Fei Li), профессор Стэнфордского университета и одна из самых влиятельных фигур в мире компьютерных наук, обсуждает концепцию «человекоцентричного ИИ» (Human-Centered AI). Она делится своим опытом работы в Google Cloud, рассказывает о создании Стэнфордского института HAI и объясняет, почему этические ограничения — это не тормоз, а мощный стимул для инноваций.

## 🏛️ Миссия института HAI: наука, образование и политика
[[JUMP:01:42]]

Институт Human-Centered AI (HAI) при Стэнфордском университете был основан в 2019 году с амбициозной целью: развивать исследования, образование и практику в области ИИ для улучшения условий человеческой жизни [02:13]. По словам Фэй-Фэй Ли, за два года работы (половина из которых пришлась на глобальную пандемию) институт превратился в мощную междисциплинарную платформу [02:57].

Основные направления работы HAI включают:

*   **Исследовательская деятельность:** В работу вовлечены более 250 преподавателей и сотни студентов. Исследования охватывают широкий спектр — от использования ИИ для оценки уровня бедности и поиска новых лекарств до фундаментальных алгоритмов обучения с подкреплением [03:36].
*   **Образование:** Институт фокусируется на обучении не только студентов Стэнфорда, но и внешнего сообщества. Курс «Технологии и этика» стал одним из самых популярных на кампусе. Также проводятся программы для политиков, руководителей бизнеса и журналистов [04:30].
*   **Политическое влияние:** HAI выступает в роли связующего звена с государственными структурами. Фэй-Фэй Ли входит в состав национальной целевой группы по ресурсам ИИ, созданной Конгрессом и Белым домом [05:39].

## 🤝 Связующее звено между наукой и индустрией
[[JUMP:06:41]]

Индустрия является наиболее динамичной почвой для инноваций, и Фэй-Фэй Ли подчеркивает важность взаимодействия академической среды с бизнесом. Институт HAI позиционирует себя как нейтральную платформу, где исследователи, гражданское общество и корпоративные лидеры могут обсуждать сложнейшие вопросы [08:44].

В качестве примера Фэй-Фэй Ли приводит работу с генеративно-состязательными сетями (GAN). Эта технология позволяет создавать потрясающие изображения и тексты, но она же лежит в основе дипфейков и дезинформации [09:21]. По мнению профессора Ли, именно на базе академических институтов должны вырабатываться «защитные барьеры» (guardrails) для таких технологий. Аналогичный подход применяется к технологии распознавания лиц, которая несет в себе риски предвзятости и государственного надзора [10:01].

## 🧠 Философия Human-Centered AI: машина как отражение создателя
[[JUMP:11:23]]

Название института отражает глубокое убеждение Фэй-Фэй Ли: у машин нет независимых ценностей. «Ценности машин — это и есть человеческие ценности», — утверждает она [12:59]. Технология создается людьми и используется людьми, поэтому она должна быть вплетена в ткань человеческого общества.

Фэй-Фэй Ли выделяет три ключевых аспекта человекоцентричного подхода:

1.  ИИ должен отражать глубину человеческого интеллекта (быть вдохновленным когнитивными науками и нейробиологией).
2.  Разработка ИИ должна быть направлена на расширение человеческих возможностей, а не на их замену.
3.  Необходимо учитывать социальное и этическое влияние технологии на каждом этапе разработки [12:33].

## 👩‍🔬 От физики к нейронаукам: путь Фэй-Фэй Ли
[[JUMP:14:08]]

Путь Фэй-Фэй Ли в компьютерные науки был необычным. Она начала свою карьеру в физике, задаваясь фундаментальными вопросами о происхождении Вселенной [14:49]. Читая труды Эйнштейна, Шрёдингера и Пенроуза, она заметила, что великие физики во второй половине жизни часто обращались к вопросу о том, что такое жизнь и интеллект [15:14].

Её путь включал в себя:

*   Изучение человеческого интеллекта через нейронауки и когнитивную психологию.
*   Переход к математическим принципам интеллекта, что привело её в мир Computer Science [16:08].
*   Личный опыт иммиграции: Фэй-Фэй Ли приехала из семьи с очень скромным достатком и в течение семи лет помогала родителям управлять химчисткой, параллельно занимаясь наукой [16:49].

Этот опыт — от управления малым бизнесом до ухода за больной матерью — сформировал её убеждение в том, что технология должна служить обычным людям и облегчать их страдания [17:29].

## 🏥 ИИ в здравоохранении: борьба с «избытком данных и дефицитом понимания»
[[JUMP:38:43]]

Здравоохранение — отрасль, которую Ли считает наиболее перспективной для применения ИИ. Она описывает парадокс современной медицины: клиники перегружены данными (снимками, анализами), но испытывают дефицит реальных инсайтов [39:36]. Врачи и медсестры тратят огромное количество времени на заполнение документации вместо общения с пациентами.

Фэй-Фэй Ли приводит тревожную статистику:

*   33% американских медсестер увольняются после первых двух лет работы из-за выгорания [41:26].
*   За смену медсестра может выполнять более 200 различных задач и проходить пешком 4–5 миль [41:12].
*   На медицинские расходы, связанные с падениями пожилых людей, ежегодно тратится более 40 миллиардов долларов [32:33].

Решением Ли видит «фоновый интеллект» (ambient intelligence) — использование умных датчиков и алгоритмов машинного зрения для мониторинга состояния пациентов в реальном времени. Это позволит вовремя заметить риск падения или ухудшение состояния, не нарушая при этом приватность (благодаря использованию федеративного обучения и современных методов шифрования) [34:22].

## ⚖️ Этика как драйвер инноваций: опыт Stanford HAI
[[JUMP:24:10]]

Одним из самых инновационных инструментов HAI стал процесс под названием Ethics and Society Review (ESR). Это многодисциплинарная комиссия, состоящая из социологов, специалистов по этике, юристов и политологов [31:41]. Каждый исследовательский проект, претендующий на финансирование от HAI, должен пройти через эту проверку.

Ли опровергает мнение о том, что этические ограничения замедляют прогресс. Напротив, в её собственном исследовании в области здравоохранения опасения по поводу приватности заставили команду разработать более продвинутые технические решения, такие как защищенные вычисления [34:36]. «Ограничения помогают инновациям двигаться в правильном направлении», — считает Фэй-Фэй Ли [36:20].

## 🤖 Будущее труда и робототехники: замена задач, а не профессий
[[JUMP:45:30]]

Фэй-Фэй Ли перенесла часть своих исследований в область робототехники, которую она называет «завершением природного цикла» — объединением интеллекта и действия [45:56]. Она полагает, что робототехника станет важным помощником в производстве, логистике и сельском хозяйстве.

Главные тезисы Ли о будущем труда:

*   **Замена задач, а не людей:** Большинство профессий состоят из множества задач. Роботы могут взять на себя опасные (глубоководные исследования, спасательные операции) или рутинные задачи [48:12].
*   **Усиление человека:** ИИ должен дополнять человеческие возможности, особенно там, где важны эмоции и сложные когнитивные навыки [49:21].
*   **Подготовка кадров:** Общество должно коллективно работать над переобучением сотрудников и смягчением последствий изменения ландшафта рабочих мест [49:06].

## 🇺🇸 Национальная стратегия и борьба за многообразие
[[JUMP:49:49]]

Америка обладает уникальной экосистемой инноваций, основанной на демократических ценностях и правах человека. Однако Фэй-Фэй Ли выражает обеспокоенность отсутствием репрезентативности в индустрии ИИ. В 2014 году она стала сооснователем некоммерческой организации AI for All [54:13].

Цель AI for All — изменить ответ на вопрос «Кто будет управлять будущим ИИ?». Организация фокусируется на обучении школьников (K-12) из малообеспеченных и недостаточно представленных сообществ [55:27]. Ли убеждена, что если ИИ изменит мир, то в его создании должны участвовать представители всех слоев общества, включая женщин и цветное население [54:00].

---