В условиях стремительного развития технологий искусственного интеллекта (ИИ) возникает вопрос: как направить этот прогресс на благо человечества, а не во вред ему? В интервью каналу Greylock Фэй-Фэй Ли (Fei-Fei Li), профессор Стэнфордского университета и одна из самых влиятельных фигур в мире компьютерных наук, обсуждает концепцию «человекоцентричного ИИ» (Human-Centered AI). Она делится своим опытом работы в Google Cloud, рассказывает о создании Стэнфордского института HAI и объясняет, почему этические ограничения — это не тормоз, а мощный стимул для инноваций.
🏛️ Миссия института HAI: наука, образование и политика 1:42
Институт Human-Centered AI (HAI) при Стэнфордском университете был основан в 2019 году с амбициозной целью: развивать исследования, образование и практику в области ИИ для улучшения условий человеческой жизни . По словам Фэй-Фэй Ли, за два года работы (половина из которых пришлась на глобальную пандемию) институт превратился в мощную междисциплинарную платформу .
Основные направления работы HAI включают:
- Исследовательская деятельность: В работу вовлечены более 250 преподавателей и сотни студентов. Исследования охватывают широкий спектр — от использования ИИ для оценки уровня бедности и поиска новых лекарств до фундаментальных алгоритмов обучения с подкреплением .
- Образование: Институт фокусируется на обучении не только студентов Стэнфорда, но и внешнего сообщества. Курс «Технологии и этика» стал одним из самых популярных на кампусе. Также проводятся программы для политиков, руководителей бизнеса и журналистов .
- Политическое влияние: HAI выступает в роли связующего звена с государственными структурами. Фэй-Фэй Ли входит в состав национальной целевой группы по ресурсам ИИ, созданной Конгрессом и Белым домом .
🤝 Связующее звено между наукой и индустрией 6:41
Индустрия является наиболее динамичной почвой для инноваций, и Фэй-Фэй Ли подчеркивает важность взаимодействия академической среды с бизнесом. Институт HAI позиционирует себя как нейтральную платформу, где исследователи, гражданское общество и корпоративные лидеры могут обсуждать сложнейшие вопросы .
В качестве примера Фэй-Фэй Ли приводит работу с генеративно-состязательными сетями (GAN). Эта технология позволяет создавать потрясающие изображения и тексты, но она же лежит в основе дипфейков и дезинформации . По мнению профессора Ли, именно на базе академических институтов должны вырабатываться «защитные барьеры» (guardrails) для таких технологий. Аналогичный подход применяется к технологии распознавания лиц, которая несет в себе риски предвзятости и государственного надзора .
🧠 Философия Human-Centered AI: машина как отражение создателя 11:23
Название института отражает глубокое убеждение Фэй-Фэй Ли: у машин нет независимых ценностей. «Ценности машин — это и есть человеческие ценности», — утверждает она . Технология создается людьми и используется людьми, поэтому она должна быть вплетена в ткань человеческого общества.
Фэй-Фэй Ли выделяет три ключевых аспекта человекоцентричного подхода:
- ИИ должен отражать глубину человеческого интеллекта (быть вдохновленным когнитивными науками и нейробиологией).
- Разработка ИИ должна быть направлена на расширение человеческих возможностей, а не на их замену.
- Необходимо учитывать социальное и этическое влияние технологии на каждом этапе разработки .
👩🔬 От физики к нейронаукам: путь Фэй-Фэй Ли 14:08
Путь Фэй-Фэй Ли в компьютерные науки был необычным. Она начала свою карьеру в физике, задаваясь фундаментальными вопросами о происхождении Вселенной . Читая труды Эйнштейна, Шрёдингера и Пенроуза, она заметила, что великие физики во второй половине жизни часто обращались к вопросу о том, что такое жизнь и интеллект .
Её путь включал в себя:
- Изучение человеческого интеллекта через нейронауки и когнитивную психологию.
- Переход к математическим принципам интеллекта, что привело её в мир Computer Science .
- Личный опыт иммиграции: Фэй-Фэй Ли приехала из семьи с очень скромным достатком и в течение семи лет помогала родителям управлять химчисткой, параллельно занимаясь наукой .
Этот опыт — от управления малым бизнесом до ухода за больной матерью — сформировал её убеждение в том, что технология должна служить обычным людям и облегчать их страдания .
🏥 ИИ в здравоохранении: борьба с «избытком данных и дефицитом понимания» 38:43
Здравоохранение — отрасль, которую Ли считает наиболее перспективной для применения ИИ. Она описывает парадокс современной медицины: клиники перегружены данными (снимками, анализами), но испытывают дефицит реальных инсайтов . Врачи и медсестры тратят огромное количество времени на заполнение документации вместо общения с пациентами.
Фэй-Фэй Ли приводит тревожную статистику:
- 33% американских медсестер увольняются после первых двух лет работы из-за выгорания .
- За смену медсестра может выполнять более 200 различных задач и проходить пешком 4–5 миль .
- На медицинские расходы, связанные с падениями пожилых людей, ежегодно тратится более 40 миллиардов долларов .
Решением Ли видит «фоновый интеллект» (ambient intelligence) — использование умных датчиков и алгоритмов машинного зрения для мониторинга состояния пациентов в реальном времени. Это позволит вовремя заметить риск падения или ухудшение состояния, не нарушая при этом приватность (благодаря использованию федеративного обучения и современных методов шифрования) .
⚖️ Этика как драйвер инноваций: опыт Stanford HAI 24:10
Одним из самых инновационных инструментов HAI стал процесс под названием Ethics and Society Review (ESR). Это многодисциплинарная комиссия, состоящая из социологов, специалистов по этике, юристов и политологов . Каждый исследовательский проект, претендующий на финансирование от HAI, должен пройти через эту проверку.
Ли опровергает мнение о том, что этические ограничения замедляют прогресс. Напротив, в её собственном исследовании в области здравоохранения опасения по поводу приватности заставили команду разработать более продвинутые технические решения, такие как защищенные вычисления . «Ограничения помогают инновациям двигаться в правильном направлении», — считает Фэй-Фэй Ли .
🤖 Будущее труда и робототехники: замена задач, а не профессий 45:30
Фэй-Фэй Ли перенесла часть своих исследований в область робототехники, которую она называет «завершением природного цикла» — объединением интеллекта и действия . Она полагает, что робототехника станет важным помощником в производстве, логистике и сельском хозяйстве.
Главные тезисы Ли о будущем труда:
- Замена задач, а не людей: Большинство профессий состоят из множества задач. Роботы могут взять на себя опасные (глубоководные исследования, спасательные операции) или рутинные задачи .
- Усиление человека: ИИ должен дополнять человеческие возможности, особенно там, где важны эмоции и сложные когнитивные навыки .
- Подготовка кадров: Общество должно коллективно работать над переобучением сотрудников и смягчением последствий изменения ландшафта рабочих мест .
🇺🇸 Национальная стратегия и борьба за многообразие 49:49
Америка обладает уникальной экосистемой инноваций, основанной на демократических ценностях и правах человека. Однако Фэй-Фэй Ли выражает обеспокоенность отсутствием репрезентативности в индустрии ИИ. В 2014 году она стала сооснователем некоммерческой организации AI for All .
Цель AI for All — изменить ответ на вопрос «Кто будет управлять будущим ИИ?». Организация фокусируется на обучении школьников (K-12) из малообеспеченных и недостаточно представленных сообществ . Ли убеждена, что если ИИ изменит мир, то в его создании должны участвовать представители всех слоев общества, включая женщин и цветное население .
