Роуз Ванг: «ИИ должен быть как страховочные колеса на велосипеде — со временем его нужно снять»

Stanford Online 2,7 тыс. 1 ч 5 мин 04.11.2024
Главное

Использование искусственного интеллекта (ИИ) в образовании и психотерапии часто воспринимается как создание «костыля», который делает человека зависимым от технологий. Однако в рамках семинара в Stanford University исследователь Роуз Ванг (Rose Wang) представила принципиально иной подход: языковые модели как временные «страховочные колеса» для обучения сложным социальным и психологическим навыкам.

🚲 Метафора страховочных колес: ИИ как временный помощник 0:38

Основная идея Роуз Ванг заключается в том, что ИИ не должен выполнять работу за человека вечно . Подобно страховочным колесам на детском велосипеде, языковые модели призваны поддерживать учащегося на начальном этапе, помогая освоить баланс, но в конечном итоге они должны быть сняты .

Исследователь выделяет несколько критически важных навыков, в которых ИИ может выступить эффективным наставником:

Роуз Ванг выражает опасение, что современные ИИ-ассистенты часто бывают «патологически услужливыми» . Они соглашаются с любыми, даже абсурдными утверждениями пользователя, что мешает обучению. Для реального роста необходимы «желаемые трудности» (desirable difficulties) — умеренное сопротивление и трение, которые заставляют мозг тренироваться .

🧠 Проект №1: Когнитивный рефрейминг и борьба с негативными мыслями 10:33

Первый проект, представленный Роуз Ванг, посвящен когнитивному рефреймингу — технике из когнитивно-поведенческой терапии (КПТ). Суть метода в том, чтобы заменять автоматические негативные мысли (например, «Я никогда не добьюсь успеха как исследователь») на более сбалансированные и конструктивные («Отказ в публикации — это нормально, я использую этот опыт для роста») .

Проблема традиционных методов (бумажных анкет) заключается в низкой вовлеченности: людям трудно заниматься этим самостоятельно в моменты эмоционального стресса . В сотрудничестве с организацией Mental Health America команда Роуз Ванг разработала ИИ-инструмент, который:

  1. Помогает выявить «ловушки мышления» (когнитивные искажения) .
  2. Предлагает варианты «рефреймов» (переформулировок) в качестве отправной точки для размышлений .

Инструмент был развернут на популярном сайте по психическому здоровью, и за полтора года им воспользовались более 160 000 человек . Результаты рандомизированных исследований показали, что поддержка ИИ значительно повышает уровень завершения упражнений по сравнению с обычными цифровыми анкетами . При этом стоимость проведения такой «микро-терапии» составляет доли цента, что дешевле печати бумажного буклета .

Что делает ИИ-совет эффективным?

Исследователи выяснили, какие именно характеристики ИИ-советов делают их полезными для людей :

Интересное открытие Роуз Ванг касается подростков (13–17 лет). Изначально они показывали худшие результаты при работе с системой . Оказалось, что язык модели был для них слишком сложным. После того как ИИ попросили переписывать советы более простым и повседневным языком, вовлеченность и удовлетворенность подростков резко возросли .

🗣️ Проект №2: Система Imbue для разрешения конфликтов 31:09

Второй навык, который Роуз Ванг считает необходимым «тренировать» — это ведение трудных диалогов (переговоры о зарплате, обсуждение ухода за престарелыми родителями и т.д.). Для этого была создана система Imbue, работающая на базе языковой модели .

Система использует психологический фреймворк DEAR MAN (из диалектической поведенческой терапии), который обучает:

В Imbue пользователь тренируется на симуляции своего реального конфликта. ИИ дает «обратную связь в реальном времени» (just-in-time feedback), указывая, например, на использование оценочных слов вроде «постоянно» или «всегда», которые провоцируют агрессию собеседника .

Согласно данным Роуз Ванг, экспертная оценка показала, что в 83% случаев обратная связь от оптимизированной языковой модели совпадает с рекомендациями профессиональных психологов . Для достижения такого результата использовались специфические техники: цепочки рассуждений (chain of thought) и контрастные пары примеров (показ «плохого» и «хорошего» вариантов ответа одновременно) .

📊 Результаты: работают ли «колеса» после того, как их сняли? 44:43

Ключевой вопрос исследования — сохраняется ли навык без участия ИИ. Роуз Ванг представила результаты рандомизированного исследования с участием 80 человек :

  1. Мастерство навыка: Группа, получавшая обратную связь от ИИ, улучшила свои коммуникативные навыки на 17%. У группы, которая просто «симулировала» разговор без советов ИИ, значимого прогресса не было .
  2. Эмоциональный фон: Использование ИИ-тренажера снизило уровень страха и грусти у участников на 41% .
  3. Уверенность (самоэффективность): Уверенность участников в своей способности решить конфликт выросла с 17% до 44% благодаря поддержке ИИ .

Важно, что эффект сохранялся. В исследовании когнитивного рефрейминга участники демонстрировали улучшенные навыки даже спустя 4 недели после того, как перестали использовать инструмент . Это доказывает, что ИИ послужил именно обучающим механизмом, а не просто временной заменой мышлению.

🛡️ Этика и будущее: ИИ не заменит врача, но заполнит пропасть 48:48

Роуз Ванг подчеркивает, что в США около 80% людей, нуждающихся в психологической помощи, не имеют к ней доступа из-за нехватки ресурсов . ИИ-инструменты рассматриваются не как замена психотерапевтам, а как способ дать базовое «психообразование» миллионам людей .

По мнению исследователя, у ИИ есть уникальные преимущества перед людьми:

В планах команды — создание систем с «памятью», которые будут помнить прошлые триггеры и травмы пользователя, чтобы предоставлять более персонализированную поддержку с каждым разом .

«Мы должны знать, когда снимать страховочные колеса», — резюмирует Роуз Ванг . Исследования показывают, что для освоения навыка когнитивного рефрейминга достаточно около трех недель интенсивной практики с ИИ, после чего прогресс выходит на плато, и человек готов «ехать самостоятельно» .

💬 Цитаты

«Страховочные колеса предназначены для того, чтобы их в конечном итоге сняли. В нынешнем восторге от ИИ мы иногда забываем об этом.»

Роуз Ванг 01:16

«Мы можем предоставлять эти типы вмешательств по цене, которая фактически ниже, чем печать бумажного рабочего листа.»

Роуз Ванг 20:55

«Около 80% людей в США, которые абсолютно нуждаются в помощи, не имеют к ней доступа. ИИ может дать им базовый уровень заботы.»

Роуз Ванг 54:02
👥 Спикер
🔗 Упомянутые сайты и проекты
📖 Термины
Когнитивный рефрейминг
Психологическая техника изменения восприятия ситуации для поиска более позитивного и конструктивного взгляда.
Ловушки мышления
Систематические ошибки в мышлении (когнитивные искажения), которые заставляют человека воспринимать реальность необъективно.
DEAR MAN
Стратегия эффективного общения из диалектической поведенческой терапии, направленная на достижение своих целей в диалоге при сохранении отношений.
📊 Цифры
🗓 Хронология
  1. 2022-2023 Развертывание ИИ-инструмента рефрейминга и сбор данных 160 тысяч пользователей.
  2. 4 недели Срок, в течение которого сохраняются навыки после снятия «ИИ-колес» в клиническом испытании.
  3. 8 недель Общая длительность наблюдения за сохранением навыков в долгосрочном тесте.
⚖️ Другая сторона
Искусственный интеллект Rose Wang Stanford University Языковые модели когнитивный рефрейминг система Imbue