# Роуз Ванг: «ИИ должен быть как страховочные колеса на велосипеде — со временем его нужно снять» Источник: https://www.youtube.com/watch?v=yV3RyiRCwro Канал: Stanford Online Опубликовано: 04.11.2024 --- Использование искусственного интеллекта (ИИ) в образовании и психотерапии часто воспринимается как создание «костыля», который делает человека зависимым от технологий. Однако в рамках семинара в **Stanford University** исследователь **Роуз Ванг (Rose Wang)** представила принципиально иной подход: языковые модели как временные «страховочные колеса» для обучения сложным социальным и психологическим навыкам. ## 🚲 Метафора страховочных колес: ИИ как временный помощник [[JUMP:0:38]] Основная идея Роуз Ванг заключается в том, что ИИ не должен выполнять работу за человека вечно [1:04]. Подобно страховочным колесам на детском велосипеде, языковые модели призваны поддерживать учащегося на начальном этапе, помогая освоить баланс, но в конечном итоге они должны быть сняты [1:16]. Исследователь выделяет несколько критически важных навыков, в которых ИИ может выступить эффективным наставником: * **Эмпатия:** способность понимать и разделять эмоции других [5:06]. * **Эмоциональная регуляция:** умение конструктивно управлять своими чувствами [5:20]. * **Разрешение конфликтов:** способность решать разногласия продуктивно [5:32]. * **Когнитивная гибкость:** готовность менять свою точку зрения при столкновении с новыми фактами [5:49]. Роуз Ванг выражает опасение, что современные ИИ-ассистенты часто бывают «патологически услужливыми» [6:58]. Они соглашаются с любыми, даже абсурдными утверждениями пользователя, что мешает обучению. Для реального роста необходимы «желаемые трудности» (desirable difficulties) — умеренное сопротивление и трение, которые заставляют мозг тренироваться [4:23]. ## 🧠 Проект №1: Когнитивный рефрейминг и борьба с негативными мыслями [[JUMP:10:33]] Первый проект, представленный Роуз Ванг, посвящен когнитивному рефреймингу — технике из когнитивно-поведенческой терапии (КПТ). Суть метода в том, чтобы заменять автоматические негативные мысли (например, «Я никогда не добьюсь успеха как исследователь») на более сбалансированные и конструктивные («Отказ в публикации — это нормально, я использую этот опыт для роста») [12:52]. Проблема традиционных методов (бумажных анкет) заключается в низкой вовлеченности: людям трудно заниматься этим самостоятельно в моменты эмоционального стресса [14:28]. В сотрудничестве с организацией **Mental Health America** команда Роуз Ванг разработала ИИ-инструмент, который: 1. Помогает выявить «ловушки мышления» (когнитивные искажения) [16:29]. 2. Предлагает варианты «рефреймов» (переформулировок) в качестве отправной точки для размышлений [17:38]. Инструмент был развернут на популярном сайте по психическому здоровью, и за полтора года им воспользовались более 160 000 человек [19:17]. Результаты рандомизированных исследований показали, что поддержка ИИ значительно повышает уровень завершения упражнений по сравнению с обычными цифровыми анкетами [20:28]. При этом стоимость проведения такой «микро-терапии» составляет доли цента, что дешевле печати бумажного буклета [20:55]. ### Что делает ИИ-совет эффективным? Исследователи выяснили, какие именно характеристики ИИ-советов делают их полезными для людей [22:53]: * **Конкретность и эмпатия:** пользователи предпочитают специфичные и сопереживающие ответы [24:18]. * **Избегание избыточного позитива:** слишком радостные и оторванные от реальности переформулировки вызывают отторжение [24:32]. * **Рациональность:** наиболее полезными признаны советы, которые содержат меньше необоснованных предположений о ресурсах пользователя [25:10]. Интересное открытие Роуз Ванг касается подростков (13–17 лет). Изначально они показывали худшие результаты при работе с системой [26:20]. Оказалось, что язык модели был для них слишком сложным. После того как ИИ попросили переписывать советы более простым и повседневным языком, вовлеченность и удовлетворенность подростков резко возросли [27:42]. ## 🗣️ Проект №2: Система Imbue для разрешения конфликтов [[JUMP:31:09]] Второй навык, который Роуз Ванг считает необходимым «тренировать» — это ведение трудных диалогов (переговоры о зарплате, обсуждение ухода за престарелыми родителями и т.д.). Для этого была создана система **Imbue**, работающая на базе языковой модели [33:11]. Система использует психологический фреймворк **DEAR MAN** (из диалектической поведенческой терапии), который обучает: * Описывать факты без суждений. * Выражать чувства через «Я-сообщения». * Четко формулировать свои потребности [34:05]. В Imbue пользователь тренируется на симуляции своего реального конфликта. ИИ дает «обратную связь в реальном времени» (just-in-time feedback), указывая, например, на использование оценочных слов вроде «постоянно» или «всегда», которые провоцируют агрессию собеседника [37:22]. Согласно данным Роуз Ванг, экспертная оценка показала, что в 83% случаев обратная связь от оптимизированной языковой модели совпадает с рекомендациями профессиональных психологов [40:06]. Для достижения такого результата использовались специфические техники: цепочки рассуждений (chain of thought) и контрастные пары примеров (показ «плохого» и «хорошего» вариантов ответа одновременно) [40:19]. ## 📊 Результаты: работают ли «колеса» после того, как их сняли? [[JUMP:44:43]] Ключевой вопрос исследования — сохраняется ли навык без участия ИИ. Роуз Ванг представила результаты рандомизированного исследования с участием 80 человек [42:03]: 1. **Мастерство навыка:** Группа, получавшая обратную связь от ИИ, улучшила свои коммуникативные навыки на 17%. У группы, которая просто «симулировала» разговор без советов ИИ, значимого прогресса не было [45:10]. 2. **Эмоциональный фон:** Использование ИИ-тренажера снизило уровень страха и грусти у участников на 41% [46:09]. 3. **Уверенность (самоэффективность):** Уверенность участников в своей способности решить конфликт выросла с 17% до 44% благодаря поддержке ИИ [47:02]. Важно, что эффект сохранялся. В исследовании когнитивного рефрейминга участники демонстрировали улучшенные навыки даже спустя 4 недели после того, как перестали использовать инструмент [30:36]. Это доказывает, что ИИ послужил именно обучающим механизмом, а не просто временной заменой мышлению. ## 🛡️ Этика и будущее: ИИ не заменит врача, но заполнит пропасть [[JUMP:48:48]] Роуз Ванг подчеркивает, что в США около 80% людей, нуждающихся в психологической помощи, не имеют к ней доступа из-за нехватки ресурсов [54:02]. ИИ-инструменты рассматриваются не как замена психотерапевтам, а как способ дать базовое «психообразование» миллионам людей [53:46]. По мнению исследователя, у ИИ есть уникальные преимущества перед людьми: * **Отсутствие страха осуждения:** люди часто признаются ИИ в том, что боятся рассказать даже своему терапевту из-за стыда [55:01]. * **Доступность 24/7:** помощь приходит именно в тот момент, когда человек захвачен негативной эмоцией. В планах команды — создание систем с «памятью», которые будут помнить прошлые триггеры и травмы пользователя, чтобы предоставлять более персонализированную поддержку с каждым разом [56:10]. «Мы должны знать, когда снимать страховочные колеса», — резюмирует Роуз Ванг [57:31]. Исследования показывают, что для освоения навыка когнитивного рефрейминга достаточно около трех недель интенсивной практики с ИИ, после чего прогресс выходит на плато, и человек готов «ехать самостоятельно» [59:35].