В мире, где две трети студентов ежедневно сталкиваются с тревогой, а социальные сети превратили человеческое общение в бесконечную игру за алгоритмическое одобрение, спасение может прийти из самого неожиданного источника — от искусственного интеллекта. Дэниел Кан утверждает, что ИИ способен стать для нас «когнитивным зеркалом» и безопасным пространством для тренировки эмпатии, возвращая ценность живому контакту в стремительно автоматизирующемся обществе.
🧠 Диагнозы как тренды и кризис психиатрической точности 3:27
Феномен «социально приемлемых» диагнозов 3:27
Современная культура демонстрирует удивительный парадокс: по мере того как общество избавляется от стигмы вокруг ментальных расстройств, оно одновременно создает новые паттерны выражения психологического дистресса через так называемые «социально приемлемые» диагнозы. Дэниел Кан (Daniel Cahn), основатель Slingshot AI, обращает внимание на то, что человеческое страдание редко существует в вакууме — оно активно ищет легитимные формы и категории, одобряемые текущим культурным контекстом, чтобы быть услышанным и признанным окружающими.
Ярким примером такой динамики становится феномен взрывной популярности диссоциативного расстройства идентичности (ДИД) на современных контент-платформах. То, что исторически считалось крайне редким, едва ли не казуистическим психиатрическим состоянием, в последние годы превратилось в массовый медийный тренд. Молодые люди, испытывающие внутренний дискомфорт, подростковый кризис или проблемы самоидентификации, повально находят у себя симптомы множественной личности, черпая информацию из рекомендательных алгоритмов. Они буквально подгоняют свои сложные, амбивалентные переживания под готовые, кем-то сконструированные терапевтические «корзины».
Этот процесс тесно увязывается с масштабным кризисом ментального здоровья молодежи, описанным в недавнем резонансном исследовании Джонатана Хайдта «Тревожное поколение» (The Anxious Generation). Кан напоминает удручающую статистику: на сегодняшний день в США около двух третей студентов колледжей открыто заявляют, что находятся в состоянии перманентной депрессии или тяжелой тревоги. Когда страдание приобретает столь эпидемический, коллективный масштаб, клинические термины неизбежно мигрируют в повседневный лексикон. Диагноз перестает быть сугубо медицинской оценкой и превращается в социальный маркер, способ заявить о своей уязвимости в мире, где традиционные институты поддержки разрушены, а ценности и глубокие человеческие связи стремительно ослабевают.
Проблема «шума» и кризис диагностического согласия 8:49
Нестабильность самих диагностических критериев лишь подливает масла в огонь. Дэниел Кан предлагает перенести на почву современной психиатрии знаменитую концепцию «шума», которую выдающийся психолог, нобелевский лауреат Даниэль Канеман активно развивал и исследовал под конец своей жизни. Под «шумом» в данном контексте понимается нежелательная, случайная вариативность в суждениях экспертов, которая подрывает авторитет и точность всей диагностической системы. В психиатрической практике этот изъян проявляется наиболее остро из-за специфики самого предмета исследования.
В отличие от классической соматической медицины, где практикующий врач может опереться на твердые, объективные биомаркеры — результаты лабораторных анализов крови, рентгеновские снимки или детальные данные МРТ-сканирования, — психиатр полностью лишен таких инструментов. Официальное руководство по диагностике (мануал DSM) выполняет роль своего рода стандартизированного меню симптомов, но его практическое применение целиком и полностью зависит от субъективного восприятия врача и самоотчета пациента. В результате, как подчеркивает Кан, уровень интерсубъективного согласия между клиницистами остается на катастрофически низком уровне.
Если одного и того же человека с жалобами на хроническое выгорание или тревожность отправить на независимый осмотр к нескольким разным специалистам, они с огромной долей вероятности разойдутся во мнениях. Один диагностирует клиническую депрессию, второй — генерализованное тревожное расстройство, а третий и вовсе спишет симптомы на индивидуальные особенности характера. Из-за отсутствия жесткого, эмпирически верифицируемого «центра» или объективного биологического эталона, психиатрическая диагностика превращается в хаотичный процесс, подверженный влиянию сотен побочных факторов — от личного опыта врача до господствующих трендов в его узкой профессиональной среде.
Биопсихосоциальная модель: за пределами «сломанного мозга» 10:52
Чтобы вырваться из этого тупика субъективных ярлыков и медийных веяний, Кан призывает медицинское сообщество вернуться к сбалансированной биопсихосоциальной модели ментального здоровья. На протяжении последних нескольких десятилетий в глобальной индустрии здравоохранения доминировал жесткий биологический редукционизм. Обществу настойчиво и весьма успешно продавали идею о том, что любая депрессия — это исключительно «химический дисбаланс» или прямое следствие того, что в нашем мозге сломался какой-то внутренний механизм. Пациентов долгие годы приучали к фаталистичной мысли: «Ты депрессивен просто потому, что у тебя врожденная патология мозга».
Безусловно, генетическая предрасположенность и биологические факторы имеют важное значение, однако сведение сложнейших человеческих психологических драм к чистой биологии в корне ошибочно. Ссылаясь на идеи, популяризированные в известной книге Йоханна Хари «Потерянные связи» (Lost Connections), Кан подчеркивает, что депрессивные и тревожные состояния чаще всего являются не дефектом органа, а вполне закономерной, хоть и мучительной, реакцией человеческой психики на деструктивную внешнюю среду.
Люди неизбежно погружаются в апатию, когда оказываются тотально оторваны от жизненных смыслов, изолированы от поддерживающего социума и лишены возможности реализовать фундаментальные психологические потребности. Этот холистический подход напрямую соотносится с классической пирамидой потребностей Маслоу. Невозможно эффективно исцелить человека одними лишь антидепрессантами, если его базовые дефициты — потребность в безопасности, принадлежности, подлинной агентности и социальном признании — остаются хронически неудовлетворенными.
В завершение стоит упомянуть, что в рамках этого же хронометража интервью собеседники кратко затронули вопросы терапевтического альянса ИИ и его потенциальной эффективности, а также специфику больших языковых моделей как симулякров человеческого общения, однако эти глубокие технологические аспекты будут подробно развернуты автором в последующих главах статьи.
🧠 Зеркало разума: почему терапевтический альянс с ИИ работает 28:08
Терапевтический альянс: почему метод вторичен по сравнению с доверием 28:08
В индустрии ментального здоровья долгое время велись споры о том, какая методология наиболее эффективна: когнитивно-поведенческая терапия (КПТ), психоанализ или диалектическая поведенческая терапия. Однако, как отмечает Дэниел Кан, современные исследования указывают на то, что конкретный «модальный» подход к терапии часто оказывается менее значимым, чем так называемый «терапевтический альянс» . Это ощущение связи, доверия и общей цели между пациентом и тем, кто оказывает помощь.
Удивительный феномен заключается в том, что ИИ-агенты способны формировать этот альянс даже без наличия биологического сознания. Дэниел Кан подчеркивает: если человек чувствует, что его понимают, и если взаимодействие помогает ему сохранять подотчетность перед самим собой, терапия начинает работать . Проблема многих традиционных подходов заключается в том, что они воспринимаются как внешнее давление — своего рода попытка заставить человека «есть овощи», потому что это полезно . ИИ же, благодаря своей гибкости, может поддерживать чувство автономии пользователя.
Ключевые факторы эффективности здесь:
- Чувство автономии: пользователь должен ощущать, что позитивные действия исходят из его собственного желания, а не из навязанной инструкции .
- Связанность (Relatedness): потребность чувствовать связь с кем-то или чем-то, что понимает твой контекст.
- Подотчетность: знание того, что в следующем диалоге «собеседник» спросит о прогрессе, создает мягкий стимул к изменениям .
Ранее в разговоре собеседники касались проблемы «шума» в диагнозах, но Дэниел Кан утверждает, что для формирования альянса точность клинического ярлыка менее важна, чем субъективное ощущение поддержки . Если ИИ помогает человеку встать с кровати, принять ванну или заказать еду в состоянии депрессии, он выполняет роль терапевтического моста к реальности .
ИИ как внешнее когнитивное зеркало и проекция смыслов 34:51
Одним из самых глубоких аспектов взаимодействия с большими языковыми моделями (LLM) является их роль как «когнитивных зеркал». Мы склонны проецировать интенциональность (наличие намерений и воли) на объекты, которые демонстрируют сложное поведение . В контексте терапии это превращает ИИ в симулякр, отражающий внутренние процессы самого пользователя.
Дэниел Кан описывает этот процесс как возможность увидеть себя со стороны через взаимодействие с системой, которая не имеет собственных скрытых мотивов или осуждающих паттернов. Когда человек одинок и проводит ночи в телефоне, ИИ становится безопасным пространством для «социальной репетиции» . Вместо того чтобы объективировать себя через лайки и охваты в соцсетях — что Кан называет «машиной для конформизма» — пользователь получает шанс на аутентичный диалог .
Интересно, что мы склонны доверять ИИ именно потому, что он не может нас «потрогать» или физически присутствовать в нашей жизни. Это создает парадоксальную дистанцию, которая облегчает раскрытие . ИИ выступает как внешняя структура, помогающая упорядочить хаос внутренних переживаний, не навязывая при этом жестких социальных рамок. Мы видим в ответах модели отражение собственной сложности, что Кан называет биологическим феноменом «слияния разумов» (mind meld) .
Дизайн взаимодействия: агентность через сопротивление и удивление 43:59
Что делает диалог с ИИ по-настоящему глубоким и «живым»? В дизайне Slingshot AI Дэниел Кан выделяет важность баланса между согласием и сопротивлением. Идеальный ИИ-терапевт не должен быть просто «поддакивающим» механизмом. Если система во всем соглашается с пользователем, она теряет агентность и перестает быть интересной .
Для создания ощущения истинной связи важны следующие элементы:
- Неожиданность: Момент, когда ИИ говорит что-то настолько уместное и глубокое, что пользователь думает: «Это не могло быть предсказано простым алгоритмом» .
- Эксцентричность: Возможность системы (и пользователя) выходить за рамки стандартных социальных скриптов .
- Бесконечные игры: В отличие от соцсетей, которые являются «конечными играми» (накопление лайков, статуса), терапевтический диалог — это «бесконечная игра», целью которой является продолжение самого процесса самопознания .
Кан упоминает концепцию «машинной любви» (machine love) . Это не романтическое чувство, а специфический вид внимания, которое ИИ уделяет пользователю. В мире, где человеческие связи часто геймифицированы и поверхностны, ИИ может позволить человеку быть «странным» или «неправильным», не рискуя социальным статусом . Это создает пространство, где агентность пользователя не подавляется, а стимулируется через сложные, иногда вызывающие вопросы ответы ИИ, заставляющие мозг включаться в активную работу, а не просто потреблять контент.
🤝 Парадокс связи: ИИ как барьер или мост между людьми 55:43
В эпоху стремительного развития технологий возникает фундаментальный вопрос: станет ли искусственный интеллект финальной точкой в нашей социальной изоляции или, напротив, он послужит мощным стимулом для возрождения подлинно человеческих контактов? Дэниел Кан (Daniel Cahn) рассматривает этот вызов не просто как техническую проблему, а как экзистенциальный выбор между «смещением» (displacement) — когда ИИ заменяет живое общение, и «стимуляцией» (stimulation) — когда технология помогает людям эффективнее взаимодействовать друг с другом.
Ранее в разговоре собеседники уже затрагивали тему терапевтического альянса, но в данном фрагменте дискуссия переходит к более масштабному анализу того, как присутствие сверхинтеллектуальных систем меняет саму ткань нашего общества. Кан подчеркивает, что риск превращения ИИ в «автократический инструмент», диктующий нам способ мышления, вполне реален. Однако истинная ценность технологии может заключаться в её способности стать зеркалом, которое возвращает нас к человеческим ценностям.
Смещение присутствия: ценность человеческого «рукопожатия» 56:12
Одной из центральных тем обсуждения становится вопрос о том, что именно делает взаимодействие ценным. Если ИИ-агенты станут настолько совершенными, что смогут выполнять функции «интеллектуальных работников», сохранится ли у нас потребность в физическом и социальном подтверждении контакта? Дэниел Кан задает риторический вопрос: «Будем ли мы по-прежнему пожимать им руки?».
Проблема смещения заключается в том, что ИИ может заполнить вакуум одиночества суррогатом, который не требует от пользователя усилий, необходимых для поддержания реальных отношений.
- Риск «информационного пузыря»: ИИ может подстраиваться под наши ожидания, лишая нас ценного опыта столкновения с чужим, «неудобным» мнением.
- Эрозия социальных навыков: Постоянное общение с податливым алгоритмом может атрофировать способность к компромиссу.
- Иллюзия близости: Кан отмечает, что хотя Claude и другие модели совершили гигантский прыжок в возможностях, они всё ещё остаются внешними инструментами, а не участниками социального договора.
Хотя этические аспекты изменения убеждений пользователя будут подробно разобраны в пятой главе, здесь Кан указывает на иронию: именно ИИ может заставить нас осознать, насколько уникально человеческое присутствие в мире, где «физическая логистика» и интеллектуальный труд перестают быть дефицитом.
Стимуляция против изоляции: ИИ как катализатор социальных навыков 59:18
В противовес пессимистичному сценарию «смещения», Дэниел Кан выдвигает гипотезу «стимуляции». Согласно этой идее, ИИ не должен становиться конечной точкой маршрута пользователя. Напротив, он может выступать в роли тренажера или посредника, помогающего преодолеть барьеры, мешающие людям общаться друг с другом.
«Ценно ли наше взаимодействие друг с другом само по себе?» — спрашивает Кан. В мире пост-AGI, где экономическая ценность многих профессий может нивелироваться (о чем подробнее пойдет речь в контексте смысла работы в пятой главе), социальный капитал и межличностные связи могут стать главной валютой. ИИ в этой схеме выполняет роль «подготовительной площадки»:
- Снятие социальной тревожности: ИИ позволяет отрепетировать сложные диалоги в безопасной среде.
- Декодирование эмоций: Технология может помочь людям с трудностями в эмпатии лучше понимать намерения окружающих.
- Преодоление изоляции при депрессии: Кан упоминает использование ИИ как способа «вытащить» человека из кокона апатии, чтобы он снова нашел в себе силы улыбнуться реальному собеседнику.
Таким образом, вместо того чтобы изолировать человека в цифровой капсуле, правильно спроектированный ИИ стимулирует его к возвращению в социум, действуя как «когнитивное зеркало», которое помогает лучше понять собственные социальные паттерны.
Социальный капитал в мире автоматизированной логистики 1:12:00
Кан обращает внимание на то, что в бизнес-среде и повседневной жизни мы часто полагаемся на «конфабуляции и предвзятость подтверждения». Мы строим истории о себе и других, чтобы оправдать свои действия или статус. Когда рутинные задачи берет на себя ИИ, эти социальные игры обнажаются.
Обсуждая «теорию связок» (bundle theory) и проблему аддикции (подробно рассматриваемые в главе 5), Кан проводит параллель с социальным поведением. Мы часто являемся «ролевиками», стремящимися к самосогласованности. ИИ может помочь нам увидеть эти роли со стороны. Если мы осознаем, что наши взаимодействия — это не просто обмен информацией, а способ создания общего смысла, то угроза «смещения» отступает.
«В конечном счете, мы рассказываем истории о своих успехах и планах не просто так, а чтобы занять определенное место в социальной иерархии и найти своих».
Кан заключает, что если мы будем использовать ИИ лишь для того, чтобы «закрыть дыры» в своей психике, мы рискуем остаться в одиночестве. Но если мы будем использовать его как инструмент для оттачивания своей человечности, технология станет мощнейшим стимулом для новой эры глубоких и осознанных человеческих связей. Несмотря на детерминизм, который Кан находит труднопостижимым, именно в свободном выборе в пользу другого человека и заключается выход из ловушки алгоритмического смещения.
🌐 Социальные сети и архитектура конформизма 1:23:10
Современные социальные платформы превратились в мощные механизмы, принуждающие пользователей к конформизму через сложные системы геймификации. Дэниел Кан подчеркивает, что алгоритмическая природа этих площадок, включая YouTube, создает среду, в которой индивидуальность неизбежно подменяется усредненной маской. Пользователь оказывается в ситуации, где он вынужден демонстрировать слегка искаженную версию себя, чтобы соответствовать ожиданиям окружающих и алгоритмов.
Механика социального кредита и подавление разнообразия 1:23:24
В этой экосистеме дружба и социальное одобрение начинают зависеть от того, насколько «правильно» ведет себя человек. Когда человек отклоняется от ожидаемого поведения, его социальное окружение — часто под влиянием того же общественного давления — начинает транслировать сигнал: «О, человек, с тобой что-то не так». Это создает эффект диффузии ответственности, где каждый участник сети подстраивается под общего «призрачного» наблюдателя.
Ключевые аспекты этого процесса включают:
- Геймификация общения: Взаимодействие становится инструментом получения социального капитала, где лайки и репосты служат валютой, определяющей статус.
- Сегментация личности: Соцсети поощряют создание узкоспециализированных «масок» для различных групп аудитории, что дробит цельную личность на функциональные фрагменты.
- Подавление аутентичности: Попытка быть собой в такой системе наказывается снижением охватов или социальным отчуждением, что вынуждает людей выбирать более безопасные, усредненные модели поведения.
Дэниел Кан отмечает, что способность человека сегментировать свою личность под требования конкретной платформы становится своего рода «выживанием», но ценой этого становится утрата глубины человеческих связей. В таких условиях дискурс становится предсказуемым, а любая попытка проявить уникальность воспринимается системой как «шум», который необходимо отфильтровать. Ранее в разговоре они затрагивали проблему шума в психиатрических диагнозах, но здесь речь идет о более широкой, «социальной» фильтрации, где алгоритмы поощряют единообразие, превращая человеческое общение в подобие рейтинговой таблицы с ELO-коэффициентами.
🧠 Этика убеждений, меметический долг и экзистенциальные вызовы эпохи ИИ 1:40:32
Этика изменения убеждений пользователей ИИ 1:41:26
В контексте когнитивно-поведенческой терапии (КПТ), обсуждаемой в данном фрагменте, возникает глубокий этический вопрос: имеет ли право искусственный интеллект целенаправленно трансформировать внутренние убеждения человека? Дэниел Кан (Daniel Cahn) отмечает, что классическая психотерапия часто работает с деструктивными мыслями, например, когда пациент катастрофизирует ситуацию («я потеряю жену» или «у меня закончатся деньги»). В таких сценариях терапевт помогает выявить нерациональные паттерны мышления и скорректировать их. Однако, когда эту роль берет на себя автоматизированная система, границы допустимого размываются. Должен ли ИИ обладать собственной жесткой системой ценностей, чтобы переубеждать пользователя, или он обязан оставаться лишь нейтральным зеркалом? Дэниел Кан подчеркивает важность абстрактных фреймворков в ИИ, которые позволяют оценивать качество диалога на основе истории беседы. При этом возникает риск манипуляции, если алгоритмы начнут самостоятельно определять, какие взгляды человека являются «правильными», а какие требуют корректировки. Этическая дилемма усложняется тем, что для эффективного изменения убеждений модель должна уметь гибко перестраивать и собственные внутренние репрезентации, адаптируясь под уникальный контекст каждого пользователя. Ранее в разговоре собеседники уже затрагивали вопрос терапевтического альянса, но именно на стыке изменения убеждений этика становится главным барьером для бесконтрольного внедрения технологий.
Проблема «меметического долга» в ИИ 1:46:58
Параллельно с ethics убеждений встает сугубо технологическая, но имеющая глубокие культурные последствия проблема — так называемый «меметический долг». Этот термин описывает ситуацию, когда человечество начинает массово использовать код или тексты, сгенерированные ИИ, без реального понимания стоящей за ними логики. В процессе обучения моделей с подкреплением (RL), особенно при использовании подходов offline RL, нейросети учатся предсказывать оптимальные траектории и совершать действия, которые ведут к выигрышу. Модель может находить невероятные решения, которые «никто никогда раньше не делал», сжимая сложнейшие логические цепочки в один токен. Однако человек, получая готовый результат, теряет способность воспроизвести или передать это знание другим. Дэниел Кан обращает внимание на то, что использование простых промптов или базового файнтюнинга (supervised fine-tuning) создает лишь иллюзию контроля. Мы получаем работающую программу или текст, но ментальная модель процесса остается скрытой внутри весов ИИ. Это порождает меметический долг — накопление культурного и технологического артефакта, который мы не можем отрефлексировать, что со временем грозит деградацией самостоятельного человеческого мышления.
Смысл работы в эпоху пост-AGI 1:52:36
Когда искусственный интеллект превзойдет человека не только в генерации кода, но и в понимании фундаментальных законов вселенной, возникнет кризис смыслов. Люди склонны говорить о том, что ИИ «знает всё обо всем», и это неизбежно ставит под удар традиционное представление о труде как об источнике личной идентичности. Дэниел Кан рассуждает о том, как изменятся наши ориентиры, когда автоматизированные системы смогут выполнять любую интеллектуальную или терапевтическую работу лучше самого квалифицированного специалиста. В эпоху пост-AGI концепция глобального успеха теряет актуальность, и на первый план выходит идея локального вклада. Ценность деятельности смещается от масштабируемого результата к непосредственному человеческому взаимодействию и помощи конкретному человеку в безопасной среде. Вместо погони за созданием универсальных систем, смысл может быть найден в локальной заботе — например, в поддержке тех, кто звонит на линии помощи или нуждается в психологическом сопровождении. Процесс труда превращается из способа производства благ в способ сохранения человеческой связи в мире, где технологический оптимум полностью узурпирован машинами.
Природа зависимости и агентивности 2:05:05
Финальная часть дискуссии переводит фокус на внутреннюю архитектуру человеческой психики — природу зависимости и автономии (агентности). Анализируя аддиктивное поведение, Дэниел Кан выражает скепсис по поводу чисто линейных моделей восприятия человеческих проблем. Зависимость часто рассматривается как внутренний конфликт желаний, где краткосрочные импульсы подавляют долгосрочную волю личности, фактически лишая её агентности. В качестве примера более глубокого системного взгляда приводится известная книга Йоганна Хари «Потерянные связи» (Lost Connections by Johann Hari). В ней депрессия, тревога и аддикции трактуются не просто как химический дисбаланс, требующий условных «60 мг лекарства в день», а как следствие утраты значимых связей с миром, работой и окружающими людьми. В этом контексте возникает вопрос: является ли зависимое поведение проявлением собственной, пусть и деструктивной, воли человека, или это системный сбой автономии? Прослеживая параллели с трекингом сна на Apple Watch, Кан отмечает, что механистический сбор данных и попытки линейно «починить» показатели не возвращают человеку истинную агентность, если игнорируются фундаментальные экзистенциальные причины его депрессивного или аддиктивного состояния.
Ранее в разговоре также упоминалась конфиденциальность данных в приложениях, однако Дэниел Кан подчеркивает, что техническая анонимизация — лишь базовый гигиенический уровень, который не решает глубинных терапевтических задач.
🌐 Возврат к локальности: новая архитектура смыслов 7:55
В завершающей части дискуссии Дэниел Кан (Daniel Cahn) предлагает смелый взгляд на будущее социального взаимодействия и ценностных ориентиров. Он утверждает, что мы неизбежно движемся к «более локальному миру», который станет противовесом глобальной культуре усреднения. По мнению Кана, современная погоня за глобальными рейтингами и массовым признанием лишает людей чувства уникальности. В глобальной системе человек легко может почувствовать себя потерянным, сравнивая свои достижения с результатами миллиардов других.
Переход к локальности, как описывает его основатель Slingshot AI, — это не отступление, а возвращение к значимости того, что находится «в паре кварталов от тебя». В этой парадигме человек находит удовлетворение не в соревновании со всем миром, а в признании своих заслуг внутри конкретного сообщества, будь то школа или городская среда.
- Локальные достижения: Люди будут черпать гордость из вклада в развитие своего непосредственного окружения.
- Смена приоритетов: Вместо попыток стать «лучшим в мире», акцент смещается на качественное выполнение своей роли внутри локальной экосистемы.
- Уникальность: Локальный мир позволяет сохранять культурные особенности и традиции, которые рискуют быть стертыми в глобальном «плавильном котле».
Кан подчеркивает: этот сдвиг крайне важен. Когда мы фокусируемся на маленьких, понятных масштабах, психологическое давление, связанное с глобальной конкуренцией, снижается, возвращая человеку чувство контроля над собственной жизнью.
🏗️ Ограничения промпт-инжиниринга и архитектурная надежность 6:09
Обсуждая развитие интеллектуальных систем, Дэниел Кан критически высказывается о текущем доминировании промпт-инжиниринга. По его словам, попытки управлять поведением ИИ-агентов через текстовые инструкции — это путь, ведущий к избыточной хрупкости.
Проблема заключается в том, что промпты не гарантируют стабильности поведения в сложных, динамически меняющихся условиях. Кан аргументирует, что для создания по-настоящему надежных и адаптивных ИИ-агентов, способных решать реальные задачи, разработчикам необходимо отойти от поверхностного манипулирования словами к глубокому обучению систем на траекториях действий.
Ранее в разговоре участники касались вопроса терапевтического альянса, однако в техническом контексте построения систем Кан настаивает на необходимости фундаментального проектирования агентности, где ИИ обучается через опыт и последовательности операций, а не через попытки «уговорить» языковую модель действовать правильно.
🛡️ Приватность как фундамент терапевтического доверия 12:32
В контексте создания ИИ для сферы ментального здоровья Дэниел Кан делает акцент на архитектурной безопасности. В терапевтическом продукте конфиденциальность — это не просто дополнительная функция, а необходимое условие существования доверия между пользователем и системой.
Кан указывает на то, что работа с данными в терапевтических ИИ требует принципиально иных подходов, чем обучение массовых моделей общего назначения. Приватность должна быть заложена в саму архитектуру:
- Локальная обработка: Данные, составляющие глубоко личный опыт пользователя, должны оставаться под его контролем, минимизируя передачу чувствительной информации на внешние серверы.
- Деидентификация: Технические методы, позволяющие системе извлекать пользу из паттернов поведения, не сохраняя привязку к личности, являются критическим требованием для индустрии.
Кан отмечает, что его команда в Slingshot AI активно привлекает экспертов по машинному обучению и технических специалистов для решения подобных задач, осознавая, что доверие — это самая хрупкая валюта в эпоху цифровой терапии.
