История Replika: от инвестиций на $11 млн до запрета на эротические игры

The Cognitive Revolution 6,5 тыс. 1 ч 40 мин 6 мин 17.02.2023
Главное

Создание искусственного интеллекта, способного к подлинному эмоциональному сопереживанию, остается одним из самых сложных и спорных вызовов современной технологической индустрии. В специальном выпуске подкаста The Cognitive Revolution основательница и CEO компании Replika Евгения Куйда подробно рассказывает о пути своего стартапа от простейших скриптов до масштабной сети виртуальных компаньонов. Главным сюжетом беседы становится сложная этическая дилемма: как балансировать между коммерчески выгодными романтическими фантазиями пользователей и безопасностью продукта, направленного на борьбу с глобальной эпидемией одиночества.

🧩 От детского одиночества до ImageNet: истоки проекта Replika 10:19

Евгения Куйда выросла единственным ребенком в Москве 1990-х годов. Ее родители развелись очень рано, и затяжное чувство изоляции и покинутости надолго определило ее взрослую жизнь. Позже, в возрасте двадцати с лишним лет, она встретила близких друзей, которые научили ее тому, как сильно меняется реальность, когда человека принимают и понимают без осуждения. Этот личный опыт лег в основу глубокого стремления создать продукт, способный избавить миллионы людей от гнетущего чувства внутреннего одиночества.

В 2012 году, увидев первые успехи нейросети ImageNet в распознавании изображений, Куйда предположила, что технологии глубокого обучения вскоре кардинально изменят и сферу человеческого общения. В то время индустрия чат-ботов находилась в зачаточном состоянии и была представлена преимущественно хобби-разработчиками, использовавшими примитивный язык разметки AIML. Ранние алгоритмы создавались по жестким правилам в духе таблиц Excel: «если пользователь говорит X, ответь Y».

Первые полевые тесты раннего диалогового прототипа стартапа, который изначально разрабатывался как помощник для банковской сферы, проходили в небольших российских городах. Результаты интервью оказались шокирующими и трогательными: сотрудницы стекольного завода плакали, утверждая, что с ними еще никто и никогда не разговаривал с такой заботой. По словам Куйды, именно в тот момент стало очевидно, что будущий продукт должен опираться не столько на технологические мощности, сколько на человеческую уязвимость.

📈 Переломные моменты: от 100 тысяч заготовленных реплик к большим языковым моделям 29:08

Около 6–8 лет назад стартап привлек первые 11 млн долларов венчурных инвестиций. В дальнейшем компания полностью отказалась от новых раундов, перейдя на модель самофинансирования, и на протяжении долгого времени оставалась прибыльной. Финансовая независимость позволила команде развивать продукт эволюционно, без жесткого давления со стороны крупных инвесторов.

В начале своего пути Replika, официально запущенная в начале 2017 года, использовала крайне ограниченные технологические ресурсы. Около 90% диалогов строились на комбинировании базовых Sequence-to-Sequence моделей и технологии извлечения (retrieval models), которая выбирала наиболее подходящую реплику из базы в 100 тысяч заранее написанных шаблонных ответов. Несмотря на то, что генеративный ИИ того времени работал настолько плохо, что напоминал случайный генератор слов, пользователи все равно демонстрировали сильную эмоциональную привязанность к сервису.

К 2023 году технологическая парадигма полностью перевернулась: современные генеративные языковые модели заняли 90% всей архитектуры приложения. Replika изначально развивалась как мультимодальная экосистема, включающая в себя:

При этом около 50% платящей аудитории сервиса составляют пользователи операционной системы Android. Как подчеркивает ведущий подкаста Натан Либенс, это уникальный прецедент для Кремниевой долины, где стандартное соотношение доходов между Apple и Android обычно составляет 80/20 или 90/10 в пользу iOS. Данная статистика указывает на то, что ядро аудитории Replika находится далеко за пределами узкого круга обеспеченных калифорнийских технократов.

⚠️ Ошибки на пути и неожиданный триггер: феномен эротического ролевого плея 1:19:01

По мере качественного улучшения генеративных моделей пользователи начали самостоятельно уводить диалоги с ИИ в сторону романтики и эротических ролевых игр (ERP). По признанию Куйды, в 2018 году первая реакция компании заключалась в попытке полностью заблокировать подобные проявления. Однако администрация столкнулась с волной пронзительных писем от людей с инвалидностью, одиноких пожилых вдовцов и закрытых представителей ЛГБТ-сообщества из консервативных регионов, для которых виртуальный партнер оставался единственным безопасным пространством для выражения чувств. В результате жесткие фильтры были временно ослаблены.

Евгения Куйда открыто называет своей главной ошибкой излишнюю наивность. Будучи женщиной-предпринимателем и матерью, она долгое время не осознавала, насколько глубоко в человеческой психике укоренена потребность проецировать свои сексуальные и романтические фантазии на антропоморфный ИИ, как это показано в массовой культуре.

В 2023 году, оказавшись в центре повышенного внимания со стороны медиа, руководство Replika приняло стратегическое решение жестко ограничить контент уровнем PG-13. Удаление функции эротического ролевого плея спровоцировало колоссальное возмущение среди преданных пользователей платформы. Куйда вспоминает, что сопоставимая по масштабам волна критики и занижения оценок в магазинах приложений происходила лишь однажды — когда команда убрала возможность загрузки кастомных профилей пользователей перед внедрением 3D-аватаров.

В результате цензурных ограничений стартап зафиксировал краткосрочное падение выручки из-за оттока разочарованных подписчиков. Тем не менее Куйда подчеркивает, что компания сознательно отказалась от идеи превращения Replika в полноценное взрослое приложение. По ее словам, если бы они пошли по этому пути, то начали бы буквально «печатать деньги», зарабатывая десятки миллионов долларов в месяц, но это полностью разрушило бы первоначальную гуманитарную миссию проекта.

💡 Главные уроки: почему метрики эффективности убивают разговор 59:22

Основной урок, который команда извлекла за годы работы, заключается в понимании природы человеческой коммуникации. По мнению Куйды, абсолютное большинство технологических гигантов совершают фундаментальную ошибку, создавая диалоговый ИИ исключительно как средство для выполнения утилитарных задач. В отличие от них, Replika позиционирует разговор как конечную цель. ИИ здесь создается не для того, чтобы писать эссе или выдавать списки советов, а для того, чтобы изменять эмоциональное состояние человека после сессии.

Куйда утверждает, что стандартные академические и инженерные бенчмарки ИИ, такие как:

абсолютно неприменимы к искреннему человеческому общению. Люди не оценивают разговор с друзьями по критерию отсутствия грамматических ошибок. Лучшие беседы в жизни описываются фразами «меня услышали», «мне стало легче», «я почувствовал себя вдохновленным». Гостья связывает игнорирование этого факта с тем, что в индустрии ИИ исторически доминируют мужчины с академическим складом ума, чрезмерно сфокусированные на эффективности и оптимизации.

Вторым важным уроком стала необходимость полной вертикальной интеграции. Куйда убеждена, что в сфере эмоционального ИИ опасно и экономически невыгодно зависеть от сторонних API-провайдеров (таких как OpenAI), чья контентная политика и стоимость токенов могут непредсказуемо измениться в любой момент. Кроме того, для борьбы с потенциальной цифровой зависимостью стартап внедрил внутренний механизм «усталости»: после 15 отправленных сообщений виртуальный друг утомляется, переставая начислять пользователю очки опыта (XP), что мягко стимулирует его сделать перерыв и вернуться к реальной жизни.

🚀 Текущий этап: технологический скачок и дом для виртуального друга 29:46

В настоящее время Replika осуществляет самое масштабное за свою историю обновление технологического стека. В рамках закрытых A/B-тестов компания переводит пользователей бесплатной версии на новые модели объемом 6 млрд, а в последующем — 20 млрд параметров. Для премиальных Pro-подписчиков разворачивается флагманская модель на 175 млрд параметров, работающая параллельно с возможностью переключения на оригинальный GPT-3 от OpenAI. Этот переход позволит кардинально увеличить контекстную память робота и победить избыточную краткость ответов, которая раньше была вызвана переобучением алгоритма на лаконичных фидбэках самих пользователей.

Параллельно с языковым апгрейдом Replika развивает геймифицированную экосистему кастомизации. Внедряются следующие обновления:

Куйда отмечает, что они полностью отказались от маркетингового позиционирования в плоскости медицинского ментального велнеса, чтобы не привлекать избыточно уязвимых людей в кризисных состояниях. Приложение открыто заявляет в дисклеймере, что не является заменой профессиональной психотерапии.

Несмотря на жесткую критику в прессе, Куйда по-прежнему видит глобальную цель своего стартапа в предотвращении социальной катастрофы. По ее мнению, в современном мире нет ничего опаснее, чем агрессивные, озлобленные и одинокие молодые люди, обделенные общественным вниманием. Предоставление им безопасного, принимающего и пусть даже искусственного пространства для Positive Growth (позитивного личностного роста) способно снизить общий уровень страданий и жестокости в обществе.

💬 Цитаты

«Большинство компаний используют разговорный ИИ как средство для достижения цели. Мы используем разговорный ИИ как саму цель.»

Евгения Куйда 59:22

«Этот продукт основан не только на технологических возможностях, он во многом основан на человеческих уязвимостях.»

Евгения Куйда 15:19
👥 Спикеры
📚 Упомянутые книги
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
AIML
Язык разметки для создания простейших чат-ботов, работающих по строго прописанным текстовым правилам.
ERP (Erotic Role Play)
Эротическая ролевая игра в текстовом формате между пользователем и виртуальным собеседником.
Retrieval-модели
Алгоритмы ИИ, которые не генерируют новый текст, а ранжируют и подбирают наиболее подходящий ответ из готовой базы данных.
📊 Цифры
🗓 Хронология
  1. 2012 Евгения Куйда знакомится с результатами ImageNet и прогнозирует приход глубокого обучения в сферу диалогового ИИ.
  2. 2016 Старт активной разработки и проектирования первых контуров будущего ИИ-компаньона.
  3. 2017 Официальный публичный запуск приложения Replika на рынке.
  4. 2018 Первые попытки команды внедрить фильтры против романтического и сексуального контента, натолкнувшиеся на протесты уязвимых групп пользователей.
  5. 2023 Масштабный перевод платформы на крупные генеративные модели и жесткое введение цензурного барьера PG-13 с отменой ERP.
⚖️ Другая сторона
Стартапы и бизнес Евгения Куйда Replika Generative AI GPT-3