Внедрение генеративного искусственного интеллекта в строго регулируемые отрасли, такие как финансы или медицина, часто наталкивается на стену комплаенса и юридических рисков. В новом выпуске подкаста Eye on AI Крейг Смит беседует с Валом Родригесом, генеральным директором стартапа Saifr.ai, который разрабатывает «интеллектуальный слой безопасности» для ИИ-моделей. Saifr стремится стать своего рода «грамматической проверкой» (grammar check), но не для синтаксиса, а для соответствия нормам регуляторов, таких как SEC и FINRA.
🛡️ Saifr: «Грамматическая проверка» для финансового комплаенса 2:38
Вал Родригес, имеющий многолетний опыт работы на Уолл-стрит (включая Bank of New York, UBS и Fidelity Labs), определяет миссию компании Saifr как создание инструментов, делающих использование ИИ безопасным и прозрачным для бизнеса . Основная проблема, которую решает стартап, — это трение в процессе создания контента. В крупных финансовых организациях путь от черновика портфельного менеджера до публикации занимает недели из-за бесконечных итераций с отделом комплаенса .
Saifr работает как надстройка над любой большой языковой моделью (LLM), будь то GPT, Claude или Llama . Система анализирует генерируемый текст в реальном времени и, если находит потенциальные нарушения, не просто сигнализирует о них, но и предлагает корректные формулировки . По словам Родригеса, это позволяет снизить «трение» в процессах проверки на 70–80% .
Ключевые особенности работы Saifr:
- Предотвращение ложных обещаний: Система блокирует утверждения типа «я гарантирую доходность X%», так как любые инвестиции сопряжены с риском .
- Контекстуальный анализ изображений: Saifr способен распознавать визуальные несоответствия. Например, если реклама депозитного сертификата с низкой доходностью сопровождается фотографией яхты за 200 миллионов долларов, ИИ пометит это как потенциально вводящее в заблуждение .
- Соблюдение специфических правил: Продукт настроен на работу с правилами SEC (Комиссия по ценным бумагам и биржам США) и FINRA 2210 .
🤝 Партнерство с Microsoft и техническая реализация 20:03
Важным этапом развития компании стало стратегическое партнерство с Microsoft, анонсированное на конференции Microsoft Ignite в Чикаго . Теперь модели Saifr доступны в каталоге Azure AI вместе с решениями от OpenAI, Mistral и Meta . Это позволяет корпоративным клиентам внедрять слой комплаенса непосредственно в свои облачные рабочие процессы без необходимости радикальной смены ПО .
Для индивидуальных пользователей Saifr предлагает плагин для Microsoft Office 365, который проверяет документы и электронные письма прямо в Word или Outlook . Это критически важно, так как даже внутренняя переписка между институциональными игроками должна мониториться на предмет использования непубличной информации (инсайдерская торговля) .
Технологический стек Saifr включает:
- Специализированные финансовые LLM: Обычные модели часто ошибаются в терминологии. Родригес приводит пример, когда стандартный ИИ при транскрибации подкаста превращал «mutual fund» (взаимный фонд) в созвучные, но бессмысленные фразы, что мешало обнаружить отсутствие обязательных раскрытий информации о комиссиях .
- Обучение с участием человека (RLHF): Перед выпуском каждой модели Saifr проводит «тест на покрытие». Результаты работы ИИ сравниваются с оценками экспертов-юристов (бывших сотрудников SEC или FINRA). Вал утверждает, что модель допускается к работе только при 80–90% совпадении с мнением человека .
- Адаптивность под риск-аппетит: Разные компании могут трактовать правила с разной степенью жесткости. Saifr позволяет калибровать модели под внутренние политики конкретной организации .
🎙️ Мониторинг аудио, видео и социальных сетей 29:16
Одной из самых востребованных функций Saifr стал аудит мультимедийного контента. Сейчас финансовые организации активно используют инфлюенсеров и подкасты, что создает огромную нагрузку на комплаенс-офицеров . Традиционная проверка 45-минутного подкаста вручную занимает часы: офицер должен слушать, останавливаться, сверяться с правилами и делать заметки .
Saifr автоматизирует этот процесс:
- Система транскрибирует аудио с учетом финансового жаргона .
- На таймлайне расставляются метки с указанием конкретных секунд, где было допущено нарушение .
- Аналогичный подход применяется к видео из TikTok или рекламным роликам .
Также система помогает контролировать работу умных чат-ботов, отвечающих на вопросы клиентов. Saifr выступает «оберткой» (wrapper) над ботом, корректируя его ответы до того, как они появятся на экране пользователя, чтобы избежать сценариев, подобных инциденту с Air Canada, когда чат-бот по ошибке пообещал клиенту возврат средств [39:51, 46:37].
🌏 Будущее: международная экспансия и новые индустрии 42:44
Хотя сейчас Saifr сфокусирован на финансовом секторе США, компания уже поддерживает шесть языков, включая испанский, французский и немецкий . Родригес подчеркивает, что потребность в комплаенсе глобальна: только в финансовом секторе по всему миру насчитывается более 100 000 компаний .
В перспективе технологии Saifr могут найти применение в:
- Фармацевтике и здравоохранении: Где запрещены преувеличенные заявления о пользе препаратов .
- Общем корпоративном управлении: В контексте соблюдения закона ЕС об искусственном интеллекте (EU AI Act), который требует, чтобы ИИ соответствовал всем существующим правилам отрасли .
По мнению Вала Родригеса, добавление слоя безопасности не замедляет инновации, а, напротив, способствует их широкому внедрению. Без таких «перил» (guardrails) регулируемые индустрии будут просто бояться использовать возможности генеративного ИИ в полную силу .
