Внедрение искусственного интеллекта в финансовый сектор перестало быть вопросом будущего и превратилось в повседневную необходимость для выживания на рынке. На конференции AI Dev 25 эксперты из BlackRock — Адитья Дейв (Aditya Dave) и Джон Пепино (John Pepino) — представили комплексный подход к выводу ИИ-решений из стадии прототипов в промышленную эксплуатацию, акцентируя внимание на безопасности, регуляторных нормах и оптимизации RAG-систем.
🏛️ Финансовый ИИ на перепутье: от эффективности к доверию 0:21
Финансовая индустрия сегодня находится в точке перегиба . По мнению Адитьи Дейва, банки, страховщики и управляющие активами активно внедряют разговорные интерфейсы и инструменты моделирования не только ради моды, но и для радикального повышения эффективности.
Ключевые преимущества внедрения ИИ, которые выделяют спикеры:
- Снижение операционного трения: автоматизация рутинных запросов освобождает консультантов для решения сложных задач .
- Ускорение исследований: инструменты помогают разработчикам и квант-исследователям быстрее проводить внутренние изыскания .
- Внутренняя оптимизация: ИИ способен взять на себя проверку соответствия (compliance) и автоматическую ребалансировку портфелей .
Однако Адитья Дейв подчеркивает, что в финансах технологии неразрывно связаны с рисками. Регуляторные требования и надежное управление (governance) остаются «неподлежащими обсуждению» (non-negotiable) элементами любого проекта .
⚠️ Уроки прошлого и регуляторный ландшафт 2:07
По мере перехода ИИ от прототипов к продакшену внимание регуляторов усиливается . Адитья Дейв приводит исторический пример для иллюстрации рисков: в 2012 году JPMorgan Chase понес убытки в размере более $2 млрд из-за ошибки в модели Value at Risk (VaR) . Модель занижала риски, подавляя волатильность, что привело к катастрофическим решениям.
Этот кейс, по мнению спикера, доказывает обязательность управления рисками моделей (Model Risk Management). В качестве фундаментальных принципов BlackRock ориентируется на руководства, такие как SR 11-7, которые задают стандарты прозрачности и подотчетности для ИИ и машинного обучения в финансах .
Четыре столпа стратегии BlackRock в области ИИ-рисков:
- Целостность и производительность моделей.
- Управление и соблюдение нормативных требований.
- Риск-менеджмент.
- Безопасность и конфиденциальность (роль фидуциария перед клиентами) .
🤖 Архитектура ИИ-агентов в BlackRock 5:11
Джон Пепино представил концепцию ИИ-агентов, которые должны раскрыть «коллективный разум организации» . Видение BlackRock заключается в том, чтобы превратить цифровой опыт взаимодействия с клиентами в осмысленный диалог.
Для достижения этой цели агент должен обладать специфическими качествами:
- 24/7 поддержка: предоставление точных ответов в любое время .
- Контекстуальность: предложение идей и данных, на которые клиент мог не наткнуться самостоятельно .
- Бесшовный опыт: меньше кликов и вкладок, ясные пути к действию .
Разработка таких агентов в компании проходит три фазы:
- Сборка на доверии: использование только внутреннего контента BlackRock и авторизация пользователей .
- Тестирование и валидация: многоуровневая проверка, включая пилотные группы, внутреннее согласование, редтиминг (для поиска уязвимостей и обхода ограничений) и юридическую оценку .
- Развертывание: постепенный запуск на подмножествах пользователей с автоматизированным мониторингом всех диалогов на соответствие комплаенсу .
🛡️ Обеспечение безопасности в реальном времени 8:58
Архитектура системы BlackRock построена так, чтобы фильтровать чувствительные темы и предотвращать галлюцинации ИИ. Джон Пепино описывает «оркестратор», который анализирует контекст пользователя и выбирает наиболее безопасный путь решения задачи .
Интересным техническим решением является использование параллельной модерации . Для минимизации задержек (latency) проверки на наличие персональных данных (PII), токсичности или попыток джейлбрейка запускаются одновременно. Если запрос попадает в категорию «жесткой блокировки» (hard block), ответ прерывается немедленно. В случае «мягкой блокировки» (soft block) система пытается направить пользователя на более безопасный сценарий .
Все этапы работы системы — от генерации эмбеддингов до задержки векторного поиска и расхода токенов — подлежат детальному мониторингу (observability) .
🛠️ Оптимизация RAG-систем: библиотека как стандарт 13:48
Адитья Дейв отмечает, что одной из главных проблем является создание разрозненных RAG-решений (Retrieval-Augmented Generation) разными командами внутри одной компании . Чтобы избежать хаоса, BlackRock разработал внутреннюю библиотеку для настройки систем.
Основные вызовы при масштабировании RAG:
- Сложность выбора гиперпараметров и промптов .
- Дефицит «эталонных данных» (ground truth) для оценки производительности .
- Отсутствие единых стандартов оценки.
BlackRock предлагает относиться к RAG-системам как к традиционным ML-моделям: фитировать (fit), оптимизировать и только затем встраивать в агентские системы . Библиотека поддерживает автоматизированную генерацию пар «вопрос-ответ» на основе сырых документов, что позволяет проводить системную оптимизацию промптов вместо интуитивных догадок .
❓ Вопросы и уточнения 20:30
В ходе сессии вопросов эксперты уточнили несколько важных технических деталей:
- Очистка данных: Адитья Дейв пояснил, что они меньше фокусируются на чистке текста и больше на интеллектуальном чанкинге (разбиении данных на фрагменты). Стратегия чанкинга рассматривается как один из важнейших гиперпараметров для оптимизации .
- Инструменты: На вопрос о выборе векторных баз данных и инструментов мониторинга (таких как Phoenix) спикеры ответили уклончиво, отметив, что используют как общедоступные индустриальные стандарты, так и развитые внутренние фреймворки BlackRock для обеспечения приватности .
- Свое или покупное: Отвечая на вопрос, почему компания строит всё внутри (in-house), Джон Пепино подчеркнул, что в финансах управление, аудит и безопасность критичны, поэтому контроль над каждым слоем архитектуры является приоритетом, хотя партнерства и open-source решения также рассматриваются .
Спикеры подытожили: будущее финансового ИИ принадлежит тем, кто сможет совместить инновации с жесткой дисциплиной доверия и комплаенса .
