# Как запустить ИИ в продакшен: уроки BlackRock по созданию безопасных агентов и RAG-систем Источник: https://www.youtube.com/watch?v=H_2EL7F9YaA Канал: DeepLearning.AI Опубликовано: 02.12.2025 --- Внедрение искусственного интеллекта в финансовый сектор перестало быть вопросом будущего и превратилось в повседневную необходимость для выживания на рынке. На конференции AI Dev 25 эксперты из BlackRock — **Адитья Дейв (Aditya Dave)** и **Джон Пепино (John Pepino)** — представили комплексный подход к выводу ИИ-решений из стадии прототипов в промышленную эксплуатацию, акцентируя внимание на безопасности, регуляторных нормах и оптимизации RAG-систем. ## 🏛️ Финансовый ИИ на перепутье: от эффективности к доверию [[JUMP:00:21]] Финансовая индустрия сегодня находится в точке перегиба [00:21]. По мнению Адитьи Дейва, банки, страховщики и управляющие активами активно внедряют разговорные интерфейсы и инструменты моделирования не только ради моды, но и для радикального повышения эффективности. Ключевые преимущества внедрения ИИ, которые выделяют спикеры: * **Снижение операционного трения:** автоматизация рутинных запросов освобождает консультантов для решения сложных задач [00:47]. * **Ускорение исследований:** инструменты помогают разработчикам и квант-исследователям быстрее проводить внутренние изыскания [01:00]. * **Внутренняя оптимизация:** ИИ способен взять на себя проверку соответствия (compliance) и автоматическую ребалансировку портфелей [01:26]. Однако Адитья Дейв подчеркивает, что в финансах технологии неразрывно связаны с рисками. Регуляторные требования и надежное управление (governance) остаются «неподлежащими обсуждению» (non-negotiable) элементами любого проекта [01:26]. ## ⚠️ Уроки прошлого и регуляторный ландшафт [[JUMP:02:07]] По мере перехода ИИ от прототипов к продакшену внимание регуляторов усиливается [02:07]. Адитья Дейв приводит исторический пример для иллюстрации рисков: в 2012 году **JPMorgan Chase** понес убытки в размере более **$2 млрд** из-за ошибки в модели Value at Risk (VaR) [02:35]. Модель занижала риски, подавляя волатильность, что привело к катастрофическим решениям. Этот кейс, по мнению спикера, доказывает обязательность управления рисками моделей (Model Risk Management). В качестве фундаментальных принципов BlackRock ориентируется на руководства, такие как **SR 11-7**, которые задают стандарты прозрачности и подотчетности для ИИ и машинного обучения в финансах [02:50]. Четыре столпа стратегии BlackRock в области ИИ-рисков: 1. Целостность и производительность моделей. 2. Управление и соблюдение нормативных требований. 3. Риск-менеджмент. 4. Безопасность и конфиденциальность (роль фидуциария перед клиентами) [03:27]. ## 🤖 Архитектура ИИ-агентов в BlackRock [[JUMP:05:11]] Джон Пепино представил концепцию ИИ-агентов, которые должны раскрыть «коллективный разум организации» [05:25]. Видение BlackRock заключается в том, чтобы превратить цифровой опыт взаимодействия с клиентами в осмысленный диалог. Для достижения этой цели агент должен обладать специфическими качествами: * **24/7 поддержка:** предоставление точных ответов в любое время [06:43]. * **Контекстуальность:** предложение идей и данных, на которые клиент мог не наткнуться самостоятельно [06:57]. * **Бесшовный опыт:** меньше кликов и вкладок, ясные пути к действию [07:12]. Разработка таких агентов в компании проходит три фазы: 1. **Сборка на доверии:** использование только внутреннего контента BlackRock и авторизация пользователей [07:49]. 2. **Тестирование и валидация:** многоуровневая проверка, включая пилотные группы, внутреннее согласование, **редтиминг** (для поиска уязвимостей и обхода ограничений) и юридическую оценку [08:02]. 3. **Развертывание:** постепенный запуск на подмножествах пользователей с автоматизированным мониторингом всех диалогов на соответствие комплаенсу [08:31]. ## 🛡️ Обеспечение безопасности в реальном времени [[JUMP:08:58]] Архитектура системы BlackRock построена так, чтобы фильтровать чувствительные темы и предотвращать галлюцинации ИИ. Джон Пепино описывает «оркестратор», который анализирует контекст пользователя и выбирает наиболее безопасный путь решения задачи [09:50]. Интересным техническим решением является использование **параллельной модерации** [11:34]. Для минимизации задержек (latency) проверки на наличие персональных данных (PII), токсичности или попыток джейлбрейка запускаются одновременно. Если запрос попадает в категорию «жесткой блокировки» (hard block), ответ прерывается немедленно. В случае «мягкой блокировки» (soft block) система пытается направить пользователя на более безопасный сценарий [12:00]. Все этапы работы системы — от генерации эмбеддингов до задержки векторного поиска и расхода токенов — подлежат детальному мониторингу (observability) [12:43]. ## 🛠️ Оптимизация RAG-систем: библиотека как стандарт [[JUMP:13:48]] Адитья Дейв отмечает, что одной из главных проблем является создание разрозненных RAG-решений (Retrieval-Augmented Generation) разными командами внутри одной компании [14:15]. Чтобы избежать хаоса, BlackRock разработал внутреннюю библиотеку для настройки систем. Основные вызовы при масштабировании RAG: * Сложность выбора гиперпараметров и промптов [15:20]. * Дефицит «эталонных данных» (ground truth) для оценки производительности [15:34]. * Отсутствие единых стандартов оценки. BlackRock предлагает относиться к RAG-системам как к традиционным ML-моделям: фитировать (fit), оптимизировать и только затем встраивать в агентские системы [16:55]. Библиотека поддерживает автоматизированную генерацию пар «вопрос-ответ» на основе сырых документов, что позволяет проводить системную оптимизацию промптов вместо интуитивных догадок [16:29]. ## ❓ Вопросы и уточнения [[JUMP:20:30]] В ходе сессии вопросов эксперты уточнили несколько важных технических деталей: * **Очистка данных:** Адитья Дейв пояснил, что они меньше фокусируются на чистке текста и больше на **интеллектуальном чанкинге** (разбиении данных на фрагменты). Стратегия чанкинга рассматривается как один из важнейших гиперпараметров для оптимизации [21:07]. * **Инструменты:** На вопрос о выборе векторных баз данных и инструментов мониторинга (таких как Phoenix) спикеры ответили уклончиво, отметив, что используют как общедоступные индустриальные стандарты, так и развитые внутренние фреймворки BlackRock для обеспечения приватности [23:08]. * **Свое или покупное:** Отвечая на вопрос, почему компания строит всё внутри (in-house), Джон Пепино подчеркнул, что в финансах управление, аудит и безопасность критичны, поэтому контроль над каждым слоем архитектуры является приоритетом, хотя партнерства и open-source решения также рассматриваются [25:10]. Спикеры подытожили: будущее финансового ИИ принадлежит тем, кто сможет совместить инновации с жесткой дисциплиной доверия и комплаенса [19:46].