Развитие искусственного интеллекта порождает новые вызовы в сфере безопасности и контроля, требующие создания надежных систем корпоративного управления. В интервью для технологического канала Eye on AI генеральный директор компании Casper Labs Мринал Манохар подробно рассказывает, как технологии распределенного реестра помогают решить проблему прозрачности ИИ, обеспечивая неизменяемый аудит данных. Продукт Prove AI, разработанный в сотрудничестве с IBM, предлагает бизнесу готовое решение для соответствия грядущим жестким регуляторным требованиям.
🛠️ Пересечение технологий: Зачем ИИ нужен блокчейн 3:55
Компания Casper Labs позиционирует себя как поставщика инфраструктуры блокчейна корпоративного уровня. Как отмечает Мринал Манохар, блокчейн представляет собой наиболее совершенную форму защиты от несанкционированного изменения записей по сравнению с традиционными базами данных. Это свойство делает технологию идеальным инструментом для систем управления ИИ (AI governance), где критически важно отслеживать эволюцию моделей, вести точный аудит и осуществлять строгий контроль версий.
В отличие от стандартных баз данных, распределенный реестр предоставляет три ключевых преимущества:
- Мультиплатформенный доступ и интеграция: Система управления доступом на основе приватных ключей встроена на базовом уровне платформы, что автоматически решает проблемы конфиденциальности и целостности данных.
- Тьюринг-полные смарт-контракты: Программы, написанные поверх блокчейна, позволяют настраивать сложные триггеры и логику управления, тогда как базы данных ограничены языком SQL, работающим по принципу простого ввода-вывода.
- Эффективный контроль версий: Если модель искусственного интеллекта начинает вести себя непредсказуемо, её можно оперативно вернуть к сохраненному в цепочке блоков предыдущему корректному состоянию. По мнению Манохара, это намного дешевле и надежнее традиционного и недетерминированного метода полного переобучения нейросети.
Разработка в этой сфере началась в Casper Labs еще в апреле 2023 года, задолго до публикации официальных законодательных актов. Манохар подчеркивает, что он является абсолютным оптимистом в отношении ИИ, а создаваемые инструменты призваны стать технологическим «ремнем безопасности», позволяющим компаниям внедрять инновации с максимальной скоростью, не опасаясь правовых рисков.
🚀 Продукт Prove AI и стратегический альянс с IBM 6:03
Основным коммерческим предложением Casper Labs для корпоративного сектора является специализированный продукт Prove AI. Прототип этой технологической платформы был продемонстрирован в ноябре предыдущего года в рамках совместного вебинара с аналитическим агентством Gartner и корпорацией IBM. В реальном времени разработчики показали сквозной аудит целостности данных, отслеживание версий моделей и распределенный доступ к управлению. Полноценный запуск платформы запланирован на третий квартал текущего года.
Платформа Prove AI создается в тесном сотрудничестве с подразделением IBM Consulting и бесшовно интегрируется в экосистему Watson X. Сама платформа Watson X состоит из трех ключевых модулей:
- Watson x.ai: Студия для проектирования, обучения и развертывания ИИ-моделей.
- Watson x.data: Хранилище очищенных данных, защищенных от претензий по авторским правам и утечек персональной информации.
- Watson X Governance: Система управления рисками и комплаенса, построенная на базе платформы OpenPages, которую IBM развивает десятилетиями.
Интеграция Prove AI добавляет к возможностям интерфейса IBM OpenPages неизменяемый блокчейн-аудит. Это позволяет клиентам автоматически соответствовать стандартам ISO 4201 и нормам европейского законодательства. Продукт может поставляться и как независимое решение (Standalone), однако разработчики считают стратегический альянс с IBM наиболее эффективным способом масштабирования. Watson X также поддерживает интеграцию со сторонними инструментами, такими как Amazon SageMaker и репозитории Hugging Face.
⚖️ Соответствие жестким регуляторным стандартам 8:14
По словам Манохара, скорость реакции мировых правительств на развитие ИИ оказалась неожиданно высокой. Ключевым драйвером рынка становится Закон ЕС об искусственном интеллекте (EU AI Act), который вступает в силу в 2025 году. Руководитель Casper Labs полагает, что этот документ повторит судьбу регламента GDPR и станет стандартом де-факто для большинства международных компаний. На его основе уже разработан международный стандарт ISO 4201. Законодательные инициативы Великобритании, а также американских штатов Колорадо и Калифорния во многом копируют европейский подход.
Суть новых требований сводится к тому, что уровень аудируемости систем ИИ должен приблизиться к стандартам финансовой отчетности. Эпоха, когда разработчики могли оправдывать любые сбои тем, что ИИ является «черным ящиком», завершилась. Компании обязаны предоставлять проверяемый след разработки и доказывать так называемую «состязательную устойчивость» (adversarial robustness) — гарантию того, что записи аудита не были сфальсифицированы. У директоров по информационной безопасности (CISO) и руководителей по рискам остается около шести месяцев на приведение систем в соответствие с требованиями.
📊 Техническая архитектура: Как аудировать терабайты данных 12:43
Один из главных вопросов автоматического аудита крупных моделей заключается в колоссальных объемах информации. Блокчейн Prove AI решает эту проблему без необходимости копирования самих данных. В распределенном реестре фиксируются только метаданные транзакции (какой датасет использовался для обучения конкретной модели в определенное время) и криптографический хэш этого датасета. Сами массивы информации остаются в исходных корпоративных озерах данных, будь то Snowflake или СУБД Oracle. Если кто-то попытается тайно изменить обучающие данные, хэш-суммы перестанут совпадать, и аудит будет провален.
Для обработки гигантских массивов применяется архитектура, аналогичная главной бухгалтерской книге (general ledger) розничных сетей вроде Walmart. Вместо записи триллионов индивидуальных хэшей система осуществляет умное пакетирование на уровне моделей. Модель становится отдельной ветвью дерева, где фиксируются номера версий и параметры конфигурации.
Система автоматически создает цифровую метку при каждом изменении контекста модели, под которым подразумеваются три события:
- Обучение на новом наборе данных или обновление векторной базы данных, используемой для генерации с расширенным поиском (RAG).
- Изменение параметров тонирования модели (параметризация, количество токенов, значения параметров P и K, метод сэмплинга).
- Обновление самого базового ядра модели (например, переход с версии flan 1.1 на flan 1.2).
При использовании RAG-систем данные могут обновляться каждую миллисекунду (например, в спортивных сводках), поэтому настраиваются механизмы батчинга — к примеру, фиксация следа один раз в минуту. В процессе последующей проверки внешним аудиторам (таким как компании Big Four, Vanta или Shellman) не требуется изучать весь массив вручную: автоматическая сверка хэшей занимает считанные дни вместо месяцев.
🔐 Архитектура сети Casper и защита от «безумного» ИИ 32:15
Сеть блокчейна Casper создавалась с нуля как инфраструктура корпоративного уровня, а не как форк сети Ethereum. Публичная сеть поддерживается более чем 100 независимыми аппаратными валидаторами, среди которых представлены крупные специализированные провайдеры, такие как Figment и Stake.us. Безопасность и децентрализация обеспечиваются механизмом делегирования: десятки тысяч участников (делегаторов) могут блокировать свои утилитарные токены в смарт-контрактах, не передавая приватные ключи из личных кошельков. Капитализация сети на рынке составляет около 400 миллионов долларов. Внутренний токен выполняет роль права голоса и одновременно эквивалентен облачным кредитам AWS — им оплачиваются вычислительные мощности для создания записей аудита.
Технические особенности Casper включают полное отсутствие сиротских блоков (orphan blocks) и реорганизаций цепочки, что полностью исключает рассинхронизацию временных меток. Для решения проблемы масштабируемости применяются гибридные сети: внутри компании развертывается приватный инстанс второго уровня (Layer 2) для высокоскоростного логирования, а итоговые следы пакетами выгружаются в публичный блокчейн раз в час или раз в сутки.
Интересной, хотя и не первоочередной возможностью Тьюринг-полных смарт-контрактов является создание автоматического аварийного выключателя (kill switch) для ИИ. По словам Манохара, если в фантастических фильмах вроде «Матрицы» или «Терминатора» гипотетические восставшие машины получали прямой контроль над собственным питанием, то блокчейн позволяет изолировать управление ресурсами на децентрализованном уровне. Можно прописать жесткие триггеры:
- Попытки ИИ самостоятельно скопировать свой код на внешние сервера.
- Несанкционированная отправка писем сторонним поставщикам с целью покупки дополнительных мощностей.
- Выход робототехнических систем за рамки заданных пространственных координат.
Если ИИ нарушает хотя бы один триггер, децентрализованная сеть автоматически блокирует доступ к питанию и вычислительным ресурсам, полностью отключая систему до проведения ручного расследования.
🏭 Реальные кейсы и перспективы корпоративного блокчейна 49:23
Мринал Манохар признает, что эпоха спекулятивной лихорадки, связанная с мем-коинами и NFT, уходит в прошлое, уступая место зрелым корпоративным сценариям. В отличие от сферы логистики или цепочек поставок, где внедрению блокчейна мешает сопротивление старых ИТ-систем, в сфере AI governance исторически отсутствует доминирующий стек технологий, что открывает перед стартапом огромный рынок.
На этапе подготовки к запуску Casper Labs ведет переговоры с несколькими десятками крупных клиентов. Первым публичным партнером проекта стала компания Grayscale AI, которая внедряет искусственный интеллект в промышленные автоматы для оптической инспекции продуктов питания. Компьютерное зрение проверяет картофель фри, наггетсы и шоколад на наличие инородных металлов, дефектов формы и признаков порчи. Модели ИИ на заводах постоянно дообучаются. С помощью Prove AI Grayscale AI решает две задачи:
- Ведет строгий внутренний контроль версий и параметров работы нейросетей.
- Предоставляет гигантам пищевой индустрии (таким как Tyson Foods или Nestle) юридически значимый, неизменяемый лог, доказывающий, что 100% продукции в каждой партии прошли автоматический контроль качества.
Casper Labs активно продолжает исследования рынка, проводя экспертные Guidepoint-интервью и регулярные демографические опросы совместно с институтом Zogby. В ближайший месяц планируется публикация отчета, основанного на анкетировании 600 ИТ-директоров (CIO, CTO и CISO) из США, Европы и Китая. Продукт Prove AI будет официально доступен во всех этих регионах, включая Китай, где корпорация IBM имеет прочные позиции и четырехдесятилетнюю историю присутствия. Несмотря на то, что китайское регулирование ИИ пока находится в зачаточном состоянии, Casper Labs видит там значительный долгосрочный потенциал.
