В условиях стремительного развития технологий традиционные государственные механизмы регулирования часто оказываются слишком медлительными и неповоротливыми. В новом выпуске подкаста «The Cognitive Revolution» эксперты обсуждают революционный подход — создание частных рынков регулирования, где государство задаёт цели, а специализированные компании соревнуются в поиске лучших технических решений для обеспечения безопасности ИИ.
🏛️ Кризис традиционного регулирования и потребность в новых формах 8:30
Джиллиан Хэдфилд, основываясь на десятилетиях исследований, утверждает, что правовые и регуляторные системы, сформированные еще в XIX веке, больше не справляются со своей задачей . По её мнению, современный мир характеризуется скоростью, сложностью и трансграничностью, что в случае с ИИ проявляется в гипертрофированном виде.
Основные проблемы «командно-административного» (top-down) регулирования, по словам Хэдфилд:
- Информационный разрыв: правительство не обладает доступом к актуальным данным «с полей», которыми располагают разработчики .
- Разница в масштабах времени: законодательные процессы и судебные разбирательства длятся годами, в то время как ИИ обновляется каждые несколько месяцев .
- Избыточность процедур: текущие нормы часто сводятся к заполнению бумаг, которые никак не гарантируют реальную безопасность продукта .
Эндрю Фридман, опираясь на свой опыт регулирования рынка каннабиса в Колорадо, отмечает, что попытка предсказать все риски ИИ заранее обречена на провал . По его мнению, любая статичная норма становится «потолком», который отделы комплаенса просто стараются формально соблюсти, не заботясь о сути безопасности .
📈 Механизм частных рынков регулирования: как это работает 22:49
Суть предложения Хэдфилд и Фридмана заключается в разделении демократического процесса определения целей и технического процесса их достижения. Эта концепция уже легла в основу законопроекта SB 813 в Калифорнии .
Структура системы включает три уровня:
- Государство: определяет желаемые результаты (например, «ИИ не должен помогать в создании биологического оружия» или «автономные авто должны быть безопаснее водителей-людей») .
- Частные регуляторы (MRO — Market-based Regulatory Organizations): независимые компании или НКО, которые разрабатывают детальные стандарты, проводят аудит и сертификацию компаний-разработчиков .
- Компании-разработчики: выбирают одного из одобренных государством частных регуляторов и платят ему за услуги надзора .
Важнейшим стимулом для участия компаний в этой системе является защита от ответственности (liability protection) . Если компания сертифицирована и следует правилам одобренного регулятора, в случае инцидента это служит «опровержимой презумпцией» (rebuttable presumption) того, что она соблюдала все необходимые меры предосторожности в суде .
🛡️ Аналогии из прошлого: от UL до ценных бумаг 32:40
Спикеры приводят примеры того, как подобные механизмы уже работают или работали в истории:
- Underwriters Laboratories (UL): организация, созданная в конце XIX века для проверки пожарной безопасности электроприборов . Её сертификат стал мировым стандартом еще до того, как был закреплён законодательно.
- Регулирование ценных бумаг: изначально требования к раскрытию информации создавались частными биржами для привлечения инвесторов, и только позже были адаптированы государством (SEC) .
- Медицинские изделия: существует консорциум из пяти стран (включая США и Канаду), который признаёт аудит качества, проведённый ограниченным списком авторизованных частных сертификаторов .
Как утверждает Эндрю Фридман, у общества нет 100 лет, чтобы ждать естественного появления аналога UL для ИИ, поэтому государство должно «ускорить» этот процесс законодательно .
⚖️ Проблема «гонки на дно» и уроки кризиса 2008 года 59:21
Ведущий Натан Лабенц выразил опасение, что компании будут выбирать самых снисходительных регуляторов, что приведёт к повторению ситуации с кредитными рейтинговыми агентствами перед кризисом 2008 года .
Джиллиан Хэдфилд подчеркивает ключевое отличие их модели:
- Государственный надзор за надзирателями: в отличие от рейтинговых агентств 2000-х, частные регуляторы в модели Хэдфилд должны иметь лицензию от правительства, которая может быть аннулирована, если их стандарты не обеспечивают заявленный уровень безопасности .
- Конкуренция за качество: регуляторы будут заинтересованы демонстрировать государству, что их методы работают лучше, чем у конкурентов, чтобы сохранить лицензию и рыночную долю .
- Финансовая независимость: Фридман настаивает на необходимости стресс-тестирования моделей финансирования регуляторов, чтобы они могли позволить себе отказывать в сертификации крупнейшим лабораториям, не рискуя обанкротиться .
🚀 Влияние на стартапы и «Little Tech» 1:29:07
Обсуждая опасения венчурных фондов (в частности, позиции A16Z) о том, что регулирование задушит стартапы, Эндрю Фридман утверждает обратное. По его мнению, именно отсутствие понятной сертификации мешает малым компаниям продавать свои решения в консервативные сектора, такие как банкинг или медицина .
Позиция экспертов по «Little Tech»:
- Градация рисков: частный рынок может предложить «облегчённые» пакеты сертификации для малых моделей, что невозможно в рамках единого жесткого госзакона .
- Доверие рынка: сертификат от уважаемого регулятора позволит стартапу быстрее доказать безопасность своего продукта корпоративным клиентам .
- Эффективность вместо слов: Хэдфилд отмечает, что текущие законы (например, GDPR в ЕС) создают огромную нагрузку на стартапы именно из-за своей процессуальной сложности, в то время как рыночные регуляторы будут бороться за снижение издержек при сохранении результата .
🧪 Альтернативные подходы: страхование и расширенная ответственность 1:39:59
В качестве альтернативы обсуждалась идея обязательного страхования ответственности за риски ИИ. Однако Фридман считает, что страховщики сейчас не способны адекватно оценить риски ИИ из-за отсутствия данных . Частные регуляторы как раз и должны создать «каркас», на который страховой рынок сможет опираться при расчёте премий .
Также упоминалось предложение профессора Гейба Вайля (Gabe Weil) расширить ответственность за «почти случившиеся инциденты» (near misses). Хэдфилд считает, что это полезное дополнение, но оно не заменит превентивного надзора, особенно в таких критических областях, как биологические риски или стабильность финансовых рынков .
В завершение дискуссии Джиллиан Хэдфилд подчеркнула, что ИИ — это не просто отдельный продукт, а технология общего назначения, которая изменит всё . Поэтому создание гибкой, рыночной инфраструктуры регулирования — это не просто один из вариантов, а насущная необходимость, к реализации которой нужно приступать немедленно.
