Как найти баланс между стимулированием инноваций и контролем над технологиями, которые меняют мир? В интервью Стенфордской высшей школе бизнеса заслуженный профессор права Эллен Гудман делится выводами масштабного исследования NTIA о подотчетности искусственного интеллекта. Она объясняет, почему создание отдельного ведомства по ИИ может быть опасным, как защитить малый бизнес от избыточных барьеров и почему опыт Кремниевой долины 1990-х годов заставляет регуляторов действовать решительнее уже сегодня.
🏛️ Три столпа подотчетности ИИ: опыт исследования NTIA 0:05
Эллен Гудман рассказала о своем 18-месячном опыте работы в Национальном управлении по телекоммуникациям и информации (NTIA) при Министерстве торговли США. В рамках проекта по формированию политики подотчетности ИИ ведомство выпустило запрос комментариев (RFC) и получило более 1400 ответов от экспертов и участников рынка еще до публикации официального указа президента США об искусственном интеллекте. На основе собранных мнений и обширных консультаций со стейкхолдерами команда пришла к выводам, которые Гудман разделила на три ключевые категории рекомендаций для федерального правительства.
Эти направления включают в себя:
- Руководства (Guidance): Разработка стандартизированных правил раскрытия информации о системах ИИ, проведение аудитов и оценка независимости и компетенций ИИ-аудиторов.
- Регулирование (Regulation): Введение обязательных проверок рисков и эффективности для систем ИИ с высоким уровнем опасности.
- Поддержка (Support): Предоставление государственных ресурсов для базовой инфраструктуры, включая вычислительные мощности и данные, а также использование ИИ самим государством для формирования рынка ответственных технологий.
🛑 Риски создания специализированного ведомства по ИИ 2:14
В ходе дискуссии был поднят вопрос о разделении регуляторной способности государства на вертикальную и горизонтальную. Под вертикальной структурой понимается способность профильных ведомств и комитетов (например, в сфере здравоохранения или занятости) регулировать ИИ в рамках своей юрисдикции. Горизонтальная структура подразумевает кросс-доменную координацию и общие стандарты для всего федерального правительства. Эксперт отметила, что профильные министерства уже активно ведут правоприменительную практику в своих областях.
Однако на вопрос о необходимости создания отдельного федерального ведомства по ИИ Гудман смотрит со скептицизмом. По мнению Эллен Гудман, создание нового специализированного ведомства несет в себе серьезные опасности: «Существует большой риск захвата регутора крупнейшими компаниями в сфере ИИ, которые сами будут диктовать юрисдикцию и функции такого агентства».
Вместо радикального шага в виде нового министерства профессор предлагает развивать горизонтальные связи между существующими ведомствами. Гость выделила две причины, почему это необходимо:
- Ни одно отдельное федеральное агентство сейчас не обладает достаточным уровнем экспертизы во всех сферах применения ИИ.
- Необходима сквозная координация базовых норм. Например, требования о недопустимости дискриминации должны работать одинаково как в здравоохранении, так и в сфере занятости или на транспорте.
⚖️ Баланс конкуренции и защита малого бизнеса 4:44
Одной из главных угроз жесткого регулирования Эллен Гудман считает создание искусственных барьеров для рыночной конкуренции. По ее мнению, требования об обязательном лицензировании систем ИИ до их официального релиза являются наиболее обременительными и могут быть выполнены только самыми богатыми технологическими гигантами.
Для решения этой проблемы эксперт предлагает опираться на регулирование, основанное на оценке рисков (risk-based regulation), где максимальное бремя ложится на наиболее опасные системы. По словам Гудман, в этом вопросе существует консенсус между гражданским обществом, индустрией, научными кругами и государством. Однако профиль риска ИИ-системы далеко не всегда можно определить до ее развертывания на рынке.
В качестве оптимальной структуры Гудман описывает «трубопровод подотчетности» (accountability pipeline), который позволяет сбалансировать нагрузку на бизнес:
- Мягкие предварительные требования (Ex-ante): Легкие правила на этапе разработки, чтобы не перегружать малый и средний бизнес.
- Последующая ответственность (Ex-post): Эффективная система юридической ответственности, вступающая в силу после фиксации реального вреда и позволяющая пострадавшим обращаться в суд.
Чтобы пострадавшие могли отстаивать свои права, государство должно обеспечить прозрачность. Как утверждает профессор, пользователям необходимо четко понимать, когда ущерб был нанесен именно искусственным интеллектом, чтобы успешно справляться с бременем доказывания в суде.
🛠️ Распределение ответственности в ИИ-стеке 7:46
Серьезной проблемой в правовом поле ИИ остается распределение ответственности между создателями моделей и теми, кто их внедряет. По словам Гудман, в рамках опроса NTIA разработчики часто заявляли, что не могут предвидеть все сценарии использования их систем downstream и прогнозировать все риски в условиях стремительного развития технологий.
Существует мнение, что ответственность нужно сдвигать как можно дальше по цепочке к конечным пользователям и интеграторам. Тем не менее, Эллен Гудман указывает на юридическую концепцию «лица, способного избежать издержек с наименьшими затратами» (least cost avoider). Согласно этой логике, за определенные типы вреда должны отвечать исключительно разработчики. К таким сферам относятся:
- Качество, состав и чистота обучающих данных.
- Архитектура самой модели ИИ.
Только разработчик проприетарной системы точно знает, как она устроена. Поэтому, как считает эксперт, крайне важна передача информации downstream, чтобы интеграторы четко понимали ограничения моделей и принимали взвешенные бизнес-решения на основе рисков.
📜 Проблема стандартизации и европейский опыт 9:08
Любые практики управления рисками упираются в наличие бенчмарков и стандартов производительности, которые, по замечанию Гудман, все еще находятся в процессе разработки. В качестве примера она приводит европейский Закон об ИИ (EU AI Act), где стандарты лежат в самой основе регулирования. ЕC стремится сделать процесс их создания инклюзивным, привлекая гражданское общество и малый бизнес.
США пока не зафиксировали подобное видение стандартизации в федеральных законах, так как аналога европейского акта в стране нет, хотя отдельные штаты уже начинают делать первые шаги. При этом Гудман выделяет две ключевые проблемы в процессе создания стандартов, даже в ЕС:
- Ресурсы гражданского общества: Представители общественных организаций жаловались, что им физически трудно участвовать в работе технических комитетов, требующей огромных финансовых затрат и постоянного личного присутствия на заседаниях в течение долгого времени.
- Нормативная природа стандартов: Многие стандарты ИИ не являются чисто техническими. Вопросы о том, какой уровень риска считать приемлемым, какие цели устойчивого развития ставить перед ИИ и что считать незаконной дискриминацией — это ценностные, нормативные решения, уникальные для каждой отдельной страны.
По мнению Гудман, традиционные технические комитеты не приспособлены для выработки подобных социальных норм. Она подчеркивает необходимость правильной синхронизации политического процесса, где эти нормы утверждаются, и экспертного процесса стандартизации.
⏳ Ошибка Кремниевой долины и дилемма своевременности 12:55
Традиционный аргумент Кремниевой долины заключается в том, что регулировать ИИ еще слишком рано и нужно дать технологиям развиваться свободно ради прогресса. Однако Гудман напоминает, что именно такую риторику мир слышал в 1990-х годах во время зарождения современного интернета. Тогда регуляторы прислушались к технологическому сектору, что, по мнению эксперта, в долгосрочной перспективе привело к возникновению глубоких системных проблем. Как отмечает профессор: «Это то, что мир слышал в 90-е годы, и именно так поступили регуляторы. Теперь мы видим системный вред, который не был устранен вовремя».
Сегодня в США наблюдается редкое двухпартийное согласие в критике ИТ-гигантов именно из-за ошибок прошлого, хотя раньше обе партии поддерживали технологический сектор. При этом правоохранительные органы подчеркивают, что ИИ уже регулируется действующим законодательством. Если вред причинен медицинским устройством, дискриминационным решением о найме или в результате аварии, закон применяется независимо от того, использовался ли ИИ. Основная сложность заключается лишь в доказывании причинно-следственной связи и халатности.
Говоря о жестком предварительном регулировании (например, запретах определенных алгоритмов или строгих требованиях к объяснимости), Гудман признает наличие дилеммы:
- Аргумент против раннего регулирования: Большие языковые модели находятся в зачаточном состоянии. Чрезмерное давление сейчас может просто зацементировать доминирование текущих лидеров рынка.
- Аргумент за раннее регулирование: Если ждать слишком долго, технологии ИИ глубоко вплетутся в сферы труда, здравоохранения, транспорта и образования. «Разбить яйцо обратно» и перестроить базовую инфраструктуру под жесткие нормы будет политически и экономически невозможно из-за сопротивления укоренившихся интересов бизнеса.
По мнению Эллен Гудман, сейчас оптимальным решением является внедрение правил, принуждающих к раскрытию информации (information-forcing regulations). Регулирование стандартизированного раскрытия данных, аудитов и государственных закупок необходимо вводить уже сегодня, предусмотрев механизмы их быстрой адаптации или постепенного вывода из обращения (sunset provisions). С более же дорогостоящими или нормативными директивами, как считает профессор, действительно можно подождать.
