В современном мире искусственный интеллект (ИИ) перестает быть просто технологической новинкой, превращаясь в фундамент новой экономики. Карен Кроксон, главный специалист по данным, технологиям и инсайтам британского регулятора CMA (Competition and Markets Authority), в своем выступлении в Стэнфордской высшей школе бизнеса подробно объясняет, как государственные органы планируют контролировать рынок ИИ, чтобы предотвратить монополизацию и защитить интересы потребителей.
🏛️ Роль CMA и философия регулирования ИИ 0:05
Управление по конкуренции и рынкам Великобритании (CMA) рассматривает ИИ как мощную силу, способную принести пользу обществу, если рынок останется открытым. По мнению Кроксон, только через честную и эффективную конкуренцию можно полностью раскрыть потенциал ИИ, обеспечив инновации, разнообразие выбора и снижение цен для конечных пользователей .
CMA ставит перед собой две основные задачи:
- Обеспечение конкуренции: создание условий, при которых новые игроки и «челленджеры» смогут входить на рынок и потенциально смещать устоявшихся технологических гигантов .
- Защита прав потребителей: предотвращение рисков, связанных с предвзятостью алгоритмов, «галлюцинациями» нейросетей и преднамеренным мошенничеством, таким как фейковые отзывы или сгенерированный ИИ фишинг .
🧠 Базовые модели: почему они в центре внимания 1:53
Кроксон подчеркивает, что в фокусе регулятора находятся так называемые «базовые модели» (Foundation Models) — масштабные системы, обученные на огромных массивах данных, которые могут быть адаптированы для широкого спектра задач .
Хотя наиболее известным примером являются большие языковые модели (LLM), такие как ChatGPT, Кроксон уточняет, что базовые модели охватывают и другие области:
- Генерацию видео, аудио и изображений .
- Негенеративные системы, выполняющие сложные интеллектуальные задачи.
- «Агентские» системы (Agentic systems), способные действовать автономно .
Регулятор начал масштабный обзор этого сектора в мае 2023 года, а в сентябре опубликовал первый отчет, чтобы понять, как развиваются технологии и какие риски они несут для рыночной среды .
🚩 Три ключевых риска для конкуренции 5:43
Одной из главных проблем Кроксон называет присутствие крупнейших технологических компаний на всех этапах «цепочки создания стоимости» ИИ . Хотя их ресурсы и экспертиза полезны для отрасли, история цифровых рынков показывает, что они могут быстро превращаться в среду, где «победитель получает все» .
CMA выделяет критические риски:
- Контроль над входными ресурсами (Upstream): Компании, владеющие уникальными данными, огромными вычислительными мощностями или лучшими талантами, могут ограничивать доступ к ним конкурентов, чтобы защитить свое положение .
- Ограничение выбора в развертывании (Downstream): ИТ-гиганты могут использовать свое доминирующее положение в других сферах, чтобы навязать пользователям конкретные ИИ-сервисы, подавляя альтернативы .
- Влияние через партнерства и инвестиции: Стратегические альянсы между ключевыми игроками могут служить инструментом расширения их рыночной власти по всей экосистеме .
📜 Шесть принципов здорового рынка ИИ 6:52
Чтобы направить рынок по позитивному пути, CMA сформулировала шесть основных принципов, которым, по мнению регулятора, должны следовать разработчики и компании :
- Доступ: постоянная возможность получать критически важные данные, вычислительные мощности и экспертизу .
- Разнообразие: наличие множества различных типов моделей на рынке.
- Выбор: свобода пользователей и бизнеса выбирать подходящие им решения .
- Честное ведение дел: отсутствие антиконкурентных практик, таких как связывание продуктов (bundling) или самопредпочтение (self-preferencing).
- Прозрачность: предоставление четкой информации о рисках и ограничениях моделей .
- Подотчетность: ответственность разработчиков за результаты работы их систем перед пользователями и обществом .
🛠️ Внутренняя экспертиза и международное сотрудничество 9:47
Для эффективного надзора CMA создала междисциплинарное подразделение DaTA (Data, Technology and Analytics), которому уже около пяти лет . По словам Кроксон, за это время отдел вырос из группы дата-сайентистов в мощный хаб, включающий:
- Специалистов по поведенческим наукам и цифровой криминалистике .
- Экспертов по электронному поиску доказательств (eDiscovery).
- Лабораторию «скрытого интернета» (covert internet lab) для глубокого анализа работы алгоритмов в реальных условиях .
Это позволяет регулятору проводить детальные расследования сложнейших цифровых кейсов и оценивать архитектуру онлайн-выбора (online choice architecture) .
На государственном уровне в Британии действует DRCF (Digital Regulation Cooperation Forum) — форум, где CMA координирует свои действия с регуляторами в сфере защиты данных (ICO), медиа (Ofcom) и финансовых рынков (FCA) . Одним из последних достижений этого сотрудничества стал запуск пилотного ИИ-хаба (AI Hub), где инноваторы могут получить скоординированные консультации по всем аспектам регулирования .
В завершение Карен Кроксон подчеркнула, что проблемы ИИ носят глобальный характер, поэтому CMA активно участвует в международных форумах, таких как International Competition Network, чтобы вырабатывать единые подходы к регулированию этой стремительно меняющейся технологии .
