# Регулирование ИИ в Великобритании: три главных риска и стратегия CMA Источник: https://www.youtube.com/watch?v=OGO1tuSmwkc Канал: Stanford Graduate School of Business Опубликовано: 28.08.2024 --- В современном мире искусственный интеллект (ИИ) перестает быть просто технологической новинкой, превращаясь в фундамент новой экономики. Карен Кроксон, главный специалист по данным, технологиям и инсайтам британского регулятора CMA (Competition and Markets Authority), в своем выступлении в Стэнфордской высшей школе бизнеса подробно объясняет, как государственные органы планируют контролировать рынок ИИ, чтобы предотвратить монополизацию и защитить интересы потребителей. ## 🏛️ Роль CMA и философия регулирования ИИ [[JUMP:0:05]] Управление по конкуренции и рынкам Великобритании (CMA) рассматривает ИИ как мощную силу, способную принести пользу обществу, если рынок останется открытым. По мнению Кроксон, только через честную и эффективную конкуренцию можно полностью раскрыть потенциал ИИ, обеспечив инновации, разнообразие выбора и снижение цен для конечных пользователей [0:46]. CMA ставит перед собой две основные задачи: * **Обеспечение конкуренции:** создание условий, при которых новые игроки и «челленджеры» смогут входить на рынок и потенциально смещать устоявшихся технологических гигантов [1:13]. * **Защита прав потребителей:** предотвращение рисков, связанных с предвзятостью алгоритмов, «галлюцинациями» нейросетей и преднамеренным мошенничеством, таким как фейковые отзывы или сгенерированный ИИ фишинг [1:40]. ## 🧠 Базовые модели: почему они в центре внимания [[JUMP:1:53]] Кроксон подчеркивает, что в фокусе регулятора находятся так называемые «базовые модели» (Foundation Models) — масштабные системы, обученные на огромных массивах данных, которые могут быть адаптированы для широкого спектра задач [2:07]. Хотя наиболее известным примером являются большие языковые модели (LLM), такие как ChatGPT, Кроксон уточняет, что базовые модели охватывают и другие области: * Генерацию видео, аудио и изображений [2:49]. * Негенеративные системы, выполняющие сложные интеллектуальные задачи. * «Агентские» системы (Agentic systems), способные действовать автономно [3:32]. Регулятор начал масштабный обзор этого сектора в мае 2023 года, а в сентябре опубликовал первый отчет, чтобы понять, как развиваются технологии и какие риски они несут для рыночной среды [4:00]. ## 🚩 Три ключевых риска для конкуренции [[JUMP:5:43]] Одной из главных проблем Кроксон называет присутствие крупнейших технологических компаний на всех этапах «цепочки создания стоимости» ИИ [6:10]. Хотя их ресурсы и экспертиза полезны для отрасли, история цифровых рынков показывает, что они могут быстро превращаться в среду, где «победитель получает все» [6:36]. CMA выделяет критические риски: 1. **Контроль над входными ресурсами (Upstream):** Компании, владеющие уникальными данными, огромными вычислительными мощностями или лучшими талантами, могут ограничивать доступ к ним конкурентов, чтобы защитить свое положение [8:26]. 2. **Ограничение выбора в развертывании (Downstream):** ИТ-гиганты могут использовать свое доминирующее положение в других сферах, чтобы навязать пользователям конкретные ИИ-сервисы, подавляя альтернативы [8:39]. 3. **Влияние через партнерства и инвестиции:** Стратегические альянсы между ключевыми игроками могут служить инструментом расширения их рыночной власти по всей экосистеме [9:06]. ## 📜 Шесть принципов здорового рынка ИИ [[JUMP:6:52]] Чтобы направить рынок по позитивному пути, CMA сформулировала шесть основных принципов, которым, по мнению регулятора, должны следовать разработчики и компании [6:52]: * **Доступ:** постоянная возможность получать критически важные данные, вычислительные мощности и экспертизу [7:06]. * **Разнообразие:** наличие множества различных типов моделей на рынке. * **Выбор:** свобода пользователей и бизнеса выбирать подходящие им решения [7:21]. * **Честное ведение дел:** отсутствие антиконкурентных практик, таких как связывание продуктов (bundling) или самопредпочтение (self-preferencing). * **Прозрачность:** предоставление четкой информации о рисках и ограничениях моделей [7:36]. * **Подотчетность:** ответственность разработчиков за результаты работы их систем перед пользователями и обществом [7:49]. ## 🛠️ Внутренняя экспертиза и международное сотрудничество [[JUMP:9:47]] Для эффективного надзора CMA создала междисциплинарное подразделение **DaTA** (Data, Technology and Analytics), которому уже около пяти лет [9:47]. По словам Кроксон, за это время отдел вырос из группы дата-сайентистов в мощный хаб, включающий: * Специалистов по поведенческим наукам и цифровой криминалистике [10:14]. * Экспертов по электронному поиску доказательств (eDiscovery). * Лабораторию «скрытого интернета» (covert internet lab) для глубокого анализа работы алгоритмов в реальных условиях [10:14]. Это позволяет регулятору проводить детальные расследования сложнейших цифровых кейсов и оценивать архитектуру онлайн-выбора (online choice architecture) [11:08]. На государственном уровне в Британии действует **DRCF** (Digital Regulation Cooperation Forum) — форум, где CMA координирует свои действия с регуляторами в сфере защиты данных (ICO), медиа (Ofcom) и финансовых рынков (FCA) [11:37]. Одним из последних достижений этого сотрудничества стал запуск пилотного ИИ-хаба (AI Hub), где инноваторы могут получить скоординированные консультации по всем аспектам регулирования [12:03]. В завершение Карен Кроксон подчеркнула, что проблемы ИИ носят глобальный характер, поэтому CMA активно участвует в международных форумах, таких как International Competition Network, чтобы вырабатывать единые подходы к регулированию этой стремительно меняющейся технологии [12:45].