# Александра Гизе: «Регулирование ИИ — это не подавление инноваций, а защита общества» Источник: https://www.youtube.com/watch?v=9zKSsAWT0xM Канал: Eye on AI Опубликовано: 12.07.2023 --- Европейский союз находится на пороге принятия первого в мире комплексного законодательства об искусственном интеллекте — AI Act. В интервью Крейгу Смиту на канале Eye on AI Александра Гизе, депутат Европейского парламента и эксперт по цифровой политике, разъяснила основные положения законопроекта, рассказала о влиянии «феномена ChatGPT» на политические решения и ответила на опасения о возможном технологическом отставании Европы. ## ⚖️ Четыре уровня риска: как ЕС классифицирует ИИ [[JUMP:04:37]] По словам Александры Гизе, главной задачей AI Act является создание динамичной законодательной базы, которая могла бы адаптироваться к стремительно развивающимся технологиям [04:51]. Вместо регулирования технологии как таковой, законодатели сосредоточились на конкретных сценариях её применения, разделив их на четыре категории риска. **Категории рисков ИИ:** * **Запрещенные системы:** Включают социальный скоринг (по аналогии с китайской системой), системы удаленной биометрической идентификации в реальном времени в общественных местах и инструменты для определения сексуальной ориентации [05:32]. * **Высокий риск:** Системы, используемые в критических сферах, таких как рекрутинг, пограничный контроль и образование. Подобные инструменты должны проходить процедуру лицензирования, иметь подробную документацию и обязательно предусматривать контроль со стороны человека [06:26]. * **Низкий риск:** Большинство ИИ-приложений, требующих минимальной документации и не нуждающихся в специальной авторизации перед выходом на рынок [07:32]. * **Базовые модели (Foundation Models):** Четвертая категория, добавленная в проект позже, охватывает крупные генеративные модели (такие как GPT). Для их создателей предусмотрены особые обязательства по прозрачности и управлению данными [07:45]. ## ⚡️ «Момент ChatGPT» и политический сдвиг в Европе [[JUMP:19:39]] Александра Гизе подчеркивает, что появление ChatGPT кардинально изменило ход обсуждения закона. До этого момента Совет Европы (представляющий правительства стран-членов) уже сформировал свою позицию, ориентированную в основном на системы «высокого риска» [19:52]. Однако, по словам Гизе, когда через неделю после запуска ChatGPT им начал пользоваться «каждый второй», в Европейском парламенте произошел слом. Консервативные депутаты, ранее выступавшие против жесткого регулирования, согласились с необходимостью включения базовых моделей в закон [20:05]. Это осознание пришло из понимания того, насколько влиятельными и потенциально рискованными могут быть эти инструменты для демократии [20:33]. По мнению депутата, если бы Еврокомиссия разрабатывала проект сейчас, базовые модели изначально были бы в центре внимания [21:26]. ## 📚 Проблема авторского права и «необучаемость» моделей [[JUMP:11:01]] Одной из самых острых тем обсуждения стало использование защищенных авторским правом материалов для обучения ИИ. Ведущий Eye on AI Крейг Смит заметил, что существующие модели (GPT-4, Google Bard) уже обучены на всем массиве интернета, и «вынуть» оттуда конкретные данные невозможно [12:09]. Александра Гизе признает, что на данный момент у законодателей нет однозначного ответа на этот вопрос [12:35]. Тем не менее, она выделяет несколько ключевых позиций: 1. **Прозрачность:** Разработчики должны честно раскрывать, какие наборы данных использовались для обучения [12:49]. 2. **Экономическая база творчества:** Гизе подчеркивает, что авторское право — это основа экономики для журналистов и художников. Если их труд перестанет вознаграждаться, человеческое творчество может иссякнуть, на чем в итоге пострадает и сам ИИ [13:43]. 3. **Маркировка контента:** Обсуждается возможность введения обязательных водяных знаков или других способов идентификации материала, созданного ИИ [23:44]. Депутат сомневается, что компании вроде OpenAI будут полностью переобучать свои модели с нуля, но ожидает, что в будущем они будут уделять гораздо больше внимания качеству и легальности данных [14:24]. ## 🌍 Глобальная конкуренция и «Брюссельский эффект» [[JUMP:15:16]] Существует опасение, что излишне жесткие правила сделают Европу менее привлекательной для инвестиций и технологического развития. Александра Гизе подтверждает наличие такой дискуссии, отмечая, что консервативные круги в ЕС выражают серьезную обеспокоенность [15:42]. Однако Гизе приводит аргументы в пользу европейского подхода: * **Сила рынка:** Евросоюз остается огромным и критически важным рынком для Google, Microsoft и Meta. Поскольку китайский цифровой сектор — это «отдельная вселенная», западные компании будут вынуждены считаться с европейскими правилами [16:32]. * **Правовая определенность:** В отличие от США, где отсутствие законов компенсируется огромными рисками судебных исков о дискриминации, европейское законодательство дает компаниям четкий алгоритм действий [27:43]. * **Ответственность провайдеров:** ЕС хочет переложить бремя ответственности с малого бизнеса, внедряющего ИИ, на крупных разработчиков базовых моделей (например, OpenAI), так как только у последних есть доступ к данным для исправления предвзятости (bias) [26:38]. По словам Гизе, многие коллеги из Конгресса США с интересом следят за действиями Европы и надеются, что AI Act станет моделью для мировых стандартов [16:58]. ## 🔍 Контроль, штрафы и государственное использование [[JUMP:37:19]] Вопрос правоприменения остается открытым. Исполнение закона будет возложено на национальные органы стран-членов ЕС. Например, в Нидерландах это может быть ведомство по защите данных, а в Германии — органы технического аудита [38:02]. **Позиция Гизе по наказаниям и ограничениям:** * **Эффективность штрафов:** Депутат выражает сомнение в том, что денежные штрафы способны остановить техногигантов. Она напоминает, что после наложения штрафа на Facebook акции компании иногда даже росли [39:52]. Настоящим рычагом должно стать давление акционеров, не желающих постоянных нарушений закона [41:10]. * **Военные цели:** Военные разработки не подпадают под действие AI Act [41:39]. * **Защита от слежки:** Парламент настоял на запрете сбора изображений из интернета для систем распознавания лиц (как это делает Clearview AI). По мнению Гизе, это критически важно для безопасности женщин и защиты от сталкеров [42:33]. ## 🔮 Будущее: между оптимизмом и тревогой [[JUMP:54:12]] Александра Гизе признается, что её чувства по поводу будущего ИИ зависят от того, в каком настроении она просыпается по утрам [54:53]. Она одновременно испытывает и оптимизм, и тревогу. **Поводы для оптимизма:** В 2019 году Гизе говорили, что регулировать цифровую сферу невозможно. Однако ЕС принял Digital Services Act (Закон о цифровых услугах) и начал всерьез применять GDPR [55:22]. Депутат считает, что человечество всегда находило способы обуздать последствия индустриализации, и сейчас процесс идет по пути цивилизованного диалога [56:13]. **Поводы для тревоги:** Её пугает концентрация власти в руках нескольких компаний, потенциал ИИ для экологического кризиса и использование технологий тоталитарными режимами для тотальной слежки [57:06]. В качестве примера реального риска Гизе приводит случай с чат-ботом Snapchat, который в эксперименте Тристана Харриса одобрил планы «13-летней девочки» поехать на выходные к взрослому мужчине, вместо того чтобы вызвать полицию [52:35]. По мнению депутата, безопасность детей оправдывает даже небольшое замедление темпов внедрения технологий в Европе [53:16].