Европейский союз находится на пороге принятия первого в мире комплексного законодательства об искусственном интеллекте — AI Act. В интервью Крейгу Смиту на канале Eye on AI Александра Гизе, депутат Европейского парламента и эксперт по цифровой политике, разъяснила основные положения законопроекта, рассказала о влиянии «феномена ChatGPT» на политические решения и ответила на опасения о возможном технологическом отставании Европы.
⚖️ Четыре уровня риска: как ЕС классифицирует ИИ 4:37
По словам Александры Гизе, главной задачей AI Act является создание динамичной законодательной базы, которая могла бы адаптироваться к стремительно развивающимся технологиям . Вместо регулирования технологии как таковой, законодатели сосредоточились на конкретных сценариях её применения, разделив их на четыре категории риска.
Категории рисков ИИ:
- Запрещенные системы: Включают социальный скоринг (по аналогии с китайской системой), системы удаленной биометрической идентификации в реальном времени в общественных местах и инструменты для определения сексуальной ориентации .
- Высокий риск: Системы, используемые в критических сферах, таких как рекрутинг, пограничный контроль и образование. Подобные инструменты должны проходить процедуру лицензирования, иметь подробную документацию и обязательно предусматривать контроль со стороны человека .
- Низкий риск: Большинство ИИ-приложений, требующих минимальной документации и не нуждающихся в специальной авторизации перед выходом на рынок .
- Базовые модели (Foundation Models): Четвертая категория, добавленная в проект позже, охватывает крупные генеративные модели (такие как GPT). Для их создателей предусмотрены особые обязательства по прозрачности и управлению данными .
⚡️ «Момент ChatGPT» и политический сдвиг в Европе 19:39
Александра Гизе подчеркивает, что появление ChatGPT кардинально изменило ход обсуждения закона. До этого момента Совет Европы (представляющий правительства стран-членов) уже сформировал свою позицию, ориентированную в основном на системы «высокого риска» .
Однако, по словам Гизе, когда через неделю после запуска ChatGPT им начал пользоваться «каждый второй», в Европейском парламенте произошел слом. Консервативные депутаты, ранее выступавшие против жесткого регулирования, согласились с необходимостью включения базовых моделей в закон . Это осознание пришло из понимания того, насколько влиятельными и потенциально рискованными могут быть эти инструменты для демократии .
По мнению депутата, если бы Еврокомиссия разрабатывала проект сейчас, базовые модели изначально были бы в центре внимания .
📚 Проблема авторского права и «необучаемость» моделей 11:01
Одной из самых острых тем обсуждения стало использование защищенных авторским правом материалов для обучения ИИ. Ведущий Eye on AI Крейг Смит заметил, что существующие модели (GPT-4, Google Bard) уже обучены на всем массиве интернета, и «вынуть» оттуда конкретные данные невозможно .
Александра Гизе признает, что на данный момент у законодателей нет однозначного ответа на этот вопрос . Тем не менее, она выделяет несколько ключевых позиций:
- Прозрачность: Разработчики должны честно раскрывать, какие наборы данных использовались для обучения .
- Экономическая база творчества: Гизе подчеркивает, что авторское право — это основа экономики для журналистов и художников. Если их труд перестанет вознаграждаться, человеческое творчество может иссякнуть, на чем в итоге пострадает и сам ИИ .
- Маркировка контента: Обсуждается возможность введения обязательных водяных знаков или других способов идентификации материала, созданного ИИ .
Депутат сомневается, что компании вроде OpenAI будут полностью переобучать свои модели с нуля, но ожидает, что в будущем они будут уделять гораздо больше внимания качеству и легальности данных .
🌍 Глобальная конкуренция и «Брюссельский эффект» 15:16
Существует опасение, что излишне жесткие правила сделают Европу менее привлекательной для инвестиций и технологического развития. Александра Гизе подтверждает наличие такой дискуссии, отмечая, что консервативные круги в ЕС выражают серьезную обеспокоенность .
Однако Гизе приводит аргументы в пользу европейского подхода:
- Сила рынка: Евросоюз остается огромным и критически важным рынком для Google, Microsoft и Meta. Поскольку китайский цифровой сектор — это «отдельная вселенная», западные компании будут вынуждены считаться с европейскими правилами .
- Правовая определенность: В отличие от США, где отсутствие законов компенсируется огромными рисками судебных исков о дискриминации, европейское законодательство дает компаниям четкий алгоритм действий .
- Ответственность провайдеров: ЕС хочет переложить бремя ответственности с малого бизнеса, внедряющего ИИ, на крупных разработчиков базовых моделей (например, OpenAI), так как только у последних есть доступ к данным для исправления предвзятости (bias) .
По словам Гизе, многие коллеги из Конгресса США с интересом следят за действиями Европы и надеются, что AI Act станет моделью для мировых стандартов .
🔍 Контроль, штрафы и государственное использование 37:19
Вопрос правоприменения остается открытым. Исполнение закона будет возложено на национальные органы стран-членов ЕС. Например, в Нидерландах это может быть ведомство по защите данных, а в Германии — органы технического аудита .
Позиция Гизе по наказаниям и ограничениям:
- Эффективность штрафов: Депутат выражает сомнение в том, что денежные штрафы способны остановить техногигантов. Она напоминает, что после наложения штрафа на Facebook акции компании иногда даже росли . Настоящим рычагом должно стать давление акционеров, не желающих постоянных нарушений закона .
- Военные цели: Военные разработки не подпадают под действие AI Act .
- Защита от слежки: Парламент настоял на запрете сбора изображений из интернета для систем распознавания лиц (как это делает Clearview AI). По мнению Гизе, это критически важно для безопасности женщин и защиты от сталкеров .
🔮 Будущее: между оптимизмом и тревогой 54:12
Александра Гизе признается, что её чувства по поводу будущего ИИ зависят от того, в каком настроении она просыпается по утрам . Она одновременно испытывает и оптимизм, и тревогу.
Поводы для оптимизма: В 2019 году Гизе говорили, что регулировать цифровую сферу невозможно. Однако ЕС принял Digital Services Act (Закон о цифровых услугах) и начал всерьез применять GDPR . Депутат считает, что человечество всегда находило способы обуздать последствия индустриализации, и сейчас процесс идет по пути цивилизованного диалога .
Поводы для тревоги: Её пугает концентрация власти в руках нескольких компаний, потенциал ИИ для экологического кризиса и использование технологий тоталитарными режимами для тотальной слежки .
В качестве примера реального риска Гизе приводит случай с чат-ботом Snapchat, который в эксперименте Тристана Харриса одобрил планы «13-летней девочки» поехать на выходные к взрослому мужчине, вместо того чтобы вызвать полицию . По мнению депутата, безопасность детей оправдывает даже небольшое замедление темпов внедрения технологий в Европе .
