Развитие искусственного интеллекта (ИИ) опережает возможности правовой системы, создавая беспрецедентные вызовы для регуляторов, юристов и бизнеса. В новом выпуске подкаста «Eye on AI» Крейг Смит обсуждает с Дэнни Тоби, партнером глобальной юридической фирмы DLA Piper, как меняются законы под давлением генеративных моделей и почему юрист будущего обязан быть наполовину дата-сайентистом.
⚖️ Юриспруденция новой эры: когда слов недостаточно 1:39
Дэнни Тоби пришел в сферу ИИ через уникальное сочетание компетенций: имея медицинскую степень и опыт управления софтверной компанией, он увидел, что ИИ ломает классические юридические доктрины . Его коллега по практике в DLA Piper, Беннет Борден, также имеет нетипичный бэкграунд — он начинал как специалист по данным в разведывательном агентстве, после чего перешел в право .
По мнению Тоби, главная проблема современной юриспруденции в том, что абстрактных этических принципов («ИИ должен быть справедливым») уже недостаточно . Юридическая фирма будущего должна уметь переводить юридические требования в математические формулы.
Ключевые изменения в работе DLA Piper:
- Гибридные команды: Месяц назад фирма наняла группу из 10 юристов-дата-сайентистов для аудита алгоритмов .
- Количественная проверка: Теперь юристы не просто дают советы, а проверяют код и данные клиентов на наличие предвзятости (bias) и соответствие нормам .
- Партнерства с наукой: Фирма сотрудничает с юридическими школами Стэнфорда и Университета Дьюка для разработки стандартов оценки алгоритмов .
🌍 Регуляторный ландшафт: США против Европы 7:22
Обсуждая текущее законодательство, Тоби выделяет два принципиально разных подхода к регулированию технологий.
Европейский подход (AI Act): Европа стремится задать глобальную планку, как это было с регламентом по защите данных GDPR (так называемый «эффект Брюсселя») . Их законопроект об ИИ (AI Act) является наиболее проработанным, но даже он столкнулся с трудностями после выхода ChatGPT. Тоби отмечает, что закон изначально был ориентирован на «узкий» ИИ (например, диагностику кожи), а не на универсальные модели, способные обсуждать любые темы .
Американский подход: В США регуляция представляет собой мозаику (patchwork) из федеральных инициатив и законов штатов :
- Белый дом: Опубликовал «Билль о правах в области ИИ» — декларативный, но концептуально важный документ о прозрачности и защите от дискриминации .
- NIST: Разработал добровольную структуру управления рисками (Risk Management Framework) для бизнеса .
- Уровень штатов: Колорадо и Нью-Йорк уже приняли законы, регулирующие использование ИИ в страховании и приеме на работу .
🚔 Роль регуляторов и «магия» вне закона 15:19
Несмотря на отсутствие профильных федеральных законов, американские регуляторы, такие как Федеральная торговая комиссия (FTC), уже начали действовать. По словам Тоби, FTC опирается на полномочия, существующие десятилетиями, утверждая: «Дискриминация есть дискриминация, делает ли это алгоритм или человек» .
Регуляторы используют Раздел 5 закона о FTC против:
- Недобросовестной рекламы (продажа «магических» ИИ-технологий, которые не работают) .
- Использования расово предвзятых алгоритмов .
- Нарушений приватности данных .
Тоби подчеркивает, что штрафы за подобные нарушения могут достигать сотен миллионов и даже миллиардов долларов, поэтому считать текущие рекомендации «необязательными» — опасная ошибка для бизнеса .
🚑 Ответственность: кто виноват, если ИИ ошибся? 37:45
Один из самых сложных вопросов — трансформация ответственности за качество продукта (products liability). В классическом праве существует доктрина «ученого посредника» (learned intermediary): между инструментом и пациентом стоит врач, который принимает финальное решение и несет ответственность .
Тоби ставит сложный вопрос: что происходит, когда ИИ становится «умнее» самого посредника? . Если алгоритм анализирует триллионы точек данных, которые человек не способен обработать, врач оказывается в тупике:
- Довериться машине: Рискнуть, если ИИ ошибся.
- Проигнорировать машину: Нанести вред пациенту, отказавшись от более точного анализа, который врач просто не в силах постичь .
По мнению гостя, концепция «человека в контуре» (human-in-the-loop) как обязательного гаранта безопасности может стать нежизнеспособной через 3–5 лет, так как ИИ будет работать слишком быстро и точно для человеческого контроля .
📝 Письмо о моратории и «создание жизни» 42:13
Обсуждая открытое письмо с призывом приостановить обучение моделей мощнее GPT-4, Крейг Смит выразил скепсис, назвав это «самопиаром Илона Маска» и попыткой догнать OpenAI . Однако Дэнни Тоби призывает не дискредитировать само сообщение из-за личности «мессенджера» .
Его позиция по мораторию:
- Нереалистичность: Остановить распределенную технологию невозможно. Если «хорошие парни» нажмут на паузу, «плохие» этого не сделают .
- Смирение: Тоби сравнивает текущий момент с романом Мэри Шелли «Франкенштейн». Мы фактически создаем новую форму жизни и должны проявлять величайшее смирение, так как никто не может предсказать эмерджентные (внезапно проявляющиеся) свойства систем .
- Эмерджентность: Самое пугающее — это способности ИИ, которые разработчики не закладывали и не ожидали .
🛠 Будущее юридической профессии 49:50
Крейг Смит поинтересовался, использует ли сама DLA Piper генеративный ИИ. Тоби подтвердил, что фирма тестирует инструмент Co-Counsel от компании Casetext, построенный на базе GPT-4 .
Однако он предостерегает от «магического мышления»:
- ИИ не является «волшебной коробкой», которую можно запустить и уйти пить пина-коладу .
- Юристы DLA Piper используют «тестовые капсулы» (testing pods), чтобы сравнивать результаты ИИ с делами, выполненными «дедовским способом» .
- Главный прогноз: «ИИ не заменит юристов, но юристы, использующие ИИ, заменят тех, кто его не использует» .
В конечном итоге, несмотря на все риски, Тоби остается «осторожным оптимистом». Он напоминает, что 20 лет назад юристы боялись электронных баз данных, а сегодня работают больше и эффективнее благодаря новым инструментам .
