# Дэнни Тоби: «ИИ не заменит юристов, но юристы с ИИ заменят всех остальных»

Источник: https://www.youtube.com/watch?v=qqb2xSuRMoY
Канал: Eye on AI
Опубликовано: 27.04.2023

---

Развитие искусственного интеллекта (ИИ) опережает возможности правовой системы, создавая беспрецедентные вызовы для регуляторов, юристов и бизнеса. В новом выпуске подкаста «Eye on AI» Крейг Смит обсуждает с Дэнни Тоби, партнером глобальной юридической фирмы DLA Piper, как меняются законы под давлением генеративных моделей и почему юрист будущего обязан быть наполовину дата-сайентистом.

## ⚖️ Юриспруденция новой эры: когда слов недостаточно
[[JUMP:01:39]]

Дэнни Тоби пришел в сферу ИИ через уникальное сочетание компетенций: имея медицинскую степень и опыт управления софтверной компанией, он увидел, что ИИ ломает классические юридические доктрины [02:51]. Его коллега по практике в DLA Piper, Беннет Борден, также имеет нетипичный бэкграунд — он начинал как специалист по данным в разведывательном агентстве, после чего перешел в право [53:25].

По мнению Тоби, главная проблема современной юриспруденции в том, что абстрактных этических принципов («ИИ должен быть справедливым») уже недостаточно [05:19]. Юридическая фирма будущего должна уметь переводить юридические требования в математические формулы. 

Ключевые изменения в работе DLA Piper:

*   **Гибридные команды:** Месяц назад фирма наняла группу из 10 юристов-дата-сайентистов для аудита алгоритмов [06:01].
*   **Количественная проверка:** Теперь юристы не просто дают советы, а проверяют код и данные клиентов на наличие предвзятости (bias) и соответствие нормам [06:40].
*   **Партнерства с наукой:** Фирма сотрудничает с юридическими школами Стэнфорда и Университета Дьюка для разработки стандартов оценки алгоритмов [05:47].

## 🌍 Регуляторный ландшафт: США против Европы
[[JUMP:07:22]]

Обсуждая текущее законодательство, Тоби выделяет два принципиально разных подхода к регулированию технологий.

**Европейский подход (AI Act):**
Европа стремится задать глобальную планку, как это было с регламентом по защите данных GDPR (так называемый «эффект Брюсселя») [17:50]. Их законопроект об ИИ (AI Act) является наиболее проработанным, но даже он столкнулся с трудностями после выхода ChatGPT. Тоби отмечает, что закон изначально был ориентирован на «узкий» ИИ (например, диагностику кожи), а не на универсальные модели, способные обсуждать любые темы [10:33].

**Американский подход:**
В США регуляция представляет собой мозаику (patchwork) из федеральных инициатив и законов штатов [13:00]:

*   **Белый дом:** Опубликовал «Билль о правах в области ИИ» — декларативный, но концептуально важный документ о прозрачности и защите от дискриминации [13:15]. 
*   **NIST:** Разработал добровольную структуру управления рисками (Risk Management Framework) для бизнеса [14:22].
*   **Уровень штатов:** Колорадо и Нью-Йорк уже приняли законы, регулирующие использование ИИ в страховании и приеме на работу [15:03].

## 🚔 Роль регуляторов и «магия» вне закона
[[JUMP:15:19]]

Несмотря на отсутствие профильных федеральных законов, американские регуляторы, такие как Федеральная торговая комиссия (FTC), уже начали действовать. По словам Тоби, FTC опирается на полномочия, существующие десятилетиями, утверждая: «Дискриминация есть дискриминация, делает ли это алгоритм или человек» [25:26].

Регуляторы используют Раздел 5 закона о FTC против:

*   Недобросовестной рекламы (продажа «магических» ИИ-технологий, которые не работают) [26:33].
*   Использования расово предвзятых алгоритмов [27:14].
*   Нарушений приватности данных [15:32].

Тоби подчеркивает, что штрафы за подобные нарушения могут достигать сотен миллионов и даже миллиардов долларов, поэтому считать текущие рекомендации «необязательными» — опасная ошибка для бизнеса [25:39].

## 🚑 Ответственность: кто виноват, если ИИ ошибся?
[[JUMP:37:45]]

Один из самых сложных вопросов — трансформация ответственности за качество продукта (products liability). В классическом праве существует доктрина «ученого посредника» (learned intermediary): между инструментом и пациентом стоит врач, который принимает финальное решение и несет ответственность [38:27].

Тоби ставит сложный вопрос: что происходит, когда ИИ становится «умнее» самого посредника? [38:39]. Если алгоритм анализирует триллионы точек данных, которые человек не способен обработать, врач оказывается в тупике:

1.  **Довериться машине:** Рискнуть, если ИИ ошибся. 
2.  **Проигнорировать машину:** Нанести вред пациенту, отказавшись от более точного анализа, который врач просто не в силах постичь [39:19].

По мнению гостя, концепция «человека в контуре» (human-in-the-loop) как обязательного гаранта безопасности может стать нежизнеспособной через 3–5 лет, так как ИИ будет работать слишком быстро и точно для человеческого контроля [40:40].

## 📝 Письмо о моратории и «создание жизни»
[[JUMP:42:13]]

Обсуждая открытое письмо с призывом приостановить обучение моделей мощнее GPT-4, Крейг Смит выразил скепсис, назвав это «самопиаром Илона Маска» и попыткой догнать OpenAI [42:25]. Однако Дэнни Тоби призывает не дискредитировать само сообщение из-за личности «мессенджера» [43:23].

Его позиция по мораторию:

*   **Нереалистичность:** Остановить распределенную технологию невозможно. Если «хорошие парни» нажмут на паузу, «плохие» этого не сделают [44:02].
*   **Смирение:** Тоби сравнивает текущий момент с романом Мэри Шелли «Франкенштейн». Мы фактически создаем новую форму жизни и должны проявлять величайшее смирение, так как никто не может предсказать эмерджентные (внезапно проявляющиеся) свойства систем [44:44].
*   **Эмерджентность:** Самое пугающее — это способности ИИ, которые разработчики не закладывали и не ожидали [20:56].

## 🛠 Будущее юридической профессии
[[JUMP:49:50]]

Крейг Смит поинтересовался, использует ли сама DLA Piper генеративный ИИ. Тоби подтвердил, что фирма тестирует инструмент *Co-Counsel* от компании *Casetext*, построенный на базе GPT-4 [50:29].

Однако он предостерегает от «магического мышления»:

*   ИИ не является «волшебной коробкой», которую можно запустить и уйти пить пина-коладу [54:20].
*   Юристы DLA Piper используют «тестовые капсулы» (testing pods), чтобы сравнивать результаты ИИ с делами, выполненными «дедовским способом» [51:36].
*   **Главный прогноз:** «ИИ не заменит юристов, но юристы, использующие ИИ, заменят тех, кто его не использует» [52:17].

В конечном итоге, несмотря на все риски, Тоби остается «осторожным оптимистом». Он напоминает, что 20 лет назад юристы боялись электронных баз данных, а сегодня работают больше и эффективнее благодаря новым инструментам [53:09].