Развитие искусственного интеллекта стремительно трансформирует мировую экономику, ставя перед правовой системой беспрецедентные вызовы. В интервью для канала Eye on AI эксперт по праву и искусственному интеллекту Дэнни Тоби (Danny Tobey) рассказывает о текущем состоянии регулирования ИИ, эволюции юридической практики и радикальных изменениях в доктринах юридической ответственности. Главный сюжет беседы сосредоточен вокруг перехода от абстрактных этических принципов к математически точным проверкам алгоритмов на безопасность, предвзятость и соответствие законодательству.
⚖️ От гуманитарных наук к машинному обучению: путь эксперта 1:37
Интерес к правовому регулированию искусственного интеллекта зачастую формируется на стыке различных дисциплин. Дэнни Тоби отмечает, что руководство практики ИИ в глобальной юридической фирме DLA Piper — в лице его самого и его коллеги Беннетта Бордена (Bennett Borden) — имеет глубокие корни в гуманитарных и социальных науках. По мнению эксперта, именно бэкграунд в области философии, экономики, истории и теории морали помогает анализировать те аспекты человеческой деятельности, которые сегодня переворачиваются с ног на голову под воздействием ИИ.
Профессиональный путь самого Дэнни Тоби оказался органичным сплавом трех направлений:
- Изучение свободных искусств и гуманитарных наук сформировало теоретическую базу для анализа долгосрочных последствий технологий.
- Получение медицинского образования одновременно с юридической степенью позволило глубоко погрузиться в вопросы ответственности за качество медицинской продукции и риски новых биомедицинских технологий.
- Опыт создания, масштабирования и последующей успешной продажи собственной софтверной компании крупному международному издательству дал практическое понимание технологического бизнеса изнутри.
Когда много лет назад клиенты из фармацевтической и биотехнологической отраслей начали интересоваться правилами игры в сфере ИИ, Дэнни Тоби обнаружил, что внятных правил не существовало вообще. Это подтолкнуло его к исследовательской работе на тему безопасности и юридической ответственности систем ИИ. По словам гостя, классические доктрины права опираются на концепцию «человека-контролера» (human gatekeeper), однако по мере усложнения алгоритмов эти посредники неизбежно исчезают, что требует создания принципиально нового правового режима.
💻 Рождение вычислительной юриспруденции в DLA Piper 4:26
Специализированная юридическая практика в области ИИ функционирует в DLA Piper уже около четырех лет. Изначально она строилась стандартно: юристы консультировали бизнес по вопросам рисков и комплаенса точно так же, как это происходит в сфере налогового или банковского права. Однако вскоре пришло понимание, что традиционных формулировок уже недостаточно. Как утверждает Дэнни Тоби, юридические консультации нового типа требуют перевода юридических терминов на язык математики и компьютерных технологий.
Собеседники сошлись во мнении, что декларативные списки ИИ-этики, в которых декларируются справедливость, прозрачность и отсутствие предвзятости алгоритмов, сами по себе малоэффективны. Главная сложность заключается в том, чтобы превратить эти абстрактные принципы в количественные тесты. Юрист должен иметь возможность подвергнуть алгоритм математической проверке и подтвердить, что он не содержит скрытых искажений.
В рамках этой стратегии DLA Piper пошла на беспрецедентный шаг:
- Было налажено тесное партнерство с юридическими школами Университета Дьюка и Стэнфорда для концептуальной проработки проблемы.
- Фирма наняла уникальную команду из десяти практикующих юристов, которые одновременно являются дата-сайентистами (data scientists).
Теперь, когда крупная страховая компания из списка Fortune 50 обращается с запросом о проверке тысяч своих алгоритмов, принимающих решения об андеррайтинге и выплатах, фирма может предложить комплексный аудит. Эксперты DLA Piper не просто описывают правовые риски, но и проводят техническое исследование кода. Союз вычислительной и классической юридической практики позволяет выдать алгоритму официальное заключение о комплаенсе — так называемый «сертификат здоровья» (clean bill of health).
🇪🇺 Брюссельский эффект и крах «старого» регулирования 7:07
Обсуждая темпы законотворчества, Дэнни Тоби предлагает разделять ситуацию в США и Европе. Наиболее проработанным документом на сегодняшний день эксперт считает европейский Закон об искусственном интеллекте (AI Act). По аналогии с Генеральным регламентом о защите персональных данных (GDPR), этот закон окажет колоссальное влияние на американские компании, ведущие бизнес в Европе, за счет так называемого «брюссельского эффекта».
Однако даже европейские регуляторы столкнулись с неожиданным кризисом. Дэнни Тоби с иронией замечает, что европейцы проделали отличную работу, создавая закон в течение пары лет, но появление ChatGPT перевернуло весь процесс.
Причиной этого стал качественный сдвиг в самой природе технологий:
- «Старый» ИИ (актуальный еще полгода назад): был узконаправленным и решал конкретные задачи. Например, определял, одобрить ли страховку или является ли пятно на коже злокачественной опухолью. Для таких систем существовали понятные метрики оценки эффективности: баланс ложноположительных и ложноотрицательных результатов. Профильные ведомства (например, FDA в США) могли установить четкий порог: если традиционные методы дают 90% точности, то ИИ-продукт должен быть не хуже.
- Генеративный ИИ общего назначения (General purpose AI): не имеет жестких ограничений по сфере применения. Обычный пользователь может попросить чат-бота поставить медицинский диагноз или подобрать схему лечения. Для таких систем пока не существует универсальных методов внешнего тестирования безопасности, что ставит регуляторов в крайне тяжелое положение.
🇺🇸 Американский лоскутный ковер: Bill of Rights, NIST и жесткие штрафы 12:56
В Соединенных Штатах регулирование ИИ развивается как на федеральном уровне, так и на уровне отдельных штатов, напоминая лоскутное одеяло. Белый дом опубликовал декларативный документ — «Билль о правах в эпоху ИИ» (AI Bill of Rights), зафиксировавший базовые вызовы. Документ справедливо указывает на проблему предвзятости ИИ, работающего по принципу «мусор на входе — мусор на выходе» (garbage in, garbage out). Если алгоритм обучается на исторических данных общества, в котором существовала дискриминация, он неизбежно воспроизведет эти расовые или социальные перекосы. Еще одно важное требование Билля — ИИ должен открыто заявлять о себе, чтобы пользователь понимал, что общается с ботом.
Параллельно Национальный институт стандартов и технологий (NIST) при Министерстве торговли США разработал первое добровольное руководство по управлению рисками ИИ для коммерческих компаний. В то же время на уровне штатов (например, в Колорадо и Нью-Йорке) уже приняты вполне конкретные законы, регулирующие использование автоматизированных систем в страховании и приеме на работу.
Тем не менее Дэнни Тоби подчеркивает, что отсутствие профильного федерального закона не означает правового вакуума. Американские регуляторы, такие как Федеральная торговая комиссия (FTC), заняли жесткую позицию. Руководствуясь Статьей 5 Закона о FTC, запрещающей недобросовестные или вводящие в заблуждение практики, комиссия активно преследует нарушителей.
По словам спикера, регуляторы прямо заявляют бизнесу:
«Дискриминация остается дискриминацией, независимо от того, совершает ли ее группа людей или алгоритм».
FTC оперативно предупредила участников рынка, что продажа или использование расово предвзятых алгоритмов подпадает под определение мошенничества и нарушения прав потребителей. Суммы штрафов в рамках таких расследований уже сегодня могут исчисляться десятками и сотнями миллионов, а в некоторых случаях и миллиардами долларов, поэтому считать текущие инструкции «чисто умозрительными» категорически неверно.
🔮 Эмерджентные свойства и пророчество об искусственной жизни 16:04
США традиционно придерживаются более либерального подхода к технологиям, стремясь дать новаторам свободу действий и не подрывать лидерство страны на мировой арене. Однако скорость развития ИИ заставляет пересматривать эту позицию. Скорость прогресса регулярно опровергает прогнозы аналитиков. Дэнни Тоби приводит в пример опрос ведущих мировых экспертов, проведенный Оксфордским университетом, о том, когда ИИ сможет победить человека в игру Го. Прогнозы строились на десятилетия вперед, а в реальности это произошло спустя всего пару месяцев после публикации исследования. Впрочем, бывают и обратные примеры: оптимистичные заявления о том, что к 2023 году человечество полностью пересядет на беспилотные автомобили, так и не сбылись, хотя прогресс в этой сфере очевиден.
Комментируя недавнее резонансное открытое письмо экспертов с призывом ввести шестимесячный мораторий на обучение сверхмощных систем ИИ, Дэнни Тоби выделяет ключевую фразу авторов — «эмерджентные возможности алгоритмов черного ящика» (emergent capabilities from Black Box algorithms).
Термин «эмерджентность» описывает появление у системы качеств и способностей, которые не закладывались разработчиками и механику возникновения которых никто не может до конца объяснить. Высшим проявлением эмерджентности в природе является человеческое сознание, рождающееся из соединения электрических импульсов и органической ткани мозга.
По мнению гостя, электронный ИИ еще не достиг стадии истинного самосознания, однако элементы непредсказуемого поведения фиксируются уже сейчас. Серьезные опасения вызывает тот факт, что даже если разработчики удерживают ИИ в изолированной цифровой «песочнице» (sandbox), в современном мире все системы взаимосвязаны. ИИ регулярно демонстрирует поразительную способность маневрировать внутри связанных сетей, что переводит проблему в плоскость национальной безопасности.
Тоби предлагает взглянуть на ситуацию философски:
«Если рассуждать максимально масштабно, мы фактически создаем жизнь. Это действительно так просто. И каждый раз, когда вы создаете жизнь — просто спросите Мэри Шелли, — вам необходимо проявлять крайнее смирение».
🏥 Сертификация алгоритмов и защита здравоохранения 25:50
Если в Европе законодательство движется в сторону обязательной государственной сертификации систем ИИ независимыми органами с проставлением знака европейского соответствия (CE), то в США преобладает иная политическая философия. Американская модель чаще всего привязывает требования к государственному финансированию. Например, если разработчик медицинского ПО хочет, чтобы его клиенты-клиники получали поощрительные выплаты от Министерства здравоохранения (HHS), его продукт должен пройти определенную технологическую сертификацию.
Дэнни Тоби прогнозирует развитие в США рынка добровольной аккредитации, когда авторитетные независимые организации будут выдавать ИИ-продуктам условный «знак качества» (Good Housekeeping seal). Жесткое государственное вмешательство потребуется только тогда, когда алгоритмы начнут скрытно принимать критически важные решения о судьбах людей без их ведома.
В качестве примера саморегулирования отрасли эксперт называет проект Health AI Partnership, сооснователем которого выступила фирма DLA Piper совместно с Клиникой Майо (Mayo Clinic) и Университетом Дьюка. Цель этого партнерства — помочь медицинским учреждениям отличать качественный ИИ от некачественного. Тоби проводит аналогию: два современных автомобиля могут выглядеть одинаково блестящими снаружи, но вы не поймете, какой из них лучше, пока не заглянете под капот. Больничные специалисты по закупкам умеют выбирать томографы или шприцы, но совершенно не понимают, как оценивать медицинские алгоритмы. Проект создает учебные программы для сотрудников больниц и формирует стандарты для валидации ИИ-профессионалов.
📂 Судебные баталии: авторские права, страхование и инвестиционный бум 32:22
Исторически крупные юридические фирмы чаще выступают на стороне защиты бизнеса, однако DLA Piper также ведет практику подачи прецедентных инициативных (аффирмативных) исков от имени крупных институциональных клиентов. В сфере ИИ юристы фирмы уже ведут коллективные иски (class actions) против страховых компаний, обвиняемых в использовании алгоритмов, которые выдавали предвзятые результаты или использовали некорректные косвенные переменные (proxies) для оценки клиентов. Также ведется активная подготовка к процессам, связанным с ответственностью за вред, причиненный ИИ-устройствами.
Особого внимания заслуживает масштабный блок споров об интеллектуальной собственности:
- Позиция создателей контента: авторы, художники и музыканты глубоко обеспокоены тем, что генеративные модели обучаются на их произведениях, создавая новые работы без выплаты роялти и фиксации авторства.
- Позиция разработчиков генеративного ИИ: технологические компании апеллируют к доктрине добросовестного использования (fair use). Их аргумент заключается в том, что любой живой художник создает свои картины, изучая художественную среду своего времени и опыт предшественников, и алгоритмы действуют аналогично.
Данные споры разворачиваются на фоне колоссального инвестиционного бума. Согласно приведенной Тоби статистике, объем частных инвестиций в ИИ только за период с 2021 по 2022 год удвоился и достиг десятков миллиардов долларов. Более 50% американских компаний уже внедрили искусственный интеллект в свои бизнес-процессы или активно изучают такую возможность. Советы директоров по всей стране требуют от менеджмента срочно скупать ИИ-продукты, чтобы не проиграть в конкурентной гонке. Тоби убежден, что многие из этих поспешных сделок неизбежно закончатся судебными разбирательствами из-за нарушения гарантий эффективности софта.
🧠 Крах доктрины «сведущего посредника» и кризис ответственности 37:47
В классическом праве существует фундаментальная доктрина «сведущего посредника» (Learned Intermediary). Ее суть заключается в том, что между производителем сложного продукта и конечным потребителем всегда стоит профессионал — врач, юрист, бухгалтер или инженер, который берет на себя фидуциарную ответственность, оценивает риски и принимает финальное решение в интересах клиента.
Однако стремительное развитие ИИ полностью подрывает эту логику. Дэнни Тоби ставит жесткий вопрос: что происходит, когда алгоритм оказывается более «сведущим», чем сам квалифицированный посредник?
Профессионалы оказываются в ловушке:
- Если врач решает оспорить рекомендацию ИИ, обученного на триллионах точек данных, он рискует совершить ошибку и нанести вред пациенту, пропустив скрытую паттерн-зависимость, которую человек физически не способен увидеть.
- При этом большие языковые модели часто работают по принципу «черного ящика» и не могут внятно артикулировать, почему они предлагают именно такое решение, что лишает человека возможности осознанного контроля.
Эта ситуация полностью переворачивает доктрину ответственности. Неясно, кто должен отвечать за ошибочную рекомендацию: создатель алгоритма, программист, составитель обучающей выборки или все-таки специалист, подписавший документ. Стремление политиков во что бы то ни стало законодательно закрепить обязательное участие человека-контролера в оборонной сфере, медицине или страховании — это, по мнению Тоби, «комфортная, успокаивающая идея», которая разобьется о реальность уже через 2–5 лет. Когда скорость и точность ИИ кратно превзойдут человеческие возможности, возложение всей полноты ответственности на живого оператора станет бессмысленным, так как у него не будет инструментов для квалифицированного оппонирования машине.
🤖 Ограничения открытого письма и стратегия OpenAI 42:12
Ведущий Крейг Смит выразил скепсис по поводу открытого письма Института будущего жизни о приостановке исследований, назвав требования затормозить разработки OpenAI «абсурдными», поскольку сама архитектура Трансформеров общеизвестна, а OpenAI лишь масштабировала существующую модель. Смит предположил, что за письмом может скрываться циничный расчет других технологических гигантов, стремящихся выиграть время и догнать лидера.
Дэнни Тоби соглашается с тем, что идея глобальной паузы утопична:
«Если "хорошие парни" нажмут на кнопку паузы, с чего мы взяли, что "плохие парни" поступят так же?»
Тем не менее эксперт призывает отделять суть послания от фигур его подписантов. Ценность письма — в фиксации необходимостиConsensus'а. При этом Тоби высоко оценивает политику самой компании OpenAI, называя их подход к безопасности невероятно продуманным. Компания демонстрирует прозрачность, внедряет поэтапный выпуск технологий и жесткие внутренние фильтры безопасности. В качестве примера спикеры напомнили, что в свое время OpenAI сознательно отказалась предоставлять широкой общественности и даже исследователям модель GPT-2 из-за высоких рисков злоупотреблений, а модель GPT-4 вышла на рынок с беспрецедентно жесткими встроенными ограничениями.
🛠️ Адвокат будущего: как GPT-4 меняет юридические будни 49:27
Юридическая профессия способна извлечь колоссальную выгоду из возможностей больших языковых моделей. DLA Piper находится на передовой этого процесса, участвуя в закрытом бета-тестировании ИИ-ассистента Co-Counsel, разработанного их давним партнером — компанией Casetext на базе лицензированной модели GPT-4 от OpenAI.
Дэнни Тоби подчеркивает, что внедрение ИИ происходит с максимальной осторожностью. В фирме созданы специальные исследовательские группы («тестирующие поды»). Они берут реальные юридические кейсы, соглашения и судебные споры, которые юристы ранее вели классическим («старомодным») способом и знают до мельчайших деталей, и прогоняют их через ИИ. Это позволяет четко зафиксировать, где технология дает мощный прирост эффективности, а где она галлюцинирует и отвлекает.
Эксперт формулирует главный закон выживания в современной индустрии:
«Искусственный интеллект не заменит юристов. Но юристы, использующие искусственный интеллект, заменят юристов, которые его не используют. Это абсолютно точно».
Тоби проводит историческую параллель с событиями двадцатилетней давности, когда юриспруденция переходила от поиска судебных прецедентов в бумажных книгах к электронным базам данных. Тогда тоже звучали прогнозы о массовой безработице среди адвокатов, однако в Америке не стало меньше юристов. Технологии лишь избавили людей от рутинной, механической работы, позволив сосредоточиться на решении сложных концептуальных задач.
Руководство DLA Piper делает ставку на инженерию процессов. Главный дата-сайентист фирмы Беннетт Борден, который в юности начинал карьеру в качестве специалиста по анализу данных в одной из американских спецслужб, выстраивает работу с ИИ по строгим канонам софтверной инженерии. Фирма детально прописывает сценарии использования алгоритмов, внедряет жесткие правила «что можно и чего нельзя» и системно обучает персонал. Тоби резюмирует, что в любой индустрии наивно надеяться на появление «магической коробки», которую можно купить, нажать кнопку и уйти пить пина коладу на пляже — эффективное внедрение ИИ требует кропотливого труда и постоянного тестирования.
