Верити Хардинг, директор проекта «ИИ и геополитика» в Кембриджском университете и одна из 100 самых влиятельных персон в сфере искусственного интеллекта по версии журнала Time, представила свою новую книгу «AI Needs You: How We Can Change AI's Future and Save Our Own». В ходе дискуссии в рамках проекта Talks at Google эксперт вместе с президентом Google по региону EMEA Мэттом Бриттином обсудила исторические уроки регулирования прорывных технологий прошлого. По мнению Хардинг, будущее индустрии должно определяться широким общественным консенсусом, а не оставаться исключительной прерогацией технологических гигантов и узкого круга профильных специалистов.
🏛️ От Даунинг-стрит до DeepMind: путь Верити Хардинг в эпицентр ИИ-политики 0:00
Верити Хардинг более десяти лет работает на стыке технологий и государственной политики, пройдя путь от Даунинг-стрит до Давоса, G7 и крупнейших ИТ-лабораторий мира. Ее карьера в политической сфере началась в 2010-х годах с работы советником Ника Клегга, который впоследствии занял пост заместителя премьер-министра Великобритании. Работа в правительстве помогла ей изнутри увидеть процессы принятия решений и зарождающийся конфликт между развитием ИТ и регуляторами.
Как вспоминает Хардинг, в начале 2010-х годов на фоне масштабной революции смартфонов стал очевиден огромный «демократический дефицит». Чиновники, управляющие государством, критически не успевали за развитием технологий и практически не понимали, как функционируют новые цифровые продукты. Стремление исправить эту ситуацию привело Хардинг в Google UK в 2013 году, где она занялась вопросами свободы интернета и защиты свободы слова в Сети.
Новая веха ее карьеры началась в 2014 году, когда Google приобрел британский стартап DeepMind. Увидев знаменитую демонстрацию ИИ, играющего в игры Atari, Хардинг осознала, что базовые гражданские права и свободы в будущем будут напрямую зависеть от траектории развития ИИ. Она лично предложила сооснователю DeepMind Демису Хассабису нанять ее для выработки политической стратегии компании.
Переход в DeepMind совпал с периодом жесткого политического давления на Google из-за проблем с национальной безопасностью и радикализацией контента в интернете. Хардинг рассчитывала, что в лаборатории ИИ ее ждет спокойная академическая работа, поскольку в 2014 году политики еще не обсуждали искусственный интеллект. Однако в день, когда Хассабис окончательно утвердил ее кандидатуру, он направлялся в аэропорт, чтобы лететь в Южную Корею на исторический матч AlphaGo. После победы алгоритма над чемпионом мира поднялась огромная волна ажиотажа, и Хардинг сразу оказалась в центре внимания мировых лидеров, требовавших объяснений от создателей технологии.
Находясь в DeepMind, Хардинг реализовала ряд инициатив:
- Стала сооснователем подразделения DeepMind Ethics and Society, сфокусированного на этических аспективах ИИ.
- Участвовала в создании международной организации Partnership on AI.
- Курировала взаимодействие по вопросам ИИ с международными институтами, включая G7 и ОЭСР.
- Помогла адаптировать этические принципы DeepMind, которые легли в основу официальных принципов Google в области ИИ (Google AI Principles), опубликованных около 2015–2016 годов.
💣 Почему аналогия ИИ с атомной бомбой ошибочна и вредна 10:41
Впоследствии Верити Хардинг перешла в академическую сферу, возглавив проект в Кембридже. По ее признанию, технологической индустрии часто не хватает скромности: разработчики склонны считать, что любая проблема, с которой они сталкиваются, возникает в истории человечества впервые. Имея историческое образование, Хардинг решила проанализировать, как общество справлялось с прошлыми технологическими сдвигами после Второй мировой войны.
В современной публичной дискуссии ИИ регулярно сравнивают с Манхэттенским проектом и созданием ядерного оружия. Хардинг категорически не согласна с подобным сопоставлением и называет аналогию с атомной бомбой неуместной и контрпродуктивной. Эксперт выделяет принципиальные отличия и указывает на опасности такого подхода:
- Разница в целях создания: Ядерное оружие изначально разрабатывалось в условиях войны на государственные средства как инструмент массового поражения. ИИ, напротив, не является оружием по своей сути и не создается для уничтожения людей.
- Игнорирование реальных проблем: Фокус на катастрофических сценариях в духе «Терминатора» и Скайнета отвлекает регуляторов и разработчиков от решения насущных, повседневных проблем применения ИИ.
- Запугивание общества: Распространение пугающих апокалиптических прогнозов приводит к тому, что обычные граждане чувствуют страх, теряют веру в возможность повлиять на ситуацию и полностью отстраняются от дискуссии.
🧪 Уроки ЭКО: как «строгий, но разрешительный» режим спас британскую науку 14:01
В качестве наиболее точной и полезной исторической аналогии для ИИ Хардинг предлагает рассматривать историю появления технологии экстракорпорального оплодотворения (ЭКО) и исследований человеческих эмбрионов. В 1978 году в Великобритании родилась Луиза Джой Браун — первый в мире ребенок, зачатый в пробирке. Это событие вызвало не только радость, но и колоссальную волну страха в обществе: пресса и политики всерьез опасались неконтролируемой генетической инженерии и изменения самой сути человека.
Для решения этой проблемы правительство Маргарет Тэтчер пошло на неординарный шаг, создав независимую междисциплинарную комиссию во главе с баронессой Мэри Уорнок. Уорнок не была биологом — она была профессиональным философом и не имела глубоких научных знаний в биотехе, к тому же они с Тэтчер испытывали взаимную личную неприязнь. Тем не менее, комиссия проделала глубокую работу по изучению общественных настроений и моральных дилемм.
Главным достижением комиссии Уорнок стало внедрение так называемого «правила 14 дней». Согласно ему, любые исследования на человеческих эмбрионах жестко ограничивались первыми двумя неделями после оплодотворения (момент появления первичной полоски). Позже участники комиссии признавали, что цифра 14 не имела под собой абсолютного научного обоснования — это могло быть и 12, и 17 дней. Однако Мэри Уорнок понимала, что обществу нужен четкий, осязаемый guardrail (ограничительный барьер), чтобы люди чувствовали себя в безопасности и видели, что их страхи услышаны.
Это решение столкнулось с серьезным сопротивлением:
- Научное сообщество, включая Королевское общество, выступило резко против ограничений.
- Журнал Nature опубликовал критическую статью, в которой назвал Мэри Уорнок «истеричкой».
- В то же время консервативный политик Енох Пауэлл, поддержанный движением против абортов, попытался через парламент полностью запретить любые исследования эмбрионов.
Осознав угрозу тотального запрета, ученые согласились на компромиссное «правило 14 дней». Дискуссия длилась долго: от рождения Луизы Браун до принятия итогового закона и создания Управления по оплодотворению и эмбриологии человека (HFEA) в 1990 году прошло около 10 лет.
Этот подход Хардинг характеризует как «строгий, но разрешительный» (strict but permissive) режим. Государство установило незыблемую красную линию, но внутри этих границ предоставило науке полную свободу. По словам эксперта, именно это позволило Великобритании построить многомиллиардную индустрию наук о жизни и установить золотой стандарт регулирования. Напротив, в США, где аналогичный федеральный орган так и не был создан, сектор до сих пор страдает от партийной поляризации (например, запрет Джорджа Буша-младшего на исследования стволовых клеток, его последующая отмена Бараком Обамой и недавние судебные ограничения ЭКО в Алабаме).
По мнению Хардинг, ИИ сегодня нуждается в точно таком же подходе: общество должно установить четкие законодательные запреты на неприемлемые варианты использования технологии (например, на распознавание лиц в определенных сферах), дав разработчикам понятные рамки для безопасных инноваций.
🌌 Космическая гонка и уроки дипломатии времен холодной войны 23:52
Второй важной исторической параллелью Хардинг называет освоение космоса. Когда в 1969 году американские астронавты высадились на Луну, они действовали в рамках уже существовавшего Договора о космосе 1967 года, инициированного ООН. Этот документ зафиксировал, что космос является достоянием всего человечества, и ни одна страна не может объявить суверенитет над небесными телами.
Подобное соглашение кажется Хардинг удивительным, учитывая, что оно подписывалось в разгар холодной войны, вскоре после Кубинского ракетного кризиса. По мнению эксперта, и Джон Кеннеди, и Никита Хрущев были настолько потрясены тем, как близко мир подошел к ядерному апокалипсису, что начали искать пути для реального сотрудничества. Советники Кеннеди подтверждали, что перед смертью президент всерьез двигался к идее совместной советско-американской лунной миссии вместо жесткой конкуренции. И хотя совместный полет не состоялся, дипломаты смогли договориться о том, что на орбите не будет размещено ядерное оружие.
Особую роль в успехе космической дипломатии сыграл бэкграунд лидеров того времени. Дуайт Эйзенхауэр и Джон Кеннеди прошли через Вторую мировую войну: Эйзенхауэр командовал войсками союзников и лично видел освобождение концлагерей, а Кеннеди воевал и потерял на фронте брата. По оценке Хардинг, этот опыт сделал их предельно осторожными в вопросах развязывания новых конфликтов.
Когда в 1957 году СССР запустил Спутник-1, вызвав панику среди американской общественности, Эйзенхауэр повел себя хладнокровно: он поздравил советских ученых с достижением и сфокусировался на развитии собственной науки, основав NASA и агентство ARPA (ныне DARPA). Хардинг выражает опасение, что современным мировым лидерам может не хватить подобного хладнокровия при регулировании глобального соперничества в сфере ИИ.
В подтверждение своей мысли о важности гуманистического контроля над технологиями спикер цитирует слова Мартина Лютера Кинга, произнесенные им в Нобелевской лекции 60 лет назад:
«Современный человек вывел весь мир на внушающий трепет порог будущего, но мы не научились простому искусству жить вместе как братья и сестры».
👥 Демократизация ИИ: почему ваше мнение важнее технических знаний 28:57
Главный посыл книги Верити Хардинг заключается в том, что контроль над будущим ИИ нельзя оставлять исключительно на откуп техническим экспертам, разрабатывающим системы уровня Gemini или AlphaFold. В условиях демократии мнение каждого гражданина имеет равный вес, и отсутствие профильного образования в сфере ИТ не должно лишать людей права голоса.
Как утверждает эксперт, обычному человеку не нужно понимать математические алгоритмы или принципы обучения нейросетей, чтобы занимать аргументированную позицию. Гражданам достаточно иметь четкое ценностное представление о том, где они хотят видеть технологии, а где нет. Хардинг приводит примеры таких понятных каждому позиций:
- Поддерживать активное внедрение ИИ в фундаментальную медицину для поиска лекарств от неизлечимых болезней, с которыми столкнулись близкие люди.
- Ограничивать использование ИИ в искусстве, защищая человеческое творчество.
- Выступать против бесконтрольного применения ИИ в школах.
Спикер призывает аудиторию активно использовать доступные демократические инструменты для влияния на ИИ-повестку. Граждане могут писать обращения своим депутатам, требуя от них сформировать внятную государственную политику в отношении технологий. Сотрудники нетехнологических компаний могут входить в корпоративные рабочие группы по внедрению ИИ. Родители имеют полное право протестовать против использования сомнительных автоматизированных систем ИИ для проверки школьных домашних заданий или выявления списывания на экзаменах.
В конечном счете, напоминает Хардинг, политики всегда ориентируются на то, что волнует их избирателей. Если общество преодолеет страх перед технической сложностью ИИ и начнет массово заявлять о своих требованиях, это заставит и правительство, и технологические корпорации развивать искусственный интеллект в интересах всего человечества.
