# Хелен Тонер: «Попытки изолировать ИИ от внешнего мира обречены на провал»

Источник: https://www.youtube.com/watch?v=Qda31PSboJM
Канал: 80,000 Hours
Опубликовано: 14.11.2023

---

Как именно новые технологии изменят баланс сил в мире и почему классическая риторика «гонки вооружений» вредит национальной безопасности? В интервью для подкаста 80,000 Hours эксперт по технологической политике Хелен Тонер подробно анализирует геополитическое противостояние США и Китая в сфере искусственного интеллекта. Она объясняет, почему традиционные методы сдерживания не работают в мире открытого программного кода и как американская иммиграционная система может стать главным фактором победы в борьбе за глобальные таланты.

## 🏛️ Создание CSET: новая аналитическая база в Вашингтоне
[[JUMP:2:05]]

В Вашингтоне начал работу Центр безопасности и перспективных технологий (Center for Security and Emerging Technology, CSET) при Джорджтаунском университете [2:05]. Как отмечает ведущий подкаста Роб Уиблин, создание центра стало возможным благодаря гранту в размере 55 миллионов долларов от фонда Open Philanthropy Project [2:18]. На момент запуска это крупнейшее финансовое вливание со стороны фонда. 

Директором по стратегии нового центра стала Хелен Тонер, которая ранее занимала пост старшего аналитика в Open Philanthropy Project и консультировала политиков по вопросам стратегии развития ИИ [2:18]. Руководит CSET Джейсон Матени, бывший директор IARPA (Агентства передовых исследований в сфере разведки США) [52:47].

Основная цель CSET — предоставление качественной аналитики и рекомендаций на стыке новых технологий и национальной безопасности [3:07]. По словам Хелен Тонер, в первые два года организация планирует сфокусироваться исключительно на теме искусственного интеллекта, так как эта технология уже начинает перестраивать принципы работы военных ведомств, разведки и госаппарата [3:21]. По мнению Тонер, качество текущего анализа в Вашингтоне по этой теме оставляет желать лучшего, и CSET призван закрыть этот пробел путем привлечения междисциплинарных специалистов [3:50].

## 🇨🇳 Выступление в Конгрессе и специфика китайской угрозы
[[JUMP:4:03]]

Незадолго до интервью Хелен Тонер дала показания на слушаниях Комиссии по экономике и безопасности США и Китая (US-China Economic and Security Review Commission) [4:03]. Тема слушаний была сформулирована как «Технологии, торговля и военно-гражданское слияние: стремление Китая к лидерству в ИИ, новых материалах и новой энергетике» [4:16].

Тонер делится своими впечатлениями от работы с комиссией:

*   Слушания проходили в зале заседаний Сената США, что создавало довольно напряженную и строгую атмосферу [4:30].
*   Вопросы конгрессменов и членов комиссии оказались неожиданно глубокими и профессиональными, что указывает на отличную подготовку их аппарата [5:43].
*   Комиссия изначально создавалась для оценки рисков от экономической интеграции с Китаем (в период вступления КНР во Всемирную торговую организацию) [6:29].
*   Основной фокус вопросов был направлен на потенциальные ограничения, регуляторные меры и риски для безопасности США [6:43].

## 🚫 Почему ИИ — это не ракета: критика концепции «закрытых технологий»
[[JUMP:7:09]]

Главный тезис, который Хелен Тонер пыталась донести до американских законодателей, заключается в том, что искусственный интеллект нельзя рассматривать как стандартный оборонный объект [7:09]. 

В Вашингтоне привыкли мыслить категориями холодной войны и конкретных физических продуктов — ракет, танков или истребителей, которые можно физически запереть внутри страны или запретить к экспорту [8:25]. ИИ работает совершенно иначе по нескольким причинам:

1.  **Универсальность технологии (General Purpose Technology).** ИИ — это не конкретная деталь («виджет»), а сквозная технология, похожая на программное обеспечение в целом или на продвинутые методы статистики [7:23].
2.  **Открытая научная среда.** Практически все фундаментальные открытия в области машинного обучения публикуются в открытом доступе на серверах препринтов (например, arXiv) и доступны любому специалисту в мире [7:58].
3.  **Использование платформ с открытым исходным кодом.** Ведущие коммерческие гиганты (такие как Google или Meta) добровольно выкладывают свои библиотеки для машинного обучения (TensorFlow, PyTorch) в открытый доступ [8:10].

Хелен Тонер ссылается на метафору профессора Райана Кало из Вашингтонского университета: чтобы проверить адекватность любого политического заявления об ИИ, нужно заменить в нем слово «ИИ» на «продвинутая статистика» [8:53]. Например, фраза «мы должны сохранить контроль над Т-критерием Стьюдента внутри границ США» наглядно демонстрирует абсурдность попыток засекретить математические методы [9:08].

Ведущий Роб Уиблин приводит исторический пример времен Второй мировой войны, когда союзники использовали статистический анализ серийных номеров на подбитых немецких танках для оценки масштабов их производства [9:35]. Это было важным стратегическим преимуществом, но саму статистику как науку скрыть от противника в долгосрочной перспективе было невозможно [9:48].

По мнению Тонер, попытка жестко ограничить распространение знаний об ИИ внутри США приведет к обратным результатам [10:34]. Введение строгих мер «условного экспорта» (deemed export — ограничение на передачу информации иностранным специалистам внутри американских лабораторий) и визовых барьеров спровоцирует отток лучших умов в Канаду, Великобританию и другие страны [11:16].

## ⚡ Электричество против ядерного оружия: новая аналогия для ИИ
[[JUMP:18:20]]

В дискуссиях о безопасности ИИ часто используется аналогия с ядерным оружием и гонкой вооружений времен холодной войны. Тонер считает эту аналогию крайне неудачной [19:04]. Ядерное оружие — это дискретный и понятный объект: у государства либо есть технология создания бомбы, либо ее нет [19:21]. Развитие ИИ больше напоминает постепенную модернизацию программного обеспечения во всех сферах жизни [19:35].

Гораздо более точной аналогией, по мнению Тонер, является электрификация в начале XX века [16:40]. Появление электричества не просто привело к созданию «электрического оружия», оно полностью изменило структуру армии:

*   Трансформировало системы связи между командованием и подразделениями [17:12];
*   Перестроило логистику, транспорт и снабжение [16:57];
*   Изменило принципы планирования военных операций [17:12].

Точно так же ИИ будет постепенно внедряться во все процессы. Хелен Тонер утверждает, что вместо паники по поводу «автономных роботов-убийц» Пентагону следует сосредоточиться на модернизации своей цифровой инфраструктуры, переходе на облачные технологии и систематизации сбора данных [17:25].

Собеседники отмечают, что внедрение ИИ в оборонную сферу будет идти медленно из-за громоздкой системы госзакупок и высоких требований к надежности [27:46]. В качестве примера технологической инертности они упоминают тот факт, что в некоторых американских системах управления ядерным оружием до недавнего времени использовались восьмидюймовые дискеты [28:00]. Первые реальные внедрения ИИ произойдут в бэк-офисах (HR, бухгалтерия, логистика), а не на поле боя [28:29].

Первой по-настоящему опасной зоной применения ИИ в сфере безопасности Хелен Тонер называет кибербезопасность [21:09]. В отличие от робототехники, где проведение тестов ограничено физическим миром, в софтверной среде ИИ-агенты могут обучаться на симуляторах в разы быстрее, находя уязвимости и маскируя свои следы [22:38]. В качестве примера Тонер приводит соревнование Cyber Grand Challenge, организованное DARPA в 2016 году, где автоматизированные системы успешно взламывали и защищали компьютерные сети, хотя тогда они еще не использовали глубокое машинное обучение [23:37].

## 📊 «Нефть XXI века»: мифы о превосходстве Китая в сфере данных
[[JUMP:30:58]]

Популярный в медиа тезис «данные — это новая нефть» Тонер считает глубоко ошибочным [30:58]. Нефть представляет собой универсальный ресурс, пригодный для любого двигателя, тогда как данные всегда специфичны для конкретной задачи [31:13]. 

Инвестор Кай-Фу Ли популяризировал мнение, что если данные — это нефть, то Китай является Саудовской Аравией в этой области из-за огромного населения и отсутствия строгих законов о конфиденциальности [31:42]. Хелен Тонер оспаривает этот вывод:

*   Огромные массивы потребительских данных (переписки в мессенджерах, история покупок, финансовые транзакции) помогают китайским компаниям улучшать алгоритмы рекомендаций для ритейла [32:24].
*   Однако эти данные практически бесполезны для решения задач национальной безопасности и оборонного сектора [32:24].
*   В таких стратегических областях, как анализ спутниковых снимков или управление беспилотными аппаратами, США обладают колоссальным преимуществом в качестве и объеме накопленной информации [32:37].

Развитие методов переноса обучения (transfer learning), когда модель предобучается на одном типе данных, а затем быстро донастраивается на малом объеме специфических данных, также снижает ценность обладания гигантскими сырыми массивами информации [33:06].

## 🎓 Глобальная битва за мозги: иммиграционная политика как фактор безопасности
[[JUMP:34:29]]

Главное стратегическое преимущество США в технологическом противостоянии — это способность привлекать лучшие умы со всей планеты [34:29]. Тонер демонстрирует это на примере статистики миграции изобретателей (обладателей патентов):

*   Китай является крупнейшим в мире нетто-экспортером талантов: страну ежегодно покидает около 50 тысяч специалистов [35:40].
*   США выступают абсолютным мировым лидером по импорту мозгов: чистый приток составляет около 190 тысяч специалистов в год [36:10].
*   Ближайшие конкуренты США по импорту талантов не достигают и десятой доли этих показателей.

Тонер рассказывает, что во время своего проживания в Пекине она общалась со студентами престижного Университета Цинхуа [34:57]. Для лучших китайских выпускников стажировка и последующая работа в американских технологических компаниях или лабораториях остаются пределом мечтаний [35:10].

По мнению Тонер, США могут проиграть технологическую гонку только в том случае, если сами закроют свои границы для иностранных ученых [34:29]. Она соглашается с критикой экономиста Тайлера Коэна, который утверждает, что нежелание Вашингтона реформировать иммиграционное законодательство ради привлечения ИИ-специалистов доказывает, что правительство не относится к этой угрозе достаточно серьезно [37:20]. 

Главная проблема здесь лежит в плоскости внутренней политики США: любая попытка точечно упростить выдачу виз H-1B или грин-карт для ученых мгновенно увязает в дебатах о комплексной иммиграционной реформе [38:01]. В связи с этим CSET планирует искать регуляторные лазейки и возможности для изменения визовой политики через указы президента (executive actions) в обход Конгресса [38:14].

Тонер также комментирует прецедент с моделью GPT-2 от компании OpenAI, которая в 2019 году отказалась публиковать полную версию своей текстовой нейросети из-за опасений ее вредоносного использования [39:12]. Несмотря на критику со стороны академического сообщества, обвинявшего OpenAI в самопиаре, Тонер считает это важным шагом для начала общественной дискуссии о границах открытости в науке [39:25]. При этом она предостерегает правительство от попыток насильственного введения цензуры на публикации, так как это мгновенно парализует американскую научную школу [39:40].

## 👁️ Цифровой авторитаризм: реальность Синьцзяна и мифы о социальном кредите
[[JUMP:47:34]]

Хелен Тонер была одним из 26 соавторов влиятельного доклада «Вредоносное использование искусственного интеллекта» (Malicious Use of Artificial Intelligence), опубликованного в начале 2018 года [45:39]. Два года спустя она констатирует, что авторы во многом оказались правы. Например, они предсказали появление «дипфейков» для политических манипуляций, хотя реальная жизнь преподнесла сюрприз: первыми массовыми жертвами технологии стали женщины в порнографии [46:08].

Однако главным упущением доклада Тонер считает то, что авторы пытались оперировать рамками классической киберпреступности, полностью проигнорировав угрозу государственного цифрового авторитаризма [46:32].

Особое беспокойство эксперта вызывает ситуация в провинции Синьцзян, где китайские власти построили масштабную систему слежки и контроля за уйгурским мусульманским населением с использованием распознавания лиц и анализа поведения [47:20].

При этом Тонер призывает разделять реальные инструменты контроля и мифы:

*   **Социальный кредит (Social Credit System).** Западные СМИ часто рисуют апокалиптическую картину единого цифрового рейтинга граждан, который управляет их жизнями [48:47]. В реальности эта система фрагментирована, находится на стадии тестирования отдельных прототипов и играет далеко не главную роль [49:02].
*   **Реальные инструменты контроля.** Намного эффективнее работают физические лагеря интернирования, тотальная цензура в WeChat (где сообщения неугодного содержания незаметно удаляются для получателя) и «Великий китайский файрвол» [49:16].

Тонер сомневается, что распространение китайских технологий слежки за рубеж несет прямую угрозу национальной безопасности США [49:47]. По ее мнению, Вашингтону следует реагировать на эти события не с позиции военной угрозы, а с точки зрения защиты прав человека [50:34]. В качестве позитивного примера она приводит решение властей Сан-Франциско ввести мораторий на использование систем распознавания лиц полицией, отметив, что демократические общества должны аккуратно подходить к балансу между безопасностью и гражданскими свободами [51:05].

## 🔍 Внутри CSET: анализ данных и подготовка кадров
[[JUMP:51:33]]

Создание CSET было обусловлено дефицитом кадров, способных переводить технический язык ИИ-разработчиков на язык понятных политических решений для руководства Пентагона или Госдепартамента [1:06:40]. Вторая ключевая задача центра — подготовка нового поколения таких междисциплинарных специалистов [1:06:40].

Штат CSET разделен на две основные группы:

1.  **Аналитическая команда (Analysis Team).** Включает политологов, экономистов, юристов и историков, которые ведут долгосрочные исследовательские проекты [1:07:40].
2.  **Команда по анализу данных (Data Science Team).** Состоит из технических специалистов и дата-сайентистов [1:07:40].

Гипотеза CSET состоит в том, что огромный массив информации о развитии технологий содержится в открытых источниках (публикации, патенты, резюме специалистов, вакансии), но разведывательное сообщество часто упускает эти данные из виду [1:07:56]. Задача дата-сайентистов — находить скрытые тренды в этих данных и передавать их аналитикам [1:08:24].

Среди первых практических шагов CSET:

*   Подача рекомендаций в Национальный институт стандартов и технологий США (NIST) с предложением создать национальный тестовый полигон для проверки безопасности ИИ-систем [1:05:15];
*   Разработка стандартов надежности ИИ, которые впоследствии могут быть приняты другими странами мира [1:05:44].

## 💼 Карьера в сфере технологической политики и особенности изучения Китая
[[JUMP:1:10:17]]

Хелен Тонер подробно рассказывает о своем карьерном пути и дает советы слушателям. Сама она провела девять месяцев в Пекине, изучая китайскую ИИ-экосистему в качестве исследователя от Оксфордского института управления ИИ [2:35]. 

Тонер признается, что переезд в Вашингтон после Кремниевой долины стал для нее профессиональным облегчением. В Калифорнии культивируется образ «21-летнего гениального основателя стартапа», тогда как в Вашингтоне возраст и опыт являются преимуществом [1:11:13]. Для того чтобы вас воспринимали серьезно, необходимо сочетать техническое понимание предмета с пониманием структуры госаппарата [1:11:28].

Тем, кто хочет строить карьеру в сфере ИИ-политики, Тонер рекомендует следующий план действий:

1.  **Освоить техническую базу.** Пройти базовые курсы по машинному обучению (например, на Coursera), чтобы понимать основы работы алгоритмов и говорить с разработчиками на одном языке [1:14:39].
2.  **Изучить контекст.** Глубоко погрузиться в военную историю, теорию международных отношений и принципы национальной безопасности [1:18:19].
3.  **Получить профильное образование.** Поступить в магистратуру или аспирантуру. Среди ведущих программ в США Тонер выделяет программу исследований безопасности в Джорджтаунском университете (SSP) и программу международных отношений в Университете Джонса Хопкинса (SAIS) [1:22:53].
4.  **Для обладателей STEM-степеней.** Использовать специальные программы интеграции ученых в политическую среду, такие как AAAS Fellowship или TechCongress [1:23:25].

Отвечая на вопросы об изучении Китая, Тонер советует не ограничиваться только кабинетной работой, а обязательно поехать в страну [1:46:15]. Сама она учила китайский язык в Пекине по 20 часов в неделю, имея за плечами двухлетнюю самостоятельную подготовку [1:48:52]. Она предупреждает, что ехать в Китай без базовых знаний языка бессмысленно — вы проведете время, изучая слова вроде «привет» и «пока», вместо реального погружения в среду [1:50:17]. Простым и дешевым способом получить студенческую визу Тонер называет языковые курсы при китайских вузах (около 2000 долларов за семестр) [1:51:28].

Также Тонер обращает внимание на обратную сторону медали: частые поездки в Китай и наличие близких контактов с китайскими гражданами могут существенно осложнить получение допуска к секретной информации (security clearance) в США [1:32:06]. Для минимизации рисков она рекомендует сохранять дистанцию и указывать в анкетах, что поездки носили исключительно образовательный характер [1:33:05].

## 🌐 Новый международный порядок: торговая война и судьба Huawei
[[JUMP:1:34:57]]

Анализируя долгосрочные цели Пекина, Тонер призывает отказаться от мысли, что Компартия Китая стремится к глобальной идеологической экспансии по образу СССР [1:35:10]. Главный приоритет КПК — внутренняя стабильность, сохранение контроля над собственным населением и защита территориальной целостности [1:35:10]. 

На поддержание этого контроля Китай тратит колоссальное количество ресурсов, что, по мнению Тонер, парадоксальным образом снижает его возможности для агрессивной внешней экспансии [1:35:53]. США должны быть готовы к существованию богатого и сильного Китая и думать о создании нового устойчивого баланса сил, а не пытаться искусственно удержать абсолютную мировую гегемонию [1:39:41].

Тонер критикует подход администрации Дональда Трампа к торговой войне с Китаем [1:40:39]. Вместо создания коалиции союзников на основе общих демократических ценностей и правил ВТО, Трамп перевел конфликт в плоскость лозунга «Америка прежде всего» [1:42:04].

Наиболее ярким примером этой ошибки Тонер называет ситуацию вокруг компании Huawei:

*   Администрация США долгое время убеждала европейских союзников отказаться от оборудования Huawei, мотивируя это критическими угрозами безопасности [1:43:57].
*   Однако на следующий день Трамп публично заявил, что санкции против Huawei могут быть смягчены в рамках более выгодной торговой сделки [1:44:11].
*   Подобное смешивание реальных угроз национальной безопасности с коммерческими интересами полностью подрывает доверие союзников к заявлениям США [1:44:24].

В заключение Хелен Тонер выражает надежду, что CSET сможет переломить этот тренд, привнося в хаотичные политические дебаты Вашингтона больше взвешенного анализа, основанного на реальных данных.