# Экс-глава Google Эрик Шмидт о прогрессе китайских моделей и угрозе автономного оружия

Источник: https://www.youtube.com/watch?v=9zunASefVas
Канал: Wes Roth
Опубликовано: 01.12.2024

---

Бывший генеральный директор Google Эрик Шмидт выразил серьезную обеспокоенность стремительным прогрессом Китая в области искусственного интеллекта и потенциальными угрозами, которые несет бесконтрольное развитие автономного оружия. В ходе обсуждения с Уэсом Ротом и в интервью на «Professor G Show» Скотта Галлоуэя, Шмидт подчеркнул, что технологический разрыв между США и КНР сократился до критического минимума, а мир стоит на пороге появления неуправляемых «армий» ИИ-агентов.

## 🇨🇳 Прорыв DeepSeek и конец американского доминирования
[[JUMP:0:38]]

Одной из главных тем обсуждения стал недавний релиз китайской модели DeepSeek R1. Это событие, по мнению Уэса Рота, перевернуло представление о лидерстве США в области ИИ [0:38].

*   **Технологический скачок:** Модель DeepSeek R1 показала результаты, сопоставимые с новейшей моделью OpenAI o1 (известной своими способностями к логическому рассуждению) [0:52].
*   **Секретный ингредиент:** Китайским разработчикам удалось воспроизвести технологию «test-time compute» (вычисления во время логического вывода). Вместо того чтобы выдавать мгновенный ответ, модель тратит дополнительные ресурсы на «размышление», используя так называемые «токены мысли» (thought tokens) [1:06].
*   **Эффективность:** Аналогия Рота: если дать человеку на решение сложной задачи не одну секунду, а час или день, результат будет точнее. ИИ теперь работает по тому же принципу, значительно улучшая показатели в математике и программировании [1:20].
*   **Сокращение дистанции:** Эрик Шмидт признался, что ранее считал Китай отстающим от США на 2–3 года. Однако после выхода последних открытых библиотек и моделей (таких как Qwen от Alibaba и DeepSeek), он пришел к выводу, что разрыв сократился до одного года или даже меньше [5:43].

По словам Шмидта, китайские модели теперь не просто копируют западные аналоги, но в некоторых случаях превосходят их, например, конкурируя с Llama 3 от Meta [5:29].

## ⚔️ ИИ на поле боя: От роботов-крокодилов до автономных убийц
[[JUMP:6:37]]

Обсуждение коснулось пугающих перспектив милитаризации ИИ. Уэс Рот продемонстрировал кадры современных разработок, которые напоминают сценарии из фильма «Терминатор» [6:37].

1.  **Автономные системы:** Роботизированные собаки, способные бесшумно подплывать к цели подобно крокодилам, и дроны-камикадзе, несущие до 500 кг тротила [7:04].
2.  **Первые жертвы:** Рот напомнил, что первый зафиксированный случай убийства человека автономным дроном без участия оператора и «кнопки отмены» произошел еще в 2020 году [7:31].
3.  **Интеграция с ВПК:** Компания Anthropic (создатель модели Claude) уже начала официальное сотрудничество с военными ведомствами США [7:58].

Эрик Шмидт, имеющий опыт работы в Министерстве обороны США, настаивает на необходимости международных договоров по ИИ, проводя аналогию с ядерным сдерживанием [10:50].

*   **Исторический контекст:** Между применением атомной бомбы в 1945 году и первыми соглашениями об ограничении вооружений прошло 15 лет. Шмидт опасается, что у человечества нет столько времени в случае с ИИ [11:15].
*   **Предложение Шмидта:** Заключить договор, запрещающий использование полностью автономных систем вооружения. По его мнению, любое решение о применении силы в конфликте должно приниматься и подтверждаться человеком (принцип «human-in-the-loop») [11:41].
*   **Обязанность информировать:** Подписанты должны уведомлять друг друга о тестировании мощных систем на случай, если они выйдут из-под контроля [12:07].

## 👤 Фабрики ботов и цифровая манипуляция
[[JUMP:12:20]]

Другой критической угрозой Шмидт считает возможность массовой генерации убедительных ИИ-персон для манипуляции общественным мнением [12:20].

Шмидт описал демонстрацию технологии, которую он видел в Англии: система получила команду создать профиль 25-летней женщины с двумя детьми и специфическими убеждениями. В считанные секунды код сгенерировал 10 000 уникальных ботов, представляющих все расы, возрасты и демографические группы, но разделяющих одну и ту же заданную точку зрения [13:13].

По утверждению Шмидта, сегодня один человек с обычным ПК может создать армию из 10 000 фейковых инфлюенсеров, которые будут убеждать мир, например, в том, что курение безвредно [14:08]. При этом современные модели (такие как Flux 1.1 Pro) создают изображения и аватары, практически неотличимые от реальных фотографий [12:33].

## 🤖 Эпоха агентов: От чат-ботов к исполнителям
[[JUMP:14:20]]

Шмидт подчеркнул, что мы переходим от ИИ, который просто говорит, к ИИ, который действует — так называемым «агентам» [14:33].

*   **Цепочки действий:** Агентов можно соединять в цепочки. Например, один агент ставит задачу второму, тот — третьему [14:46].
*   **Пример Шмидта:** Пользователь дает одну команду: «Спроектируй самое красивое здание в мире, подай все документы на разрешения, договорись с подрядчиками о цене и распорядись о переводе средств со счета». То, что раньше требовало работы сотен талантливых людей, теперь выполняется одной командой [15:12].
*   **Риски:** Такая концентрация власти и скорости в одних руках может привести к катастрофическим последствиям в случае злоупотреблений [15:25].

## 🧪 Симуляция человечества: Научный прорыв или угроза?
[[JUMP:15:37]]

В завершение Уэс Рот упомянул работы исследователя Джун Сун Пака (Jun sun park), который занимается симуляцией человеческого поведения [15:37].

Пак в интервью каналу a16z рассказал о возможности создания цифровых двойников людей на основе коротких интервью. Эти «генеративные агенты» способны предсказывать, как реальные люди поведут себя в определенных ситуациях или какие убеждения они будут защищать [15:50].

Хотя такие инструменты могут быть полезны для тестирования экономических реформ (например, Банком Англии) или социологических теорий, они также могут быть использованы для создания беспрецедентно точных систем дезинформации [17:48].

Уэс Рот подытожил, что развитие идет к моменту, когда модели будут оптимизировать «стоимость убийства» или эффективность манипуляций, и именно поэтому инициативы Эрика Шмидта по регулированию отрасли становятся жизненно важными [18:41].