Бывший генеральный директор Google Эрик Шмидт выразил серьезную обеспокоенность стремительным прогрессом Китая в области искусственного интеллекта и потенциальными угрозами, которые несет бесконтрольное развитие автономного оружия. В ходе обсуждения с Уэсом Ротом и в интервью на «Professor G Show» Скотта Галлоуэя, Шмидт подчеркнул, что технологический разрыв между США и КНР сократился до критического минимума, а мир стоит на пороге появления неуправляемых «армий» ИИ-агентов.
🇨🇳 Прорыв DeepSeek и конец американского доминирования 0:38
Одной из главных тем обсуждения стал недавний релиз китайской модели DeepSeek R1. Это событие, по мнению Уэса Рота, перевернуло представление о лидерстве США в области ИИ .
- Технологический скачок: Модель DeepSeek R1 показала результаты, сопоставимые с новейшей моделью OpenAI o1 (известной своими способностями к логическому рассуждению) .
- Секретный ингредиент: Китайским разработчикам удалось воспроизвести технологию «test-time compute» (вычисления во время логического вывода). Вместо того чтобы выдавать мгновенный ответ, модель тратит дополнительные ресурсы на «размышление», используя так называемые «токены мысли» (thought tokens) .
- Эффективность: Аналогия Рота: если дать человеку на решение сложной задачи не одну секунду, а час или день, результат будет точнее. ИИ теперь работает по тому же принципу, значительно улучшая показатели в математике и программировании .
- Сокращение дистанции: Эрик Шмидт признался, что ранее считал Китай отстающим от США на 2–3 года. Однако после выхода последних открытых библиотек и моделей (таких как Qwen от Alibaba и DeepSeek), он пришел к выводу, что разрыв сократился до одного года или даже меньше .
По словам Шмидта, китайские модели теперь не просто копируют западные аналоги, но в некоторых случаях превосходят их, например, конкурируя с Llama 3 от Meta .
⚔️ ИИ на поле боя: От роботов-крокодилов до автономных убийц 6:37
Обсуждение коснулось пугающих перспектив милитаризации ИИ. Уэс Рот продемонстрировал кадры современных разработок, которые напоминают сценарии из фильма «Терминатор» .
- Автономные системы: Роботизированные собаки, способные бесшумно подплывать к цели подобно крокодилам, и дроны-камикадзе, несущие до 500 кг тротила .
- Первые жертвы: Рот напомнил, что первый зафиксированный случай убийства человека автономным дроном без участия оператора и «кнопки отмены» произошел еще в 2020 году .
- Интеграция с ВПК: Компания Anthropic (создатель модели Claude) уже начала официальное сотрудничество с военными ведомствами США .
Эрик Шмидт, имеющий опыт работы в Министерстве обороны США, настаивает на необходимости международных договоров по ИИ, проводя аналогию с ядерным сдерживанием .
- Исторический контекст: Между применением атомной бомбы в 1945 году и первыми соглашениями об ограничении вооружений прошло 15 лет. Шмидт опасается, что у человечества нет столько времени в случае с ИИ .
- Предложение Шмидта: Заключить договор, запрещающий использование полностью автономных систем вооружения. По его мнению, любое решение о применении силы в конфликте должно приниматься и подтверждаться человеком (принцип «human-in-the-loop») .
- Обязанность информировать: Подписанты должны уведомлять друг друга о тестировании мощных систем на случай, если они выйдут из-под контроля .
👤 Фабрики ботов и цифровая манипуляция 12:20
Другой критической угрозой Шмидт считает возможность массовой генерации убедительных ИИ-персон для манипуляции общественным мнением .
Шмидт описал демонстрацию технологии, которую он видел в Англии: система получила команду создать профиль 25-летней женщины с двумя детьми и специфическими убеждениями. В считанные секунды код сгенерировал 10 000 уникальных ботов, представляющих все расы, возрасты и демографические группы, но разделяющих одну и ту же заданную точку зрения .
По утверждению Шмидта, сегодня один человек с обычным ПК может создать армию из 10 000 фейковых инфлюенсеров, которые будут убеждать мир, например, в том, что курение безвредно . При этом современные модели (такие как Flux 1.1 Pro) создают изображения и аватары, практически неотличимые от реальных фотографий .
🤖 Эпоха агентов: От чат-ботов к исполнителям 14:20
Шмидт подчеркнул, что мы переходим от ИИ, который просто говорит, к ИИ, который действует — так называемым «агентам» .
- Цепочки действий: Агентов можно соединять в цепочки. Например, один агент ставит задачу второму, тот — третьему .
- Пример Шмидта: Пользователь дает одну команду: «Спроектируй самое красивое здание в мире, подай все документы на разрешения, договорись с подрядчиками о цене и распорядись о переводе средств со счета». То, что раньше требовало работы сотен талантливых людей, теперь выполняется одной командой .
- Риски: Такая концентрация власти и скорости в одних руках может привести к катастрофическим последствиям в случае злоупотреблений .
🧪 Симуляция человечества: Научный прорыв или угроза? 15:37
В завершение Уэс Рот упомянул работы исследователя Джун Сун Пака (Jun sun park), который занимается симуляцией человеческого поведения .
Пак в интервью каналу a16z рассказал о возможности создания цифровых двойников людей на основе коротких интервью. Эти «генеративные агенты» способны предсказывать, как реальные люди поведут себя в определенных ситуациях или какие убеждения они будут защищать .
Хотя такие инструменты могут быть полезны для тестирования экономических реформ (например, Банком Англии) или социологических теорий, они также могут быть использованы для создания беспрецедентно точных систем дезинформации .
Уэс Рот подытожил, что развитие идет к моменту, когда модели будут оптимизировать «стоимость убийства» или эффективность манипуляций, и именно поэтому инициативы Эрика Шмидта по регулированию отрасли становятся жизненно важными .
