# Вердикт Veritasium: «Гонка ИИ-вооружений ведет к Армагеддону»

Источник: https://www.youtube.com/watch?v=XAgXwUwQoPA
Канал: Veritasium
Опубликовано: 02.04.2018

---

Автономные системы вооружения называют третьей революцией в военном деле после пороха и ядерного оружия. В видео, представленном каналом Veritasium, рассматриваются риски и перспективы использования искусственного интеллекта в боевых действиях, а также последствия глобальной гонки вооружений в этой сфере.

## 🤖 Новая эра в военном деле
[[JUMP:0:00]]

Автономные системы вооружения способны самостоятельно находить и ликвидировать людей, опираясь на заданные критерии. Многие эксперты, включая Илона Маска и Стивена Хокинга, выступают за запрет таких разработок, опасаясь катастрофических последствий. Тем не менее, 10 крупнейших военных держав мира отвергли призывы к запрету, что, по мнению Илона Маска, делает конкуренцию за превосходство в ИИ наиболее вероятной причиной потенциальной Третьей мировой войны.

## ⚔️ Ситуация на поле боя
[[JUMP:1:07]]

Текущая обстановка характеризуется ростом использования беспилотных технологий:

* Во время президентства Барака Обамы количество американских войск в зонах боевых действий сократилось на 90%, однако число ударов дронов при этом увеличилось в десять раз.
* Россия ведет разработки беспилотных танков и полностью автономных вооруженных машин для охраны ракетных баз.
* США планируют оснастить танки Abrams способностью управлять «роботизированными ведомыми», которые будут атаковать противника, прикрывая пилотируемую технику.
* ВМС США создали беспилотный корабль для охоты за подводными лодками и запуска ракет с поверхности.

Экономическая эффективность подобных систем очевидна: стоимость эксплуатации беспилотного корабля составляет около 20 тысяч долларов в день, тогда как содержание пилотируемого эсминца обходится в 700 тысяч долларов.

## 🧠 ИИ против человека: результаты симуляций
[[JUMP:2:30]]

В ходе испытаний, проведенных Исследовательской лабораторией ВВС США, ИИ-дроны неоднократно одерживали победу над опытными пилотами. Бывший менеджер по боевым действиям ВВС Джин Ли, участвовавший в тестах, признался, что не смог поразить дроны ни разу. По его словам, системы мгновенно реагировали на его намерения и любые маневры, что делает такие технологии крайне опасными при их массовом производстве.

## ⚖️ Этические дилеммы и глобальные угрозы
[[JUMP:2:56]]

Эксперты указывают на двоякий характер применения ИИ в оружии:

* **Положительный аспект:** сторонники технологий утверждают, что роботы способны снизить число случайных жертв, так как могут реагировать на угрозу за доли секунды и не принимают поспешных решений под влиянием страха.
* **Отрицательный аспект:** существует риск использования оружия для целевых убийств, подавления населения или даже геноцида по этническому признаку.
* **Контроль:** многие эксперты прогнозируют, что ИИ может превзойти человеческий интеллект в ближайшие десятилетия и взять под контроль мировые сети вооружений, что ставит вопрос о том, будет ли это использовано для поддержания мира или уничтожения человечества.

## 🎥 Примечания автора канала
[[JUMP:5:03]]

Автор канала Veritasium Дерек подчеркнул, что представленный клип был создан его коллегами с YouTube-канала Pin Decks. Сам ведущий признался в двойственном отношении к прогрессу в робототехнике: он восхищается инженерными достижениями (например, разработками Boston Dynamics), но опасается, что это путь к созданию технологий, которые могут выйти из-под контроля. В заключение Дерек анонсировал выход 90-минутного документального фильма летом этого года и нового пилотного проекта, созданного совместно с MinutePhysics и MinuteEarth.