Гонка за «суперинтеллект»: как мир готовится к новой эре AI 0:00
Эксперты в области искусственного интеллекта всё чаще приходят к выводу, что разработка суперинтеллекта (AI, превосходящего человека почти во всех когнитивных задачах) неизбежна и по своей значимости сопоставима с Манхэттенским проектом. Бывший генеральный директор Google Эрик Шмидт, директор Центра безопасности ИИ Дэн Хендрикс и генеральный директор Scale AI Александр Ван представили стратегию, согласно которой мир стоит перед лицом глобальной гонки между демократическими государствами и их оппонентами. Ключевой угрозой эксперты считают возможный дисбаланс сил, который может сделать одну из сторон доминирующей на десятилетия вперёд.
🛡 Концепция MIM: «взаимно гарантированная неисправность ИИ» 4:45
Взамен концепции «взаимно гарантированного уничтожения» (MAD), знакомой по эпохе ядерного противостояния, авторы предлагают новую стратегию — «взаимно гарантированную неисправность ИИ» (Mutual Assured AI Malfunction, MIM). Суть подхода заключается в предотвращении монополии любой страны на сверхмощный ИИ.
- Механизм сдерживания: если одна нация делает агрессивный рывок к одностороннему доминированию, соперники должны применить превентивные меры.
- Методы саботажа: в инструментарий входят кибершпионаж, цифровые диверсии и, в крайнем случае, кинетические удары по дата-центрам, чтобы вывести из строя опасные проекты.
- Цель: создание состояния равновесия, при котором ни одна сторона не может позволить себе бесконтрольный прогресс, не опасаясь ответного удара.
По словам Уэса Рота, эта концепция не означает остановку прогресса. Напротив, это «ограничитель скорости», позволяющий развивать ИИ в русле «приемлемого использования» — например, для научных исследований в медицине (как проект AlphaFold), избегая при этом создания автономного оружия или инструментов для производства биооружия.
📉 Экономическое доминирование и «валюта» чипов 15:28
Чипы для обучения ИИ стали фактически эквивалентом экономической власти. Авторы стратегии указывают на критическую уязвимость западных стран, связанную с Тайванем, производящим большинство передовых процессоров.
- Риски: возможное вторжение или блокада Тайваня лишат Запад доступа к технологическому базису ИИ.
- Китайский фактор: эксперты отмечают, что Китай активно инвестирует в отечественное производство чипов, что делает его более устойчивым к возможным экспортным ограничениям.
- Автоматизация труда: ИИ меняет историческую парадигму влияния наций: теперь мощь государства определяется не только населением, но и наличием парка эффективных «ИИ-агентов», работающих 24/7.
🚨 Угроза автократии и «идеальное наблюдение» 35:52
Одной из самых пугающих перспектив, обсуждаемых в профессиональном сообществе, является использование ИИ для построения «идеальной диктатуры».
- Тотальный контроль: в отличие от классических тоталитарных режимов прошлого, современные алгоритмы позволяют вести мониторинг каждой камеры и каждого действия в режиме реального времени без усталости и моральных ограничений.
- Безопасность: эксперты, включая советника Белого дома Бена Бьюкенена, опасаются, что внедрение ИИ-систем в государственное управление может создать систему контроля, которую будет невозможно свергнуть.
По мнению Дарио Амадеи, лидера Anthropic, именно поэтому крайне важно, чтобы разработка суперинтеллекта проходила в демократических странах, где есть верховенство права и возможность устанавливать «предохранители» на международном уровне.
