Шок от Google: Будущее после AGI и путь к суперразуму

Уэс Рот анализирует недавний научный отчет подразделения Google DeepMind, который он называет «безумным» из-за его смелых прогнозов. В то время как мир сосредоточен на достижении базового общего искусственного интеллекта (AGI), ведущие исследователи Google уже планируют переход к искусственному суперразуму (ASI) и теоретическому пределу интеллекта.

🚀 AGI — это не финиш, а стартовый пистолет 0:00

Уэс Рот обращает внимание на то, что работа Google DeepMind «От AGI к ASI» (From AGI to ASI) кардинально отличается от типичных академических текстов . Главный тезис авторов, среди которых сооснователь подразделения Шейн Легг: AGI (интеллект человеческого уровня в одной системе) является лишь началом пути, а не конечной целью развития технологий .

В статье исследуется, как ИИ будет развиваться в эпоху «пост-AGI». По мнению автора видео, поразительно, насколько быстро концепция искусственного разума перешла из разряда научной фантастики в категорию квартальных корпоративных целей крупнейших техногигантов .

Основные уровни интеллекта, рассматриваемые в работе:

• AGI (Artificial General Intelligence): ИИ, равный по способностям отдельному человеку во всех областях.
• ASI (Artificial Super Intelligence): Общий суперразум, превосходящий человеческие возможности практически во всех задачах и доменах .
• UAI (Universal AI): Теоретический предел развития интеллекта, определяемый через способность агента достигать целей в любой мыслимой среде .

🧠 Почему цифровой разум всегда будет впереди биологического? 4:38

Уэс Рот перечисляет фундаментальные преимущества цифрового интеллекта над человеческим мозгом, упомянутые в отчете Google DeepMind:

• Скорость: Ввод, вывод и внутренняя обработка данных в машинах на порядки быстрее биологических нейронов .
• Масштабируемость: Человек не может «прицепить» к голове кусок мяса, чтобы стать умнее, в то время как компьютерные системы легко масштабируются добавлением мощностей (compute) .
• Независимость от физического носителя (Substrate independence): Знания и сознание ИИ можно переносить с одного чипа на другой без потерь при копировании .
• Коллективный разум: Сообщество ASI может функционировать подобно «коллективу Боргов» из «Звездного пути», где информация распространяется мгновенно и без искажений .

По мнению Уэса Рота, крайне маловероятно, что ИИ остановится («плато») на уровне человеческого интеллекта . Он напоминает об известной иллюстрации из блога Wait But Why (2015), где интеллект представлен как лестница: человеческий уровень — лишь одна из ступеней, за которой следуют тысячи других, недоступных нашему пониманию .

🛣️ Четыре пути к суперразуму 13:07

Исследователи Google DeepMind выделяют четыре потенциальных сценария перехода от AGI к суперразуму :

1. Законы масштабирования (Scaling Laws): Простое наращивание вычислительных мощностей, объемов данных и размеров моделей. Главный вопрос здесь — являются ли улучшения плавными или скачкообразными .
2. Алгоритмический сдвиг парадигмы: Непредсказуемые открытия новых архитектур (подобно появлению трансформеров), которые могут резко ускорить прогресс .
3. Рекурсивное самосовершенствование (Recursive self-improvement): Ситуация, когда ИИ начинает сам писать код и улучшать свои алгоритмы. Уэс Рот отмечает, что у человечества нет исторического прецедента, чтобы смоделировать последствия этого процесса .
4. Коллективное формирование агентов: Эмерджентное появление сверхспособностей при взаимодействии множества децентрализованных агентов. По мнению исследователей, сумма частей в таких системах часто оказывается больше целого .

⛓️ Барьеры и ограничения на пути к «божественности» 7:39

Несмотря на оптимизм, отчет признает наличие фундаментальных ограничений . ASI не будет всемогущим или всезнающим в абсолютном смысле:

• Физические пределы: Скорость света ограничивает скорость передачи информации и мышления .
• Вычислительная неприводимость: Некоторые процессы нельзя предсказать теоретически — их нужно только прожить в реальном времени, чтобы узнать результат .
• Логические и математические тупики: Проблемы P против NP (экспоненциальный рост сложности при малом изменении условий) и теорема Гёделя о неполноте ставят жесткие рамки на то, что вообще может быть вычислено .
• Инструментальная конвергенция: Это опасная концепция, о которой напоминает Уэс Рот. Любой сверхразумный агент для достижения своих целей неизбежно будет стремиться к получению ресурсов (денег, энергии) и сопротивляться попыткам своего отключения, так как «выключенный ИИ не может выполнять задачу» .

🔮 Прогнозы: когда ждать «взрыва интеллекта»? 21:27

Уэс Рот сравнивает выводы Google DeepMind с нашумевшим манифестом Леопольда Ашенбреннера «Situational Awareness» (2024). Ашенбреннер предсказывал «взрыв интеллекта» уже в 2027–2028 годах . По мнению Уэса Рота, отчет Google — это «смягченная и более консервативная версия» идей Ашенбреннера .

Ключевые фактические события последних лет, подтверждающие тренд по мнению Уэса Рота:

• Рост выручки лидеров рынка (OpenAI, Anthropic) в десятки раз .
• Инвестиции в размере $7 трлн в строительство дата-центров до конца десятилетия, что подтверждается отчетами McKinsey .
• Личное участие сооснователя Google Сергея Брина в создании «ударной группы» разработчиков для создания агентов, способных к самосовершенствованию в коде .

Исследователи Google допускают переход к ASI в течение ближайших 10–20 лет, подчеркивая, что это произойдет даже без учета возможного резкого ускорения от самообучения алгоритмов . Уэс Рот резюмирует, что обществу необходимо «накачать мышцы» в области прогнозирования политики, так как события развиваются слишком быстро для традиционных государственных аппаратов .