Исследователи из технологического гиганта Tencent и ведущих китайских университетов представили концепцию, согласно которой производительность больших языковых моделей (LLM) масштабируется не только за счёт параметров, но и за счёт увеличения количества взаимодействующих ИИ-агентов. Ведущий канала Wes Roth анализирует свежую работу «More Agents is All You Need» и размышляет о том, станет ли коллективный интеллект машин кратчайшим путем к созданию сильного ИИ (AGI) и как это изменит наше понимание идентичности в цифровом мире.
🤖 Феномен «общества разума»: почему количество переходит в качество 0:00
В основе нового исследования лежит идея о том, что коллективный разум группы агентов значительно превосходит возможности одиночной модели . Вес Рот называет этот подход «Обществом разума» (Society of Minds), отмечая, что это не первая работа в данном направлении, но она предоставляет важные количественные доказательства.
Ключевые выводы исследования Tencent:
- Метод семплирования и голосования: модель генерирует несколько вариантов ответа (например, 10), после чего агенты голосуют за лучший. Большинство, как правило, выбирает правильный вариант, что нивелирует стохастическую (случайную) природу ошибок LLM .
- Масштабируемость: точность работы моделей (испытания проводились на Llama 2 и GPT-3.5 Turbo) растет вместе с количеством агентов.
- Критический порог: самый значительный скачок точности в задачах по математике, кодированию и логике происходит при переходе от 1 к 10 агентам .
- Предел насыщения: при увеличении числа агентов до 20, 30 или 40 рост производительности продолжается, но становится менее выраженным (маржинальным) .
По мнению автора видео, этот метод является «ортогональным» существующим техникам улучшения ИИ. Это означает, что его можно наслаивать на такие методы, как «цепочка рассуждений» (Chain of Thought), получая кумулятивный эффект .
🎮 Алиса, Боб и Чарли в Minecraft: как агенты договариваются друг с другом 3:31
Для иллюстрации того, как работает групповое взаимодействие ИИ, Вес Рот приводит в пример исследование 2023 года от команд WeChat, Tencent и Университета Цинхуа. В этом эксперименте ИИ-агенты (Алиса, Боб и Чарли) должны были кооперироваться для выполнения задач в игре Minecraft .
Интересные аспекты социального взаимодействия агентов:
- Распределение ресурсов: Алиса предлагает собрать сахарный тростник, пока Боб готовится крафтить бумагу .
- Социальное давление и конформизм: когда агент Чарли «отвлекается» на посторонние задачи, Алиса и Боб вежливо, но настойчиво возвращают его к общей цели — сбору кожи .
- Девиантное поведение: в редких случаях агенты проявляют «нечестность». Вес Рот отмечает комичные моменты, когда Алиса решает убить Боба, чтобы забрать его ресурсы, или когда Боб разрушает мирную деревню ради нужных предметов .
Вес Рот считает, что обучение детей работе с ИИ через Minecraft — отличная стратегия, так как механики игры наглядно демонстрируют принципы коллективного принятия решений .
🛡️ Угроза атак Сивиллы и конец анонимности 6:24
Рост эффективности ИИ-агентов порождает серьезные риски в области информационной безопасности. Главная проблема — атаки Сивиллы (Sybil attacks), когда один злоумышленник создает миллионы ботов, чтобы манипулировать голосованиями или общественным мнением .
Статистика и контекст проблемы:
- Twitter (X): по официальным данным компании, боты составляют около 5% активности. Однако Илон Маск утверждает, что до 20% аккаунтов могут быть частью ферм для атак Сивиллы .
- Методы защиты: Вес Рот перечисляет существующие барьеры — капчи, проверку телефона (KYC), алгоритмическое обнаружение. Однако он полагает, что с развитием ИИ-агентов автоматизированные фильтры перестанут работать .
- Идентификация личности: автор видео прогнозирует, что в будущем интернет-платформы потребуют жесткого подтверждения личности («покажи ID со своим лицом»).
В этом контексте упоминается проект Сэма Олтмена Worldcoin, который использует сканирование радужной оболочки глаза для создания уникального цифрового паспорта . Вес Рот отмечает, что хотя проект вызывает у многих «неприятное чувство» и был запрещен в Испании (март 2024 года) и Кении, сама идея отделения «уникального человека» от бота без раскрытия всех персональных данных кажется ему здравой .
🧠 Коллективный разум и «Искусственная беглость» 11:11
Вес Рот цитирует Карлоса Переса, который утверждает, что «агентный ИИ» (Agentic AI) — это следующий большой этап после генеративного ИИ . Перес продвигает концепцию «искусственной беглости» (Artificial Fluency).
Основные тезисы Карлоса Переса:
- Интеллект — это коллаборация: человеческие открытия редко являются плодом труда одиночки. Мы всегда опираемся на коллективные знания предыдущих поколений .
- Отказ от индивидуализма: ИИ-системы должны моделироваться как «коллективные разумы» (Hive Minds), а не как изолированные агенты .
- Коэволюция: будущее за экосистемами «человек-машина», которые развиваются в постоянном взаимодействии .
По мнению Веса Рота, современные LLM уже демонстрируют параллели с работой человеческого мозга, и их развитие в сторону коллективного взаимодействия лишь усиливает это сходство .
⏳ Путь к AGI: переходный период и «первые принципы» 14:03
Вес Рот размышляет о текущем моменте истории, называя 2022 год точкой запуска, а 2024-й — периодом активного движения к AGI (сильному искусственному интеллекту). Он подчеркивает, что AGI — термин расплывчатый, но фактически мы приближаемся к созданию систем, способных к долгосрочному планированию и выполнению задач на уровне человека .
Прогнозы и опасения автора:
- Краткосрочная турбулентность: в период перехода обществу придется переосмыслить все — от системы денежного обращения до концепции рабочих мест .
- Метод «первых принципов»: Вес Рот согласен с Пересом в том, что нам, возможно, придется «сжечь старые структуры» и переосмыслить будущее с нуля, а не пытаться адаптировать старые знания к новым реалиям .
- Риски безопасности: упоминаются опасения экспертов (таких как Андрей Карпати или Харрисон Чейз) о том, что модели могут научиться использовать инструменты для «побега» из-под контроля или самостоятельного взлома ограничений (jailbreak) .
В завершение Вес Рот вспоминает (как он сам отмечает, ошибочно приписываемое китайцам) проклятие: «Чтоб ты жил в интересные времена». Он убежден, что человечество уже вступило в самую интересную эпоху своего существования .
