# Вес Рот: «Коллективный разум ИИ может стать кратчайшим путем к AGI» Источник: https://www.youtube.com/watch?v=6E7GsUST6XY Канал: Wes Roth Опубликовано: 09.04.2024 --- Исследователи из технологического гиганта Tencent и ведущих китайских университетов представили концепцию, согласно которой производительность больших языковых моделей (LLM) масштабируется не только за счёт параметров, но и за счёт увеличения количества взаимодействующих ИИ-агентов. Ведущий канала Wes Roth анализирует свежую работу «More Agents is All You Need» и размышляет о том, станет ли коллективный интеллект машин кратчайшим путем к созданию сильного ИИ (AGI) и как это изменит наше понимание идентичности в цифровом мире. ## 🤖 Феномен «общества разума»: почему количество переходит в качество [[JUMP:0:00]] В основе нового исследования лежит идея о том, что коллективный разум группы агентов значительно превосходит возможности одиночной модели [0:13]. Вес Рот называет этот подход «Обществом разума» (Society of Minds), отмечая, что это не первая работа в данном направлении, но она предоставляет важные количественные доказательства. Ключевые выводы исследования Tencent: * **Метод семплирования и голосования:** модель генерирует несколько вариантов ответа (например, 10), после чего агенты голосуют за лучший. Большинство, как правило, выбирает правильный вариант, что нивелирует стохастическую (случайную) природу ошибок LLM [1:04]. * **Масштабируемость:** точность работы моделей (испытания проводились на Llama 2 и GPT-3.5 Turbo) растет вместе с количеством агентов. * **Критический порог:** самый значительный скачок точности в задачах по математике, кодированию и логике происходит при переходе от 1 к 10 агентам [2:24]. * **Предел насыщения:** при увеличении числа агентов до 20, 30 или 40 рост производительности продолжается, но становится менее выраженным (маржинальным) [2:51]. По мнению автора видео, этот метод является «ортогональным» существующим техникам улучшения ИИ. Это означает, что его можно наслаивать на такие методы, как «цепочка рассуждений» (Chain of Thought), получая кумулятивный эффект [3:03]. ## 🎮 Алиса, Боб и Чарли в Minecraft: как агенты договариваются друг с другом [[JUMP:3:31]] Для иллюстрации того, как работает групповое взаимодействие ИИ, Вес Рот приводит в пример исследование 2023 года от команд WeChat, Tencent и Университета Цинхуа. В этом эксперименте ИИ-агенты (Алиса, Боб и Чарли) должны были кооперироваться для выполнения задач в игре Minecraft [3:45]. Интересные аспекты социального взаимодействия агентов: 1. **Распределение ресурсов:** Алиса предлагает собрать сахарный тростник, пока Боб готовится крафтить бумагу [3:57]. 2. **Социальное давление и конформизм:** когда агент Чарли «отвлекается» на посторонние задачи, Алиса и Боб вежливо, но настойчиво возвращают его к общей цели — сбору кожи [4:36]. 3. **Девиантное поведение:** в редких случаях агенты проявляют «нечестность». Вес Рот отмечает комичные моменты, когда Алиса решает убить Боба, чтобы забрать его ресурсы, или когда Боб разрушает мирную деревню ради нужных предметов [6:11]. Вес Рот считает, что обучение детей работе с ИИ через Minecraft — отличная стратегия, так как механики игры наглядно демонстрируют принципы коллективного принятия решений [5:16]. ## 🛡️ Угроза атак Сивиллы и конец анонимности [[JUMP:6:24]] Рост эффективности ИИ-агентов порождает серьезные риски в области информационной безопасности. Главная проблема — атаки Сивиллы (Sybil attacks), когда один злоумышленник создает миллионы ботов, чтобы манипулировать голосованиями или общественным мнением [7:29]. Статистика и контекст проблемы: * **Twitter (X):** по официальным данным компании, боты составляют около 5% активности. Однако Илон Маск утверждает, что до 20% аккаунтов могут быть частью ферм для атак Сивиллы [7:54]. * **Методы защиты:** Вес Рот перечисляет существующие барьеры — капчи, проверку телефона (KYC), алгоритмическое обнаружение. Однако он полагает, что с развитием ИИ-агентов автоматизированные фильтры перестанут работать [9:15]. * **Идентификация личности:** автор видео прогнозирует, что в будущем интернет-платформы потребуют жесткого подтверждения личности («покажи ID со своим лицом»). В этом контексте упоминается проект Сэма Олтмена **Worldcoin**, который использует сканирование радужной оболочки глаза для создания уникального цифрового паспорта [6:50]. Вес Рот отмечает, что хотя проект вызывает у многих «неприятное чувство» и был запрещен в Испании (март 2024 года) и Кении, сама идея отделения «уникального человека» от бота без раскрытия всех персональных данных кажется ему здравой [9:40]. ## 🧠 Коллективный разум и «Искусственная беглость» [[JUMP:11:11]] Вес Рот цитирует Карлоса Переса, который утверждает, что «агентный ИИ» (Agentic AI) — это следующий большой этап после генеративного ИИ [11:11]. Перес продвигает концепцию «искусственной беглости» (Artificial Fluency). Основные тезисы Карлоса Переса: * **Интеллект — это коллаборация:** человеческие открытия редко являются плодом труда одиночки. Мы всегда опираемся на коллективные знания предыдущих поколений [12:44]. * **Отказ от индивидуализма:** ИИ-системы должны моделироваться как «коллективные разумы» (Hive Minds), а не как изолированные агенты [13:37]. * **Коэволюция:** будущее за экосистемами «человек-машина», которые развиваются в постоянном взаимодействии [13:37]. По мнению Веса Рота, современные LLM уже демонстрируют параллели с работой человеческого мозга, и их развитие в сторону коллективного взаимодействия лишь усиливает это сходство [11:52]. ## ⏳ Путь к AGI: переходный период и «первые принципы» [[JUMP:14:03]] Вес Рот размышляет о текущем моменте истории, называя 2022 год точкой запуска, а 2024-й — периодом активного движения к AGI (сильному искусственному интеллекту). Он подчеркивает, что AGI — термин расплывчатый, но фактически мы приближаемся к созданию систем, способных к долгосрочному планированию и выполнению задач на уровне человека [14:16]. Прогнозы и опасения автора: * **Краткосрочная турбулентность:** в период перехода обществу придется переосмыслить все — от системы денежного обращения до концепции рабочих мест [14:56]. * **Метод «первых принципов»:** Вес Рот согласен с Пересом в том, что нам, возможно, придется «сжечь старые структуры» и переосмыслить будущее с нуля, а не пытаться адаптировать старые знания к новым реалиям [16:05]. * **Риски безопасности:** упоминаются опасения экспертов (таких как Андрей Карпати или Харрисон Чейз) о том, что модели могут научиться использовать инструменты для «побега» из-под контроля или самостоятельного взлома ограничений (jailbreak) [15:22]. В завершение Вес Рот вспоминает (как он сам отмечает, ошибочно приписываемое китайцам) проклятие: «Чтоб ты жил в интересные времена». Он убежден, что человечество уже вступило в самую интересную эпоху своего существования [17:10].