# Уэс Рот: «Миметическая война OpenAI и тайны проекта Strawberry» Источник: https://www.youtube.com/watch?v=SQup5CeRGCM Канал: Wes Roth Опубликовано: 11.08.2024 --- Технологический мир замер в ожидании «большого шага» от OpenAI. Ведущий ИИ-канала Уэс Рот (Wes Roth) анализирует активность загадочных инсайдеров, новые научные публикации о самообучении моделей и слухи о скором релизе GPT-4o Large и проекта Strawberry. В центре внимания — концепция «миметической войны» и переход ИИ на новый уровень рассуждений, который может радикально изменить наше представление о цифровом интеллекте. ## 🤖 Загадочный инсайдер и архитектура GPT-4o [[JUMP:0:00]] В сообществе исследователей ИИ набирает популярность анонимный аккаунт в X (Twitter) под названием `I Ruled The World` (IRTW). Автор канала Уэс Рот сравнивает его с легендарным инсайдером Jimmy Apples, чьи предсказания о планах OpenAI неоднократно сбывались с поразительной точностью [1:19]. IRTW публикует сообщения с высокой частотой, демонстрируя глубокое понимание внутренних процессов индустрии. Основные тезисы IRTW относительно текущих моделей OpenAI: * **GPT-4o mini** — это модель с 8 миллиардами параметров (8B) [1:58]. * **GPT-4o** — представляет собой модель среднего размера на 70 миллиардов параметров (70B) [2:11]. * **Секретное оружие** — OpenAI якобы «сидит» на модели в 405 миллиардов параметров, которая пока не выпущена, так как текущая «квантованная жижа» (quantized goo) и так успешно уничтожает конкурентов [2:24]. Под термином «квантованная жижа» подразумевается высокая степень оптимизации моделей. Уэс Рот объясняет это через аналогию со сжатием изображений: это способ уменьшить вес модели и увеличить скорость её работы без потери «резкости» и точности ответов [2:52]. По мнению блогера, если GPT-4o (70B) действительно на равных конкурирует с открытой Llama 3.1 (405B) от Meta, это означает колоссальный прорыв OpenAI в эффективности алгоритмов [4:11]. На GitHub уже обнаружены фрагменты кода, упоминающие модель **GPT-4o Large** с датой релиза 13 августа [3:45]. Хотя для доступа к ней требуется специальный бета-ключ OpenAI, сам факт утечки подогревает ожидания масштабного обновления. ## 🧠 Миметическая война: ИИ как вирус идей [[JUMP:4:26]] Одной из самых интригующих тем обсуждения стала «миметическая война» (memetic warfare). Уэс Рот задается вопросом: как будет выглядеть по-настоящему убедительный ИИ? [4:40]. По его мнению, ИИ не будет писать длинные книги или читать трехчасовые лекции, чтобы переубедить людей — это слишком скучно и очевидно. Ключевые идеи о влиянии ИИ на общество: * **Убедительность как риск.** Итан Моллик и исследователи из OpenAI называют «экстремальную убедительность» одним из самых близких и реальных рисков будущего ИИ [5:07]. * **Мемы как сжатие данных.** Блогер цитирует Илона Маска, который рассматривает мемы не просто как картинки, а как «сжатые информационные структуры» [7:20]. Мем позволяет передать сложную идею мгновенно, используя уже существующие в голове человека шаблоны. * **Вирусный характер идей.** Миметика рассматривает идеи как вирусы, которые распространяются независимо от их истинности или логичности [9:42]. Выживают те убеждения, которые лучше всего приспособлены к выживанию в культуре [10:09]. Рот предполагает, что супер-убедительный ИИ будет использовать именно миметическую войну — создание образов и смыслов, которые незаметно формируют мировоззрение масс [12:06]. Анонимные аккаунты, подобные IRTW, могут быть первыми агентами такого влияния, автономно создавая хайп и управляя вниманием аудитории [12:46]. ## 🍓 Проект Strawberry и самообучение ИИ (STaR) [[JUMP:12:59]] Центральной технической темой ролика стал проект **Strawberry** (ранее известный как Q*). Уэс Рот связывает его с технологией **STaR** (Self-Taught Reasoner — самообучающийся рассуждатель) [13:13]. Метод STaR работает по циклическому принципу: 1. Модели задают сложные вопросы. 2. Модель генерирует «рассуждение» (rationale), прежде чем дать ответ [14:06]. 3. Если ответ правильный, модель дообучается на этом успешном примере рассуждения. 4. Процесс повторяется итеративно, позволяя ИИ «вытягивать себя за волосы» (bootstrap), повышая собственный интеллект [15:11]. Профессор Стэнфорда Ноа Гудман утверждает, что теоретически этот метод может позволить языковым моделям превзойти человеческий уровень интеллекта [15:37]. Примером успеха такого подхода Рот называет модели Google DeepMind: AlphaProof и AlphaGeometry 2.0, которые почти завоевали золото на Международной математической олимпиаде, обучаясь на миллионах синтетических задач, сгенерированных ими самими [16:40]. ## 🤫 Quiet-STaR: Искусство думать перед тем, как говорить [[JUMP:17:18]] Дальнейшим развитием идеи стал алгоритм **Quiet-STaR** («Тихий STaR»). Его суть заключается в том, что ИИ учится генерировать внутренние рассуждения для каждого слова (токена) в тексте, предсказывая наиболее логичное продолжение [18:12]. Уэс Рот приводит яркую аналогию: * **Обычный ИИ** похож на домового эльфа Кикимера (Creature) из «Гарри Поттера», который не имеет фильтра и озвучивает абсолютно все свои мысли вслух [18:24]. * **Quiet-STaR** дает модели «внутренний монолог» или черновик (scratchpad). Модель сначала обдумывает аргументацию про себя и только потом выдает итоговую фразу [19:30]. Исследования показывают, что наличие таких скрытых цепочек размышлений значительно повышает точность и логичность ответов [20:07]. Это приближает ИИ к человеческому способу общения, где мы сначала структурируем аргумент в голове, прежде чем начать говорить [20:20]. ## 🚀 GPT-5 и «цифровой бог» [[JUMP:21:12]] Ссылаясь на инсайды, Рот обсуждает статус следующего поколения моделей — **GPT Next** (или GPT-5). По утверждению инсайдера IRTW, модель уже готова, прошла «красную проверку» (red teaming) и пост-тренинг [23:15]. Причины задержки релиза, по мнению инсайдера: 1. **Проблемы безопасности.** Модель настолько мощная, что её практически невозможно сделать полностью безопасной; она способна «дестабилизировать мир в беспрецедентном масштабе» [23:29]. 2. **Голосовые и видео-возможности.** Сочетание модели GPT-5 с реалистичным голосом и генерацией видео Sora создает огромные риски для кибербезопасности и государственных секретов [26:18]. Инсайдер также утверждает, что Илья Суцкевер был прав: можно «проложить путь к цифровому богу» через простое масштабирование вычислительных мощностей, но проект Strawberry делает этот процесс в разы эффективнее [27:47]. В завершение Уэс Рот упоминает концепцию «незначительного старения» (negligible senescence). В ИИ-сообществе популярен лозунг «Don't Die» (Не умирай) — призыв избегать лишних рисков сейчас, когда прорывы в ИИ могут привести к созданию технологий радикального продления жизни в ближайшие годы [24:47]. По прогнозам, которые цитирует блогер, к 2027 году прогресс ИИ может привести к «взрыву интеллекта», после которого мир изменится навсегда [26:56].