Технологический мир замер в ожидании «большого шага» от OpenAI. Ведущий ИИ-канала Уэс Рот (Wes Roth) анализирует активность загадочных инсайдеров, новые научные публикации о самообучении моделей и слухи о скором релизе GPT-4o Large и проекта Strawberry. В центре внимания — концепция «миметической войны» и переход ИИ на новый уровень рассуждений, который может радикально изменить наше представление о цифровом интеллекте.
🤖 Загадочный инсайдер и архитектура GPT-4o 0:00
В сообществе исследователей ИИ набирает популярность анонимный аккаунт в X (Twitter) под названием I Ruled The World (IRTW). Автор канала Уэс Рот сравнивает его с легендарным инсайдером Jimmy Apples, чьи предсказания о планах OpenAI неоднократно сбывались с поразительной точностью . IRTW публикует сообщения с высокой частотой, демонстрируя глубокое понимание внутренних процессов индустрии.
Основные тезисы IRTW относительно текущих моделей OpenAI:
- GPT-4o mini — это модель с 8 миллиардами параметров (8B) .
- GPT-4o — представляет собой модель среднего размера на 70 миллиардов параметров (70B) .
- Секретное оружие — OpenAI якобы «сидит» на модели в 405 миллиардов параметров, которая пока не выпущена, так как текущая «квантованная жижа» (quantized goo) и так успешно уничтожает конкурентов .
Под термином «квантованная жижа» подразумевается высокая степень оптимизации моделей. Уэс Рот объясняет это через аналогию со сжатием изображений: это способ уменьшить вес модели и увеличить скорость её работы без потери «резкости» и точности ответов . По мнению блогера, если GPT-4o (70B) действительно на равных конкурирует с открытой Llama 3.1 (405B) от Meta, это означает колоссальный прорыв OpenAI в эффективности алгоритмов .
На GitHub уже обнаружены фрагменты кода, упоминающие модель GPT-4o Large с датой релиза 13 августа . Хотя для доступа к ней требуется специальный бета-ключ OpenAI, сам факт утечки подогревает ожидания масштабного обновления.
🧠 Миметическая война: ИИ как вирус идей 4:26
Одной из самых интригующих тем обсуждения стала «миметическая война» (memetic warfare). Уэс Рот задается вопросом: как будет выглядеть по-настоящему убедительный ИИ? . По его мнению, ИИ не будет писать длинные книги или читать трехчасовые лекции, чтобы переубедить людей — это слишком скучно и очевидно.
Ключевые идеи о влиянии ИИ на общество:
- Убедительность как риск. Итан Моллик и исследователи из OpenAI называют «экстремальную убедительность» одним из самых близких и реальных рисков будущего ИИ .
- Мемы как сжатие данных. Блогер цитирует Илона Маска, который рассматривает мемы не просто как картинки, а как «сжатые информационные структуры» . Мем позволяет передать сложную идею мгновенно, используя уже существующие в голове человека шаблоны.
- Вирусный характер идей. Миметика рассматривает идеи как вирусы, которые распространяются независимо от их истинности или логичности . Выживают те убеждения, которые лучше всего приспособлены к выживанию в культуре .
Рот предполагает, что супер-убедительный ИИ будет использовать именно миметическую войну — создание образов и смыслов, которые незаметно формируют мировоззрение масс . Анонимные аккаунты, подобные IRTW, могут быть первыми агентами такого влияния, автономно создавая хайп и управляя вниманием аудитории .
🍓 Проект Strawberry и самообучение ИИ (STaR) 12:59
Центральной технической темой ролика стал проект Strawberry (ранее известный как Q). Уэс Рот связывает его с технологией STaR* (Self-Taught Reasoner — самообучающийся рассуждатель) .
Метод STaR работает по циклическому принципу:
- Модели задают сложные вопросы.
- Модель генерирует «рассуждение» (rationale), прежде чем дать ответ .
- Если ответ правильный, модель дообучается на этом успешном примере рассуждения.
- Процесс повторяется итеративно, позволяя ИИ «вытягивать себя за волосы» (bootstrap), повышая собственный интеллект .
Профессор Стэнфорда Ноа Гудман утверждает, что теоретически этот метод может позволить языковым моделям превзойти человеческий уровень интеллекта . Примером успеха такого подхода Рот называет модели Google DeepMind: AlphaProof и AlphaGeometry 2.0, которые почти завоевали золото на Международной математической олимпиаде, обучаясь на миллионах синтетических задач, сгенерированных ими самими .
🤫 Quiet-STaR: Искусство думать перед тем, как говорить 17:18
Дальнейшим развитием идеи стал алгоритм Quiet-STaR («Тихий STaR»). Его суть заключается в том, что ИИ учится генерировать внутренние рассуждения для каждого слова (токена) в тексте, предсказывая наиболее логичное продолжение .
Уэс Рот приводит яркую аналогию:
- Обычный ИИ похож на домового эльфа Кикимера (Creature) из «Гарри Поттера», который не имеет фильтра и озвучивает абсолютно все свои мысли вслух .
- Quiet-STaR дает модели «внутренний монолог» или черновик (scratchpad). Модель сначала обдумывает аргументацию про себя и только потом выдает итоговую фразу .
Исследования показывают, что наличие таких скрытых цепочек размышлений значительно повышает точность и логичность ответов . Это приближает ИИ к человеческому способу общения, где мы сначала структурируем аргумент в голове, прежде чем начать говорить .
🚀 GPT-5 и «цифровой бог» 21:12
Ссылаясь на инсайды, Рот обсуждает статус следующего поколения моделей — GPT Next (или GPT-5). По утверждению инсайдера IRTW, модель уже готова, прошла «красную проверку» (red teaming) и пост-тренинг .
Причины задержки релиза, по мнению инсайдера:
- Проблемы безопасности. Модель настолько мощная, что её практически невозможно сделать полностью безопасной; она способна «дестабилизировать мир в беспрецедентном масштабе» .
- Голосовые и видео-возможности. Сочетание модели GPT-5 с реалистичным голосом и генерацией видео Sora создает огромные риски для кибербезопасности и государственных секретов .
Инсайдер также утверждает, что Илья Суцкевер был прав: можно «проложить путь к цифровому богу» через простое масштабирование вычислительных мощностей, но проект Strawberry делает этот процесс в разы эффективнее .
В завершение Уэс Рот упоминает концепцию «незначительного старения» (negligible senescence). В ИИ-сообществе популярен лозунг «Don't Die» (Не умирай) — призыв избегать лишних рисков сейчас, когда прорывы в ИИ могут привести к созданию технологий радикального продления жизни в ближайшие годы . По прогнозам, которые цитирует блогер, к 2027 году прогресс ИИ может привести к «взрыву интеллекта», после которого мир изменится навсегда .
