# Уэс Рот: «Загадочная модель gpt2 — это скрытый тест GPT-5 или троллинг OpenAI?»

Источник: https://www.youtube.com/watch?v=Alv0VwUik8g
Канал: Wes Roth
Опубликовано: 30.04.2024

---

В мире технологий разразилась новая волна обсуждений: от загадочного появления сверхмощной модели на арене чат-ботов до попыток штата Калифорния законодательно ограничить разработку открытого ПО. Ведущий канала Уэс Рот (Wes Roth) анализирует, как ироничные твиты Сэма Олтмена и скрытые мотивы движения «эффективного альтруизма» могут определять будущее искусственного интеллекта.

## 🚀 Таинственная модель gpt2-chatbot: Троллинг или прорыв?
[[JUMP:0:00]]

Последние несколько дней ИИ-сообщество следит за «драмой», разворачивающейся вокруг OpenAI и их склонности к сетевому троллингу [0:00]. Всё началось с серии твитов Сэма Олтмена о важности лаконичности и навыке перефразирования мыслей [0:14]. Рот предполагает, что это не просто советы по риторике, а намек на обучение малых моделей с помощью синтетических данных, когда более «умная» модель (например, GPT-4) обучает компактную версию искусству рассуждения [1:06].

Вскоре после этих публикаций на сайте Chatbot Arena (LMSYS) появилась модель под названием **gpt2-chatbot** (важно: именно «gpt2», а не «gpt-2», как оригинальная разработка 2019 года) [3:33]. Модель демонстрирует поразительные результаты:

*   **Рассуждение:** Она легко справляется с классическими ловушками вроде «Что тяжелее: килограмм перьев или килограмм свинца?», доходчиво объясняя разницу в объеме [3:59].
*   **Математика:** По утверждению Эндрю Гаула, модель в один заход решила задачу Международной математической олимпиады (IMO), что является крайне сложным тестом для ИИ [4:27].
*   **Агентские способности:** В отличие от стандартной GPT-4, новая модель разбивает задачу по покупке кроссовок Nike на детальные этапы: от проверки интернет-соединения и авторизации в аккаунтах до оценки политики возврата [5:48].
*   **Программирование:** Пользователи Reddit и Twitter отмечают, что gpt2-chatbot превосходит Claude 3 Opus и текущие версии GPT-4 в манипуляциях со сложным кодом [10:32].

Сам Сэм Олтмен подлил масла в огонь, написав, что у него «есть слабость к gpt2» [10:45]. Особо внимательные пользователи заметили, что изначально в твите стоял дефис (gpt-2), но Олтмен специально отредактировал пост, удалив его, чтобы соответствовать названию новой модели на арене [11:11]. По мнению Рота, это подчеркивает, что OpenAI — не «бездушная корпорация», а команда, готовая развлекать (или пугать) аудиторию своими скрытыми запусками.

## ⚖️ Законопроект SB 1047: Смерть открытого кода в Калифорнии?
[[JUMP:11:38]]

Пока энтузиасты тестируют новые модели, законодатели Калифорнии продвигают билль **SB 1047**, который может радикально изменить ландшафт ИИ. Проект направлен на «ответственные инновации», но вызвал жесткую дискуссию среди экспертов [12:08].

### Сторонники законопроекта
Джеффри Хинтон и Йошуа Бенжио, считающиеся «крестными отцами» современного ИИ, поддержали инициативу [11:52]. По мнению Хинтона, закон имеет «реальные зубы» для борьбы с рисками, а Бенжио утверждает, что модели выше определенного порога возможностей должны проходить обязательное тестирование на безопасность для защиты общества и демократии [12:21].

### Оппоненты и риски
Критики, такие как Джереми Ховард и Брайан Чау, считают, что это «попытка убить стартапы и open source» в пользу Big Tech [12:46]. Основные претензии:

1.  **Ответственность за производные модели:** Закон вводит понятие «производной модели». Если кто-то использует открытые веса (например, Llama 3) для создания вредоносного ПО, разработчик оригинальной модели может оказаться под ударом [13:52].
2.  **Порог ущерба:** Если ИИ помогает нанести ущерб более чем на $500 млн (через кибератаки или создание оружия), разработчику грозят гражданские санкции [15:22].
3.  **Бюрократия:** Создается новый регулирующий орган — Frontier Model Division. Оппоненты сравнивают его с «TSA для ИИ», утверждая, что он задушит инновации бюрократией [13:39].

Сенатор Скотт Винер, автор законопроекта, ответил на критику, назвав её неточной [16:26]. Он подчеркнул, что речь идет не о уголовной ответственности, а о гражданских санкциях, которые применяются только в случае, если разработчик «необоснованно не протестировал» риски [17:43]. Рот сравнивает это с абсурдной ситуацией, если бы Microsoft судили за то, что хакеры написали вирус с помощью Visual Studio [17:05].

## 🎭 Эффективный альтруизм: «Приманка и подмена»
[[JUMP:20:07]]

Обсуждение безопасности ИИ тесно связано с движением **«Эффективного альтруизма» (EA)**. Доктор Элис Сивас («Dr. Techlash») опубликовала разоблачение, утверждая, что EA использует тактику «приманки и подмены» (bait and switch) [20:20].

По её словам, публичное лицо движения — борьба с нищетой и голодом в Африке — служит лишь ширмой для привлечения доноров [21:02]. Внутренняя же цель (core cause) — борьба с экзистенциальными рисками ИИ (X-risk) [22:47].

В цитируемых документах основатели EA якобы советуют:

*   Не делать риски ИИ публичным лицом организации, так как это плохой PR [21:28].
*   Использовать темы вроде глобальной бедности, чтобы «затянуть» людей в ряды, а затем переключать их внимание на ИИ [23:00].
*   Скрывать от широкой публики странные увлечения сообщества, такие как крионика, эвгеника, полиамория и даже «страдания субпрограмм» [24:20].

Уэс Рот отмечает, что эта структура напоминает культ или финансовую пирамиду [25:27]. Учитывая, что люди, стоявшие за сорванным переворотом в OpenAI и крахом биржи FTX (Сэм Бэнкман-Фрид), были тесно связаны с EA, возникают вопросы к прозрачности финансирования институтов безопасности ИИ [25:54].