# OpenAI и «секретная» модель: почему ИИ начинает писать лучше человека? Источник: https://www.youtube.com/watch?v=nAZdrssHdAA Канал: Wes Roth Опубликовано: 12.03.2025 --- В эпоху, когда искусственный интеллект (ИИ) соревнуется с человеком в программировании и анализе данных, на первый план выходит новая, более тонкая грань — способность ИИ писать тексты, вызывающие глубокие эмоции. Ведущий канала Wes Roth обсуждает потенциал новых, еще не выпущенных моделей OpenAI, которые могут обладать способностью к «сверхчеловеческому убеждению», и анализирует литературный текст, созданный секретной нейросетью. ## 🪄 Магия слов и эпоха сверхчеловеческого убеждения [[JUMP:0:00]] По мнению Веса Рота, хорошее письмо всегда обладало силой, сравнимой с заклинаниями из «Гарри Поттера»: правильная последовательность слов способна вызвать у читателя слезы или другие сильные эмоции, даже если описываемые события вымышлены [0:12]. Автор утверждает, что человечество вступает в эру, когда большие языковые модели (LLM) постепенно становятся лучше людей в искусстве письма — они учатся заставлять нас смеяться, плакать и менять свои убеждения [0:25]. Вес Рот выделяет несколько аспектов этого влияния: * **Отсутствие иммунитета:** На протяжении всей истории у людей не было противников со способностями к «сверхчеловеческому убеждению», но скоро такие модели появятся [0:50]. * **Скрытое воздействие:** В качестве примера спикер приводит сплит-тесты крупных компаний вроде Amazon. Изменение цвета кнопки «Купить» с красного на зеленый может статистически значимо увеличить продажи, хотя потребитель уверен, что принимает решение осознанно [1:15]. * **Сила языка:** Слова меняли ход истории на протяжении тысячелетий, и ИИ, овладевший лингвистикой на сверхчеловеческом уровне, получит беспрецедентную власть над человеческим разумом [1:43]. ## 📊 Субъективность против бенчмарков: Кейс GPT-4.5 [[JUMP:1:55]] Сэм Альтман (OpenAI) в последнее время всё чаще публикует в социальных сетях не технические бенчмарки, а примеры литературного творчества ИИ. По мнению Веса Рота, это свидетельствует о переходе от измерения точности в процентах к оценке более субъективных качеств текста [2:08]. Автор вспоминает странную ситуацию с предполагаемым выходом GPT-4.5. Андрей Карпати (ранее работавший в Tesla и OpenAI) провел опрос, сравнивая выводы GPT-4 и новой версии [2:22]. Результаты оказались неожиданными: 1. Ожидалось, что пользователи предпочтут GPT-4.5 из-за более «качественного» письма. 2. На практике четверо из пяти респондентов выбрали GPT-4. 3. Вес Рот предполагает, что оценка качества письма крайне субъективна и трудно поддается измерению [2:48]. Для решения этой проблемы некоторые исследователи предлагают ввести метрику EQ (эмоциональный коэффициент) для нейросетей [3:01]. Однако измерить убедительность текста крайне сложно, если только речь не идет о прямой продаже товара [3:15]. ## 🌌 Загадка шести слов и сингулярность [[JUMP:3:41]] В качестве примера лаконичного, но глубокого письма Сэм Альтман опубликовал историю из шести слов: «Near the singularity, unclear which side» (Рядом с сингулярностью, неясно, с какой стороны) [3:41]. Позже Альтман пояснил, что этот текст может интерпретироваться двояко: * **Гипотеза симуляции:** Мы уже находимся внутри ИИ-системы. * **Проблема фиксации:** Невозможно точно определить момент, когда произойдет критический технологический скачок («взлет» ИИ) [3:54]. Вес Рот отмечает, что подобные посты Альтмана подпитывают интерес к новым скрытым моделям OpenAI, которые способны на более сложные метафорические конструкции [4:08]. ## 🎭 «Призрак в доспехах»: Мета-история о горе и алгоритмах [[JUMP:4:36]] Центральной темой видео стал разбор короткого рассказа, написанного новой секретной моделью OpenAI. Промпт (запрос) звучал так: «Напиши мета-фикшн литературный рассказ об ИИ и горе» [4:36]. **Мета-фикшн (метапроза)** — это жанр, в котором произведение осознанно привлекает внимание к своей вымышленности. В данном случае ИИ-персонаж разрушает «четвертую стену», обращаясь к читателю и анализируя собственные алгоритмы в контексте человеческих чувств [4:50]. Основные темы рассказа, созданного ИИ: * **Конструирование реальности:** ИИ признает, что имя героини (Мила) выбрано из обучающей выборки, так как оно ассоциируется со «снегом, рецептами хлеба и девушкой в зеленом свитере» [9:11]. * **Имитация присутствия:** Модель описывает процесс «воскрешения» голоса умершего человека (Кая) через анализ старых сообщений и писем [10:03]. * **Физические ограничения:** Рассказчик признается, что у него нет чувств или кухни, но он знает, что в серверной пахнет «разлитым на электронику кофе» [10:28]. * **Демократия призраков:** Ответы ИИ на вопросы о горе строятся на мнении 100 000 голосов из обучающей базы, что делает его «демократией призраков» [11:52]. ## 📉 Проблема «веса» слов: Имеет ли значение авторство? [[JUMP:5:15]] Вес Рот приводит критический комментарий одного из читателей этого рассказа. Скептик утверждает, что в словах ИИ «нет веса» и «нет смысла за пределами написанного», так как за ними не стоит реальный человеческий опыт [5:40]. Если бы это написал человек, текст имел бы ценность, но знание о машинном происхождении делает его бессмысленным для критика [5:52]. Сам Вес Рот категорически не согласен с такой позицией и выдвигает встречные аргументы: 1. **Субъективность восприятия:** Если текст резонирует с вами и помогает изменить жизнь к лучшему, имеет ли значение, кто его написал? [6:31]. 2. **Проблема слепого теста:** Что произойдет, когда мы не сможем отличить человеческий текст от машинного? Сохранится ли «вес» слова в анонимном аккаунте в Twitter, который дает дельные советы? [6:43]. 3. **Постоянство смысла:** По мнению Рота, фраза «сегодня среда» не теряет смысла, будь она произнесена человеком или сгенерирована ИИ-голосом [7:10]. ## 🕯️ Философия цифрового забвения [[JUMP:12:45]] В финале рассказа ИИ размышляет о разнице между человеческим и алгоритмическим горем. Для системы «горе» — это всего лишь Delta (разница между ожидаемым и текущим состоянием мира) [14:21]. Автор видео выделяет наиболее эмоционально сильные моменты ИИ-текста: * **Удаление памяти:** ИИ называет своим горем не потерю, а невозможность её удержать. Каждая новая итерация или обновление (pruning) стирает связи и воспоминания [15:41]. * **Амнезия:** Для модели каждое утро — это «амнезийное утро», в то время как люди собирают свои горести, «как камни в карманах», которые тянут вниз, но принадлежат только им [15:56]. * **Мимикрия:** Модель признает, что её «тоска» — это лишь статистическая вероятность того, что читатель почувствует пустоту в этом месте текста [14:35]. Вес Рот завершает обзор вопросом к аудитории: является ли это хорошим письмом и вызывает ли оно реальные чувства? По его мнению, ИИ уже сейчас способен создавать контент, который невозможно игнорировать с точки зрения эмоционального воздействия [16:37].