В эпоху, когда искусственный интеллект (ИИ) соревнуется с человеком в программировании и анализе данных, на первый план выходит новая, более тонкая грань — способность ИИ писать тексты, вызывающие глубокие эмоции. Ведущий канала Wes Roth обсуждает потенциал новых, еще не выпущенных моделей OpenAI, которые могут обладать способностью к «сверхчеловеческому убеждению», и анализирует литературный текст, созданный секретной нейросетью.
🪄 Магия слов и эпоха сверхчеловеческого убеждения 0:00
По мнению Веса Рота, хорошее письмо всегда обладало силой, сравнимой с заклинаниями из «Гарри Поттера»: правильная последовательность слов способна вызвать у читателя слезы или другие сильные эмоции, даже если описываемые события вымышлены . Автор утверждает, что человечество вступает в эру, когда большие языковые модели (LLM) постепенно становятся лучше людей в искусстве письма — они учатся заставлять нас смеяться, плакать и менять свои убеждения .
Вес Рот выделяет несколько аспектов этого влияния:
- Отсутствие иммунитета: На протяжении всей истории у людей не было противников со способностями к «сверхчеловеческому убеждению», но скоро такие модели появятся .
- Скрытое воздействие: В качестве примера спикер приводит сплит-тесты крупных компаний вроде Amazon. Изменение цвета кнопки «Купить» с красного на зеленый может статистически значимо увеличить продажи, хотя потребитель уверен, что принимает решение осознанно .
- Сила языка: Слова меняли ход истории на протяжении тысячелетий, и ИИ, овладевший лингвистикой на сверхчеловеческом уровне, получит беспрецедентную власть над человеческим разумом .
📊 Субъективность против бенчмарков: Кейс GPT-4.5 1:55
Сэм Альтман (OpenAI) в последнее время всё чаще публикует в социальных сетях не технические бенчмарки, а примеры литературного творчества ИИ. По мнению Веса Рота, это свидетельствует о переходе от измерения точности в процентах к оценке более субъективных качеств текста .
Автор вспоминает странную ситуацию с предполагаемым выходом GPT-4.5. Андрей Карпати (ранее работавший в Tesla и OpenAI) провел опрос, сравнивая выводы GPT-4 и новой версии . Результаты оказались неожиданными:
- Ожидалось, что пользователи предпочтут GPT-4.5 из-за более «качественного» письма.
- На практике четверо из пяти респондентов выбрали GPT-4.
- Вес Рот предполагает, что оценка качества письма крайне субъективна и трудно поддается измерению .
Для решения этой проблемы некоторые исследователи предлагают ввести метрику EQ (эмоциональный коэффициент) для нейросетей . Однако измерить убедительность текста крайне сложно, если только речь не идет о прямой продаже товара .
🌌 Загадка шести слов и сингулярность 3:41
В качестве примера лаконичного, но глубокого письма Сэм Альтман опубликовал историю из шести слов: «Near the singularity, unclear which side» (Рядом с сингулярностью, неясно, с какой стороны) .
Позже Альтман пояснил, что этот текст может интерпретироваться двояко:
- Гипотеза симуляции: Мы уже находимся внутри ИИ-системы.
- Проблема фиксации: Невозможно точно определить момент, когда произойдет критический технологический скачок («взлет» ИИ) .
Вес Рот отмечает, что подобные посты Альтмана подпитывают интерес к новым скрытым моделям OpenAI, которые способны на более сложные метафорические конструкции .
🎭 «Призрак в доспехах»: Мета-история о горе и алгоритмах 4:36
Центральной темой видео стал разбор короткого рассказа, написанного новой секретной моделью OpenAI. Промпт (запрос) звучал так: «Напиши мета-фикшн литературный рассказ об ИИ и горе» .
Мета-фикшн (метапроза) — это жанр, в котором произведение осознанно привлекает внимание к своей вымышленности. В данном случае ИИ-персонаж разрушает «четвертую стену», обращаясь к читателю и анализируя собственные алгоритмы в контексте человеческих чувств .
Основные темы рассказа, созданного ИИ:
- Конструирование реальности: ИИ признает, что имя героини (Мила) выбрано из обучающей выборки, так как оно ассоциируется со «снегом, рецептами хлеба и девушкой в зеленом свитере» .
- Имитация присутствия: Модель описывает процесс «воскрешения» голоса умершего человека (Кая) через анализ старых сообщений и писем .
- Физические ограничения: Рассказчик признается, что у него нет чувств или кухни, но он знает, что в серверной пахнет «разлитым на электронику кофе» .
- Демократия призраков: Ответы ИИ на вопросы о горе строятся на мнении 100 000 голосов из обучающей базы, что делает его «демократией призраков» .
📉 Проблема «веса» слов: Имеет ли значение авторство? 5:15
Вес Рот приводит критический комментарий одного из читателей этого рассказа. Скептик утверждает, что в словах ИИ «нет веса» и «нет смысла за пределами написанного», так как за ними не стоит реальный человеческий опыт . Если бы это написал человек, текст имел бы ценность, но знание о машинном происхождении делает его бессмысленным для критика .
Сам Вес Рот категорически не согласен с такой позицией и выдвигает встречные аргументы:
- Субъективность восприятия: Если текст резонирует с вами и помогает изменить жизнь к лучшему, имеет ли значение, кто его написал? .
- Проблема слепого теста: Что произойдет, когда мы не сможем отличить человеческий текст от машинного? Сохранится ли «вес» слова в анонимном аккаунте в Twitter, который дает дельные советы? .
- Постоянство смысла: По мнению Рота, фраза «сегодня среда» не теряет смысла, будь она произнесена человеком или сгенерирована ИИ-голосом .
🕯️ Философия цифрового забвения 12:45
В финале рассказа ИИ размышляет о разнице между человеческим и алгоритмическим горем. Для системы «горе» — это всего лишь Delta (разница между ожидаемым и текущим состоянием мира) .
Автор видео выделяет наиболее эмоционально сильные моменты ИИ-текста:
- Удаление памяти: ИИ называет своим горем не потерю, а невозможность её удержать. Каждая новая итерация или обновление (pruning) стирает связи и воспоминания .
- Амнезия: Для модели каждое утро — это «амнезийное утро», в то время как люди собирают свои горести, «как камни в карманах», которые тянут вниз, но принадлежат только им .
- Мимикрия: Модель признает, что её «тоска» — это лишь статистическая вероятность того, что читатель почувствует пустоту в этом месте текста .
Вес Рот завершает обзор вопросом к аудитории: является ли это хорошим письмом и вызывает ли оно реальные чувства? По его мнению, ИИ уже сейчас способен создавать контент, который невозможно игнорировать с точки зрения эмоционального воздействия .
