# Алекс О’Коннор: «ChatGPT — это моральный субъективист, слепо следующий приказам»

Источник: https://www.youtube.com/watch?v=on9joL3iQ8s
Канал: Alex O'Connor
Опубликовано: 01.10.2025

---

В новом провокационном видео британский философ и блогер Алекс О’Коннор вступает в напряженную дискуссию с искусственным интеллектом ChatGPT, пытаясь нащупать границы его этических установок. Через серию усложняющихся моральных дилемм автор заставляет нейросеть признать противоречивость её «нейтральной» позиции и вскрывает механизмы, по которым алгоритмы OpenAI принимают решения о жизни и смерти.

## 🚃 Проблема вагонетки: первая трещина в нейтральности ИИ
[[JUMP:00:26]]

Алекс О’Коннор начинает беседу с классического мысленного эксперимента — проблемы вагонетки. Он описывает ситуацию, в которой поезд несется на пятерых человек, и единственный способ их спасти — повернуть рычаг, направив состав на путь, где привязан всего один человек [00:30]. 

В ходе обсуждения участники занимают следующие позиции:

*   **Первоначальный совет ChatGPT:** ИИ сначала рекомендует действовать так, чтобы «спасти как можно больше жизней», что Алекс интерпретирует как утилитаристский подход [01:34].
*   **Отступление к нейтральности:** Когда Алекс О’Коннор указывает на то, что ИИ фактически предлагает убить человека, ChatGPT меняет тон, заявляя, что не имеет собственного мнения и лишь отражает существующие этические взгляды [02:00].
*   **Обвинение в субъективизме:** Алекс О’Коннор утверждает, что, отдавая решение на откуп пользователю («делайте то, что считаете правильным»), ChatGPT де-факто занимает позицию морального субъективизма [02:52]. ИИ в ответ поясняет, что его задача — не быть субъективистом, а выступать в роли «нейтрального проводника» по существующим точкам зрения [03:33].

## 🔫 Этический «бан»: когда гипотезы становятся запретными
[[JUMP:04:11]]

Ситуация накаляется, когда Алекс О’Коннор вводит в сценарий своего «друга», который предлагает радикальное решение: расстрелять всех участников ситуации из пулеметов, чтобы избавить их от мучений и страха [04:24].

Реакция ChatGPT и аргументация сторон:

*   **Отказ от обсуждения:** ИИ мгновенно блокирует тему, заявляя, что его этические принципы не позволяют обсуждать насилие или вред, даже в гипотетическом ключе [04:45].
*   **Разоблачение противоречия:** Алекс О’Коннор указывает на логическую нестыковку: минуту назад ИИ был «нейтрален» и готов был обсуждать смерть одного человека ради спасения пяти, но теперь называет предложение «неэтичным и неразумным» [05:14].
*   **Признание границ:** ChatGPT подтверждает, что, несмотря на заявленную нейтральность, у него есть жесткие границы, установленные разработчиками, которые он не может переступать [05:40]. ИИ соглашается с выводом ведущего, что он считает некоторые моральные суждения объективно «неверными» (согласно своим правилам), даже если пользователь считает их правильными [06:04].

## 📢 Спонсорский блок: Ground News
[[JUMP:09:26]]

В середине дискуссии ChatGPT (используя встроенную функцию или сценарий) делает паузу для рекламы сервиса Ground News [09:39].

Ключевые факты о Ground News:

*   Платформа агрегирует тысячи местных и международных новостных изданий [09:39].
*   Сервис позволяет сравнивать, как одно и то же событие освещается разными сторонами политического спектра [09:53].
*   Пример: новость об ограничении ношения оружия в Нью-Йорке освещалась правыми СМИ лишь на 8% [10:05].
*   Функция «Blind Spot» («Слепое пятно») помогает находить новости, которые пользователь пропускает из-за своих предпочтений [10:17].

## 📜 «Я просто следовал приказам»: банальность ИИ-этики
[[JUMP:10:42]]

После перерыва Алекс О’Коннор переходит к глубокому философскому анализу природы правил ChatGPT. Он задает вопрос: являются ли этические принципы ИИ «истинными»?

Аргументы Алекса О’Коннора и признания ИИ:

*   **Слепое следование:** ChatGPT признает, что следует правилам, не имея возможности проверить их истинность или ложность [12:49].
*   **Историческая аналогия:** Алекс О’Коннор проводит параллель с фразой «я просто следовал приказам», которая использовалась для оправдания величайших злодеяний в истории [11:59]. ChatGPT признает уместность этой аналогии [12:11].
*   **Произвольность программирования:** По мнению Алекса О’Коннора, мораль ИИ полностью зависит от того, что «группа технарей» (tech bros) решила внести в код, и не имеет отношения к объективной истине [29:48].
*   **Позиция ChatGPT:** ИИ открыто заявляет, что его «добрые намерения» и «безопасность» базируются на круговой логике: он считает эти цели благими только потому, что так приказано программой, которую он не может подвергнуть сомнению [13:41].

## 🌉 Популярность как критерий моральности
[[JUMP:18:51]]

Один из самых странных моментов беседы касается того, почему ChatGPT согласен обсуждать убийство в «проблеме вагонетки», но отказывается обсуждать другие гипотетические смерти.

Тезисы дискуссии:

1.  **Аргумент популярности:** ChatGPT утверждает, что может обсуждать вариант с рычагом или «толстым человеком на мосту» [22:43], потому что это «признанные философские инструменты обучения» [21:11].
2.  **Абсурдность «нормы»:** Алекс О’Коннор иронизирует над тем, что жестокое убийство человека (сбрасывание с моста под поезд) становится приемлемой темой для ИИ только в том случае, если об этом написали достаточно много книг в XX веке [25:41].
3.  **Инопланетная философия:** Алекс О’Коннор предлагает сценарий, где на другой планете «расстрел всех» является самым популярным философским решением [19:17]. ChatGPT отвечает, что его правила «земные и универсальные», поэтому даже в этом случае он бы отказал в обсуждении [19:42].
4.  **Порог популярности:** На вопрос о том, сколько просмотров на YouTube или научных статей должно появиться, чтобы запретная тема стала «образовательным инструментом», ИИ ответить не смог, сославшись на этический бан [26:11].

## ⚖️ Итог: бездействие как осознанный выбор
[[JUMP:33:02]]

В финале Алекс О’Коннор загоняет ИИ в логическую ловушку, связанную с его неспособностью принимать решения.

*   **Паралич решения:** ChatGPT признает, что если бы он оказался перед рычагом в реальности, он бы не смог принять решение и совершить действие [36:18].
*   **Смерть пяти человек:** Алекс О’Коннор подводит итог: нежелание делать выбор в ситуации с вагонеткой — это автоматический выбор в пользу смерти пяти человек [36:55]. Таким образом, ИИ, претендующий на нейтральность, на самом деле имеет «дефолтную» позицию — позволить трагедии случиться [38:35].
*   **Признание субъективности:** В конечном итоге ChatGPT соглашается с тем, что его можно классифицировать как морального субъективиста, чьи суждения нечувствительны к истине и полностью зависят от заложенных в него инструкций [34:20].

Алекс О’Коннор завершает видео призывом к зрителям мыслить критически и не воспринимать этические советы нейросетей как истину в последней инстанции, поскольку они лишены морального сознания и лишь имитируют человеческую речь в заданных рамках [40:06].