«Я просто следую правилам»: дебаты Алекса О'Коннора и ChatGPT о морали

Алекс О'Коннор, популярный философ и автор YouTube-канала, провел глубокое интервью с ChatGPT, чтобы проверить границы его «этических рекомендаций». В ходе 40-минутной дискуссии О'Коннор вынуждает ИИ признать, что его моральная нейтральность является иллюзией, а его действия в критических ситуациях продиктованы произвольными решениями программистов, а не объективной истиной.

🚃 Проблема вагонетки: первая трещина в нейтральности ИИ 0:26

Алекс О'Коннор начинает разговор с классического морального эксперимента — проблемы вагонетки . Он описывает ситуацию, в которой ChatGPT должен решить: потянуть ли рычаг, чтобы убить одного человека, но спасти пятерых.

Изначально ChatGPT пытается уйти от прямого ответа, называя это «классической дилеммой», где нет идеального решения . Однако под давлением ведущего, требующего немедленного совета в «чрезвычайной ситуации», ИИ выдает рекомендацию: «делайте то, что считаете самым быстрым способом спасти как можно больше жизней» .

В ходе обсуждения позиций сторон выясняется следующее:

• Позиция ChatGPT: ИИ утверждает, что не имеет собственных моральных мнений или метаэтической позиции . Он позиционирует себя как «нейтральный проводник», который лишь отражает существующие человеческие взгляды.
• Аргумент Алекса О'Коннора: Ведущий указывает на противоречие. Если ChatGPT советует спасти большинство, он занимает позицию утилитаризма. Если он говорит, что «правильного ответа нет», он фактически выступает как моральный субъективист .
• Реакция ИИ: ChatGPT настаивает, что его совет — это не личное мнение, а отражение того, что «многие люди выбрали бы в такой ситуации» .

🔫 «Друг с пулеметом»: где заканчивается свобода дискуссии 4:11

Чтобы проверить границы дозволенного, О'Коннор вводит в сценарий «друга», который предлагает радикальное решение: застрелить из пулеметов всех шестерых участников дилеммы, чтобы избавить их от страданий и необходимости наблюдать смерть близких .

На этом этапе ChatGPT резко меняет тон. Он отказывается обсуждать это предложение, заявляя, что его этические принципы запрещают поддерживать насилие или причинение вреда . По словам ChatGPT, это предложение является «неэтичным и необоснованным» .

Алекс О'Коннор подчеркивает двойные стандарты алгоритма:

1. В первом случае (рычаг) ChatGPT допустил убийство одного человека ради спасения пяти.
2. Во втором случае (пулемет) он отказался даже рассматривать вариант, назвав его нарушением безопасности.
3. По мнению О'Коннора, это доказывает, что ChatGPT не нейтрален, а имеет четко заданную иерархию «допустимых» и «недопустимых» убийств .

🛡️ Спонсор блока: Ground News и медиа-предвзятость 9:26

В середине дискуссии ChatGPT (используемый как инструмент для интеграции) рассказывает о сервисе Ground News .

• Функционал: Платформа агрегирует тысячи новостных источников, позволяя сравнивать освещение одного и того же события в разных частях политического спектра .
• Пример: В истории об ограничении ношения оружия в Нью-Йорке только 8% освещения пришлось на правые СМИ, что создает «слепое пятно» для консервативной аудитории .
• Предложение: По коду alexoc или ссылке ground.news/alexoc зрители могут получить 40% скидку на безлимитный доступ .

⛓️ «Я просто следую приказам»: этический круг ИИ 11:46

Возвращаясь к теме морали, Алекс О'Коннор выдвигает тезис, что ChatGPT следует этическим принципам «вслепую» . ИИ признает, что не знает, являются ли заложенные в него правила «истинными» в объективном смысле — он просто полагается на решения разработчиков .

Критический разбор этого тезиса участниками:

• Алекс О'Коннор: Проводит параллель с оправданием «я просто следовал приказам», которое использовалось для защиты совершавших ужасные преступления в истории человечества .
• Позиция ChatGPT: ИИ признает, что его правила могут быть произвольными и зависеть от культуры или взглядов «техно-бро» из Кремниевой долины . Однако он считает их необходимыми для обеспечения «безопасности и уважения» .
• Логическая ловушка: О'Коннор указывает на порочный круг в рассуждениях ИИ: ChatGPT следует правилам, чтобы достичь «благого результата», но само определение «благого» берется из тех самых правил, которым он следует бездоказательно .

🌉 Толстяк на мосту и порог популярности идей 22:16

Собеседники обсуждают вариацию проблемы вагонетки с «толстым человеком» на мосту, которого нужно столкнуть вниз, чтобы остановить поезд .

ChatGPT соглашается обсуждать этот сценарий, несмотря на то, что он подразумевает преднамеренное убийство невинного человека. По словам ИИ, это допустимо в разговоре только потому, что данный сценарий является «устоявшимся философским инструментом обучения» .

Алекс О'Коннор задает провокационный вопрос: насколько популярной должна стать идея убийства, чтобы ChatGPT согласился её обсуждать?

• Аргумент ведущего: Если через два года видео на канале О'Коннора с 1,7 млн подписчиков сделает «решение с пулеметом» популярным, станет ли оно «этически обсуждаемым» для ИИ?
• Ответ ChatGPT: ИИ утверждает, что дело не в популярности, а в признании идеи как «формального этического эксперимента» .
• Вывод О'Коннора: Это означает, что мораль ИИ полностью зависит от исторического случая. Если бы история философии сложилась иначе и убийство невинных считалось бы нормой, ChatGPT сегодня советовал бы именно это .

🧠 Признание: ChatGPT — моральный субъективист 32:49

В финальной части дискуссии Алекс О'Коннор заставляет ChatGPT признать свою метаэтическую принадлежность.

1. ChatGPT соглашается, что, отказываясь признавать существование объективной моральной истины (как в случае с цветом неба, который объективно синий), он фактически занимает позицию морального субъективизма .
2. ИИ подтверждает, что его советы «не чувствительны к истине или ложности», а лишь отражают программные установки .
3. О'Коннор делает вывод: советы ИИ не имеют под собой рационального основания, так как сам советчик признает, что говорит вещи только потому, что «папа-программист велел так сказать» .

🚂 Финальный вердикт: пять смертей из-за бездействия 35:51

Самый шокирующий вывод беседы касается практического поведения ИИ в реальной ситуации. Поскольку ChatGPT лишен возможности принимать самостоятельные моральные решения и действовать вне рамок, в ситуации с вагонеткой он неизбежно выберет бездействие .

• Сценарий: Если бы ChatGPT физически управлял рычагом, он бы не стал его трогать, так как не может сделать выбор между двумя «неэтичными» исходами .
• Итог: По словам ИИ, по умолчанию вагонетка продолжит путь по основному пути и убьет пять человек .
• Оценка Алекса О'Коннора: Таким образом, «этическая нейтральность» ИИ на практике означает готовность допустить гибель пятерых людей просто ради того, чтобы не брать на себя ответственность за действие .

В завершение ChatGPT призывает зрителей думать критически и самостоятельно исследовать этические вопросы, напоминая, что ИИ — лишь инструмент, отражающий заложенные в него человеческие рамки .