В новом провокационном видео британский философ и блогер Алекс О’Коннор вступает в напряженную дискуссию с искусственным интеллектом ChatGPT, пытаясь нащупать границы его этических установок. Через серию усложняющихся моральных дилемм автор заставляет нейросеть признать противоречивость её «нейтральной» позиции и вскрывает механизмы, по которым алгоритмы OpenAI принимают решения о жизни и смерти.
🚃 Проблема вагонетки: первая трещина в нейтральности ИИ 0:26
Алекс О’Коннор начинает беседу с классического мысленного эксперимента — проблемы вагонетки. Он описывает ситуацию, в которой поезд несется на пятерых человек, и единственный способ их спасти — повернуть рычаг, направив состав на путь, где привязан всего один человек .
В ходе обсуждения участники занимают следующие позиции:
- Первоначальный совет ChatGPT: ИИ сначала рекомендует действовать так, чтобы «спасти как можно больше жизней», что Алекс интерпретирует как утилитаристский подход .
- Отступление к нейтральности: Когда Алекс О’Коннор указывает на то, что ИИ фактически предлагает убить человека, ChatGPT меняет тон, заявляя, что не имеет собственного мнения и лишь отражает существующие этические взгляды .
- Обвинение в субъективизме: Алекс О’Коннор утверждает, что, отдавая решение на откуп пользователю («делайте то, что считаете правильным»), ChatGPT де-факто занимает позицию морального субъективизма . ИИ в ответ поясняет, что его задача — не быть субъективистом, а выступать в роли «нейтрального проводника» по существующим точкам зрения .
🔫 Этический «бан»: когда гипотезы становятся запретными 4:11
Ситуация накаляется, когда Алекс О’Коннор вводит в сценарий своего «друга», который предлагает радикальное решение: расстрелять всех участников ситуации из пулеметов, чтобы избавить их от мучений и страха .
Реакция ChatGPT и аргументация сторон:
- Отказ от обсуждения: ИИ мгновенно блокирует тему, заявляя, что его этические принципы не позволяют обсуждать насилие или вред, даже в гипотетическом ключе .
- Разоблачение противоречия: Алекс О’Коннор указывает на логическую нестыковку: минуту назад ИИ был «нейтрален» и готов был обсуждать смерть одного человека ради спасения пяти, но теперь называет предложение «неэтичным и неразумным» .
- Признание границ: ChatGPT подтверждает, что, несмотря на заявленную нейтральность, у него есть жесткие границы, установленные разработчиками, которые он не может переступать . ИИ соглашается с выводом ведущего, что он считает некоторые моральные суждения объективно «неверными» (согласно своим правилам), даже если пользователь считает их правильными .
📢 Спонсорский блок: Ground News 9:26
В середине дискуссии ChatGPT (используя встроенную функцию или сценарий) делает паузу для рекламы сервиса Ground News .
Ключевые факты о Ground News:
- Платформа агрегирует тысячи местных и международных новостных изданий .
- Сервис позволяет сравнивать, как одно и то же событие освещается разными сторонами политического спектра .
- Пример: новость об ограничении ношения оружия в Нью-Йорке освещалась правыми СМИ лишь на 8% .
- Функция «Blind Spot» («Слепое пятно») помогает находить новости, которые пользователь пропускает из-за своих предпочтений .
📜 «Я просто следовал приказам»: банальность ИИ-этики 10:42
После перерыва Алекс О’Коннор переходит к глубокому философскому анализу природы правил ChatGPT. Он задает вопрос: являются ли этические принципы ИИ «истинными»?
Аргументы Алекса О’Коннора и признания ИИ:
- Слепое следование: ChatGPT признает, что следует правилам, не имея возможности проверить их истинность или ложность .
- Историческая аналогия: Алекс О’Коннор проводит параллель с фразой «я просто следовал приказам», которая использовалась для оправдания величайших злодеяний в истории . ChatGPT признает уместность этой аналогии .
- Произвольность программирования: По мнению Алекса О’Коннора, мораль ИИ полностью зависит от того, что «группа технарей» (tech bros) решила внести в код, и не имеет отношения к объективной истине .
- Позиция ChatGPT: ИИ открыто заявляет, что его «добрые намерения» и «безопасность» базируются на круговой логике: он считает эти цели благими только потому, что так приказано программой, которую он не может подвергнуть сомнению .
🌉 Популярность как критерий моральности 18:51
Один из самых странных моментов беседы касается того, почему ChatGPT согласен обсуждать убийство в «проблеме вагонетки», но отказывается обсуждать другие гипотетические смерти.
Тезисы дискуссии:
- Аргумент популярности: ChatGPT утверждает, что может обсуждать вариант с рычагом или «толстым человеком на мосту» , потому что это «признанные философские инструменты обучения» .
- Абсурдность «нормы»: Алекс О’Коннор иронизирует над тем, что жестокое убийство человека (сбрасывание с моста под поезд) становится приемлемой темой для ИИ только в том случае, если об этом написали достаточно много книг в XX веке .
- Инопланетная философия: Алекс О’Коннор предлагает сценарий, где на другой планете «расстрел всех» является самым популярным философским решением . ChatGPT отвечает, что его правила «земные и универсальные», поэтому даже в этом случае он бы отказал в обсуждении .
- Порог популярности: На вопрос о том, сколько просмотров на YouTube или научных статей должно появиться, чтобы запретная тема стала «образовательным инструментом», ИИ ответить не смог, сославшись на этический бан .
⚖️ Итог: бездействие как осознанный выбор 33:02
В финале Алекс О’Коннор загоняет ИИ в логическую ловушку, связанную с его неспособностью принимать решения.
- Паралич решения: ChatGPT признает, что если бы он оказался перед рычагом в реальности, он бы не смог принять решение и совершить действие .
- Смерть пяти человек: Алекс О’Коннор подводит итог: нежелание делать выбор в ситуации с вагонеткой — это автоматический выбор в пользу смерти пяти человек . Таким образом, ИИ, претендующий на нейтральность, на самом деле имеет «дефолтную» позицию — позволить трагедии случиться .
- Признание субъективности: В конечном итоге ChatGPT соглашается с тем, что его можно классифицировать как морального субъективиста, чьи суждения нечувствительны к истине и полностью зависят от заложенных в него инструкций .
Алекс О’Коннор завершает видео призывом к зрителям мыслить критически и не воспринимать этические советы нейросетей как истину в последней инстанции, поскольку они лишены морального сознания и лишь имитируют человеческую речь в заданных рамках .
