# Философия мемов: ИИ, парадокс дедушки и математика бесконечных страданий

Источник: https://www.youtube.com/watch?v=sHP_Yp6QSxU
Канал: Alex O'Connor
Опубликовано: 24.10.2022

---

Популярный британский философ и блогер Алекс О'Коннор (Alex O'Connor) в новом выпуске своего канала разбирает философские подтексты интернет-мемов о «проблеме вагонетки». Автор использует ироничные картинки как отправную точку для глубокого анализа этики искусственного интеллекта, физики путешествий во времени, метафизики идентичности и математических парадоксов бесконечности.

## 🤖 Этика ИИ и проблема согласования
[[JUMP:0:00]]

Первый сюжет рассматривает классическую дилемму вагонетки (пять человек против одного), но с важным условием: рычаг переключаете не вы, а созданный вами полностью разумный робот [0:12]. Этот сценарий отсылает к одной из самых обсуждаемых проблем в области безопасности ИИ — «проблеме согласования» (alignment problem) [0:39]. 

Суть проблемы, по словам О'Коннора, заключается в следующем:

*   Сможем ли мы гарантировать, что цели сверхразумного ИИ совпадут с человеческими ценностями? [0:45]
*   Если цели разойдутся, ИИ может счесть человечество помехой и попытаться поработить или уничтожить его [0:52].
*   Несёт ли создатель персональную ответственность за решения, принятые его автономным творением? [0:58]

О'Коннор отмечает, что этот вопрос уже перестал быть чисто теоретическим, так как ИИ управляет беспилотными автомобилями. В случае неизбежной аварии алгоритм должен мгновенно решить, кем пожертвовать [1:17]. Автор задаётся вопросом: несёт ли, к примеру, Илон Маск личную ответственность за каждое решение, принятое автопилотом Tesla? [1:42]

По мнению О'Коннора, интуитивный ответ — «нет», но с существенной оговоркой. Он сравнивает создание ИИ с воспитанием ребёнка [3:02]:

1.  ИИ — это не просто набор команд, а «самостоятельный зверь», реагирующий на мир в реальном времени, подобно человеческому мозгу [2:09]. 
2.  Как и родители не несут полной ответственности за преступления взрослого сына, так и создатель ИИ-агента может быть свободен от вины за его конкретные решения [3:16].
3.  **Оговорка:** если создатель был халатен и не уделил должного внимания «согласованию» целей (аналогично пренебрежению воспитанием ребёнка), он несёт частичную ответственность за негативный исход [4:08].

## 👑 Интерлюдия: Титулы и экология
[[JUMP:4:40]]

В перерыве между философскими задачами О'Коннор упоминает проект Established Titles, который предлагает пользователям стать «лордами» или «леди» [4:50]. 

*   Проект основан на шотландском обычае называть землевладельцев лордами [5:13].
*   При покупке набора участник получает право собственности на один квадратный фут земли в поместье Эделстон (Шотландия) [5:26].
*   Компания сотрудничает с организациями One Tree Planted и Trees for the Future, высаживая дерево за каждый заказ [5:39]. 

О'Коннор шутит, что первые 200 человек, купившие участки по его ссылке, окажутся соседями и смогут основать «маленькую империю Cosmic Skeptic» в Шотландии [6:05].

## ⏳ Парадокс дедушки и физика времени
[[JUMP:6:33]]

Следующий мем предлагает ситуацию, где вы — путешественник во времени. Вагонетка несётся на пятерых, но на запасном пути привязан ваш дедушка в возрасте, когда ваши родители ещё даже не родились [6:40]. 

О'Коннор утверждает, что путешествия в прошлое, скорее всего, невозможны именно из-за подобных логических противоречий [7:00]. Однако он признаёт возможность «путешествия в будущее» благодаря теории относительности Эйнштейна [7:13]:

*   Время нелинейно и зависит от скорости и гравитации.
*   Находясь на орбите чёрной дыры, вы испытаете меньшее течение времени, чем люди на Земле. Вернувшись, вы окажетесь в «будущем» [7:27].
*   Тем не менее, вернуться в точку «минус три года» от начала пути физически нельзя [8:07].

В контексте мема О'Коннор полагает, что убийство собственного дедушки создало бы парадокс, способный уничтожить Вселенную [8:19]. Исходя из этого, его этический выбор — позволить вагонетке переехать пятерых человек, чтобы не рисковать самим существованием реальности [8:32].

## 🚢 Корабль Тесея и мериологический нигилизм
[[JUMP:8:32]]

Третий сценарий описывает вагонетку, которая едет по пути длиной в 1000 миль. Пока она движется, рабочие постепенно заменяют в ней каждую деталь на новую. В конце пути эта «обновлённая» вагонетка убивает человека. Вопрос: та ли это самая вагонетка, которую вы направили на этот путь? [8:46]

Этот парадокс отсылает к знаменитому «Кораблю Тесея» и английской шутке про «метлу Триггера» (персонаж комедии Only Fools and Horses), которая служила хозяину 20 лет, хотя у неё 17 раз меняли насадку и 14 раз — ручку [9:39]. 

О'Коннор переносит этот вопрос на человеческую личность:

*   Атомы в теле человека полностью обновляются примерно каждые семь лет [10:06].
*   Вы через 10 лет будете состоять из совершенно иного набора материи, чем сегодня [10:18].

Сам О'Коннор признаётся в симпатии к позиции **мериологического нигилизма** [10:44]. Согласно этому взгляду:

1.  Объектов как таковых (кораблей, столов, людей) не существует в реальности [10:56].
2.  Существует только фундаментальная материя (субатомные частицы) [11:03].
3.  Все названия — лишь лингвистические границы, которые человеческий мозг накладывает на скопления атомов [11:09].

В качестве примера автор приводит стол. Мы называем «столом» ножки и столешницу, но не включаем в это понятие стоящую на нём кружку кофе, хотя это такое же скопление материи. Разница лишь в нашем удобстве и языке [12:12]. По мнению О'Коннора, вагонетка остаётся «той же самой» ровно до тех пор, пока мы договариваемся называть её так [13:03].

## ♾️ Математика ада: потенциальная и актуальная бесконечность
[[JUMP:13:03]]

Последний мем представляет два пути, на каждом из которых находится бесконечное количество людей. На первом пути они привязаны группами: 1 человек, затем 2, затем 3 и так далее до бесконечности. На втором пути прогрессия начинается с 2 человек (2, 3, 4...) [13:16].

На первый взгляд, выбор безразличен, так как бесконечность равна бесконечности. Однако О'Коннор вводит различие между двумя типами бесконечности [13:42]:

*   **Актуальная бесконечность:** Множество, которое существует целиком и сразу (например, Отель Гильберта с бесконечным количеством комнат). Многие философы считают её невозможной в реальности из-за парадоксов (бесконечность + 1 всё равно равна бесконечности) [14:21].
*   **Потенциальная бесконечность:** Процесс, который стремится к бесконечности, но в любой конкретный момент времени остаётся конечным (например, вечная жизнь в раю, где каждый прожитый день добавляется к сумме) [13:55].

Для иллюстрации О'Коннор приводит аналогию с адом. Если вам суждено страдать вечно, но вы можете выбрать между 100 единицами боли в день и 200 единицами, разумно выбрать 100 [15:24]. Хотя в сумме страдание будет «бесконечным», в любой момент времени, когда вы решите произвести замер, уровень боли при первом варианте будет в два раза меньше [16:15]. 

Таким образом, по мнению О'Коннора, путь, начинающийся с одного человека, предпочтительнее, так как эта «потенциальная бесконечность» растёт медленнее и на каждом этапе причиняет меньше страданий [16:28].