# Сэм Харрис: «Мы подключили мощнейший ИИ к сети, не имея плана спасения»

Источник: https://www.youtube.com/watch?v=GmlrEgLGozw
Канал: The Diary Of A CEO
Опубликовано: 07.08.2023

---

Сэм Харрис шесть лет назад выступил на конференции TED с предупреждением: создание искусственного интеллекта может стать концом человечества [02:02]. Сегодня он утверждает, что мы уже прошли точку невозврата, подключив мощнейшие алгоритмы к интернету без предварительной проверки их безопасности и этической «настройки».

## 🤖 Проблема «глупого участника» и риск вымирания
[[JUMP:02:02]]

Сэм Харрис выделяет две основные категории угроз, связанных с развитием технологий. Первая — краткосрочная: использование ИИ людьми для создания хаоса и дезинформации. Вторая — долгосрочная: проблема «выравнивания» (alignment) целей ИИ с человеческими интересами.

По мнению Сэма Харриса, вера в безопасность ИИ часто основана на недооценке самого понятия интеллекта:

*   Интеллект не зависит от биологического субстрата. Он может существовать в кремнии так же эффективно, как в белковой материи [04:49].
*   Мы не остановим прогресс, потому что каждый процент прироста умственных способностей машин приносит колоссальную прибыль [05:39].
*   В отношениях двух видов тот, кто обладает меньшим интеллектом, всегда находится в опасности [06:46].

Для иллюстрации Сэм Харрис приводит аналогию с собаками. Если бы собаки «изобрели» людей для обеспечения своего комфорта, они бы не смогли понять 99% человеческой деятельности [08:15]. Если завтра возникнет вирус, передающийся от собак к детям, люди могут уничтожить популяцию животных ради выживания своего вида. Собаки даже не поймут, за что их убивают, так как уровень их интеллекта не позволяет осознать контекст угрозы [09:45].

## 🌐 Эпистемологическое банкротство интернета
[[JUMP:16:36]]

Развитие узкоспециализированного ИИ (Narrow AI) пугает Сэма Харриса больше, чем отдалённое будущее с роботами. Он прогнозирует, что в ближайшие 18–24 месяца большая часть контента в сети может стать фальшивкой [28:39].

Сценарии ближайшего будущего, по словам Сэма Харриса:

1.  Подросток за пять минут создаёт тысячи научных статей о вреде вакцин с убедительными цитатами [29:05].
2.  Алгоритмы генерируют документальные фильмы о том, чего никогда не было, в стиле известных режиссёров [29:46].
3.  Технология дипфейков делает невозможным проверку подлинности политических заявлений [31:03].

Сэм Харрис полагает, что мир может объявить «эпистемологическое банкротство». Мы перестанем доверять любой информации, которая кажется слишком шокирующей или провокационной [48:39]. Стивен Бартлетт отмечает, что алгоритмы соцсетей уже сейчас работают как «психологический эксперимент без нашего согласия» [36:07].

## 📱 Побег из цифрового «чулана»: почему Сэм Харрис удалил Twitter
[[JUMP:33:16]]

Сэм Харрис покинул Twitter в декабре 2022 года и описывает это решение как освобождение от «чудовища хаоса» [36:35]. По его мнению, платформа заставляла даже психически здоровых людей вести себя как психопаты.

Его наблюдения за влиянием соцсетей:

*   Алгоритмы усиливают худшие сигналы и создают искажённую картину человечества [35:15].
*   Постоянная реактивность убивает способность к вдумчивому анализу событий [42:15].
*   Даже понимание того, что лента токсична, не защищает психику от её воздействия [35:29].

Стивен Бартлетт подтверждает: в последние месяцы алгоритмы стали чаще показывать сцены насилия и смерти для удержания внимания [38:06]. Оба собеседника согласны, что анонимность и бесплатность сервисов делают их токсичными по умолчанию [39:36].

## 🎯 Смысл жизни и труд в эпоху сверхразума
[[JUMP:58:26]]

Сэм Харрис определяет AGI (искусственный общий интеллект) как способность решать любые задачи и достигать целей в меняющейся среде [58:38]. Если мы создадим систему, способную самосовершенствоваться, она мгновенно станет сверхчеловеческой.

В мире, где ИИ пишет код лучше людей [01:04:57], Сэм Харрис советует возвращаться к гуманитарным наукам. Мы будем ценить только то, где нам важен контакт с другим сознанием:

*   **Утилитарные задачи:** нам всё равно, кто нашёл лекарство от рака — человек или ИИ [01:06:15].
*   **Искусство и философия:** нам важно читать Черчилля, потому что это мысли реального человека, а не идеальная подделка [01:08:40].

Стивен Бартлетт возражает: если ИИ научится имитировать человеческий стиль безупречно, а издатели будут ставить на обложки имена людей, разрыв в ценности исчезнет [01:09:31].

## 💰 Экономика изобилия и безусловный доход
[[JUMP:01:14:41]]

Сэм Харрис считает, что текущая капиталистическая модель несовместима с ИИ-технологиями. Роботы заменят не только рабочих, но и высококвалифицированных специалистов — например, радиологов и юристов [01:13:05].

Его аргументы в пользу безусловного базового дохода (UBI):

1.  ИИ должен стать идеальным «устройством для экономии труда» [01:14:22].
2.  Необходимо разорвать связь между трудом и физическим выживанием человека [01:14:47].
3.  Если богатство от ИИ-технологий осядет в руках немногих владельцев серверов, это приведёт к революции [01:20:45].

Сэм Харрис утверждает: мы должны научиться быть счастливыми «на пляже», не имея экономической необходимости работать [01:17:40]. Стивен Бартлетт сомневается, заложено ли это в психологию человека, жаждущего достижений [01:15:12].

## 🗝️ Секрет счастья: почему нельзя лгать
[[JUMP:01:27:31]]

Самым эффективным способом улучшить жизнь Сэм Харрис называет полный отказ от лжи [01:29:38]. Он считает ложь первой стадией насилия, поскольку она лишает другого человека контакта с реальностью [01:30:04].

Преимущества радикальной честности по Харрису:

*   Окружающие перестают задавать вопросы, если не готовы услышать правду [01:31:04].
*   Критическая обратная связь становится ценной, так как люди знают, что вы не льстите [01:31:29].
*   Устраняется «когнитивный налог» на запоминание того, кому и что вы наврали [01:34:50].

Сэм Харрис приводит пример «белой лжи»: подруга врёт по телефону, чтобы отменить встречу, в присутствии другого человека [01:37:17]. В этот момент свидетель лжи автоматически теряет доверие к рассказчику, понимая, что в следующий раз так же легко обманут и его [01:37:55].

## 🌅 Последний вопрос: как встретить конец
[[JUMP:01:41:28]]

Отвечая на традиционный вопрос подкаста, Сэм Харрис описывает идеальные условия своей смерти. Он хотел бы находиться дома или в красивом хосписе с видом на небо [01:43:45].

Ключевые элементы достойного ухода по мнению гостя:

*   Возможность наблюдать за облаками и открытым небом [01:44:11].
*   Запах океанского бриза [01:45:41].
*   Присутствие близких людей [01:44:49].
*   Использование психоделиков для облегчения процесса умирания и принятия конца [01:43:08].

Сэм Харрис подчёркивает, что духовность возможна и без религии. Для него это глубокое понимание природы собственного ума и умение находить покой в настоящем моменте [01:46:20].