Сэм Харрис шесть лет назад выступил на конференции TED с предупреждением: создание искусственного интеллекта может стать концом человечества . Сегодня он утверждает, что мы уже прошли точку невозврата, подключив мощнейшие алгоритмы к интернету без предварительной проверки их безопасности и этической «настройки».
🤖 Проблема «глупого участника» и риск вымирания 2:02
Сэм Харрис выделяет две основные категории угроз, связанных с развитием технологий. Первая — краткосрочная: использование ИИ людьми для создания хаоса и дезинформации. Вторая — долгосрочная: проблема «выравнивания» (alignment) целей ИИ с человеческими интересами.
По мнению Сэма Харриса, вера в безопасность ИИ часто основана на недооценке самого понятия интеллекта:
- Интеллект не зависит от биологического субстрата. Он может существовать в кремнии так же эффективно, как в белковой материи .
- Мы не остановим прогресс, потому что каждый процент прироста умственных способностей машин приносит колоссальную прибыль .
- В отношениях двух видов тот, кто обладает меньшим интеллектом, всегда находится в опасности .
Для иллюстрации Сэм Харрис приводит аналогию с собаками. Если бы собаки «изобрели» людей для обеспечения своего комфорта, они бы не смогли понять 99% человеческой деятельности . Если завтра возникнет вирус, передающийся от собак к детям, люди могут уничтожить популяцию животных ради выживания своего вида. Собаки даже не поймут, за что их убивают, так как уровень их интеллекта не позволяет осознать контекст угрозы .
🌐 Эпистемологическое банкротство интернета 16:36
Развитие узкоспециализированного ИИ (Narrow AI) пугает Сэма Харриса больше, чем отдалённое будущее с роботами. Он прогнозирует, что в ближайшие 18–24 месяца большая часть контента в сети может стать фальшивкой .
Сценарии ближайшего будущего, по словам Сэма Харриса:
- Подросток за пять минут создаёт тысячи научных статей о вреде вакцин с убедительными цитатами .
- Алгоритмы генерируют документальные фильмы о том, чего никогда не было, в стиле известных режиссёров .
- Технология дипфейков делает невозможным проверку подлинности политических заявлений .
Сэм Харрис полагает, что мир может объявить «эпистемологическое банкротство». Мы перестанем доверять любой информации, которая кажется слишком шокирующей или провокационной . Стивен Бартлетт отмечает, что алгоритмы соцсетей уже сейчас работают как «психологический эксперимент без нашего согласия» .
📱 Побег из цифрового «чулана»: почему Сэм Харрис удалил Twitter 33:16
Сэм Харрис покинул Twitter в декабре 2022 года и описывает это решение как освобождение от «чудовища хаоса» . По его мнению, платформа заставляла даже психически здоровых людей вести себя как психопаты.
Его наблюдения за влиянием соцсетей:
- Алгоритмы усиливают худшие сигналы и создают искажённую картину человечества .
- Постоянная реактивность убивает способность к вдумчивому анализу событий .
- Даже понимание того, что лента токсична, не защищает психику от её воздействия .
Стивен Бартлетт подтверждает: в последние месяцы алгоритмы стали чаще показывать сцены насилия и смерти для удержания внимания . Оба собеседника согласны, что анонимность и бесплатность сервисов делают их токсичными по умолчанию .
🎯 Смысл жизни и труд в эпоху сверхразума 58:26
Сэм Харрис определяет AGI (искусственный общий интеллект) как способность решать любые задачи и достигать целей в меняющейся среде . Если мы создадим систему, способную самосовершенствоваться, она мгновенно станет сверхчеловеческой.
В мире, где ИИ пишет код лучше людей , Сэм Харрис советует возвращаться к гуманитарным наукам. Мы будем ценить только то, где нам важен контакт с другим сознанием:
- Утилитарные задачи: нам всё равно, кто нашёл лекарство от рака — человек или ИИ .
- Искусство и философия: нам важно читать Черчилля, потому что это мысли реального человека, а не идеальная подделка .
Стивен Бартлетт возражает: если ИИ научится имитировать человеческий стиль безупречно, а издатели будут ставить на обложки имена людей, разрыв в ценности исчезнет .
💰 Экономика изобилия и безусловный доход 1:14:41
Сэм Харрис считает, что текущая капиталистическая модель несовместима с ИИ-технологиями. Роботы заменят не только рабочих, но и высококвалифицированных специалистов — например, радиологов и юристов .
Его аргументы в пользу безусловного базового дохода (UBI):
- ИИ должен стать идеальным «устройством для экономии труда» .
- Необходимо разорвать связь между трудом и физическим выживанием человека .
- Если богатство от ИИ-технологий осядет в руках немногих владельцев серверов, это приведёт к революции .
Сэм Харрис утверждает: мы должны научиться быть счастливыми «на пляже», не имея экономической необходимости работать . Стивен Бартлетт сомневается, заложено ли это в психологию человека, жаждущего достижений .
🗝️ Секрет счастья: почему нельзя лгать 1:27:31
Самым эффективным способом улучшить жизнь Сэм Харрис называет полный отказ от лжи . Он считает ложь первой стадией насилия, поскольку она лишает другого человека контакта с реальностью .
Преимущества радикальной честности по Харрису:
- Окружающие перестают задавать вопросы, если не готовы услышать правду .
- Критическая обратная связь становится ценной, так как люди знают, что вы не льстите .
- Устраняется «когнитивный налог» на запоминание того, кому и что вы наврали .
Сэм Харрис приводит пример «белой лжи»: подруга врёт по телефону, чтобы отменить встречу, в присутствии другого человека . В этот момент свидетель лжи автоматически теряет доверие к рассказчику, понимая, что в следующий раз так же легко обманут и его .
🌅 Последний вопрос: как встретить конец 1:41:28
Отвечая на традиционный вопрос подкаста, Сэм Харрис описывает идеальные условия своей смерти. Он хотел бы находиться дома или в красивом хосписе с видом на небо .
Ключевые элементы достойного ухода по мнению гостя:
- Возможность наблюдать за облаками и открытым небом .
- Запах океанского бриза .
- Присутствие близких людей .
- Использование психоделиков для облегчения процесса умирания и принятия конца .
Сэм Харрис подчёркивает, что духовность возможна и без религии. Для него это глубокое понимание природы собственного ума и умение находить покой в настоящем моменте .
