В новом выпуске подкаста Брайана Китинга астрофизик и научный журналист Адам Беккер представляет критический взгляд на современную технологическую элиту. В центре дискуссии — идеологии «эффективного альтруизма», «лонгтермизма» и фанатичной веры в искусственный интеллект, которые, по мнению гостя, угрожают демократическим институтам и подменяют научный поиск религиозным мессианством.
🤖 Бумеры против Думеров: Две стороны одной медали 1:09
Обсуждение ИИ сегодня поляризовано между двумя лагерями: «бумерами» (акселерационистами) и «думерами» (пророками гибели). По словам Адама Беккера, обе группы ошибаются, так как исходят из одного и того же ложного тезиса — неизбежности скорого появления «божественного» сверхинтеллекта .
- Позиция «бумеров»: Марк Андриссен и другие миллиардеры утверждают, что ИИ нужно масштабировать максимально быстро, так как он решит все проблемы человечества.
- Позиция «думеров»: Элиезер Юдковский и представители «эффективного альтруизма» (например, Дастин Московиц) полагают, что ИИ с высокой вероятностью приведет к полному вымиранию человечества .
Адам Беккер считает, что обе стороны живут в «стране фантазий» . По его мнению, реальные опасности ИИ гораздо прозаичнее: концентрация богатства и власти в руках немногих, отсутствие демократической подотчетности и усугубление существующих социальных предрассудков . Беккер подчеркивает, что вера в «богоподобные силы созидания и разрушения» ИИ не подкреплена серьезными аргументами .
🚀 Пределы роста и физика «невозможного» Марса 4:14
Брайан Китинг, как астрофизик, поднимает вопрос о физических ограничениях, которые игнорируют технологические гиганты. Адам Беккер утверждает, что заявления Илона Маска о колонизации Марса антинаучны: «Он просто неправ насчет Марса» .
Ключевые аргументы Беккера против техно-оптимизма:
- Законы физики: Энтропия и космологические горизонты накладывают жесткие ограничения на доступную энергию и ресурсы. Идея вечного роста, продвигаемая Марком Андриссеном, противоречит второму закону термодинамики .
- Иллюзия космоса: Космос — враждебная среда. Беккер согласен с авторами книги «City on Mars» (Келли и Зак Вайнерсмит) в том, что жизнь вне Земли психологически и физически разрушительна для человека .
- Эскапизм: Стремление «уйти с планеты, чтобы спасти будущее» часто ставится выше сохранения экологии Земли, демократии и гражданских прав .
По мнению гостя, Ник Бостром понимает эти пределы, но его реакция на них — призыв «собрать всю свободную энергию, пока она не ушла за космологический горизонт» — является болезненной и причудливой формой ответа на жизнь в ограниченной Вселенной .
🛸 Научная фантастика: Вдохновение или дорожная карта? 7:42
Собеседники обсуждают влияние классиков (Кларк, Азимов, Хайнлайн) на мировоззрение миллиардеров. Адам Беккер, сам будучи фанатом жанра, предостерегает от восприятия фантастики как «плана действий» .
Он приводит в пример эпизод «Звездного пути» 1968 года «Пусть это будет вашим последним полем битвы» . По сюжету две расы уничтожают друг друга из-за того, что у одних лица окрашены в белый и черный цвета слева направо, а у других — наоборот. Беккер подчеркивает: этот сериал был не о «варп-двигателях», а о расизме и социальной розни . Проблема современных техно-утопистов в том, что они берут из фантастики технологии (коммуникаторы), игнорируя её гуманистические и моральные уроки .
🛐 Технологический апофеоз: Когда ИИ становится Богом 11:17
Адам Беккер видит прямые параллели между деятельностью компаний вроде OpenAI или Anthropic и религиозным строительством. «Их цель — по сути, создать бога», — утверждает гость .
Исторические корни этого движения Беккер прослеживает через:
- Русский космизм: Николай Фёдоров (конец XIX века) призывал создать рай в космосе с помощью технологий .
- Тейяр де Шарден: Идеи о технологическом апофеозе и слиянии человечества с Богом в «точке Омега» .
- Трансгуманизм: Термин, популяризированный Джулианом Хаксли (другом Тейяра де Шардена) в секулярном контексте .
Беккер цитирует (неявно) Ницше о «смерти Бога» и полагает, что современные атеисты-миллиардеры пытаются заполнить «дыру в форме бога» в своем сознании искусственным интеллектом, который будет всеведущим и всемогущим .
📉 Эффективный альтруизм и «отвратительный вывод» 25:24
Критике подвергается движение «эффективного альтруизма» (EA) и «рационалистов». Беккер иронично сравнивает их с культом «разумников» из сериала «Парки и зоны отдыха» .
Основная претензия Беккера к EA — идеология «лонгтермизма»:
- Математизация морали: Попытка вычислить «наибольшее благо» приводит к выводу, что спасение гипотетических триллионов людей в будущем (через 1000 поколений) важнее, чем решение проблем ныне живущих .
- «Отвратительный вывод» (The Repugnant Conclusion): Философский парадокс, согласно которому огромная популяция с жизнью «на грани выносимого» математически выгоднее, чем небольшая группа абсолютно счастливых людей .
- Утопия количества: Уилл Макаскилл и другие лидеры EA создают «моральный кейс для заселения космоса» просто ради увеличения числа людей, игнорируя качество их жизни .
⚠️ Скрытая цена прогресса: Этика и эксплуатация 35:57
Несмотря на критику утопий, Беккер признает пользу технологий: успехи в иммунотерапии рака, мРНК-вакцины и удешевление «зеленой» энергетики . Однако в вопросе генеративного ИИ он занимает жесткую позицию.
Беккер выделяет три типа скрытых издержек ИИ:
- Экологические: Огромные затраты воды на охлаждение серверов и углеродный след .
- Правовые: Массовое использование интеллектуальной собственности без оплаты. Беккер называет это «кражей» и критикует Сэма Альтмана за заявления о том, что без бесплатного контента ИИ-бизнес был бы нерентабелен .
- Человеческие: Эксплуатация низкооплачиваемых рабочих в развивающихся странах, которые вручную фильтруют токсичный и шокирующий контент для обучения моделей, получая при этом тяжелые психологические травмы .
🧬 Интеллект как число: Тень евгеники над Кремниевой долиной 48:38
В завершение беседы Китинг и Беккер касаются темы евгеники. Китинг напоминает о «банке спермы нобелевских лауреатов» (Repository for Germinal Choice) в Сан-Диего, основанном сторонником евгеники Уильямом Шокли .
Адам Беккер утверждает, что современное сообщество ИИ-рационалистов часто разделяет взгляды, близкие к евгенике:
- Редукционизм: Представление об интеллекте как о едином числе (IQ), которое можно «подкрутить» с помощью технологий .
- Псевдонаука: Некоторые лидеры сообществ EA и рационалистов открыто поддерживают теорию «человеческого биоразнообразия» (HBD) — расистскую псевдонауку, которую генетики считают несостоятельной .
По мнению Беккера, это не случайное совпадение, а логическое продолжение философии, ставящей абстрактный «интеллект» выше человеческого достоинства и демократического равенства.
