Знаменитый писатель-фантаст и футуролог Дэвид Брин в беседе с Джоном Майклом Годье обсуждает экзистенциальные риски, связанные с искусственным интеллектом, парадокс Ферми и судьбу человеческой цивилизации. Брин предлагает уникальный взгляд на то, как избежать восстания машин и почему демократическая подотчетность является ключом к выживанию в галактике, полной «великих фильтров».
🤖 Проблема «Скайнета» и этика искусственного интеллекта 7:45
Обсуждая угрозу искусственного интеллекта (ИИ), Дэвид Брин разделяет опасения по поводу возможного появления «бессмертного машинного диктатора», однако он скептически относится к популярным методам решения этой проблемы . По мнению Брина, современные конференции по этике ИИ бесполезны, так как они лишь декларируют благие намерения, не предлагая механизмов их реализации .
Брин утверждает, что главная угроза исходит не от военных, которые ценят «кнопки выключения» и обладают совестью, а из финансового сектора .
- Угроза с Уолл-стрит: Пять крупнейших финансовых домов тратят на исследования ИИ больше, чем все университеты мира. В эти программы намеренно закладывается этос, который Брин называет «хищническим, паразитическим, аморальным и ненасытным» .
- Решение через конкуренцию: Вместо того чтобы пытаться запрограммировать «доброту», Брин предлагает использовать тот же метод, который помог человечеству ограничить власть королей и олигархов, — разделение власти и взаимный контроль .
- «Клеточные стенки» для ИИ: Брин считает критически важным разработать способы придания ИИ индивидуальности и «конкурентной ревности». Если один ИИ попытается захватить власть (стать Скайнетом), другие ИИ, преследуя собственные интересы, должны иметь возможность разоблачить и остановить его .
В качестве аналогии Брин приводит современную юридическую систему: если на вас нападает сверхразумный ИИ-подобный объект (адвокат), вы нанимаете собственного «юриста-робота», чтобы они противостояли друг другу .
👽 Парадокс Ферми и «Великий фильтр» 31:33
Одной из центральных тем дискуссии стал Парадокс Ферми — вопрос о том, почему при огромном количестве звезд в галактике мы до сих пор не встретили следов внеземных цивилизаций.
Брин обсуждает концепцию «Великого фильтра», предложенную Ником Бостромом: некоего барьера в развитии жизни, который почти невозможно преодолеть .
- Жизнь повсюду: Брин сомневается, что фильтр находится на этапе зарождения жизни. Он указывает на существование как минимум 10–12 «океанических миров» (подлёдных океанов на лунах вроде Европы или Энцелада) только в нашей Солнечной системе. Если там есть жизнь, значит, Вселенная буквально кишит ею .
- Стеклянный потолок интеллекта: Гость полагает, что фильтр может заключаться в переходе от сложной жизни к технологическому интеллекту. На Земле многим видам (дельфинам, воронам, слонам) свойственна «пре-сапиентность», но только люди смогли пробить «стеклянный потолок» .
- Гипотеза «Земля — первая»: Брин допускает оптимистичный вариант: возможно, человечество является первой цивилизацией в галактике, которой удалось пройти через «минное поле» опасных технологий саморазрушения .
📡 Опасности METI и «Культ призыва богов» 56:06
Дэвид Брин жестко критикует METI (Messaging Extra-Terrestrial Intelligence) — попытки активно отправлять сигналы в космос, чтобы привлечь внимание инопланетян .
- Квазирелигиозный аспект: По мнению Брина, стремление призвать «высших существ», чтобы они спасли нас от наших проблем, — это форма молитвы, а не науки .
- Нарушение протоколов: Брин был одним из авторов протоколов SETI в 90-х годах. Он ушел из комитетов в знак протеста, когда небольшая группа энтузиастов фактически уничтожила требование широкого международного обсуждения перед отправкой сигналов .
- Дипломатия без мандата: Гость считает действия METI незаконными, так как это попытка вести «любительскую дипломатию» с неизвестными силами от лица всей планеты, не учитывая мнение будущих поколений .
- Риски контакта: Брин приводит исторические примеры: даже при благих намерениях обеих сторон контакт технологически развитой цивилизации с менее развитой (например, капитана Кука с гавайцами) часто заканчивается катастрофой для последних .
🛸 НЛО, оптические иллюзии и «кошачьи лазеры» 1:07:05
Обсуждая недавний всплеск интереса к НЛО (UAP), Брин называет это «безумным культом», лишенным воображения .
- Проблема камер: Со времен 1950-х количество камер на Земле выросло в миллионы раз, но снимки НЛО становятся только «размытее» .
- Бритва Оккама: Анализируя знаменитые кадры «Тик-Таков», Брин указывает на простую деталь: если через объект проходит хотя бы один фотон света от фона океана, это не физический объект, а атмосферное явление .
- «Кошачьи лазеры»: Брин предполагает, что «Тик-Таки» могут быть результатом применения технологий спуфинга (создания ложных целей), которые военные используют друг против друга. Он сравнивает это с лазерной указкой: точку от лазера можно перемещать со скоростью, превышающей законы инерции, потому что она не имеет массы .
- Роль военных: Признание ВМС США фактов наблюдения НЛО Брин интерпретирует как признак «взросления» командования, которое перестало наказывать пилотов за отчеты о странных явлениях, чтобы собирать данные о возможных секретных технологиях противников .
📚 Фантастика как метод воспитания ИИ 49:14
Брин делится личными историями о встречах с легендами жанра: Айзеком Азимовым, Рэем Брэдбери и Робертом Хайнлайном . Он подчеркивает, что научная фантастика выполняет роль «самосбывающихся пророчеств», которые помогают обществу избегать ошибок .
- ИИ как дети: В своем романе Existence Брин описывает «мягкую посадку» ИИ: если разумным машинам необходимо проходить через период «детства», мы можем воспитывать их в семьях как приемных детей, прививая им человеческие ценности .
- Урок Франкенштейна: Брин утверждает, что роман Мэри Шелли — это не предостережение против науки, а мораль о «плохом отце». Виктор Франкенштейн создал монстра не инструментами, а тем, что бросил свое детище в момент его рождения .
- Мир «Станции одиннадцать»: Своим любимым романом Брин называет «Всем стоять на Занзибаре» Джона Браннера за его инновационную структуру и пророческое описание климатических проблем .
В завершение беседы Брин выражает надежду, что открытость общества (прозрачность) поможет человечеству выжить. Он верит, что если мы будем держать технологии на виду, а не прятать их в секретных лабораториях, у нас будет шанс стать первой цивилизацией, вышедшей к звездам .
