# Дэвид Брин: «Уолл-стрит может случайно создать Скайнет»

Источник: https://www.youtube.com/watch?v=3Rh7Eanj0rE
Канал: Event Horizon
Опубликовано: 28.07.2022

---

Знаменитый писатель-фантаст и футуролог Дэвид Брин в беседе с Джоном Майклом Годье обсуждает экзистенциальные риски, связанные с искусственным интеллектом, парадокс Ферми и судьбу человеческой цивилизации. Брин предлагает уникальный взгляд на то, как избежать восстания машин и почему демократическая подотчетность является ключом к выживанию в галактике, полной «великих фильтров».

## 🤖 Проблема «Скайнета» и этика искусственного интеллекта
[[JUMP:07:45]]

Обсуждая угрозу искусственного интеллекта (ИИ), Дэвид Брин разделяет опасения по поводу возможного появления «бессмертного машинного диктатора», однако он скептически относится к популярным методам решения этой проблемы [07:45]. По мнению Брина, современные конференции по этике ИИ бесполезны, так как они лишь декларируют благие намерения, не предлагая механизмов их реализации [16:26].

Брин утверждает, что главная угроза исходит не от военных, которые ценят «кнопки выключения» и обладают совестью, а из финансового сектора [15:48].

*   **Угроза с Уолл-стрит:** Пять крупнейших финансовых домов тратят на исследования ИИ больше, чем все университеты мира. В эти программы намеренно закладывается этос, который Брин называет «хищническим, паразитическим, аморальным и ненасытным» [15:07].
*   **Решение через конкуренцию:** Вместо того чтобы пытаться запрограммировать «доброту», Брин предлагает использовать тот же метод, который помог человечеству ограничить власть королей и олигархов, — разделение власти и взаимный контроль [18:38].
*   **«Клеточные стенки» для ИИ:** Брин считает критически важным разработать способы придания ИИ индивидуальности и «конкурентной ревности». Если один ИИ попытается захватить власть (стать Скайнетом), другие ИИ, преследуя собственные интересы, должны иметь возможность разоблачить и остановить его [21:00].

В качестве аналогии Брин приводит современную юридическую систему: если на вас нападает сверхразумный ИИ-подобный объект (адвокат), вы нанимаете собственного «юриста-робота», чтобы они противостояли друг другу [19:57].

## 👽 Парадокс Ферми и «Великий фильтр»
[[JUMP:31:33]]

Одной из центральных тем дискуссии стал Парадокс Ферми — вопрос о том, почему при огромном количестве звезд в галактике мы до сих пор не встретили следов внеземных цивилизаций.

Брин обсуждает концепцию «Великого фильтра», предложенную Ником Бостромом: некоего барьера в развитии жизни, который почти невозможно преодолеть [32:27].

*   **Жизнь повсюду:** Брин сомневается, что фильтр находится на этапе зарождения жизни. Он указывает на существование как минимум 10–12 «океанических миров» (подлёдных океанов на лунах вроде Европы или Энцелада) только в нашей Солнечной системе. Если там есть жизнь, значит, Вселенная буквально кишит ею [33:06].
*   **Стеклянный потолок интеллекта:** Гость полагает, что фильтр может заключаться в переходе от сложной жизни к технологическому интеллекту. На Земле многим видам (дельфинам, воронам, слонам) свойственна «пре-сапиентность», но только люди смогли пробить «стеклянный потолок» [36:22].
*   **Гипотеза «Земля — первая»:** Брин допускает оптимистичный вариант: возможно, человечество является первой цивилизацией в галактике, которой удалось пройти через «минное поле» опасных технологий саморазрушения [31:19].

## 📡 Опасности METI и «Культ призыва богов»
[[JUMP:56:06]]

Дэвид Брин жестко критикует METI (Messaging Extra-Terrestrial Intelligence) — попытки активно отправлять сигналы в космос, чтобы привлечь внимание инопланетян [56:19].

*   **Квазирелигиозный аспект:** По мнению Брина, стремление призвать «высших существ», чтобы они спасли нас от наших проблем, — это форма молитвы, а не науки [56:34].
*   **Нарушение протоколов:** Брин был одним из авторов протоколов SETI в 90-х годах. Он ушел из комитетов в знак протеста, когда небольшая группа энтузиастов фактически уничтожила требование широкого международного обсуждения перед отправкой сигналов [57:27].
*   **Дипломатия без мандата:** Гость считает действия METI незаконными, так как это попытка вести «любительскую дипломатию» с неизвестными силами от лица всей планеты, не учитывая мнение будущих поколений [1:00:29].
*   **Риски контакта:** Брин приводит исторические примеры: даже при благих намерениях обеих сторон контакт технологически развитой цивилизации с менее развитой (например, капитана Кука с гавайцами) часто заканчивается катастрофой для последних [1:04:10].

## 🛸 НЛО, оптические иллюзии и «кошачьи лазеры»
[[JUMP:1:07:05]]

Обсуждая недавний всплеск интереса к НЛО (UAP), Брин называет это «безумным культом», лишенным воображения [1:07:17].

*   **Проблема камер:** Со времен 1950-х количество камер на Земле выросло в миллионы раз, но снимки НЛО становятся только «размытее» [1:07:58].
*   **Бритва Оккама:** Анализируя знаменитые кадры «Тик-Таков», Брин указывает на простую деталь: если через объект проходит хотя бы один фотон света от фона океана, это не физический объект, а атмосферное явление [1:09:16].
*   **«Кошачьи лазеры»:** Брин предполагает, что «Тик-Таки» могут быть результатом применения технологий спуфинга (создания ложных целей), которые военные используют друг против друга. Он сравнивает это с лазерной указкой: точку от лазера можно перемещать со скоростью, превышающей законы инерции, потому что она не имеет массы [1:10:10].
*   **Роль военных:** Признание ВМС США фактов наблюдения НЛО Брин интерпретирует как признак «взросления» командования, которое перестало наказывать пилотов за отчеты о странных явлениях, чтобы собирать данные о возможных секретных технологиях противников [1:13:05].

## 📚 Фантастика как метод воспитания ИИ
[[JUMP:49:14]]

Брин делится личными историями о встречах с легендами жанра: Айзеком Азимовым, Рэем Брэдбери и Робертом Хайнлайном [50:24]. Он подчеркивает, что научная фантастика выполняет роль «самосбывающихся пророчеств», которые помогают обществу избегать ошибок [1:24:05].

*   **ИИ как дети:** В своем романе *Existence* Брин описывает «мягкую посадку» ИИ: если разумным машинам необходимо проходить через период «детства», мы можем воспитывать их в семьях как приемных детей, прививая им человеческие ценности [44:51].
*   **Урок Франкенштейна:** Брин утверждает, что роман Мэри Шелли — это не предостережение против науки, а мораль о «плохом отце». Виктор Франкенштейн создал монстра не инструментами, а тем, что бросил свое детище в момент его рождения [1:20:41].
*   **Мир «Станции одиннадцать»:** Своим любимым романом Брин называет «Всем стоять на Занзибаре» Джона Браннера за его инновационную структуру и пророческое описание климатических проблем [1:17:47].

В завершение беседы Брин выражает надежду, что открытость общества (прозрачность) поможет человечеству выжить. Он верит, что если мы будем держать технологии на виду, а не прятать их в секретных лабораториях, у нас будет шанс стать первой цивилизацией, вышедшей к звездам [31:19].

---