В мире технологий разворачивается драма, которую многие принимают за обычную конкуренцию корпораций, но на деле она пропитана радикальными эсхатологическими идеями. Ведущий канала Cal Newport обсуждает с исследователем и бывшим участником футуристических движений Эмилем Торресом скрытую сторону индустрии ИИ — от стремления к «цифровому бессмертию» до пугающей готовности пожертвовать миллиардами жизней ради утопии.
🧬 Идеология TESCREAL: Религиозный фанатизм Кремниевой долины 2:01
Для понимания того, что происходит в лабораториях Anthropic и OpenAI, необходимо разобраться в акрониме TESCREAL, который Эмиль Торрес ввел совместно с компьютерным ученым Тимнит Гебру . Этот термин описывает связку из семи идеологий, доминирующих в Кремниевой долине:
- T (Transhumanism) — Трансгуманизм: идея радикального улучшения человеческого тела.
- E (Extropianism) — Экстропианство: вера в бесконечный прогресс и расширение интеллекта.
- S (Singularitarianism) — Сингуляритаризм: ожидание «взрыва интеллекта», после которого ИИ станет самосовершенствоваться.
- C (Cosmism) — Космизм: стремление перепроектировать не только людей, но и всю Вселенную.
- R (Rationalism) — Рационализм: сообщество (связанное с Элиезером Юдковским), сфокусированное на «правильном» мышлении.
- E (Effective Altruism) — Эффективный альтруизм: максимизация «блага» через математические расчеты.
- L (Longtermism) — Лонгтермизм: приоритет интересов триллионов потенциальных людей будущего над живущими сейчас .
По словам Торреса, такие фигуры, как Илон Маск, Сэм Альтман и Дарио Амодеи, являются приверженцами этих взглядов, хотя не всегда заявляют об этом публично. Для них трансгуманизм — это «вода, в которой они плавают» .
💀 Утопия через исчезновение: «Команда Людей» против «Команды Постлюдей» 13:58
Главный шокирующий тезис дискуссии заключается в том, что идеологи ИИ не просто предсказывают конец человечества, они считают его необходимым этапом. Эмиль Торрес утверждает, что внутри движения существует раскол на «думеров» (пессимистов) и «акселерационистов» (ускорителей), но обе группы стремятся к одной цели — созданию постчеловеческой утопии .
- Исключение биологического вида: Утопия всегда кого-то исключает. В видении TESCREAL исключаются биологические люди. Мы либо сольемся с машинами (как утверждает Сэм Альтман), либо станем ненужным рудиментом, потребляющим ресурсы, которые могли бы пойти на строительство «сферы Дайсона» или центров данных .
- Подмена понятий «вымирание»: Торрес объясняет, что в академической литературе этих движений «вымирание человечества» трактуется двояко. Если биологический вид Homo sapiens исчезнет, но на смену придут «цифровые ангелы», лонгтермисты не посчитают это катастрофой. Катастрофой для них является только «окончательное вымирание», когда не остается никаких наследников .
Элиезер Юдковский, один из лидеров рационалистов, открыто заявлял, что если создание «неправильного» ИИ неизбежно, то ядерная война была бы предпочтительнее, так как она оставит шанс выжившим через тысячи лет попробовать создать «правильный» ИИ и «достичь звезд» .
💰 Культ, деньги и قلعة (замки) в Оксфордшире 37:54
Сообщество Эффективного альтруизма (EA) описывается гостем как глубоко сектантское. Участники используют специфический жаргон, поощряют друг друга выбирать определенные профессии и даже вступают в личные отношения преимущественно внутри круга .
- Колоссальные бюджеты: До краха биржи FTX объем обещанных пожертвований сообществу составлял около 26 миллиардов долларов . Эти деньги идут на лоббирование, покупку элитной недвижимости (например, замка в Оксфордшире за 15 миллионов фунтов для проведения конференций) и финансирование ключевых ИИ-лабораторий .
- Этика «цель оправдывает средства»: Банкман-Фрид был «жестким утилитаристом». Согласно этой логике, ложь, мошенничество или даже убийство могут быть морально оправданы, если общие последствия ведут к «великому благу» в будущем .
🛡️ Самоисполняющееся пророчество и риск «разбитых яиц» 1:05:22
Cal Newport и Эмиль Торрес сходятся во мнении, что нынешние страхи перед ИИ — это не результат гениальной прозорливости «думеров», а самоисполняющееся пророчество . Компании OpenAI и Anthropic создавались людьми, одержимыми идеей сингулярности. Они проводят рискованные эксперименты именно потому, что верят в неизбежность сверхинтеллекта.
- Исторические параллели: Ведущий напоминает, что все крупные утопические движения прошлого — от нацизма до советского коммунизма — обещали «рай на земле», но в итоге оставляли за собой лишь горы трупов. Ни одно из них не достигло своей цели, но цена попытки всегда была катастрофической .
- Текущий вред: Пока идеологи грезят о звездах, их технологии уже наносят реальный ущерб: дезинформация, дипфейки, нарушение авторских прав и сотрудничество с военными структурами для создания систем слежки .
В завершение Cal Newport подчеркивает: ИИ может быть полезным инструментом, но сейчас он «захвачен и превращен в нестабильную шашку динамита» опасной утопической философией, которая ставит под сомнение ценность каждой человеческой жизни .
