Яан Таллинн, один из создателей Skype и Kazaa, сегодня известен не только как программист, но и как активный сторонник идеи рационального долгосрочного планирования. В своем выступлении он предлагает пересмотреть привычную дихотомию «личность против общества» и вводит понятие «трихотомии», где третьим и решающим элементом являются интересы будущих поколений. По мнению Таллинна, современные технологии достигли такой мощи, что действия малых групп или отдельных лиц могут необратимо изменить траекторию развития всей цивилизации, в то время как существующие социальные институты остаются к этому катастрофически не готовы.
🚀 Три уровня вызовов: от личного благополучия до выживания вида 2:15
Таллинн классифицирует все задачи и проблемы, стоящие перед человеком, на три уровня . Эта иерархия помогает понять, почему человечество часто игнорирует самые масштабные угрозы.
- Уровень 1: Индивидуальные вызовы. Это личные потребности человека — здоровье, семья и финансовое благополучие . Развитые и состоятельные люди на этом уровне часто становятся серийными предпринимателями или инвесторами, стремясь оптимизировать собственное счастье и успех .
- Уровень 2: Традиционные социальные вызовы. Сюда относятся политика, благотворительность и некоммерческая деятельность . На этом уровне люди стремятся к общественному признанию, решая понятные большинству проблемы (например, строительство приютов для животных или борьба с болезнями через фонды, подобные Gates Foundation) .
- Уровень 3: Вызовы будущего. Это проблемы, для решения которых у общества еще нет «культурной памяти» . К ним относятся экзистенциальные риски, связанные с мощными технологиями будущего, такими как искусственный интеллект. Успех или провал на этом уровне определяет, будет ли вообще существовать человечество через столетия .
🛡️ Урок Станислава Петрова: когда один человек решает судьбу мира 3:12
Для иллюстрации того, как индивид может быть важнее целого общества, Таллинн приводит случай 1983 года . 1 сентября советский истребитель сбил корейский пассажирский лайнер (рейс 007), что привело к резкому обострению Холодной войны. Спустя три недели советская система раннего предупреждения ложно зафиксировала запуск американских баллистических ракет.
Офицер Станислав Петров, находившийся на дежурстве, вопреки протоколу, требующему немедленного ответного удара, принял решение считать сигнал ложным . По словам Таллинна, Петров в тот день буквально спас мир и всех, кто живет сегодня . Этот пример доказывает два тезиса:
- История часто пишется отдельными людьми, а не мощными социальными институтами .
- Общество часто даже не замечает судьбоносных моментов и не вознаграждает своих спасителей должным образом (награды Петрова несопоставимы с масштабом его поступка) .
⚓ Ловушка социального статуса 10:05
Яан Таллинн утверждает, что эволюция сыграла с нами злую шутку, создав «цикл подкрепления социального статуса» . На протяжении сотен тысяч лет человек получал вознаграждение от племени за действия, приносящие немедленную и понятную пользу.
Этот механизм мешает людям переходить к вызовам третьего уровня по трем причинам:
- Ориентация на краткосрочность. Люди хотят получать «дозу» социального одобрения как можно чаще, поэтому выбирают быстрые проекты .
- Снижение амбициозности. В глазах общества постройка локального приюта для животных и попытка Илона Маска сделать человечество мультипланетарным видом могут приносить сопоставимый социальный статус, хотя сложность задач разнится на порядки .
- Понятность для масс. Чтобы получить статус, деятельность должна быть легко объяснима . Сложные риски ИИ трудно донести до широкой публики, поэтому многие предпочитают работать в более традиционных сферах благотворительности.
🤖 Путь к рациональности и проблема сверхразума (AGI) 15:26
Таллинн описывает свой личный путь: после продажи Skype компании eBay в 2005 году он столкнулся с вопросом, что делать дальше . Ключевым моментом стало знакомство с блогами LessWrong и работами Элиезера Юдковского по рациональности .
Автор видео пришел к выводу, что наиболее недооцененной и при этом важной сферой являются экзистенциальные риски, в частности — создание Искусственного Общего Интеллекта (AGI) .
- Главная проблема, по мнению Таллинна, не в том, как построить AGI, а в том, как заставить его делать то, что мы хотим (проблема согласования/alignment) .
- Яан Таллинн сам является одним из крупнейших спонсоров Singularity Institute и активно сотрудничает с Future of Humanity Institute в Оксфорде .
🌍 Поколение cl3: Новое движение за будущее 19:11
Таллинн предлагает ввести термин «поколение cl3» (cl3 generation) для людей, осознающих вызовы третьего уровня . Это не возрастная категория, а группа единомышленников, которые понимают недостаточность традиционных социальных институтов.
Внутри этого движения Яан выделяет три ключевые роли:
- Доноры (Donors): Люди и компании, обеспечивающие ресурсы. В качестве примера Таллинн приводит стартап Quickie, который нанимает сторонников идей рациональности .
- Исследователи (Researchers): Те, кто напрямую изучает риски третьего уровня .
- Евангелисты (Evangelists): Люди, способные переводить сложные абстрактные угрозы на язык человеческих инстинктов, используя яркие образы и мемы .
Завершая выступление, Таллинн подчеркивает: судьба Вселенной теперь зависит не от аморфных обществ, а от конкретных людей, имеющих доступ к «красным кнопкам» технологий. Выживание человечества и наших детей напрямую зависит от того, сможем ли мы вовремя перейти на третий уровень мышления .
