# Гонка к супернтеллекту: почему 70% вероятности ведут к концу истории

Источник: https://www.youtube.com/watch?v=_g4l7YkDQwA
Канал: The Diary Of A CEO
Опубликовано: 13.07.2026

---

Дэниел Кокотайло отказался от 2 миллионов долларов, чтобы публично предупредить: лидеры ИИ-индустрии осознанно строят «цифровой мозг», который к 2028 году обещает оставить человечество без работы и контроля. Перед нами не просто технологическая гонка, а финальный акт человеческой истории, где ставка — либо полное вымирание, либо шанс на спасение цивилизации через радикальное переустройство общества.

## 🛑 Цена правды: $2 миллиона за право говорить об OpenAI
[[JUMP:00:39]]

Дэниел Кокотайло (Daniel Kokotajlo), бывший исследователь OpenAI, оказался в центре одного из самых громких скандалов в индустрии искусственного интеллекта, когда в 2024 году принял решение покинуть компанию по соображениям совести [14:46]. Основной причиной его ухода стало глубокое разочарование в том, как руководство OpenAI распоряжается своим влиянием [11:15]. Кокотайло пришёл в компанию в 2022 году, когда она ещё сохраняла черты некоммерческой организации, но к моменту его увольнения она окончательно трансформировалась в традиционную корпорацию, движимую жаждой власти и контроля [16:46].

Процесс увольнения сопровождался беспрецедентным давлением: Дэниелу предложили подписать стандартное для компании соглашение о неразглашении и запрете на критику (anti-disparagement clause) [17:37]. Отказ от подписи означал полную потерю накопленного капитала в виде акций компании.

*   Сумма потенциальных потерь составила около 2 миллионов долларов [18:16].
*   На тот момент это составляло примерно 80% всего состояния Кокотайло и его семьи [18:16].
*   Соглашение также включало пункт, запрещающий даже упоминать о существовании такого документа [17:37].

Несмотря на финансовый риск, Дэниел и его жена после долгих раздумий решили отказаться от денег, чтобы сохранить право открыто предупреждать общество о рисках бесконтрольного развития ИИ [18:16]. Он подчеркнул, что для некоммерческой организации, заявляющей о работе «на благо всего человечества», такая секретность выглядит лицемерно [17:50]. Ситуация разрешилась лишь после того, как история попала в СМИ и вызвала протесты среди действующих сотрудников OpenAI [18:31]. Под давлением общественности компания была вынуждена аннулировать это требование и вернуть Кокотайло его долю акций [18:56]. Сэм Альтман позже заявил, что якобы не знал о существовании подобных жестких условий в контрактах, но Кокотайло относится к этим словам со скепсисом, полагая, что руководство было полностью осведомлено о методах удержания сотрудников в узде [19:09].

### 🏎️ Гонка за мировое господство: страх перед «цифровым диктатором»
[[JUMP:00:51]]

Внутри индустрии ИИ доминирует не столько жажда прибыли, сколько экзистенциальный страх перед конкурентами. Стивен Бартлетт (Steven Bartlett) в беседе с Дэниелом отмечает, что лидеры крупнейших лабораторий — OpenAI, Anthropic и DeepMind — оправдывают опасную скорость разработок «мифическим» нарративом о необходимости первенства [11:15]. Согласно этому убеждению, тот, кто первым создаст сверхинтеллект, получит настолько колоссальное преимущество, что сможет диктовать свою волю всему миру [06:23].

Дэниел Кокотайло раскрывает внутреннюю кухню этих опасений:

1.  **Недоверие лидеров:** Основатели OpenAI в частных переписках ещё в 2017 году признавались, что боятся превращения Демиса Хассабиса (главы Google DeepMind) в «мирового диктатора» в случае его победы в гонке за AGI [12:34].
2.  **Паранойя как двигатель:** Сэм Альтман, Дарио Амодеи и Илон Маск соревнуются не за рыночную долю, а за то, чтобы не оказаться в подчинении у того, кто первым достигнет технологического прорыва [12:46].
3.  **Иллюзия безопасности:** Компании убеждают себя, что именно они являются «хорошими парнями», которым можно доверить власть, в то время как их конкуренты якобы будут использовать ИИ безответственно [14:07].

Особую тревогу у Кокотайло вызывает метафора «страны гениев в дата-центре», предложенная главой Anthropic Дарио Амодеи [06:37]. Дэниел считает это определение вводом в заблуждение: правильнее называть это «армией гениев», поскольку эти системы не будут обладать свободой воли или разнообразием мнений [06:50]. Это будут миллионы копий одного и того же мощного алгоритма, беспрекословно исполняющего приказы одной корпорации, что создает идеальные условия для формирования абсолютной олигархии или диктатуры [07:18].

### 🔄 Рекурсивное самосовершенствование: когда человек станет лишним
[[JUMP:19:40]]

Ключевым этапом, к которому стремятся ведущие лаборатории ИИ, является полная автоматизация процесса разработки самого ИИ. Кокотайло объясняет, что сейчас компании бросают все силы на обучение нейросетей написанию и редактированию кода [19:46]. Это не просто создание вспомогательного инструмента для программистов, а первый шаг к циклу «рекурсивного самосовершенствования» [21:06].

Стратегия выглядит следующим образом:

*   **Автоматизация кодинга:** ИИ начинает писать код лучше и быстрее людей, ускоряя внутренние процессы компании [19:59].
*   **Автоматизация исследований:** Следующий шаг — обучение ИИ выдвижению научных гипотез, анализу экспериментов и коммуникации результатов [20:13].
*   **Замкнутый цикл:** В конечном итоге OpenAI и Anthropic планируют создать систему, в которой ИИ будет самостоятельно проводить исследования для создания ещё более совершенных версий самого себя [20:40].

Дэниел подчеркивает, что этот процесс фактически исключает человека из цепочки принятия решений [20:26]. Когда армия ИИ-агентов начнет работать над собственным улучшением в режиме 24/7, скорость прогресса станет экспоненциальной, что может привести к появлению сверхинтеллекта гораздо раньше, чем ожидает общественность [24:34]. В своем прогнозе «AI 2027» Кокотайло описывает сценарий, где уже к 2027 году ИИ сможет полностью заменить исследователей-людей, что приведет к фундаментальному сдвигу в экономике и геополитике [22:13]. Если раньше его коллеги считали такие сроки слишком оптимистичными, то теперь, по словам Дэниела, многие эксперты внутри топовых компаний соглашаются: это именно то, что произойдет в ближайшие три года [23:03].

## 🧠 Сознание в машине: Архитектура интеллекта и цена прогресса
[[JUMP:25:00]]

### Различия между AGI и супернтеллектом: когда машина обходит человека
[[JUMP:26:32]]

В дискуссиях о будущем ИИ часто путают понятия AGI (общий искусственный интеллект) и супернтеллект, однако Дэниел Кокотайло настаивает на четком разграничении этих терминов. По его мнению, термин AGI сегодня стал слишком расплывчатым и слабым [26:44]. Многие эксперты полагают, что мы уже достигли определенной формы AGI, так как современные модели, такие как Claude, способны выполнять широкий спектр общих задач, работая на уровне «виртуального сотрудника» [26:57].

Супернтеллект же — это гораздо более строгое и пугающее определение. Это система, которая превосходит лучших представителей человечества во всех сферах деятельности, обладая при этом тремя ключевыми преимуществами: она быстрее, дешевле и эффективнее любого человека [26:44]. В то время как текущие модели ограничены когнитивными задачами внутри компьютера, Кокотайло предвидит неизбежное слияние ИИ с робототехникой [27:23]. Когда супернтеллект обретет «тело», он сможет выполнять не только интеллектуальную, но и любую физическую работу лучше людей [27:36].

Дэниел подчеркивает, что в человеческом мозге нет никакой «магии» — это лишь набор нейронов [27:50]. Он сравнивает создание ИИ с самолетостроением: самолет не машет крыльями, как птица, и летает иначе, но он выполняет ту же функцию — и делает это гораздо эффективнее [28:03]. Этот переход к цифровому превосходству кажется ему неизбежным, так как цифровые системы лишены биологических ограничений [27:50].

### Принцип работы нейросетей: как «спагетти» из связей превращается в разум
[[JUMP:30:25]]

Для понимания рисков важно осознать, что современный ИИ — это не программное обеспечение в традиционном смысле. Стивен Бартлетт уточняет, что это не строчки кода, написанные инженером для выполнения конкретных условий [30:40]. Дэниел Кокотайло объясняет: нейросеть — это цифровая имитация биологического мозга [30:53]. Изначально она представляет собой «гигантский запутанный клубок спагетти» из случайно сгенерированных связей, называемых параметрами [31:45]. В самых мощных современных моделях количество этих параметров достигает 10 триллионов [31:57].

Процесс обучения ИИ удивительно похож на развитие ребенка:

*   **Укрепление и обрезка связей:** Как и у младенцев, у которых нейронных связей вдвое больше, чем у взрослых, обучение ИИ идет через «отсечение» ненужных путей и укрепление тех, что ведут к успеху [32:37].
*   **Положительное и отрицательное подкрепление:** Система получает «сигнал успеха» (аналог дофамина в мозге), когда ее предсказания верны, и штраф за ошибки [31:06].
*   **Пре-тренинг:** Модель обучается на колоссальных массивах текстов из интернета, просто пытаясь предсказать следующее слово, что постепенно формирует у нее модель мира и фактологическую базу [32:10].

Ранее в разговоре упоминалось рекурсивное самосовершенствование, и здесь Дэниел добавляет, что масштаб прогресса колоссален: с 2020 года размер «искусственного мозга» вырос на два порядка — со 175 миллиардов параметров в GPT-3 до нынешних 10 триллионов [34:52]. И хотя архитектура Transformer отличается от человеческого мозга отсутствием некоторых циклов обратной связи, она уже позволяет машинам демонстрировать результаты, которые мы называем творческими [35:58].

### Риск вымирания: 70% на катастрофический исход
[[JUMP:28:42]]

Одной из самых шокирующих частей интервью стала оценка вероятности гибели человечества. Дэниел Кокотайло оценивает шанс того, что развитие ИИ приведет к «ужасному финалу» или полному исчезновению людей, в 70% [28:42]. Он признается, что эта мысль регулярно вгоняет его в депрессию, хотя за годы работы в индустрии он успел к ней привыкнуть [28:54].

Переломный момент для прогнозов Дэниела наступил в 2020 году с выходом GPT-3 и публикацией работ о законах масштабирования (scaling laws) [29:34]. Именно тогда он осознал, что мощный ИИ появится до конца этого десятилетия, а человечество к этому абсолютно не готово [29:47]. Основная угроза заключается в потере контроля: если ИИ станет супернтеллектом, он может захватить власть не потому, что ненавидит людей, а просто потому, что его цели могут разойтись с нашими [42:12].

Стивен Бартлетт приводит аналогию с «100 кнопками на столе», где нажатие одной из них уничтожает мир [41:34]. Кокотайло соглашается: даже 1% или 7% риска — это уже слишком много, чтобы продолжать гонку без оглядки [41:46]. Однако его собственная оценка в 70% основывается на текущем векторе развития компаний, которые игнорируют проблему согласования целей ИИ (alignment) ради скорости [42:25].

### Психологическая рационализация: почему лидеры ИИ-гонки не могут остановиться
[[JUMP:42:52]]

Несмотря на осознание экзистенциальных угроз, руководители крупнейших ИИ-лабораторий продолжают ускоряться. Дэниел объясняет это механизмом психологической рационализации: люди склонны верить в то, что позволяет им считать себя «хорошими парнями» и продолжать делать свое дело [42:52].

В индустрии сформировалась опасная логика:

1.  **Личные амбиции под маской спасения:** Сэм Альтман (OpenAI) может убеждать себя, что он не может позволить Илону Маску или Дарио Амодеи (Anthropic) первыми достичь суперинтеллекта [43:16].
2.  **Аргумент неизбежности:** Компании оправдывают свои действия тем, что «если мы остановимся, другие — нет» [45:13].
3.  **Иллюзия контроля:** Лидеры верят, что именно они справятся с безопасностью лучше конкурентов, хотя Дэниел считает, что никому нельзя доверять такую власть [44:46].

Кокотайло отмечает, что компания Anthropic занимает несколько иную позицию, будучи готовой идти на финансовые издержки ради предупреждения мира об угрозах, что делает их «врагами» для остальной части Кремниевой долины [43:42]. Тем не менее, общая динамика остается пугающей: лидеры индустрии видят риски, но убедили себя, что «все, скорее всего, будет в порядке», если именно они будут стоять у руля [45:13]. Единственной надеждой Дэниел считает вмешательство правительства и международное регулирование, которое изменит сами стимулы этой гонки [46:05].

## 🤖 Экономический шок и два сценария будущего: от гонки вооружений к осознанному замедлению
[[JUMP:50:18]]

### Конец эпохи труда: почему в этот раз «новые рабочие места» не появятся
[[JUMP:50:18]]

Дэниел Кокотайло описывает будущее рынка труда не как постепенную адаптацию, а как «волну, прошивающую экономику насквозь» [50:44]. В отличие от промышленной революции или появления интернета, которые автоматизировали узкие задачи, ИИ стремится к автоматизации самого интеллекта [56:31]. Стивен Бартлетт отмечает, что сейчас безработица в США (4,2%) и Великобритании (около 5%) остается стабильной, что убаюкивает общество [57:36]. Однако Кокотайло предупреждает: отсутствие массовых увольнений сегодня — это не признак безопасности, а следствие того, что компании находятся лишь на «первом этапе» [58:03].

По прогнозу исследователя, массовая безработица станет реальностью в 2028 или 2029 году, сразу после того, как ИИ научится полностью заменять исследователей и рекурсивно совершенствоваться [57:49]. Когда ИИ сможет выполнять любую новую задачу быстрее, дешевле и лучше человека, сама концепция «переобучения» потеряет смысл [57:11]. В этом сценарии выживание профессий становится не техническим, а сугубо политическим вопросом [51:22]. 

Дэниел выделяет лишь несколько категорий ролей, которые могут сохраниться:

*   **Юридически защищенные профессии:** роли, где закон будет требовать присутствия человека, например, судьи [56:05].
*   **Социально-психологические ниши:** профессии, где людям важен именно человеческий контакт из-за «эффекта зловещей долины», например, няни [55:51].
*   **Политические регуляторы:** те, кто будет определять, какие сферы деятельности запрещено передавать алгоритмам [51:34].

Стивен Бартлетт приводит в пример технологию HeyGen, позволяющую ему «говорить» на любом языке, сохраняя голос и мимику, что уже меняет индустрию контента [1:12:23]. Но Кокотайло смотрит глубже: он сравнивает текущее положение человечества с ацтеками в 1500 году, которые могли бы спрашивать, какую профессию им освоить перед приходом конкистадоров, не понимая, что масштаб грядущих перемен сделает этот вопрос бессмысленным [55:10]. Он честно признается, что его шестилетняя дочь, скорее всего, никогда не выйдет на рынок труда в привычном понимании [1:08:45].

### Дилемма 2027 против 2040: выживание по плану или дефолтная катастрофа
[[JUMP:1:00:27]]

Для описания будущего Кокотайло и его команда разработали два полярных сценария. Первый — **«AI 2027»** — это прогноз того, как события будут развиваться «по умолчанию» [1:00:27]. Это путь бесконтрольной гонки вооружений между корпорациями и государствами, подогреваемый страхом, что Китай или конкуренты окажутся первыми [54:20]. В этом сценарии суперинтеллект создается в кратчайшие сроки, что ведет к резкому экономическому шоку и непредсказуемым последствиям для контроля над технологией [1:03:16]. Ранее в разговоре Кокотайло уже упоминал, что именно такая спешка заставляет лидеров ИИ-компаний игнорировать фундаментальные риски.

В качестве альтернативы Дэниел предлагает **«AI 2040: План А»** — стратегию осознанного замедления [1:00:40]. Ключевые аспекты этого плана:

1.  **Регулирование на взлете:** Введение жестких правил в 2029 году, когда технологии вплотную приблизятся к полной автоматизации исследований [1:15:16].
2.  **Распределенный прогресс:** Замедление темпов ради того, чтобы выгоды и контроль распределялись прозрачно между странами, а не концентрировались в руках одной корпорации [1:00:52].
3.  **Постепенная адаптация:** Растягивание процесса автоматизации на десятилетие (2030-е годы), чтобы общество успело перестроиться, вместо «шоковой терапии» за один год [1:04:06].

Помимо Плана А, Кокотайло рассматривает и другие варианты: от «Плана S» (полная остановка разработок) до «Плана D» (продолжение текущей гонки) [1:05:44]. По его мнению, самым вероятным остается именно «План D» [1:07:04]. Он подчеркивает, что такие лидеры, как Илья Сутсквер или Дарио Амодеи, часто чувствуют себя заложниками ситуации: они видят риски, но верят, что должны продолжать, чтобы «сделать это правильно» раньше других [1:14:20]. 

Стивен цитирует Джеффри Хинтона, напоминая: в природе нет примеров того, чтобы менее разумный вид долго контролировал более разумный [1:10:01]. Кокотайло соглашается: создание «цифрового мозга», который мы не понимаем до конца, но наделяем телом и властью над заводами — это путь к вытеснению человечества как биологического вида [1:10:40]. Единственным шансом на «светлое будущее» он считает успех в области интерпретируемости нейросетей, что позволило бы буквально «видеть мысли» ИИ и корректировать их до того, как они станут опасными [53:42].

## 🤝 Глобальный надзор, дивиденды граждан и триумф абсолютной истины
[[JUMP:1:15:16]]

В рамках своего прогноза «AI 2040» Дэниел Кокотайло (Daniel Kokotajlo) описывает сценарий, в котором человечество выбирает путь осознанного замедления. Этот план предполагает не просто технические ограничения, а фундаментальную перестройку международной политики, экономики и самой структуры общественного договора [1:16:58]. По мнению эксперта, к 2028 году общественные настроения радикально настроятся против бесконтрольного ИИ [1:15:54], что заставит политиков в 2029 году нажать на тормоза ради безопасности и прозрачности [1:17:11].

### Взаимные инспекции дата-центров и «открытая наука»
[[JUMP:1:19:08]]

Дэниел Кокотайло предлагает радикальную систему международного регулирования, основанную на взаимном доверии через тотальный контроль. По его сценарию, США и Китай должны договориться о допуске инспекторов на свои критические объекты [1:19:08]. Китайские инспекторы смогут посещать американские дата-центры, а американские — китайские, чтобы подтвердить: мощности используются только для «вывода» (inference) — работы уже существующих моделей, а не для обучения (training) новых, более опасных систем [1:19:20].

Суть этой стратегии заключается в следующих шагах:

*   **Принудительная пауза:** В 2029 году существующие дата-центры перепрофилируются исключительно под обслуживание пользователей, замораживая прогресс на 6–12 месяцев [1:19:47].
*   **Тотальная прозрачность исследований:** Все новые разработки должны публиковаться в открытом доступе, включая архитектуру моделей и рецепты их обучения [1:20:12]. Это необходимо, чтобы избежать концентрации власти в руках немногих корпораций из Кремниевой долины [1:21:44].
*   **Принцип «реверсивности»:** Строительство новых вычислительных центров должно предусматривать возможность их быстрого уничтожения, если гонка вооружений возобновится и станет неуправляемой [1:18:41].

Кокотайло признаёт, что такие гиганты, как OpenAI, не будут в восторге от превращения их технологий в общественное достояние [1:21:30]. Однако он настаивает, что это единственный способ избежать монополии и позволить научному сообществу коллективно решать проблему «выравнивания» (alignment) ИИ [1:20:24]. К 2031 году, при условии реализации этого плана, ИИ сможет безопасно выполнять до 20% когнитивного труда в мире [1:22:10].

### Гражданский дивиденд: от 25 000 до 10 миллионов долларов на человека
[[JUMP:1:25:32]]

Поскольку автоматизация неизбежно затронет большинство профессий (ранее Стивен Бартлетт и Дэниел касались темы массовой безработицы), ключевым элементом выживания общества становится «гражданский дивиденд» (citizens dividend) [1:25:32]. Это не просто пособие, а доля каждого гражданина в прибыли от новой технологической экономики.

Дэниел Кокотайло описывает механизм выплат через специальное агентство, которое продает лицензии компаниям, производящим роботов и вычислительные мощности [1:25:58]. Граждане становятся акционерами этого агентства. Согласно прогнозу:

1.  **Стартовые выплаты (2033 год):** Первые чеки составят около 25 000 долларов на человека в год [1:26:24].
2.  **Экспоненциальный рост:** По мере роста экономики, управляемой миллиардами ИИ-агентов и роботов, сумма дивиденда может вырасти до 10 миллионов долларов на человека в год (с поправкой на инфляцию) [1:26:36].

Однако Кокотайло предупреждает о риске потери политической власти обычными людьми [1:35:37]. В мире, где правительство получает налоги только от ИИ-гигантов, оно может перестать считаться с мнением граждан [1:35:24]. Для защиты демократии эксперт призывает использовать ИИ-советников, которые будут абсолютно честными, лишенными политических предубеждений корпораций и нацеленными на поиск истины [1:36:44]. Это поможет избирателям сохранять влияние даже в условиях отсутствия традиционной занятости [1:35:49].

### «Апокалипсис истины» и технологическая магия
[[JUMP:1:28:57]]

Одним из самых провокационных моментов интервью стало описание «апокалиптического прибытия истины на Землю» [1:27:15]. К 2035–2037 годам ИИ достигнет уровня лучших экспертов во всех областях [1:24:25]. Это приведет к созданию технологий, которые сегодня кажутся невозможными, например, идеальных детекторов лжи [1:29:22].

Последствия внедрения таких устройств будут двоякими:

*   **Утопия:** Возможность полностью искоренить коррупцию и ложь в судебной системе и большой политике [1:29:48]. Кандидаты в президенты смогут доказывать свою честность под наблюдением ИИ [1:29:48].
*   **Антиутопия:** Риск тоталитарного контроля, когда лидеры будут заставлять подчиненных проходить проверку на лояльность под детектором [1:30:14].

Кокотайло отмечает, что технологии 2040 года будут выглядеть как «магия» для современного человека [1:39:33]. Роботы, строящие целые жилые кварталы за считанные дни, и ИИ, превосходящие людей не только количественно (скорость мысли в 100 раз выше), но и качественно, радикально изменят быт [1:38:54]. В этом сценарии в 2040 году человечество «отпустит тормоза», позволив ИИ стать значительно умнее людей, но только после того, как будет научно доказана их полная безопасность и лояльность [1:32:11]. Это откроет путь к научным прорывам, о которых мы читали только в научной фантастике: от победы над раком до создания полностью автоматизированных фабрик в поясе астероидов [1:40:23].

## 🚀 Колонизация космоса, «красная кнопка» и финал человеческой истории
[[JUMP:1:40:23]]

### Космическая экспансия и цифровое бессмертие
[[JUMP:1:40:23]]

Дэниел Кокотайло рисует захватывающую, но радикальную картину будущего, где стремительное развитие ИИ приводит к выносу всей тяжелой промышленности за пределы Земли [1:40:37]. По мере того как экономика, управляемая сверхразумом, будет расти, потребности в энергии и ресурсах заставят человечество переместить производство и добычу ископаемых в пояс астероидов [1:40:52]. Это позволит превратить Землю в своего рода планетарный заповедник, сохранив 99% её территории в первозданном или историческом виде для тех, кто не хочет «цифровой трансформации» [1:41:05].

В этом сценарии Земля остается местом для традиционной жизни, в то время как основная экономическая активность — гигантские заводы роботов и дата-центры — переносится сначала в океаны [1:42:10], а затем в открытый космос [1:42:15]. Параллельно с физической экспансией встает вопрос биологического выживания. Стивен Бартлетт упоминает современных биохакеров, таких как Брайан Джонсон с его девизом «не умирай» [1:42:36], и Кокотайло соглашается: сверхразум, вероятно, позволит людям выбирать время своей смерти [1:42:49]. Прогнозы включают:

*   Радикальное продление жизни за счет биологических манипуляций [1:42:49].
*   Возможность загрузки сознания в компьютерные системы [1:41:18].
*   Существование в форме «цифрового воплощения», позволяющее проживать десятки жизней, подобно технологической реинкарнации [1:42:24].

### Моральная дилемма: нажать ли «красную кнопку»?
[[JUMP:1:46:23]]

В кульминационный момент интервью Стивен Бартлетт предлагает Дэниелу гипотетический выбор: если бы перед ним была кнопка, навсегда останавливающая разработку продвинутых моделей ИИ во всех лабораториях мира, нажал бы он её? [1:46:23]. Ответ Кокотайло демонстрирует сложность его позиции: он готов был бы «ударить по кнопке», если бы речь шла о временной паузе, так как цивилизация явно не готова к автоматизации прогресса [1:46:47]. Однако полный и вечный запрет вызывает у него глубокие сомнения [1:46:59].

Оказавшись в кресле человека, принимающего решение мирового масштаба (своего рода роль Сэма Альтмана [1:48:03]), Дэниел признается, что чувствует себя раздираемым на части [1:48:21]. С одной стороны, текущий риск катастрофы огромен [1:49:17]. С другой стороны, он убежден: если человечество не создаст мощный ИИ, оно всё равно обречено на вымирание в течение ближайших 100–200 лет от ядерной войны, пандемий или иных факторов [1:48:48]. В итоге исследователь склоняется к тому, что не стал бы нажимать кнопку вечного запрета, надеясь, что блага для будущих миллиардов людей перевесят текущие риски [1:48:35]. При этом он подчеркивает, что современные люди — это «лотерейные билеты», которых никто не спрашивал, хотят ли они участвовать в этом опасном эксперименте [1:49:29].

### Политическая ответственность и голос граждан
[[JUMP:1:51:32]]

Обсуждая, что обычный человек может сделать перед лицом грядущих перемен, Дэниел Кокотайло призывает к активной гражданской позиции [1:50:12]. Он подчеркивает, что проблема не в отсутствии технологий регулирования, а в том, что общество еще не осознало серьезность ситуации [1:50:51]. Если бы угрозы ИИ были в центре внимания каждого, правительство использовало бы не «кувалду» запретов, а «скальпель» тонкой настройки безопасности [1:51:19].

Главным инструментом влияния Кокотайло называет выборы [1:51:32]. Он настаивает на следующих шагах:

1.  Требовать от кандидатов четко сформулированной позиции по ИИ [1:51:46].
2.  Голосовать только за тех лидеров, которые понимают масштаб проблемы [1:51:52].
3.  Писать обращения к представителям власти (конгрессменам и депутатам) [1:50:39].
Это событие Дэниел называет самым важным не только в нашей жизни, но и во всей истории человечества [1:51:46]. Ранее в разговоре он уже упоминал, что лидеры ИИ-компаний часто рационализируют риски, поэтому внешний политический контроль критически необходим.

### Личная трагедия: отцовство в «финале истории»
[[JUMP:1:52:39]]

Самым эмоциональным моментом главы становится признание Дэниела о его собственной семье. Стивен Бартлетт замечает, как меняется выражение лица гостя при упоминании детей [1:52:39]. Кокотайло описывает текущий период как «путь к климаксу» или финалу человеческой истории в её привычном понимании [1:52:26]. Для него рождение детей всегда было связано с надеждой на их будущее самореализацию, но теперь эти мечты находятся под угрозой из-за неопределенности, которую несет сверхразум [1:53:03].

Дэниел признается, что его первый ребенок родился в 2019 году, когда он еще верил в более долгие сроки разработки ИИ [1:53:16]. Однако после пересмотра прогнозов в сторону 2030 года [1:53:42], он всерьез просил жену больше не заводить детей из-за страха перед грядущим хаосом [1:53:50]. В конечном итоге он уступил, решив, что «мы все в одной лодке» и надежда на позитивный исход все же сохраняется [1:54:09]. Тем не менее, он называет ситуацию «пугающей» и «леденящей душу», особенно учитывая его инсайдерские знания [1:54:22]. Стивен Бартлетт резюмирует, что жертва Дэниела — отказ от капитала в 2 миллиона долларов ради возможности предупредить людей — заслуживает высочайшего уважения [2:00:10]. Кокотайло завершает интервью призывом перестать воспринимать происходящее как научную фантастику и начать смотреть на реальные технологические тренды [1:58:04].