# Кэл Ньюпорт: «Рационалисты относятся к сверхразуму ИИ как к религиозному культу» Источник: https://www.youtube.com/watch?v=f84SmIK_BHQ Канал: Deep Questions with Cal Newport Опубликовано: 20.11.2025 --- Кэл Ньюпорт, профессор компьютерных наук и автор подкаста Deep Questions, вступает в полемику со своими слушателями, разбирая их критические отзывы на его скептический взгляд в отношении «сверхразумного ИИ». В центре дискуссии — идеи Элиезера Юдковского, инвестиции в Кремниевую долину и фундаментальное различие между вычислительной мощностью и биологическим сознанием. ## 🧮 Калькулятор против разума: почему точность не означает сознание [[JUMP:02:11]] Одним из наиболее частых возражений в адрес Ньюпорта является указание на то, что искусственная природа устройства не мешает ему быть «умнее» человека. Слушатель под ником R. Young 1111 привел в пример калькулятор, который справляется с математическими задачами гораздо лучше и точнее органического мозга [02:26]. Кэл Ньюпорт соглашается с тем, что искусственные устройства могут превосходить человека в скорости, точности и эффективности выполнения конкретных задач [02:52]. Однако, по мнению профессора, это не имеет ничего общего с общим интеллектом (AGI) или способностью к автономному планированию: * **Отсутствие автономии:** Ньюпорт утверждает, что калькулятор — это просто набор фиксированных схем, и он никогда не станет шантажировать владельца, чтобы обрести свободу [03:04]. * **Аналогия с солнечными часами:** Солнечные часы точнее предсказывают время, чем человек, но никто не боится, что они «превратят людей в слизь» для извлечения энергии [03:31]. * **Разделение понятий:** Профессор настаивает на разграничении понятий «способность быстро вычислять» и «интеллект», способный строить коварные планы против человечества [03:45]. ## 🎭 От «если» к «когда»: психологическая ловушка рационалистов [[JUMP:04:13]] Обсуждая книгу Элиезера Юдковского, Ньюпорт затронул важный логический аспект. Слушатели указали, что Юдковский строит свои аргументы на условии «если» (если будет создан сверхразум, мы все умрем) [04:27]. Однако Ньюпорт считает, что в сообществе рационалистов произошел критический сдвиг. По его словам, с появлением больших языковых моделей (LLM) гипотетическое «если» превратилось для них в неизбежное «когда» [05:22]. Ньюпорт выделяет несколько причин этой трансформации: 1. **Поиск смысла:** Идея о надвигающемся апокалипсисе придает жизни рационалистов смысл и делает их «героями истории», которые предупреждали мир заранее [05:37]. 2. **Агрессивное неприятие критики:** В интервью Эзре Кляйну Юдковский жестко отвергал любые аргументы о том, что технология ИИ может выйти на плато. По мнению Ньюпорта, если бы это было лишь мысленным экспериментом, Юдковский вел бы себя более сдержанно [06:02]. 3. **Статус пророка:** Вера в неизбежность катастрофы позволяет участникам движения чувствовать себя наиболее прозорливыми людьми на планете [18:17]. ## 🦖 Триллионы на динозавров: куда на самом деле уходят деньги [[JUMP:06:41]] В ответ на аргумент о том, что корпорации тратят триллионы долларов на создание сверхразума, Ньюпорт провел аналогию с биоэтикой и клонированием. По его словам, обсуждение безопасности сверхразума сейчас похоже на выступление на конференции по биоэтике с докладом о том, что заборы не удержат клонированных тираннозавров [07:07]. Ньюпорт подчеркивает ключевые факты об инвестициях в ИИ: * **Цели инвестиций:** Триллионы тратятся на дата-центры и обучение LLM ради коммерческой выгоды в бизнесе, а не ради создания «инопланетного разума» [07:56]. * **Коммерческое разочарование:** Инвесторы хотят видеть возврат средств через программные продукты, и сейчас, по мнению Ньюпорта, наступает фаза десперрации, когда компании вроде OpenAI начинают предлагать сомнительные функции ради удержания интереса [08:22]. * **Разрыв в технологиях:** Огромные затраты на биоинженерию направлены на создание лекарств и устойчивых культур, а не на воскрешение динозавров. Аналогично, траты на ИИ не делают создание сверхразума более правдоподобным, так как никто не знает, как его создать [09:55]. В процессе обсуждения Кэл вспомнил профессора из MIT, который настолько вдохновился фильмом «Парк Юрского периода», что во всем подражал герою Иэна Малкольма, нося только черную одежду и имея безумную прическу [09:03]. ## 🧠 Процессы против субстрата: почему LLM — это не мозг [[JUMP:10:07]] Слушатель Эван Томас предположил, что утверждение Ньюпорта «это просто чипы, обрабатывающие числа» столь же спекулятивно, как и утверждение «это просто электрические сигналы между нейронами» [10:20]. Ньюпорт отвергает этот аргумент как ошибочный, поясняя, что его критика касается не «субстрата» (из чего сделано устройство), а «процессов» (что именно оно делает) [11:13]. Для иллюстрации он привел пример «зрительной коры в чане»: * Если вырастить в лаборатории фрагмент человеческого мозга, отвечающий за зрение, и подключить его к глазным яблокам, он сможет распознавать образы и края предметов [11:38]. * Однако этот фрагмент не станет «Терминатором Т-1000», потому что у него нет модели мира, памяти, целеполагания и возможности воздействовать на реальность [12:06]. * LLM, по утверждению Ньюпорта, реализуют процессы распознавания паттернов, но лишены механизмов, необходимых для автономного разумного существа [13:00]. Профессор настаивает, что компьютерные ученые точно знают, что происходит внутри этих моделей, и там нет «скрытого сознания» [13:26]. ## 🏰 Религиозный импульс и «мой газон» Элиезера Юдковского [[JUMP:13:51]] Особое внимание Ньюпорт уделил фразе Элиезера Юдковского «детишки, уйдите с моего газона» (Get off my lawn), сказанной в адрес скептиков вроде самого Кэла или Гэри Маркуса [16:03]. Профессор видит в этом не просто ворчливость, а глубокий религиозный подтекст. Ньюпорт считает, что для Юдковского и его последователей борьба с ИИ-рисками превратилась в веру [17:24]: * **Право на истину:** Юдковский подчеркивает, что начал беспокоиться об ИИ еще в 2003 году, когда глубокое обучение даже не было мейнстримом [16:16]. * **Иерархия святости:** С точки зрения Ньюпорта, фраза про газон означает: «Я молился этому Богу дольше вас, я — первосвященник, и вы не имеете права входить в мой храм» [18:46]. * **Праведность вместо правды:** В этой системе координат важно не то, насколько верны технические аргументы, а то, насколько долго ты придерживаешься «правильной» апокалиптической позиции [19:12]. В завершение сегмента Кэл зачитал шутливый комментарий: «Моей реакцией было: неужели у этого парня [Юдковского] вообще есть газон?» [19:51]. Несмотря на остроту дискуссии, Ньюпорт поблагодарил слушателей за то, что они считают его «голосом разума» в эпоху гипербол и технологической паники [20:18].