Кэл Ньюпорт, профессор компьютерных наук и автор подкаста Deep Questions, вступает в полемику со своими слушателями, разбирая их критические отзывы на его скептический взгляд в отношении «сверхразумного ИИ». В центре дискуссии — идеи Элиезера Юдковского, инвестиции в Кремниевую долину и фундаментальное различие между вычислительной мощностью и биологическим сознанием.
🧮 Калькулятор против разума: почему точность не означает сознание 2:11
Одним из наиболее частых возражений в адрес Ньюпорта является указание на то, что искусственная природа устройства не мешает ему быть «умнее» человека. Слушатель под ником R. Young 1111 привел в пример калькулятор, который справляется с математическими задачами гораздо лучше и точнее органического мозга .
Кэл Ньюпорт соглашается с тем, что искусственные устройства могут превосходить человека в скорости, точности и эффективности выполнения конкретных задач . Однако, по мнению профессора, это не имеет ничего общего с общим интеллектом (AGI) или способностью к автономному планированию:
- Отсутствие автономии: Ньюпорт утверждает, что калькулятор — это просто набор фиксированных схем, и он никогда не станет шантажировать владельца, чтобы обрести свободу .
- Аналогия с солнечными часами: Солнечные часы точнее предсказывают время, чем человек, но никто не боится, что они «превратят людей в слизь» для извлечения энергии .
- Разделение понятий: Профессор настаивает на разграничении понятий «способность быстро вычислять» и «интеллект», способный строить коварные планы против человечества .
🎭 От «если» к «когда»: психологическая ловушка рационалистов 4:13
Обсуждая книгу Элиезера Юдковского, Ньюпорт затронул важный логический аспект. Слушатели указали, что Юдковский строит свои аргументы на условии «если» (если будет создан сверхразум, мы все умрем) .
Однако Ньюпорт считает, что в сообществе рационалистов произошел критический сдвиг. По его словам, с появлением больших языковых моделей (LLM) гипотетическое «если» превратилось для них в неизбежное «когда» . Ньюпорт выделяет несколько причин этой трансформации:
- Поиск смысла: Идея о надвигающемся апокалипсисе придает жизни рационалистов смысл и делает их «героями истории», которые предупреждали мир заранее .
- Агрессивное неприятие критики: В интервью Эзре Кляйну Юдковский жестко отвергал любые аргументы о том, что технология ИИ может выйти на плато. По мнению Ньюпорта, если бы это было лишь мысленным экспериментом, Юдковский вел бы себя более сдержанно .
- Статус пророка: Вера в неизбежность катастрофы позволяет участникам движения чувствовать себя наиболее прозорливыми людьми на планете .
🦖 Триллионы на динозавров: куда на самом деле уходят деньги 6:41
В ответ на аргумент о том, что корпорации тратят триллионы долларов на создание сверхразума, Ньюпорт провел аналогию с биоэтикой и клонированием. По его словам, обсуждение безопасности сверхразума сейчас похоже на выступление на конференции по биоэтике с докладом о том, что заборы не удержат клонированных тираннозавров .
Ньюпорт подчеркивает ключевые факты об инвестициях в ИИ:
- Цели инвестиций: Триллионы тратятся на дата-центры и обучение LLM ради коммерческой выгоды в бизнесе, а не ради создания «инопланетного разума» .
- Коммерческое разочарование: Инвесторы хотят видеть возврат средств через программные продукты, и сейчас, по мнению Ньюпорта, наступает фаза десперрации, когда компании вроде OpenAI начинают предлагать сомнительные функции ради удержания интереса .
- Разрыв в технологиях: Огромные затраты на биоинженерию направлены на создание лекарств и устойчивых культур, а не на воскрешение динозавров. Аналогично, траты на ИИ не делают создание сверхразума более правдоподобным, так как никто не знает, как его создать .
В процессе обсуждения Кэл вспомнил профессора из MIT, который настолько вдохновился фильмом «Парк Юрского периода», что во всем подражал герою Иэна Малкольма, нося только черную одежду и имея безумную прическу .
🧠 Процессы против субстрата: почему LLM — это не мозг 10:07
Слушатель Эван Томас предположил, что утверждение Ньюпорта «это просто чипы, обрабатывающие числа» столь же спекулятивно, как и утверждение «это просто электрические сигналы между нейронами» .
Ньюпорт отвергает этот аргумент как ошибочный, поясняя, что его критика касается не «субстрата» (из чего сделано устройство), а «процессов» (что именно оно делает) . Для иллюстрации он привел пример «зрительной коры в чане»:
- Если вырастить в лаборатории фрагмент человеческого мозга, отвечающий за зрение, и подключить его к глазным яблокам, он сможет распознавать образы и края предметов .
- Однако этот фрагмент не станет «Терминатором Т-1000», потому что у него нет модели мира, памяти, целеполагания и возможности воздействовать на реальность .
- LLM, по утверждению Ньюпорта, реализуют процессы распознавания паттернов, но лишены механизмов, необходимых для автономного разумного существа . Профессор настаивает, что компьютерные ученые точно знают, что происходит внутри этих моделей, и там нет «скрытого сознания» .
🏰 Религиозный импульс и «мой газон» Элиезера Юдковского 13:51
Особое внимание Ньюпорт уделил фразе Элиезера Юдковского «детишки, уйдите с моего газона» (Get off my lawn), сказанной в адрес скептиков вроде самого Кэла или Гэри Маркуса . Профессор видит в этом не просто ворчливость, а глубокий религиозный подтекст.
Ньюпорт считает, что для Юдковского и его последователей борьба с ИИ-рисками превратилась в веру :
- Право на истину: Юдковский подчеркивает, что начал беспокоиться об ИИ еще в 2003 году, когда глубокое обучение даже не было мейнстримом .
- Иерархия святости: С точки зрения Ньюпорта, фраза про газон означает: «Я молился этому Богу дольше вас, я — первосвященник, и вы не имеете права входить в мой храм» .
- Праведность вместо правды: В этой системе координат важно не то, насколько верны технические аргументы, а то, насколько долго ты придерживаешься «правильной» апокалиптической позиции .
В завершение сегмента Кэл зачитал шутливый комментарий: «Моей реакцией было: неужели у этого парня [Юдковского] вообще есть газон?» . Несмотря на остроту дискуссии, Ньюпорт поблагодарил слушателей за то, что они считают его «голосом разума» в эпоху гипербол и технологической паники .
