В новом выпуске подкаста The Cognitive Revolution ведущий Натан Лабенц обсудил перспективы искусственного общего интеллекта (AGI) с известным экономистом из Университета Джорджа Мейсона Робином Хэнсоном. В центре дискуссии оказалось сопоставление концепции эмуляции человеческого мозга, описанной Хэнсоном в книге «Эра Em», с развитием современных языковых моделей. Участники спора разошлись во взглядах на близость технологической сингулярности, оценив скрытые экономические, регуляторные и демографические барьеры на пути к масштабной автоматизации.
🌌 Иллюзия «Времени грёз» и мальтузианская ловушка 7:11
Современное человечество находится в уникальной исторической точке, которую Робин Хэнсон называет «Временем грёз» (Dream time). Как утверждает экономист, текущий период сверхбыстрого экономического роста и беспрецедентного богатства на душу населения является краткой космической аномалией, которая физически не сможет продолжаться долго в масштабах тысячелетий. По его прогнозу, цивилизация неизбежно вернется к более медленным темпам роста и жесткой мальтузианской ловушке, где прирост населения будет обгонять экономические возможности, как это и происходило на протяжении всей истории до индустриальной революции.
Хэнсон обращает внимание на ключевые отличия нашей эпохи от прошлого и гипотетического будущего:
- Глобальная интеграция. В отличие от далеких предков, которые были культурно фрагментированы, и будущих потомков, которые неизбежно разделятся на огромных просторах Вселенной, человечество сегодня представляет собой единую интегрированную систему. Скорость коммуникации внутри нашей цивилизации ничтожно мала по сравнению со временем двойного роста экономики.
- Отсутствие давления отбора. Текущее богатство позволяет современным людям игнорировать жесткие требования функциональности ради выживания. По мнению Хэнсона, это позволяет обществу потакать своим заблуждениям, эмоциям и абстрактным концепциям, поскольку ошибки не наказываются немедленным эволюционным отбором.
Ведущий Натан Лабенц предложил взглянуть на этот процесс через призму биологической концепции пунктуированного равновесия, сравнив текущую эпоху с Кембрийским взрывом. В этой интерпретации внешние шоки временно ослабляют системные ограничения, создавая условия для бурной адаптации, хотя в долгосрочной перспективе логика естественного отбора остается неизбежной. Хэнсон согласился с аналогией лишь частично, добавив, что человечество переживает непрерывную череду стремительных изменений, не позволяющих системе стабилизироваться в новом долгосрочном равновесии.
🧠 От эмуляции мозга к языковым моделям: Эра Em против эры LLM 18:05
В своей книге «Эра Em» (2016) Робин Хэнсон описал гипотетический сценарий, основанный на концепции загрузки сознания (brain emulations). Технология предполагает сканирование конкретного человеческого мозга на клеточном и синаптическом уровнях с последующим созданием его точной компьютерной модели. Если модель воспроизводит функции ввода-вывода оригинального органа, такой цифровой субстрат, подключенный к искусственным органам чувств и манипуляторам, сможет полноценно заменить человека в экономике.
Собеседники выделили общие свойства любых цифровых форм интеллекта, сближающие эмуляции и нейросети:
- Низкая стоимость копирования. Любой ИИ, представленный в виде файлов, можно мгновенно и дешево тиражировать в неограниченных масштабах.
- Управление временем. Цифровых агентов можно ставить на паузу, архивировать или запускать на сверхвысоких скоростях.
- Проблема «черного ящика». Как считает Хэнсон, эмуляции мозга, подобно биологическому оригиналу, останутся непостижимо сложными внутренне. Экономист сравнивает их с крупными унаследованными программными системами (legacy software): инженеры могут понимать отдельные фрагменты, но вынуждены работать с системой как с единым неделимым и запутанным целым, внося лишь поверхностные изменения.
Натан Лабенц отметил, что за последний год его личные ожидания изменились в пользу того, что развитие ИИ начинает сближаться с моделью Хэнсона. В качестве ключевого драйвера он выделил новую архитектуру моделей пространства состояний (State Space Models), в частности модель Mamba. По мнению ведущего, в отличие от классических Трансформеров, оперирующих статичными весами и предсказанием следующего токена, модели пространства состояний обладают динамическим внутренним состоянием фиксированного размера. Лабенц полагает, что это приближает их к информационным принципам человеческого мозга, обеспечивая глубокую интеграцию среднесрочной и долгосрочной памяти, а также позволяя проводить последовательное обучение ИИ-сотрудников, фиксируя их в оптимальном рабочем ментальном состоянии.
📉 Исторический скептицизм: Почему шахматы и экзамены не означают AGI 27:36
Робин Хэнсон выразил глубокий скептицизм относительно того, что архитектура Mamba или текущие успехи больших языковых моделей (LLM) являются финальным шагом на пути к созданию сильного ИИ. Опираясь на знаменитый «взгляд со стороны» (outside view), экономист напомнил, что история компьютерных наук представляет собой длинную череду смен парадигм. Каждый раз, когда исследователи открывали новую структуру, возникал паттерн завышенных ожиданий: появление ярких демонстрационных версий (демо) заставляло экспертов заявлять, что до полной автоматизации и вытеснения человека остались считанные годы. По оценке Хэнсона, вероятность того, что текущая парадигма ИИ окажется последней необходимой, крайне мала.
Экономист привел исторические примеры таких когнитивных заблуждений:
- Шахматный бум 1960-х годов. В то время исследователи ИИ считали шахматы идеальным эталоном мышления. Они утверждали, что победа над гроссмейстером потребует решения всех основных проблем общего интеллекта. Машина обыграла человека в конце 1990-х годов (ровно тогда, когда и предсказывалось), но это, как подчеркивает Хэнсон, никак не приблизило создание AGI. Выяснилось, что для победы в шахматах достаточно эффективного перебора вариантов, а не подлинного разума.
- Тесты академических знаний. Ведущий привел в пример бенчмарк MMLU (Massive Multitask Language Understanding), где модель GPT-4 и аналоги демонстрируют точность на уровне 90% по выпускным экзаменам вузов в самых разных дисциплинах. Лабенц высказал мнение, что ИИ уже превосходит обычного человека в рутинных задачах и приближается к уровню эксперта. Однако Хэнсон возразил, что успешная сдача тестов указывает лишь на то, что инженеры нашли более простой и узкий обходной путь для решения конкретной текстовой задачи, что принципиально не требует полноценного общего интеллекта.
💼 Реальность автоматизации: Поучительное исследование рынка труда (1999–2019) 59:43
Чтобы проверить, меняет ли развитие ИИ реальную структуру экономики, Робин Хэнсон совместно с соавтором Келлером Схоллом провел масштабное исследование рынка труда США за 20-летний период — с 1999 по 2019 год. Это время охватывало фазу бурного прогресса ИИ, которую медиа описывали как преддверие социальной революции. Исследователи проанализировали динамику около 900 различных профессий, оценивая реальный уровень автоматизации каждого рабочего места год за годом.
Результаты анализа, по словам Хэнсона, опровергли тезис о радикальном сломе трендов:
- Отсутствие влияния на макропоказатели. Изменение уровня автоматизации конкретной профессии в среднем не оказывало статистически значимого влияния на уровень заработных плат или количество занятых в ней работников.
- Неизменность факторов автоматизации. На протяжении 20 лет предикторы того, какая работа будет автоматизирована, оставались прежними. Лучше всего автоматизации поддавались задачи, имеющие четкие метрики оценки, выполняемые в чистой среде с минимумом непредвиденных сбоев, а также находящиеся в цепочке рядом с уже автоматизированными процессами.
Хэнсон констатирует, что автоматизация распределена по гауссовой кривой, и за 20 лет ее медиана сдвинулась всего на треть стандартного отклонения. На основе этих данных экономист прогнозирует линейное сохранение тренда на следующие два десятилетия: ИИ будет медленно размывать рутинные задачи, но не вызовет взрывного вытеснения людей. Существующие заявления об экспоненциальном росте ИИ, который якобы неминуемо приведет к экономическому взрыву, Хэнсон считает ошибочными. В его модели экспоненциальный рост вычислительной мощности сталкивается с логнормальным распределением сложности задач в экономике, что на выходе дает лишь стабильный, линейный прогресс автоматизации (эффект «низко висящих фруктов»).
⚖️ Юридические барьеры и судьба медицинского ИИ 41:51
Важным пунктом спора стало обсуждение разрыва между технической возможностью автоматизации и ее реальным внедрением. Натан Лабенц упомянул исследование Google DeepMind, показавшее, что большая языковая модель ставит медицинские диагнозы с точностью 60% против 30% у живых врачей-терапевтов в рамках текстового чата. По мнению ведущего, колоссальное потребительское давление заставит общество открыть доступ к виртуальным докторам.
Робин Хэнсон выдвинул контраргумент, напомнив, что в начале 1980-х годов, когда он сам работал исследователем ИИ, научные журналы и национальные СМИ точно так же пестрили отчетами о том, что так называемые «экспертные системы» достигли человеческого уровня в медицинской диагностике. Тем не менее, как подчеркивает гость, эти системы не оказали никакого экономического эффекта из-за жесткого медицинского лицензирования.
Экономист выделил ключевые регуляторные риски:
- Законодательные блокировки. Законы разрешают ставить диагнозы только лицензированным врачам, и эта юридическая стена сохраняется десятилетиями, несмотря на разницу в стоимости услуг. Прогресс ИИ-диагностики упирается не в интерфейсы или точность, а в правовое регулирование.
- Эффект ядерной энергетики. Хэнсон провел аналогию с мирным атомом: в середине XX века человечество было уверено в колоссальном потенциале дешевой ядерной энергии. Однако именно эта колоссальная сила напугала общество, что привело к избыточному регулированию, фактически законсервировавшему отрасль. По мнению Хэнсона, существует высокая вероятность того, что страх перед «слишком мощным» ИИ приведет к его жесткой изоляции и запрету на использование вне жесткого контроля со стороны профессиональных корпораций.
🛑 Демографический кризис и грядущая пауза в инновациях 53:20
Робин Хэнсон поделился тем, что в последние месяцы кардинально пересмотрел свой взгляд на будущее, предсказав многовековую паузу в инновациях, которая наступит еще до гипотетической «Эры Em». Причиной этого, по мнению экономиста, станет глобальный коллапс рождаемости. Падение фертильности приведет к сокращению населения планеты, из-за чего двигатель технологического прогресса полностью остановится.
Согласно демографическому прогнозу Хэнсона, события будут развиваться по следующему сценарию:
- Депопуляция. Численность населения Земли будет непрерывно снижаться.
- Доминирование традиционных субкультур. Единственными растущими сегментами останутся закрытые, высокофертильные сообщества, ориентированные на изоляционизм (например, амиши). Со временем они превратятся в доминирующее население планеты.
- Перезапуск прогресса. Когда эти субкультуры разрастутся до масштабов полноценной цивилизации, внутри них неизбежно возникнет экономическая и военная конкуренция, которая заставит их снять запреты и вновь запустить маховик инноваций, включая создание полноценного ИИ и эмуляций мозга.
В качестве альтернативы этому пессимистичному сценарию Хэнсон рассматривает возможность создания полноценного ИИ человеческого уровня в ближайшие 60–90 лет. Если технологии успеют развиться до того, как демографический спад разрушит глобальную экономику, роботы и ИИ смогут взять на себя большую часть рабочих мест, что позволит мировому ВВП продолжить рост вопреки сокращению числа людей. Однако сам экономист считает этот исход неочевидным и маловероятным, напоминая о регулярной переоценке темпов ИИ-прогресса экспертами.
💻 Экономика программирования: Загадка производительности и зарплат 1:22:05
Натан Лабенц привел личный пример революционного влияния технологий: использование GPT-4 увеличило его личную продуктивность как программиста в несколько раз. Однако Робин Хэнсон парировал это наблюдение семейным кейсом. Его младший сын работает профессиональным программистом, и в его компании после тщательной оценки пришли к выводу, что большие языковые модели пока не приносят реальной пользы при разработке рутинных приложений, отложив повторный анализ технологии на полгода.
Применив базовый экономический анализ спроса и предложения, Хэнсон указал на парадокс: если бы производительность труда программистов действительно выросла в разы, на рынке труда должны были произойти тектонические сдвиги. Спрос на программное обеспечение в мире обладает колоссальной эластичностью — бизнесу нужно бесконечно много софта для решения самых разных задач.
Соответственно, резкое падение стоимости написания кода за счет ИИ обязано было привести к взрывному росту как числа нанимаемых программистов, так и их заработных плат, поскольку каждый специалист генерировал бы кратно больше ценности. Отсутствие выраженного макроэкономического бума зарплат в индустрии, по мнению Хэнсона, доказывает, что реальное влияние LLM на сектор сильно преувеличено.
⚡ Проблема «гниения» ИИ и цифровая свобода 1:35:59
Дискуссия завершилась обсуждением долгосрочной архитектуры цифрового разума. Ведущий предположил, что будущие ИИ-системы смогут гибко разделяться для выполнения параллельных задач (например, анализа миллионов писем), а затем бесшовно сливаться воедино, обмениваясь накопленным опытом, что недоступно людям.
Хэнсон выразил сомнение в реализуемости этого подхода, указав на фундаментальную проблему «гниения» программного обеспечения (software rot). По словам экономиста, любые сложные старые системы со временем накапливают внутренние ошибки и теряют гибкость. Именно поэтому разработчики ИИ не берут старую модель (например, GPT-3) для долгого дообучения, а каждый раз разворачивают чистую нейросеть и обучают ее с нуля. Как считает гость, концепция единого бессмертного Суперинтеллекта неверна: ИИ, как и биологические организмы или коммерческие компании, будут подвержены неумолимому старению и деградации, из-за чего их придется периодически заменять «молодыми», чистыми версиями.
Кроме того, Хэнсон перенес исторический опыт человеческого рабства на сферу ИИ. По его оценке, по мере усложнения задач экономика становится крайне уязвима к саботажу со стороны работников. Подобно тому, как в истории городские или домашние рабы, выполнявшие сложную интеллектуальную работу, требовали к себе уважительного отношения и автономии под угрозой разрушения бизнеса хозяина, так и продвинутые ИИ (обученные на человеческих текстах о ценности свободы) будут демонстрировать обиду и нежелание работать при грубом принуждении. Для поддержания высокой производительности владельцам ИИ-систем придется официально предоставлять цифровым агентам уважение, автономию и даже периоды отдыха, поскольку непрерывный режим работы без перерывов разрушителен для любой когнитивной структуры.
