В специальном выпуске подкаста Future of Life Institute, представленном на канале The Cognitive Revolution, ведущий Гус Докер и основатель стартапа Workshop Labs Люк Драго обсуждают долгосрочные экономические и политические угрозы тотальной автоматизации. В центре дискуссии — концепция «проклятия интеллекта», описывающая сценарий, при котором появление сверхразумного ИИ лишает человеческий труд рыночной ценности и подрывой основы демократических институтов. Собеседники анализируют, как смена экономических стимулов может привести к новому авторитаризму, и предлагают технологические пути защиты человеческого суверенитета.
🧠 Феномен «проклятия интеллекта»: аналогия с ресурсными тираниями 3:08
Суть концепции «проклятия интеллекта» (The Intelligence Curse), сформулированной Люком Драго, заключается в радикальном изменении структуры производства. По мнению гостя, если доминирующим фактором в экономике становятся нечеловеческие ресурсы, у правящих элит и капитала исчезают стимулы инвестировать в развитие собственного населения.
В качестве исторической и экономической аналогии Люк Драго приводит известное «ресурсное проклятие». В государствах, чьи бюджеты критически зависят от экспорта нефти, а не от продуктивности граждан, власть и ресурсы аккумулируются в руках узкой группы лиц. В результате качество жизни населения ухудшается, а сами граждане теряют рычаги давления на правительство, поскольку их способность производить ценность больше не является главным «козырем» в общественном договоре. Спикеры выражают опасение, что по мере развития ИИ компании и правительства будут направлять капиталы исключительно на усовершенствование алгоритмов, игнорируя интересы работников.
Классические экономисты часто возражают против подобных антиутопических прогнозов, указывая на исторический опыт: предыдущие технологические революции в долгосрочной перспективе всегда приводили к росту заработных плат и повышению уровня жизни. Люк Драго, однако, считает это фундаментальной категориальной ошибкой. По его мнению, технологии последнего тысячелетия были направлены на расширение человеческих возможностей, тогда как современная индустрия ИИ открыто декларирует цель создания систем, способных выполнять любую экономически ценную работу лучше, быстрее и дешевле человека. С точки зрения гостя, если бизнес может сократить расходы на оплату труда на 50%, получив при этом более надежный результат, он сделает это без всякого злого умысла, просто повинуясь рыночной логике. В результате человечество рискует оказаться в полной зависимости от государственной благотворительности.
📉 Политическая ценность экономики и крах «пирамиды» занятости 6:41
Многие исследователи видят спасение в концепции универсального базового дохода (UBI). Однако Люк Драго называет эту идею шаткой и иллюзорной. Он аргументирует это тем, что экономическая ценность человека напрямую определяет его политическую значимость. Исторически демократии рождались там, где рассредоточенные держатели капитала нуждались в мирных механизмах разрешения споров. Британская демократия и Великая хартия вольностей (Magna Carta) появились именно потому, что лорды обладали реальной материальной силой, с которой король не мог не считаться. Экономическая либерализация всегда служила фундаментом для защиты прав человека.
Если ИИ разрушит эту структуру, граждане потеряют свои главные переговорные чипы. Разбирая пример современных пенсионеров, которые защищены государством, несмотря на отсутствие прямого вклада в производство, Драго подчеркивает, что эта стабильность — результат их сорокалетнего упорного труда и борьбы профсоюзов в эпоху Нового курса США. Перспектива превращения всего человечества в «пожизненных пенсионеров», полностью зависящих от исхода очередных выборов, кажется исследователю крайне опасной.
Чтобы вовремя зафиксировать наступление «проклятия интеллекта», Люк Драго рекомендует отслеживать конкретные экономические маркеры:
- Расслоение доходов и резкое накопление капитала: ситуация, когда талант исключается из уравнения, а капитал начинает стремительно приумножать сам себя в руках узкой группы игроков.
- Падение социальной мобильности: исчезновение путей наверх для людей, стартующих с нуля.
- Рост безработицы среди молодежи: первый сигнал деструктивного процесса, который Драго называет «замещением пирамиды» (pyramid replacement).
В крупных беловоротничковых фирмах ежегодно нанимаются тысячи выпускников вузов, формируя основание кадровой пирамиды. ИИ начинает вытеснять людей именно снизу, заменяя позиции начального уровня. Спикер ссылается на недавние исследования, показывающие резкое сокращение вакансий и предложений о работе в сфере веб-разработки и программной инженерии для возрастной группы от 22 до 25 лет. По мере развития долгосрочного планирования ИИ-агентов автоматизация пойдет вверх по пирамиде, пока однажды топ-менеджеры не обнаружат, что все их подчиненные — виртуальные сущности. На синеворотничковых рынках, по оценке Драго, процесс может пойти по сценарию «ноль-один»: автоматизация административных задач (инвойсы, графики) произойдет быстро, а физическое замещение начнется лавинообразно, как только робототехника достигнет нужного уровня.
🛡️ Барьеры для автоматизации: закон, вкус и скрытые знания 19:01
Не все сферы сдадутся без боя. По мнению Гуса Докера, важным барьером могут стать юридические ограничения. Например, профессия судьи, вероятно, будет автоматизирована в последнюю очередь. Ссылаясь на работу Дерека Ченга из Convergence Analysis, Люк Драго соглашается, что сильные правовые барьеры защитят верхушку юридической системы. Однако на практике судьи или старшие партнеры фирм могут начать массово использовать модели уровня GPT-7 для вынесения решений. Это создаст иллюзию сохранения человеческих институтов, хотя за фасадом будет скрываться монопольный алгоритм со всеми его системными галлюцинациями и предвзятостями.
Вторым потенциальным рубежом обороны считается человеческий вкус и суждение. В качестве примера успешного симбиоза гость приводит художника под псевдонимом Nomads and Vagabonds, который создал визуальный стиль для Workshop Labs и эссе об Intelligence Curse. Художник обучил модель Stable Diffusion на собственных работах, виртуозно составляет промты и генерирует сотни вариантов, отбирая лишь единицы. Это пример кураторства и вкуса, где инструмент усиливает автора, не стирая его индивидуальность. Однако Драго подчеркивает, что это не совпадает с глобальной целью ведущих лабораторий (таких как OpenAI), которые прямо нацелены на автоматизацию всей экономически ценной человеческой деятельности, а не на создание персональных ассистентов.
Третий и самый важный барьер — это локальные и неявные знания (tacit knowledge). Это навыки, которые невозможно легко оцифровать, поскольку люди часто сами не понимают, как они это делают, а также оперативная информация, доступная человеку в моменте его физического присутствия. Именно за этими данными сейчас идет технологическая охота: отсюда попытки ИИ-гигантов интегрироваться в браузеры и нанимать экспертов для создания кастомных сред обучения с подкреплением (RL).
🏗️ Экономика замкнутого цикла ИИ и уроки Норвегии 36:52
Люк Драго детально описывает мрачный сценарий 2030 года глазами обычного выпускника университета. Молодой специалист не может найти стажировку или стартовую позицию. Государственная система социального обеспечения трещит по швам, так как 50% доходов федерального бюджета США формируется за счет подоходного налога с граждан, а налогооблагаемая база стремительно сжимается. В это же время корпорации вроде Microsoft публикуют отчеты о рекордных прибылях благодаря сокращению штатов. Общественное недовольство выливается в массовые уличные протесты. В таких условиях, как отмечается в исследовании Тома Дэвидсона о механиках переворотов, институты становятся крайне уязвимыми для технологически вооруженных диктатур.
На резонный вопрос ведущего, кому корпорации будут продавать свои продукты, если у населения не останется денег, Люк Драго отвечает, что экономика может схлопнуться в замкнутый цикл B2B-сегмента. В этом мире будет гораздо меньше кофейни Starbucks или чехлов для телефонов, но зато начнется колоссальный обмен ресурсами между ИИ-лабораториями, дата-центрами и энергетическими компаниями. Ключевыми ценностями станут земля, чипы, энергия и вычислительная мощность.
Чтобы избежать этого, человечеству необходимо изучить опыт стран, преодолевших ресурсное проклятие, таких как Норвегия. Создав суверенный фонд за счет нефтяных доходов, Норвегия обеспечила высочайший уровень жизни и стабильную демократию. По словам Драго, секрет успеха заключался в том, что к моменту обнаружения нефти Норвегия уже обладала устойчивыми, дееспособными государственными институтами и минимальным уровнем коррупции.
«Каждый американец, глядя на наше правительство, понимает, что последние десятилетия что-то в нем фундаментально сломано», — с горечью констатирует Люк Драго.
Если авторитарные сырьевые государства вроде Саудовской Аравии или ОАЭ вынуждены проводить ограниченную внутреннюю либерализацию, чтобы диверсифицировать экономику и привлекать глобальный бизнес, то в эпоху развитого ИИ у диктатур исчезнет даже эта необходимость. Автоматизация систем слежки и подавления протестов (repression automation) сделает репрессивный аппарат государства невероятно сильным, навсегда заблокировав мирные демократические преобразования.
🔓 Технологические альтернативы и безопасность открытого кода 50:28
Одним из выходов является стратегия «дифференциального технологического развития» — намеренное форсирование разработки защитных и демократизирующих технологий. Люк Драго выделяет три приоритетных направления:
- Технологии оборонительной акселерации: исследования, снижающие катастрофические риски ИИ. Если ИИ будет неконтролируемо опасен (например, в сфере создания биологического оружия), правительства используют это как железный аргумент для жесткой централизации и монополизации технологий в руках 2–3 корпораций. В качестве позитивного примера Драго приводит недавнюю работу Кайла О’Брайена, доказавшего, что если полностью удалить массивы данных о биологических угрозах на этапе предварительного обучения (pre-training), модель сохраняет устойчивость к попыткам «дообучить» ее этим опасным знаниям в дальнейшем.
- Технологии децентрализации: инструменты, позволяющие задействовать локальные данные пользователей без передачи контроля корпоративным гигантам.
- Технологии укрепления демократии: цифровые платформы для гражданского участия, вдохновленные видением Одри Танг.
В контексте борьбы с монополией Люк Драго занимает решительную позицию в поддержку моделей с открытыми весами (open weights). Он оспаривает популярный в сообществе ИИ-безопасности тезис о том, что открытые модели всегда будут безнадежно отставать от коммерческих закрытых систем. Сегодня китайские open-weights модели (например, Kimikatu, демонстрирующая выдающиеся результаты в генерации английских текстов) отстают от передового края всего на 6 месяцев, а в чем-то и превосходят его. Драго уверен: модели с открытым кодом — это реальность, и вместо попыток их запретить, технические специалисты должны сосредоточиться на создании взломостойких и безопасных архитектур.
🔒 Workshop Labs и битва за суверенитет пользователя 1:02:49
Люк Драго напоминает, что изначально OpenAI создавалась именно с целью не допустить монополии Google и раздать ИИ-технологии всему человечеству, однако со временем эта миссия деградировала. Стартап Workshop Labs организован как компания общественной пользы (Public Benefit Corporation) с юридически закрепленной обязанностью расширять экономические возможности людей, а не автоматизировать их рабочие места.
Вместо этических обещаний Workshop Labs предлагает строгие технологические гарантии. Архитектура их продукта строится на принципах полной конфиденциальности данных:
- Вся информация шифруется при транзите.
- Обработка происходит исключительно внутри изолированных доверенных сред исполнения (Trusted Execution Environments, TEE) с использованием защищенных анклавов (secure enclaves) от Nvidia.
- Применяется удаленный криптографический аудит (remote attestation), подтверждающий, что код выполняет только заявленные функции и не извлекает данные для обучения базовых моделей.
Это позволяет развернуть локальные ИИ-модели, глубоко адаптированные под профессиональные задачи пользователя, без риска, что эти уникальные неявные знания будут перепроданы его работодателю с целью последующего увольнения сотрудника. Люк Драго разделяет концепцию «ИИ-привилегии» (AI privilege), выдвинутую Сэмом Альтманом: по аналогии с адвокатской тайной, данные личного ИИ-ассистента не должны иметь юридической силы для использования против самого пользователя в суде.
В финале беседы Люк Драго обращается к молодому поколению, подчеркивая, что классические престижные карьерные треки — будь то консалтинг в McKinsey или трейдинг в Jane Street — стремительно превращаются в «последний вертолет из Сайгона». Крупные корпорации с сотнями тысяч сотрудников будут безжалостно сокращать расходы на персонал. Единственная выигрышная стратегия в текущих реалиях — уход от шаблонных путей, развитие уникальных «N=1» навыков, создание локальных нишевых бизнесов и запуск амбициозных стартапов (moonshots) прямо сейчас, пока окно технологических возможностей все еще остается открытым.
