# Дэниел Саскинд в Стэнфорде: почему «иллюзия ИИ» маскирует неизбежность структурной безработицы Источник: https://www.youtube.com/watch?v=zN6CmdgnxV8 Канал: Stanford Online Опубликовано: 16.09.2024 --- На открытой лекции в Stanford University в рамках курса ECON295/CS323 известный британский экономист Дэниел Саскинд представил глубокий анализ автоматизации и ее долгосрочных последствий для человечества. Опираясь на исторические прецеденты и фундаментальные сдвиги в разработке искусственного интеллекта, исследователь ставит под сомнение традиционную уверенность в том, что рынок труда всегда сможет предложить альтернативную занятость для вытесненных технологиями работников. Главный фокус его концепции смещен с привычного вопроса выживания бизнеса на глобальные вызовы распределения благ, концентрации власти технологических гигантов и кризиса человеческой идентичности в мире, где потребность в труде будет неуклонно снижаться. ## 🐴 Навозный кризис и уроки истории [[JUMP:01:16]] В конце XIX века крупнейшие мегаполисы мира, такие как Лондон и Нью-Йорк, столкнулись с непредвиденной экологической катастрофой, вызванной развитием конного транспорта. Сотни тысяч лошадей, обеспечивавших экономическую жизнедеятельность городов, производили колоссальное количество отходов. По подсчетам санитарного инспектора из Рочестера (штат Нью-Йорк), локальный конский поток оставлял столько навоза, что им можно было покрыть один акр земли слоем высотой около 53 метров, что сопоставимо с Пизанской башней. Комментаторы того времени строили катастрофические прогнозы: нью-йоркские публицисты предрекали появление навозных куч высотой до окон третьего этажа, а лондонские репортеры утверждали, что к середине XX века улицы британской столицы будут погребены под трехметровым слоем отходов. Власти не могли запретить использование лошадей из-за их критической экономической значимости. Однако кризис разрешился сам собой nhờ технологическому прорыву: * В 1870-х годах был создан первый двигатель внутреннего сгорания. * В 1880-х годах этот двигатель установили на первый автомобиль. * Спустя несколько десятилетий Генри Форд вывел модель Model T на массовый рынок. Уже к 1912 году в Нью-Йорке число автомобилей превысило поголовье лошадей, а в 1917 году в городе списали последний трамвай на конной тяге. Для большинства исследователей этот «конячий фарс» стал примером триумфа прогресса, но русско-американский экономист, лауреат Нобелевской премии 1973 года Василий Леонтьев увидел в этой истории тревожный прецедент. В начале 1980-х годов он сформулировал тезис: то, что двигатель внутреннего сгорания сделал с лошадьми, научно-технический прогресс со временем сделает с людьми. Роботы и компьютеры вытеснят человеческий труд точно так же, как автомобили и тракторы вытеснили живую тягловую силу. Сегодня страхи Леонтьева снова актуальны: * В США около 30% работников убеждены, что их рабочие места будут заменены роботами и компьютерами еще при их жизни. * В Великобритании те же 30% опрошенных ожидают этого в течение ближайших 25 лет. ## ⚙️ Две силы автоматизации: почему луддиты ошибались [[JUMP:06:37]] Современный экономический рост — явление относительно новое. На протяжении большей части 300-тысячелетней истории человечества экономическая активность оставалась стагнационной. Взрывной подъем начался лишь в последние несколько столетий: производство на душу населения увеличилось примерно в 13 раз, а общий объем мирового производства вырос почти в 300 раз. Если сжать всю историю человеческого существования до одного часа, то этот колоссальный скачок произошел в последнюю полусекунду — буквально в мгновение ока. Флагманом этого процесса стала Великобритания, где в 1760-х годах развернулась промышленная революция. Появление новых машин позволило фабрикантам производить значительно больше товаров с привлечением меньшего объема ресурсов. Именно тогда возникла первая «тревога автоматизации». Протесты вылились в массовый технологический вандализм со стороны луддитов, из-за чего в 1812 году британский парламент принял закон «О разрушении чулочных станков» (Destruction of Stocking Frames Act), каравший за порчу оборудования смертной казнью. Подобные опасения регулярно возвращались. В 1940-х годах газета The New York Times назвала споры о технологической безработице «старым аргументом», и, начиная с 1920-х годов, практически в каждом десятилетии на страницах издания появлялись аналитические материалы на эту тему. Тем не менее, исторически большинство этих страхов не оправдывалось. По мнению Дэниела Саскинда, наши предки упускали из виду, что автоматизация оказывает на рынок труда двоякое воздействие, состоящее из двух фундаментальных сил: 1. **Замещающая сила (substituting force):** вредоносное воздействие, при котором машины берут на себя выполнение конкретных задач, вытесняя людей. 2. **Дополняющая сила (complementing force):** полезное воздействие, которое повышает спрос на человеческий труд в тех сферах и задачах, которые еще не были автоматизированы. Экономические прогнозы прошлого раз за разом недооценивали объем остаточного спроса на человеческий труд, поскольку авторы либо полностью игнорировали дополняющую силу, либо ошибочно полагали, что замещающая сила полностью ее поглотит. ## 🧠 Прагматическая революция: крах «иллюзии ИИ» [[JUMP:19:13]] Чтобы понять масштаб текущих изменений, Дэниел Саскинд предлагает проанализировать эволюцию искусственного интеллекта. Первая волна ИИ пришлась на 1980-е годы. В тот период отец лектора, Ричард Саскинд, писал докторскую диссертацию по ИИ и праву в Оксфорде. В 1986 году в Великобритании был принят сложный закон о скрытых дефектах (Latent Damage Act), и ведущий мировой эксперт в этой области Филип Каппер предложил создать систему, которая автоматизировала бы его применение. С 1986 по 1988 год они разрабатывали первую коммерческую систему ИИ в юриспруденции, которая поставлялась на гибких дискетах. Архитектурно она представляла собой гигантское дерево решений с миллионами ветвей, прописанных вручную. Философия первой волны ИИ базировалась на пуризме: исследователи полагали, что для автоматизации задачи необходимо изучить, как ее выполняет человек, и скопировать его действия, логику или правила. Эта попытка строить машины по образу и подобию человеческого мышления зашла в тупик, спровоцировав затяжную «зиму ИИ». Перелом произошел в 1997 году, когда суперкомпьютер Deep Blue от IBM победил чемпиона мира по шахматам Гарри Каспарава. Пуристы 1980-х считали это невозможным, поскольку эксперты уровня Каспарова не способны детально вербализовать свои стратегии, списывая мастерство на интуицию, чутье и креативность. Если человек не может объяснить алгоритм своих действий, то как написать инструкцию для машины? Ошибкой пуристов стало игнорирование экспоненциального роста вычислительных мощностей. К моменту матча Deep Blue мог просчитывать до 330 миллионов ходов в секунду, тогда как Каспаров был способен удерживать в уме лишь 110 ходов. Система победила за счет грубой вычислительной силы (brute force) и огромных объемов данных. Разработчики Deep Blue выступили как прагматики: они не копировали анатомию или мышление гроссмейстера, а заставили машину решать задачу принципиально иным, нечеловеческим способом. Этот подход лег в основу второй волны ИИ — «прагматической революции»: * Системы машинного перевода не копируют лингвистов, а сканируют миллионы готовых текстов в поисках паттернов. * Алгоритмы распознавания образов классифицируют изображения на основе анализа миллиардов ранее размеченных фотографий. * Медицинская система, разработанная в Stanford University, диагностирует рак кожи по фотографии веснушки так же точно, как ведущие дерматологи. Она не обладает медицинскими знаниями, но сопоставляет снимок по алгоритму распознавания паттернов с базой данных из 140 тысяч прошлых клинических случаев. Дэниел Саскинд формулирует концепт «иллюзии искусственного интеллекта» (artificial intelligence fallacy) — ошибочного убеждения, будто для достижения человеческого уровня эффективности машина должна обязательно копировать человеческие когнитивные процессы. Современный ИИ — это, по определению автора, «все более дееспособная немыслящая машина» (increasingly capable non-thinking machine). Она способна эффективно компенсировать неопределенность там, где раньше требовалось человеческое суждение. Как отмечает лектор, в 2011 году на американском шоу Jeopardy суперкомпьютер IBM Watson разгромил двух абсолютных чемпионов. На следующий день философ Джон Серль опубликовал в Wall Street Journal статью под заголовком «Уотсон не знает, что он выиграл на Jeopardy». Компьютер не кричал от радости и не пошел в паб праздновать, но это никак не отменяет того факта, что он справился с задачей лучше людей. Процесс постепенного вытеснения человека из различных сфер деятельности автор называет «захватом задач» (task encroachment), и эта тенденция последовательно поглощает мануальные, когнитивные и аффективные (эмоциональные) компетенции. ## 💼 Фрикционная и структурная безработица: три типа несоответствий [[JUMP:34:01]] По оценкам Саскинда, в краткосрочной перспективе (ближайшие 5–10 лет) автоматизация не приведет к тотальному дефициту рабочих мест. Главной проблемой станет фрикционная технологическая безработица — ситуация, когда работа на рынке есть, но люди не способны ее получить. Экономист выделяет три типа инфраструктурных несоответствий (mismatches): * **Квалификационное несоответствие (skills mismatch):** у вытесненных работников отсутствуют навыки, необходимые для выполнения новых, технологически усложненных задач. * **Географическое несоответствие (place mismatch):** новые рабочие места создаются не там, где живут безработные. Ранние прогнозы эпохи зарождения интернета о «смерти расстояния» не оправдались — локация сегодня важна как никогда. * **Идентичностное несоответствие (identity mismatch):** нежелание людей менять профессиональную идентичность. Например, мужчины, уволенные из традиционного производственного сектора США, зачастую отказываются переходить в так называемый «розовый воротничок» (сферы образования, медицины и социальной поддержки), где автоматизация затруднена. По статистике, в США женщины составляют 97,7% учителей дошкольных учреждений, 92,2% медицинских сестер и 82,5% социальных работников. Однако во второй половине XXI века, как предполагает Саскинд, человечество столкнется со структурной технологической безработицей. Продолжающийся захват задач машинами приведет к тому, что замещающая сила станет доминирующей, а дополняющая сила начнет неуклонно ослабевать, поскольку алгоритмы смогут выполнять и вновь создаваемые задачи. ## 🧭 Навигация вместо поезда: можно ли перенаправить технологии? [[JUMP:39:39]] В экспертном сообществе сильна позиция, сформулированная экономистом Дароном Аджемоглу: текущий тренд «избыточной автоматизации» можно скорректировать и направить технологии на дополнение, а не на замещение человека. Саскинд сравнивает два метафорических подхода к технологическому прогрессу: * **Метафора поезда:** политики воспринимают прогресс как движение по жестко заданным рельсам. Можно регулировать скорость (давить на газ или тормоз), но траектория неизменна. * **Морская метафора (подход Аджемоглу):** общество находится в открытом океане. Мы можем поднимать или опускать паруса, регулируя скорость, но, что гораздо важнее, мы вольны направлять штурвал в любую сторону. Инструментами такого перенаправления выступают налоги, субсидии, законы и социальные нормы. В качестве негативного примера Саскинд приводит налоговую систему США: начиная с 1981 года эффективная налоговая ставка на наем живых сотрудников в стране стабильно удерживается на значительно более высоком уровне, чем налог на покупку и использование оборудования. Это создает у бизнеса мощный искусственный стимул замещать людей машинами. При всей симпатии к идее Аджемоглу, Саскинд считает ее возможности ограниченными, проводя параллель с экологическим кризисом. Человечество десятилетиями знало, как стимулировать «зеленые» технологии вместо «грязных». Эксперты сошлись во мнении, что введение углеродного налога в размере около 100 долларов за метрическую тонну к 2030 году могло бы удержать глобальное потепление под контролем. Но на практике политическая система потерпела неудачу: последние восемь лет стали самыми жаркими в истории планеты. > «Наша климатическая стратегия сегодня включает в себя как смягчение последствий (mitigation), так и адаптацию к ним (adaptation). Тот же принцип применим к ИИ: мы должны пытаться формировать траекторию прогресса, но обязаны признать технические и политические ограничения и готовиться к адаптации к миру, где работы станет меньше», — констатирует Дэниел Саскинд. ## ⚖️ Три всадника будущего: неравенство, власть и потеря смысла [[JUMP:47:57]] Если структурная безработица неизбежна, человечеству придется решать три фундаментальные проблемы некорпоративного характера. ### 💰 1. Экономическая проблема (Неравенство) Традиционно рынок труда является главным механизмом распределения материальных благ в обществе: люди получают доход за свой труд. В условиях дефицита оплачиваемой работы Саскинд видит единственный выход в создании «большого государства распределения» (big state of distribution). Это не плановая советская экономика XX века с тотальным контролем над производством, а госаппарат, аккумулирующий и перераспределяющий доходы. Комментируя манифест Сэма Альтмана «Закон Мура для всего» (Moore's Law for Everything), где предлагается концепция безусловного базового дохода (UBI), Саскинд отмечает сущностные разногласия. Традиционный UBI часто критикуют с разных сторон: правые видят в нем лишь инструмент радикального упрощения налоговой системы и снижения социальных обязательств до минимального уровня, тогда как левые требуют высоких выплат для полноценного процветания граждан. Сам Саскинд выступает против классической концепции безусловности (universality). С его точки зрения, социальная солидарность держится на общем ощущении, что каждый вносит свой экономический вклад через труд и налоги. Безусловный доход нарушает контрибутивную справедливость (contributive justice) — право человека чувствовать себя полезным для общества. Решением должен стать условный базовый доход, привязанный к выполнению нерыночных, но социально значимых задач: волонтерству, участию в местном самоуправлении или эко-активизму. Альтман же предлагает распределять не деньги, а базовые доли (equity) в самих технологических компаниях. ### 🏛️ 2. Проблема власти В XX веке общество беспокоила экономическая сила монополий — уровень концентрации рынка и хищническое ценообразование. В XXI веке на первый план выходит политическая власть Big Tech, угрожающая свободе, социальной справедливости и демократии: * **Ограничение свободы:** технологические платформы могут заблокировать продавцу доступ к онлайн-рынку, алгоритмы блокчейна из-за потери ключа навсегда лишают пользователя его состояния, а программное обеспечение электровелосипеда способно заблокировать превышение скорости даже в случае экстренной необходимости. * **Социальная справедливость:** закрытые алгоритмические системы сегодня принимают решения о том, кто получит работу, кому предоставят социальное жилье, кому одобрят кредит, а какого заключенного отпустят под залог. * **Угроза демократии:** поисковые системы и социальные сети ранжируют информацию, определяют повестку дискуссий, решая, чьи голоса усилить, а чьи полностью заглушить. При этом лишение работников права на труд лишает их и ключевого рычага политического давления. Если раньше забастовка рабочих могла остановить завод, то в мире автоматизации voice of labor теряет экономическую основу, делая граждан уязвимыми перед волей законодателей или владельцев капитала. ### 🎯 3. Проблема смысла и предназначения Труд для человека — не просто источник денег, но и базис идентичности, структуры дня и самореализации. Лектор иллюстрирует это старым еврейским анекдотом: мать видит, что ее тонущий в море сын зовет на помощь, и кричит: «Помогите, мой сын — доктор — тонет!». Прецедент резкого столкновения с «вынужденным бездельем» человечество пережило в марте 2020 года во время пандемии COVID-19. Тогда падение спроса на труд произошло не из-за роботов, а из-за вируса, и государства задействовали аналоги базового дохода (программы Furlough в Великобритании и прямые чеки в США). Наблюдался судорожный поиск смыслов: в Великобритании возник тотальный дефицит строительных материалов и краски из-за массового ремонта, а также национальная нехватка дрожжей, так как все бросились выпекать домашний хлеб. Саскинд резюмирует: общество понимает, что такое продуктивная занятость, но совершенно не представляет, как выглядит «продуктивная безработица». В будущем государству, возможно, придется формировать не только трудовую политику, но и «политику досуга» (leisure policies). Несмотря на масштаб вызовов, Саскинд сохраняет оптимизм. Прогресс вплотную приблизил человечество к решению фундаментальной экономической задачи, довлевшей над видом веками, — увеличению размеров «экономического пирога». Если в 1-м и в 1000-м годах нашей эры при равном делении мирового дохода на душу населения приходилось всего по несколько сотен долларов (абсолютное большинство жило в нищете), то сегодня мировой ВВП на душу населения эквивалентен 11–12 тысячам долларов. Автоматизация — это симптом успеха в решении проблемы нехватки ресурсов. Распределение этого пирога и ограничение цифровой власти — задачи сложные, но они намного привлекательнее, чем борьба за физическое выживание, изнурявшая наших предков. ## 💬 Дискуссия и регулирование: взгляд вглубь капитализма [[JUMP:1:09:57]] Отвечая на вопросы аспирантов и студентов Stanford University, Саскинд углубил применимость своей теории к текущим реалиям. **Влияние на преступность:** Студент, изучающий дизайн механизмов, напомнил тезис Вольтера о том, что работа избавляет нас от трех великих зол: скуки, порока и нужды, и спросил о корреляции безработицы будущего с ростом преступности. Саскинд подчеркнул, что уровень криминализации будет напрямую зависеть от комплексности реформ: если закрыты вопросы распределения доходов и досуга, показатели останутся стабильными; если реформы провалятся — общество ждет всплеск деструктивного поведения. **Критика институтов регулирования:** Аспирант в области робототехники указал на неэффективность созданного в США Совета по безопасности ИИ (AI Safety and Security Board), куда вошли преимущественно CEO крупнейших корпораций, имеющие прямой финансовый интерес, но не включены независимые академические специалисты по этике ИИ. Саскинд согласился с наличием жесткого кризиса в политической экономии, но отметил, что прямо сейчас регулировать ИИ из-за страха безработицы преждевременно. Фокус внимания регуляторов сегодня должен быть направлен на защиту качества условий труда (например, запрет тотальной слежки за удаленными сотрудниками через трекинг движения курсора на экранах) и на сдерживание политического влияния Big Tech. **Эмоциональный интеллект машин:** На вопрос юриста о способности машин автоматизировать роли учителей или медсестер благодаря развитию аффективных вычислений (affective computing), Саскинд привел пример из практики. Системы ИИ уже сейчас точнее людей распознают разницу между искренней радостью на лице и дежурной социальной улыбкой. Они успешно имитируют эмпатию. Экономист вспомнил спор с бухгалтером, который уверял, что клиенты приходят к нему ради «взгляда глаза в глаза и поддерживающего рукопожатия». Лектор возразил: клиенты приходят за эффективной оптимизацией налогов, и если алгоритм сделает это быстрее и дешевле, они легко откажутся от человеческого контакта. Исключением остаются лишь такие гуманитарные сферы, как паллиативный уход, где само присутствие живого человека является конечной ценностью услуги. В финальном слове Дэниел Саскинд подчеркнул, что не призывает к демонтажу капитализма. Рыночная система, ценовые механизмы и частные стимулы остаются мощнейшими инструментами развития. Задача государства — не уничтожать рынок, а скорректировать его стимулы так, чтобы капитал работал на адаптацию человечества к новым технологическим реалиям.