В эпоху стремительного развития искусственного интеллекта человечество оказывается перед фундаментальным выбором: пытаться конкурировать с машинами на их поле или переосмыслить собственную уникальность. Известный технологический обозреватель газеты «The New York Times» Кевин Руз в беседе с ведущим Ричем Роллом представляет глубокий анализ того, как алгоритмы незаметно подчиняют себе наше внимание, радикализируют общество и трансформируют рынок труда. На стыке социологии, личных экспериментов и бесед с лидерами ИТ-индустрии авторы формулируют манифест спасения человеческой идентичности в полностью автоматизированном мире.
🕳️ Феномен «кроличьей норы» и радикализация в Сети 3:57
Обсуждение деструктивного влияния современных технологий логично начать с феномена, который Кевин Руз детально исследовал в своем восьмисерийном подкасте «Rabbit Hole», выпущенном под эгидой «The New York Times». Долгое время технологическая журналистика фокусировалась преимущественно на гаджетах, программном обеспечении и запуске новых приложений, однако несколько лет назад фокус внимания сместился в сторону реальных офлайн-последствий интернет-активности. По мнению Кевина Руза, самым страшным и наглядным примером этой опасной взаимосвязи стала трагедия в Крайстчерче (Новая Зеландия), где в результате стрельбы погибли 52 человека. Нападавший, белый националист, радикализировался исключительно в Сети, а само массовое убийство транслировал в прямом эфире, фактически спроектировав событие под законы вирусного интернет-маркетинга.
Для того чтобы понять механику этого процесса, команда подкаста провела целое археологическое исследование на примере истории 26-летнего жителя Западной Вирджинии Калеба Кейна. Калеб предоставил журналистам историю своих просмотров на YouTube за несколько лет. Анализ данных показал поразительную метаморфозу: молодой человек, который изначально поддерживал Барака Обаму, заботился об экологии и любил документальные фильмы Майкла Мура, под воздействием рекомендательных алгоритмов постепенно погрузился в «болото» ультраправой идеологии.
Выбор формата подкаста вместо серии статей был продиктован стремлением передать живые голоса харизматичных блогеров, занимающихся радикализацией молодежи. Звуковой дизайн проекта был устроен особым образом:
- В эпизодах отсутствовали традиционные заставки (интро) и концовки (аутро), что создавало ощущение непрерывного падения.
- Звуковая дорожка имитировала реальный пользовательский опыт, когда человек начинает с невинного видео, а через несколько часов обнаруживает себя за просмотром роликов о поездах в Норвегии.
🤖 Власть алгоритма: как YouTube и Facebook формируют реальность 9:02
Современные рекомендательные системы больше не являются просто пассивными инструментами. Согласно статистике, приводимой Кевином Рузом, около 70% всего времени, которое пользователи проводят на YouTube, генерируется благодаря боковой панели рекомендаций, управляемой одной из самых сложных нейросетей в истории. В начале пути видеохостинга алгоритмы оптимизировались под клики, что привело к засилью кликбейта. Позже метрику изменили на время просмотра (watch time), стремясь удержать человека на платформе как можно дольше.
Побочным эффектом этой оптимизации, как утверждает Кевин Руз, стало умышленное подталкивание пользователей к радикальному и конспирологическому контенту, поскольку именно он вызывал наибольшее вовлечение. Бывший инженер YouTube Гийом Шасло, участвовавший в разработке этой системы, пытался предупредить руководство о том, что платформа кормит людей теориями заговора и показывает ситуацию однобоко, но его проигнорировали и впоследствии вытеснили из компании.
Сегодня ситуация меняется в лучшую сторону. По словам Кевина Руза, под давлением общественности YouTube обновил политику в отношении разжигания ненависти, заблокировал нео нацистов и снизил на 70% количество рекомендаций так называемого «пограничного контента» (borderline content) — материалов, которые формально не нарушают правила, но балансируют на грани.
Примечательно, что тот же самый алгоритм может работать и в обратную сторону. Калеб Кейн смог выбраться из ультраправой «норы» благодаря сообществу «BreadTube» — левым блогерам, которые научились взламывать алгоритмы. Они использовали ту же агрессивную эстетику и названия в духе «Бен Шапиро уничтожает студента», но переворачивали смыслы, перехватывая аудиторию правых радикалов.
Тем не менее, проблема выходит далеко за пределы одной платформы. Кевин Руз регулярно публикует топ-10 самых популярных постов в Facebook, где неизменно доминируют ультраправые спикеры. В связи с этим французский исследователь Камиль Рот предлагает разделять алгоритмы на два типа:
- Алгоритмы, «читающие мысли» (read your mind), которые просто подстраиваются под существующие вкусы пользователя.
- Алгоритмы, «меняющие мысли» (change your mind), которые незаметно сужают поле выбора и коррумпируют процесс принятия решений, лишая человека истинной автономии.
Эксперименты подтверждают, что люди склонны доверять алгоритмическим рекомендациям больше, чем собственному вкусу. Если человеку предложить еду или музыку, которую он изначально не любит, но сказать, что выбор сделан искусственным интеллектом на основе его профиля, человек подсознательно скорректирует свои предпочтения в пользу машины.
🎙️ Синдром Clubhouse: терапия от цифровых карикатур 28:23
В качестве актуального примера эволюции социальных платформ собеседники рассматривают Clubhouse (на момент записи находившийся в стадии бета-тестирования). Кевин Руз замечает, что эта площадка в сжатые сроки повторяет десятилетний цикл развития Facebook: от утопического пространства обмена идеями до столкновения с токсичностью, выработки правил модерации и попыток монетизации.
По мнению обозревателя, Clubhouse стал своеобразной групповой терапией для людей, травмированных текстовыми соцсетями. В Twitter пользователи вынуждены уплощаться до двумерных аватаров и заострять свои тезисы ради ретвитов, что часто порождает ненависть. В то же время живое голосовое общение возвращает человечность: люди, которые оскорбляли Кевина Руза в Twitter, в комнатах Clubhouse вели себя подчеркнуто вежливо и корректно.
В контексте управления контентом Рич Ролл проводит параллель между бременем ответственности популярных креаторов (таких как PewDiePie, совершавших ошибки на глазах у миллионов подписчиков) и Сьюзан Воджитски, которая пришла в Google 16-м сотрудником, а затем столкнулась с невыполнимой задачей ручной модерации миллиардов часов видео на YouTube.
Относительно будущего Clubhouse mнения авторов разделились:
- Кевин Руз сомневается, что платформа переживет окончание пандемии, так как после открытия баров люди вряд ли захотят тратить по три часа в день на прослушивание разговоров об NFT.
- Рич Ролл настроен более оптимистично, полагая, что формат очистится от хаотичного шума, выделит ярких звезд и успешно монетизируется через подписки и рекламу.
Пока же платформа привлекает своей экспериментальной атмосферой и странными комнатами, вроде «Whale Moan», где пользователи просто имитируют стоны китов, или «Cotton Club», стилизованного под виртуальный джаз-бар 1920-х годов.
🧭 Новая религия интернета: эволюция QAnon 35:49
Особое место в анализе интернет-культур занимает движение QAnon. Кевин Руз отмечает, что его журналистская карьера началась с религиозного репортажа, когда он провел семестр под прикрытием в ультраконсервативном христианском Университете Либерти, основанном Джерри Фауэллом. Этот бэкграунд помог ему увидеть в QAnon не просто собрание сумасшедших, а полноценный религиозный феномен цифровой эпохи.
По словам Руза, сторонники QAnon находят в движении ответы на фундаментальные вопросы о мироустройстве, интерпретируя мистические подсказки анонимного персонажа на 4chan. Более того, это стало их социальной жизнью и способом заводить друзей.
Однако феномен быстро перерос рамки безобидного интернет-культа:
- Участники движения сыграли ключевую роль в штурме Капитолия США под лозунгами «Stop the Steal».
- Движение продемонстрировало способность генерировать реальное насилие в физическом мире.
По прогнозу Кевина Руза, в настоящее время активность QAnon угасает, поскольку Дональд Трамп покинул пост президента, а ключевые пророчества о массовых арестах в правительстве так и не сбылись.
💼 Парадокс производительности и «так себе» автоматизация 41:04
Выход новой книги Кевина Руза «Futureproof: 9 Rules for Humans in the Age of Automation» смещает фокус дискуссии на глобальные изменения в экономике. Автор разрушает устаревший стереотип о том, что автоматизация угрожает исключительно рабочим на заводах. Сегодня под удар искусственного интеллекта попадают «белые воротнички»: сотрудники сферы ритейла, клерки, специалисты по продажам, финансисты, юристы и медики. Уже существуют алгоритмы, способные диагностировать определенные виды рака точнее, чем профессиональные радиологи. Сам Кевин Руз в начале карьеры финансового репортера столкнулся с тем, что шаблонные отчеты о прибылях корпораций стали полностью генерироваться искусственным интеллектом. Дальше всех зашли технологии дипфейков, способные автоматизировать в кино даже таких звезд, как Том Круз.
Руз ссылается на концепцию экономистов Дарона Аджемоглу и Паскуаля Рестрепо, которые ввели термин «так себе автоматизация» (so-so automation). Речь идет о технологиях вроде касс самообслуживания в супермаркетах или автоматизированных колл-центров. Такая автоматизация не повышает качество услуги и не создает принципиально новых рабочих мест (в отличие от автомобиля, который в свое время породил профессии шоферов и механиков), но она обходится дешевле и позволяет компаниям сокращать издержки. Это объясняет так называемый «парадокс производительности»: несмотря на обилие ИТ-инноваций, общие показатели производительности труда в экономике не демонстрируют взрывного роста.
Скрытым драйвером этого процесса выступает индустрия RPA (robotic process automation — роботизированная автоматизация процессов). Гигантские B2B-корпорации продают крупным брендам (например, Coca-Cola или Walgreens) программные пакеты, заменяющие десятки сотрудников бухгалтерии одним цифровым ботом. Ключевыми игроками здесь являются:
- UiPath,
- Automation Anywhere,
- Blue Prism.
Пандемия COVID-19 сняла с топ-менеджеров моральные барьеры: если в 1990-е годы руководителей, вывозивших рабочие места в Индию и Китай, клеймили как разрушителей экономики, то на фоне локдаунов внедрение роботов в таких сферах, как мясопереработка или логистика (FedEx), стало восприниматься как вынужденная антикризисная мера, открыв шлюзы для тотальной автоматизации. При этом исторический анализ Карла Фрея в книге «Технологическая ловушка» показывает, что прошлые промышленные революции проходили для рабочих крайне болезненно, их доходы долго не росли, а выгоду получали исключительно владельцы капитала.
🛠️ Три кита выживания в эпоху машин: Удивление, Социальность, Дефицит 56:06
Главный тезис Кевина Руза звучит парадоксально на фоне повсеместного культа STEM-дисциплин: чтобы оставаться востребованным, нужно не уподобляться машинам, осваивая кодинг или жесткую оптимизацию жизни (hustle culture), а развивать в себе глубоко человеческие, «мягкие» навыки (soft skills) — эмпатию, лидерство, смелость и коммуникацию. На основе многочисленных интервью с руководителями ИИ-лабораторий Руз выделяет три категории человеческой деятельности, наименее подверженные автоматизации:
- Удивление (Surprising). Работа в непредсказуемой среде с меняющимися правилами. ИИ великолепно играет в шахматы, так как правила там неизменны. Однако нейросеть будет отвратительным воспитателем в детском саду, где количество переменных и хаотичных факторов требует мгновенной человеческой адаптации.
- Социальность (Social). Профессии, цель которых — заставлять людей чувствовать, а не просто производить вещи (социальные работники, терапевты, священники). Сюда же относятся баристы: домашние кофемашины давно варят идеальный кофе, но люди ходят в кофейни ради социального ритуала. Здесь работает психологический эффект «эвристики усилий» (effort heuristic): мы ценим вещи гораздо выше, если знаем, что над ними долго и упорно трудился человек. Глава ИИ-исследований в Facebook Ян Лекун приводит в пример плоский телевизор (высокие технологии, сделан роботами, стоит дешево) и керамическую чашку ручной работы, которая ценится дороже именно из-за «человеческого следа». Руз призывает «оставлять отпечатки пальцев» на всем, что мы делаем.
- Дефицит (Scarce). Профессии в зонах с нулевой толерантностью к ошибкам и уникальными навыками, такие как парамедики (EMT) или операторы службы 911.
Этот сдвиг трансформирует и саму журналистику, переводя ее из индустриальной модели («голос Бога» от безликого института) в ремесленную, артистическую экономику персональных брендов, где читатель идет за конкретной личностью.
🎨 Экономика создателей и цифровой дефицит: взгляд на NFT 1:07:44
Логическим продолжением идеи защиты уникальности в цифровом пространстве становится феномен NFT. Кевин Руз видит в невзаимозаменяемых токенах потенциальную модель создания искусственного дефицита, позволяющую защитить права художников от бесконечного бесплатного копирования файлов. Рич Ролл шутит о покупке гифок с Майклом Джорданом за $200 тысяч, а Руз иронизирует над экологическим следом технологии, цитируя твит о сожжении углерода ради владения цифровым рисунком Человека-паука.
Несмотря на спекулятивный пузырь, авторы сходятся во мнении, что NFT могут стать спасением для креаторов, которые сегодня заперты в алгоритмических империях YouTube, Instagram и Facebook на правах «крепостных крестьян» (serfs). Платформы продают рекламу на базе чужого контента и выплачивают авторам мизерный процент, полностью контролируя алгоритмы выдачи.
В качестве исторического ориентира Руз предлагает две модели поведения:
- Генри Дэвид Торо («Уолден, или Жизнь в лесах») — радикальный технофоб, выбравший бегство от прогресса.
- Сара Бэгли — фабричная активистка XIX века и первая в США женщина-оператор телеграфа. Она не ломала станки, но боролась за права рабочих, доказывая, что технологии должны обогащать тех, кто ими управляет, а не только собственников.
Кевин Руз призывает следовать модели Сары Бэгли — активно осваивать инструменты, но не позволять им командовать нашей жизнью.
🧘 Практика цифрового детокса и защита внимания 1:15:47
Чтобы сохранить человеческую идентичность, необходимо противостоять устройствам, которые превратились из пассивных инструментов в наших жестких «боссов», диктующих, что думать, как общаться и какие новости читать. Руз описывает свой личный опыт прохождения 30-дневного цифрового детокса под руководством специального «телефонного коуча».
Практическим шагом для защиты ментального здоровья стало введение «человеческого часа» (human hour) — ежедневного ритуала, когда Кевин Руз полностью убирает телефон и занимается садоводством или гуляет с собакой, напоминая себе, что он не является своим цифровым аватаром. Рич Ролл ссылается на книгу Кэла Ньюпорта «Цифровой минимализм», отмечая, что страх упустить выгоду (FOMO) мешает профессионалам дистанцироваться от экранов. При этом инженеры тратят миллиарды долларов, чтобы удержать наше внимание.
В качестве превентивных мер Руз выделяет следующие практики:
- Развитие навыка управления вниманием через медитацию (упоминается Юваль Ной Харари, черпающий ясность ума в длительных ретритах).
- Внедрение курсов вроде «Эмпатия для инженеров» в Стэнфорде, обучающих ИТ-специалистов эмоциональному интеллекту.
Венчурный капиталист Фрэнк Чен рекомендует всем ИИ-разработчикам книгу Роберта Фулгама «Все, что мне нужно было знать, я узнал в детском саду», подчеркивая, что умение делиться и базовые социальные навыки станут главным конкурентным преимуществом человека в будущем. Как резюмирует Юваль Ной Харари: если алгоритмы будут знать вас лучше, чем вы сами, власть полностью перейдет к ним.
