В новом выпуске своего подкаста известный ведущий Рич Ролл беседует с технологическим обозревателем газеты The New York Times Кевином Роузом (в предоставленных пользователем метаданных ошибочно указан Мо Гавдат, однако в самом интервью детально обсуждается книга и проекты Роуза). Собеседники подробно анализируют влияние алгоритмов рекомендаций на радикализацию общества, феномен платформ вроде Clubhouse и стратегию выживания человека в эпоху тотальной автоматизации. Главная идея беседы заключается в том, что спасение от «робо-апокалипсиса» лежит не в гонке за техническими навыками, а в развитии базовых человеческих качеств и автономии от цифровых платформ.
🧵 Феномен подкаста «Кроличья нора» и механика онлайн-радикализации 4:10
Обсуждение начинается с детального разбора восьмисерийного подкаста «Кроличья нора» (Rabbit Hole), созданного Кевином Роузом совместно с The New York Times. Целью этого проекта было исследование глубинного влияния интернета на человеческую психику и поведение. По словам Роуза, за последние годы характер его работы как технологического журналиста кардинально изменился: если раньше он писал о гаджетах и программном обеспечении, то теперь события в офлайн-мире стали прямым следствием онлайн-процессов. Самым страшным примером этого Роуз называет теракт в Крайстчерче (Новая Зеландия) в 2019 году, где белый националист, радикализировавшийся в сети, транслировал массовое убийство 52 человек в прямом эфире, фактически спроектировав его под законы вирусного интернет-контента.
В качестве центрального кейса подкаста Роуз приводит историю 26-летнего жителя Западной Вирджинии по имени Кейлеб Кейн. Журналистам удалось получить полную историю его просмотров на YouTube за несколько лет и детально реконструировать его путь. Роуз отмечает поразительную метаморфозу: молодой человек, который изначально поддерживал Барака Обаму, заботился об экологии и любил фильмы Майкла Мура, под воздействием рекомендательных алгоритмов постепенно превратился в ярого сторонника ультраправых взглядов и погрузился в «болото альтернативных правых».
Выбор формата подкаста вместо серии статей Роуз объясняет необходимостью передать харизму и голоса ютуберов, занимающихся радикализацией молодых людей, что гораздо сильнее воздействует на аудиторию, чем сухой текст. Команда проекта во главе с Роузом сознательно пошла на технический эксперимент:
- Эпизоды подкаста не имеют традиционных вступлений и концовок.
- Один выпуск бесшовно перетекает в другой.
- Звуковой дизайн полностью имитирует субъективное ощущение человека, падающего в бесконечную цифровую «кроличью нору».
По мнению Рича Ролла, этот проект стал уникальным археологическим исследованием алгоритмических механизмов управления вниманием.
🤖 Эволюция алгоритмов YouTube: от кликов к экстремизму 9:14
Собеседники подробно останавливаются на роли рекомендательных систем, которые определяют до 70% всего времени, проводимого пользователями на YouTube. Роуз подчеркивает, что алгоритм платформы — это одна из самых сложных систем искусственного интеллекта в истории, и именно она обладает колоссальной силой затягивания. Журналист отмечает, что в начале его расследования руководство YouTube, включая Сьюзан Воджитски, отрицало проблему экстремизма на платформе.
Роуз описывает эволюцию критериев оптимизации ИИ на YouTube:
- Кликбейтная модель: изначально алгоритм максимизировал количество кликов, что привело к засилью сенсационных заголовков и превью при пустом содержании видео.
- Модель времени просмотра (watch time): затем цель сменили на удержание пользователя на платформе как можно дольше.
По утверждению Роуза, именно переориентация на время просмотра привела к непреднамеренному побочному эффекту — алгоритм стал уводить пользователей в радикальные сообщества, так как конспирология и экстремизм идеально удерживают внимание. Бывший инженер YouTube Гийом Шасло, участвовавший в разработке ИИ, пытался предупредить руководство о том, что система показывает людям искаженную картину мира, но его проигнорировали и уволили.
Тем не менее, Роуз признает, что ситуация меняется к лучшему: после выхода расследований YouTube обновил политику в отношении разжигания ненависти, удалил неофашистов и снизил на 70% рекомендации так называемого «пограничного контента» (borderline content), который формально не нарушает правил, но является деструктивным.
В то же время история Кейлеба Кейна демонстрирует дуализм системы. По словам Роуза, тот же самый алгоритм в итоге помог парню выбраться из ультраправой идеологии, порекомендовав ему сообщество «BreadTube» — левых, ироничных блогеров, которые научились взламывать алгоритмические механизмы YouTube. Они создавали ролики-ловушки с агрессивными названиями вроде «Студент уничтожает Бена Шапиро», перехватывая аудиторию правых радикалов. Рич Ролл делает вывод, что создатели контента становятся все более искушенными в обращении с алгоритмами, оборачивая их механизмы против деструктивного нарратива.
🧠 Программирование сознания и потеря идентичности 14:24
Кевин Роуз выражает глубокую озабоченность тем, что весь мир начинает перестраиваться под требования алгоритмов: политики побеждают за счет хакерства систем Facebook и Twitter, а TikTok определяет, кто станет мировой знаменитостью. Ссылаясь на французского исследователя Камиля Рота, Роуз разделяет алгоритмы на два типа:
- Алгоритмы, «читающие мысли»: они просто подбирают контент на основе прошлых предпочтений пользователя.
- Алгоритмы, «меняющие мысли»: они незаметно направляют человеческий выбор, создавая иллюзию собственной воли там, где решения уже предопределены платформой.
Собеседники сходятся во мнении, что современный человек добровольно делегировал свое критическое мышление машинам. Роуз ссылается на исследования, доказывающие парадоксальный факт: люди доверяют алгоритмическим рекомендациям больше, чем собственному вкусу. Если человеку предложить еду или музыку, которую он заведомо терпеть не может, но сказать, что это выбрано искусственным интеллектом на основе его профиля, человек начнет испытывать к этому симпатию, позволяя машине переписать свои внутренние предпочтения.
Для объяснения этого феномена Роуз использует теорию исследователя Оскара Гэнди о разнице между идентичностью и идентификацией:
- Идентичность (Identity): формируется в детстве, развивается через внутреннюю работу над собой, определяет ценности, отношения и то, кем человек хочет быть в мире.
- Идентификация (Identification): это категории, потребительские сегменты и «племена», к которым технологические компании причисляют пользователя, чтобы сделать его поведение предсказуемым для продажи рекламы.
По мнению Роуза, когда навязанная алгоритмами идентификация подменяет собой реальную идентичность, человек окончательно теряет контроль над собственной жизнью.
💬 Clubhouse как групповая терапия и новые форматы общения 28:23
В качестве актуального примера цифровой эволюции Кевин Роуз приводит платформу Clubhouse, которая на момент записи интервью находилась на стадии бета-тестирования. Роуз делает важное журналистское наблюдение: Clubhouse умудрился за считанные месяцы сжато пережить весь 10-летний цикл развития и проблем Facebook — от утопического восторга до столкновения с хейт-спичем, преследованиями и необходимостью жесткой модерации.
При этом Роуз метафорически называет Clubhouse «групповой терапией для людей, травмированных другими социальными сетями». В качестве примера он приводит комнату, где пользователи обсуждали, почему они ненавидят свои аватары и раздутые, агрессивные персоны в Twitter, созданные ради ретвитов. По мнению Роуза, живое голосовое общение «голос в голос» кардинально отличается от войны плоских «аватаров против аватаров»: люди, которые оскорбляли его в Twitter, в комнатах Clubhouse вели себя подчеркнуто вежливо и корректно.
Рич Ролл соглашается с тем, что Clubhouse дает ощущение человечности за счет соучастия и отсутствия записи разговоров, что снимает психологическое напряжение. Однако Роуз выражает скепсис относительно долговечности платформы после окончания пандемии COVID-19, сомневаясь, что люди захотят проводить по три часа у экрана, слушая разговоры об NFT, когда откроются реальные бары. В то же время Роуза восхищают «странные» эксперименты на платформе:
- Комната «Whale Moan», где люди просто стонут как киты.
- Клуб «Cotton Club», где участники ставят черно-белые аватары, включают джаз и реконструируют атмосферу виртуального бара 1920-х годов.
⛪ QAnon как новая цифровая религия 35:49
Анализируя конспирологическое движение QAnon, которому посвящены финальные серии подкаста «Кроличья нора», Кевин Роуз опирается на свой ранний профессиональный опыт. Он вспоминает, что начинал карьеру как религиозный репортер и даже провел семестр под прикрытием в ультраконсервативном христианском Университете Либерти, где пел в церковном хоре и жил в общежитии, чтобы понять менталитет верующих.
Когда Роуз столкнулся с QAnon, он сразу распознал в нем черты религиозного культа. По его мнению, для участников это не просто безумные теории, а полноценная замена социальной жизни и сообщества: люди находят там друзей и разгадывают мистические «подсказки» анонимного персонажа на 4chan как священные тексты.
Журналист отмечает опасную эволюцию движения:
- Начальный этап: QAnon воспринимался как экзотическая и странная интернет-новинка, не несущая прямой угрозы.
- Переломный момент: штурм Капитолия США в январе 2021 года показал, что движение превратилось в опасную экстремистскую политическую силу, генерирующую реальное насилие в офлайне.
По прогнозу Роуза, после ухода Дональда Трампа с поста президента движение начинает постепенно угасать, так как их ключевые предсказания о массовых арестах «сатанистов-педофилов» в правительстве так и не сбылись.
💼 Белые воротнички под ударом и иллюзия STEM 41:04
Переходя к обсуждению своей книги «Futureproof», Роуз признается, что писал ее как личное руководство по выживанию, пытаясь ответить на вопрос: «Не превратит ли алгоритм меня самого в зомби и не отберет ли он мою работу?». Он критикует полярные взгляды Кремниевой долины, где дискуссия об ИИ сводится либо к техно-оптимистическим утопиям (победа над раком и климатическим кризисом), либо к антиутопиям в стиле мультфильма «Валли» (Wall-E), где обленившееся человечество пьет газировку в летающих креслах.
Главный тезис Роуза переворачивает традиционные представления об автоматизации: основную угрозу ИИ несет не синим воротничкам на автомобильных заводах, а высокооплачиваемым белым воротничкам — юристам, финансистам, сейлз-менеджерам и врачам. Уже сегодня алгоритмы диагностируют определенные виды рака точнее, чем профессиональные радиологи.
Роуз указывает на то, что традиционный совет «учись кодить и делай ставку на STEM» (естественные науки, технологии, инженерия, математика) в корне неверен, так как именно оптимизированная инженерия и написание кода автоматизируются в первую очередь. В этой гонке человек никогда не сможет перегнать алгоритм, способный производить миллионы вычислений в секунду и работать 24 часа в сутки.
Особую тревогу вызывает гигантская скрытая индустрия RPA (Robotic Process Automation — роботизированная автоматизация процессов). Такие B2B-компании, как UiPath, Automation Anywhere и Blue Prism, зарабатывают миллиарды, продавая корпорациям софт, заменяющий целые отделы бухгалтерии и документооборота. Роуз подчеркивает, что пандемия COVID-19 сняла с топ-менеджеров моральные ограничения: если в 1990-е годы руководителей, вывозивших рабочие места в Индию и Китай, считали злодеями капитализма, то во время пандемии автоматизация стала политически приемлемой необходимостью для спасения бизнеса, что открыло шлюзы для массовых сокращений.
⚖️ Парадокс «посредственной автоматизации» и исторические уроки 47:37
Роуз детально разбирает экономический феномен, сформулированный экономистами Дароном Асемоглу и Паскуалем Рестрепо — так называемую «посредственную автоматизацию» (so-so automation). Это технологии вроде касс самообслуживания в супермаркетах или автоматизированных колл-центров: они работают со сбоями и не улучшают качество услуги по сравнению с людьми, но обходятся компаниям дешевле.
В этом кроется суть «парадокса производительности»: несмотря на внедрение ИИ, глобального скачка продуктивности не происходит. В прошлом появление автомобиля уничтожило профессии извозчиков и кузнецов, но создало огромные новые рынки (шоферы, автомеханики, дилеры). Современная же «посредственная автоматизация» просто уничтожает рабочие места, не создавая взамен новой экономической ценности и новых профессий.
Изучая первоисточники и дневники рабочих эпохи Первой промышленной революции, Роуз опроверг популярный в Кремниевой долине миф о том, что технологические переходы всегда проходят гладко и безболезненно. Ссылаясь на книгу экономиста Карла Фрея «Технологическая ловушка» (The Technology Trap), журналист напоминает о суровых фактах истории:
- Рост эффективности фабрик привел к жесточайшей эксплуатации и масштабному детскому труду.
- Доходы владельцев заводов взлетели до небес, в то время как реальные зарплаты рабочих оставались замороженными на протяжении десятилетий.
- Если текущая революция ИИ пойдет по сценарию индустриализации XIX века, человечество ждут серьезные социальные потрясения.
🛠️ Девять правил выживания: как стать «неавтоматизируемым» 56:06
Для защиты от грядущего кризиса Кевин Роуз предлагает концепцию развития «мягких навыков» (soft skills) и выделяет три категории человеческой деятельности, максимально устойчивые к автоматизации:
- Неожиданная работа (Surprising): задачи, требующие гибкости, адаптивности и работы в непредсказуемой среде с меняющимися правилами (например, воспитатель в детском саду), тогда как ИИ силен только в жестких, ограниченных рамках, как в шахматах.
- Социальная работа (Social): профессии, где ключевая задача — заставить людей чувствовать, а не просто производить вещи (социальные работники, терапевты, священники). Даже бариста в кофейне ценен не способностью налить кофе, а человеческим контактом.
- Дефицитная работа (Scarce): высокоответственные профессии с нулевой толерантностью к ошибкам (парамедики скорой помощи, операторы службы 911).
Роуз приводит в пример собственную эволюцию в журналистике. В начале карьеры он писал сухие корпоративные отчеты (например, о прибылях алюминиевой компании Alcoa), которые сегодня генерируются роботами моментально. Спасением для него стал переход к «артизанальной (ремесленной) журналистике» — наполнению текстов авторской индивидуальностью, созданию личного бренда и подкастов, где аудитория идет на конкретное имя, а не на безликий институт.
Журналист формулирует одно из главных правил своей книги: «Оставляйте отпечатки рук» (Leave handprints). Он объясняет это через психологический феномен «эвристики усилий» (effort heuristic): люди подсознательно ценят вещи, в которые был вложен тяжелый человеческий труд. Эксперименты профессора из Университета Северной Каролины доказали, что если людям дать одинаковые пакеты с конфетами, но одной группе сказать, что они выбраны случайно, а другой — что их вручную отобрал человек с учетом их вкусов, вторая группа испытает гораздо больше восторга и выше оценит продукт.
Роуз приводит метафору Яна Лекуна (главы ИИ-лаборатории Facebook): современный плоский телевизор состоит из сложнейших деталей и лазеров, но полностью собирается роботами, поэтому стоит дешево; в то же время простая керамическая чашка ручной работы от талантливого мастера стоит дороже телевизора исключительно потому, что за ней стоит человеческий труд. В этом контексте собеседники обсуждают феномен NFT как цифровую попытку защитить уникальность и дефицит арт-объектов в сети, позволяющую художникам выйти из-под кабалы алгоритмических платформ-посредников.
🧘♂️ Цифровой детокс и возвращение контроля над внутренней жизнью 1:15:47
В финальной части беседы Роуз призывает к осознанному управлению своей внутренней жизнью и борьбе с «внутренней автоматизацией». Он описывает свой личный опыт прохождения жесткого 30-дневного детокса под руководством персонального «телефонного тренера». По прогнозу Роуза, профессия телефонных коучей в ближайшем будущем станет массовой и востребованной.
Суть проблемы, по мнению Роуза, заключается в том, что смартфоны превратились из удобных инструментов в жестких начальников, которые диктуют нам, что думать, что чувствовать и о чем переживать. Против нашего внимания брошены лучшие инженеры мира и сотни миллиардов долларов. В качестве противоядия журналист ввел в свою жизнь обязательный «человеческий час» (human hour) — минимум один час в день без каких-либо гаджетов, который он проводит, работая в саду или гуляя с собакой, чтобы напомнить себе, что он является живым человеком в офлайн-мире, а не цифровым аватаром.
Собеседники отмечают, что даже в ведущих технических вузах меняются приоритеты. Так, в Стэнфордском университете ввели курс, неофициально называемый «Эмпатия для инженеров», где сверхумных программистов с высоким IQ заново учат элементарным навыкам общения и распознавания человеческих эмоций. Венчурный капиталист Фрэнк Чен, инвестирующий в ИИ-стартапы, в обязательном порядке рекомендует всем разработчикам книгу Роберта Фалгама «Все, что мне нужно было знать, я узнал в детском саду».
Рич Ролл резюмирует, что главным лекарством от поглощения машинами является умение жить нереактивно и осознанно. Роуз соглашается, завершая беседу предостережением философа Юваля Ноя Харари: если алгоритмы будут знать вас лучше, чем вы знаете себя сами, то вся полнота власти над вашей жизнью безвозвратно перейдет к ним.
