В новом выпуске подкаста «The Jordan Harbinger Show» ведущий Джордан Харбингер обсудил с экспертом по дезинформации Рене ДиРеста механизмы современной онлайн-пропаганды и радикализации. В центре дискуссии — то, как алгоритмы социальных сетей и финансовые стимулы меняют поведение создателей контента, подталкивая их к экстремальным позициям. Собеседники подробно разобрали феномен разрушения консенсусной реальности и методы, с помощью которых цифровые инфлюенсеры манипулируют общественным мнением.
🔍 От материнских форумов до ИГИЛ: как личный опыт Рене ДиРеста превратился в науку 1:11
Рене ДиРеста начала интересоваться темой распространения ложной информации в 2013 году, когда у неё родился первый ребёнок. В то время она активно пользовалась группами в Facebook, чтобы узнать базовые вещи об уходе за младенцами, поскольку никто из её друзей ещё не имел детей.
Алгоритмы платформы начали работать по принципу рекомендаций: после вступления в сообщества, посвящённые домашнему приготовлению детского питания или использованию тканевых подгузников, ей стали настойчиво предлагать группы противников вакцинации.
Сама исследовательница изначально занимала строгую провакцинаторскую позицию, и, по её словам, антивакцинаторское движение всегда казалось ей возмутительным и отвратительным. Однако её увлекла сама механика процесса:
- Как именно алгоритмы незаметно связывают людей между собой.
- Какое офлайн-влияние оказывают эти цифровые «подталкивания» (nudges).
- Как у людей формируются убеждения и почему колеблющиеся пользователи превращаются в ярых активистов.
Примерно через восемь-девять месяцев после этого в США произошла вспышка кори, что подтвердило её опасения о реальных последствиях онлайн-активности. Параллельно в поле её зрения попала деятельность террористической организации ИГИЛ (запрещена в РФ), которая в тот период открыто и агрессивно использовала социальные сети для пропаганды и вербовки, практически не сталкиваясь с блокировками. Рене ДиРеста пришла к выводу, что это единая системная проблема, где инструменты платформ используются для вывода маргинальных мнений в мейнстрим.
👥 Психология цифровых культов: от «плоской Земли» до QAnon 4:00
Джордан Харбингер отметил, что конспирологические интернет-сообщества напоминают субкультуры, внутри которых категорически запрещено инакомыслие. В качестве примера ведущий привёл сторонников теории плоской Земли. По мнению Харбингера, несогласие с такими сообществами воспринимается их членами не как незнание, а как личная порочность или участие в глобальном заговоре.
Рене ДиРеста согласилась с этой оценкой, назвав подобные комьюнити квазирелигиозными культами. По её словам, у глубоко верующих в конспирологию людей возникает чувство «пробуждения», которое накладывает на них обязательство «просветить» окружающих. Раньше этот механизм работал на уровне нишевых теорий заговора, но социальные сети масштабировали процесс, породив такие явления, как QAnon.
Главная притягательность QAnon, по мнению ДиРеста, заключается не в самой фабуле заговора, а в процессе социализации:
- Люди находят здесь друзей и единомышленников.
- Они чувствуют себя исследователями, которые вместе расшифровывают «тайные знаки».
- Разрозненные группы (например, те же сторонники плоской Земли) объединяются, находя точки соприкосновения в общих конспирологических тезисах.
Важную роль в этом процессе играют интернет-мемы, которые Рене ДиРеста использует в своей работе. Собеседники вспомнили популярную ироничную фразу о том, что «настоящий заговор — это те друзья, которых мы завели по пути». Харбингер добавил, что для участников движения Pizzagate (теории о том, что в подвале пиццерии в Вашингтоне Хиллари Клинтон якобы пила кровь детей) суть дела также часто сводилась к обретению чувства общности.
🎸 Феномен «захвата аудитории»: как гитаристы и велнес-блогеры уходят в радикальный контент 7:40
Для описания того, как люди погружаются в дезинформацию, Рене ДиРеста ввела в своей книге вымышленный архетипичный персонаж — блогера-гитариста. Он начинает с обычных видеороликов о музыке на Tik Tok или Instagram и постепенно собирает базу подписчиков. Однажды он вскользь упоминает музыканта Эрика Клэптона, который во время пандемии COVID-19 заявил, что пострадал от вакцины, и стал публично критиковать локдауны.
Задав аудитории вопрос об отношении к позиции Клэптона, блогер замечает, что тональность его сообщества резко смещается в сторону политики и медицинского диссидентства. Рене ДиРеста утверждает, что наблюдала эту траекторию у многих велнес-блогров в период пандемии. Понимая, что провокационная риторика приносит гораздо больше вовлечённости, создатели контента поддаются стимулам алгоритмов и аудитории, которые приносят им популярность и деньги.
Этот процесс ДиРеста называет феноменом «захвата аудитории» (audience capture):
Блогер становится заложником собственных подписчиков. Он не может позволить себе высказать мнение, противоречащее взглядам его фан-базы, чтобы не потерять заработок и влияние. Поскольку для инфлюенсеров это бизнес и источник существования, им крайне тяжело удерживать баланс между личной искренностью и тем, за что алгоритмы готовы им платить.
📈 Ловушка для создателя контента: как алгоритмы наказывают за объективность 10:29
Джордан Харбингер признался, что постоянно анализирует собственный подкаст на предмет скрытого влияния «захвата аудитории», так как этот процесс часто происходит неосознанно. В качестве примера коммерческой выгоды от радикальных позиций он рассказал о выпуске с участием сына основателя ХАМАС, который перешёл на сторону Израиля и жёстко критиковал палестинское движение. Видео на YouTube мгновенно набрало миллионы просмотров. Команда ведущего потребовала немедленно сделать из него нарезку коротких клипов для дальнейшего продвижения.
Однако, стремясь сохранить баланс, Харбингер на следующей неделе опубликовал интервью с израильтянином, занимавшим крайне антиизраильские позиции. Реакция платформ оказалась диаметрально противоположной:
- Аудио-слушатели подкаста и пользователи в сабреддите Pro Palestine поблагодарили ведущего за глубокий и нейтральный подход.
- На YouTube второе видео стало самым задизлайканным в истории канала, комментарии пришлось временно отключить из-за огромного количества оскорблений.
- Алгоритм YouTube зафиксировал резкое падение удержания аудитории (зрители уходили через минуту просмотра) и наложил ограничения на весь канал, снизив показы других видео.
По словам аналитиков YouTube-команды Харбингера, первое вирусное видео привлекло на канал огромную и страстную сионистскую аудиторию. Увидев спикера с противоположным мнением, эти пользователи массово нажали кнопку «дизлайк» и потребовали у платформы больше никогда не показывать им данный контент. Харбингер сделал вывод: если аудио-подкастеры могут говорить на любые темы, то создатели видеоконтента на YouTube или Tik Tok вынуждены подыгрывать своей аудитории, иначе алгоритмы их беспощадно уничтожат.
📺 «Эффект Джерри Спрингера»: почему трэш-контент побеждает серьезную журналистику 17:02
Рене ДиРеста поделилась наблюдениями с закрытой конференции для блогеров, где она вела сессию по «захвату аудитории». По её словам, авторы контента открыто признавали за кулисами, что создание превью-картинок со «шокированными лицами» и крупными белыми буквами — это обязательная часть индустрии, продиктованная алгоритмическими сигналами (лайками и дизлайками). Инфлюенсеры балансируют в треугольнике «автор — алгоритм — толпа», где потеря внимания означает мгновенную потерю дохода.
Джордан Харбингер назвал этот феномен «эффектом Джерри Спрингера». Он напомнил исторический телеэпизод с ведущим Херальдо Риверой, который пригласил в студию одновременно членов Ку-клукс-клана и активистов «Чёрных пантер». В студии завязалась драка, Ривере сломали нос стулом, но рейтинги программы взлетели до небес. В результате вся индустрия дневных ток-шоу была вынуждена отказаться от серьёзных дискуссий в пользу телевизионного «рестлинга».
По мнению Харбингера, современные YouTubers сталкиваются с той же проблемой и часто чувствуют себя глубоко несчастными. Многие из его друзей начинали каналы ради рассказов о высоких технологиях — искусственном интеллекте или нейроинтерфейсах. Однако через два года их ленты забиты интервью о том, что «вышки 5G вызывают коронавирус».
В личных беседах за пивом такие блогеры признаются, что сами не верят в эту чушь, но их аналитики требуют «заводить» безумных спикеров ради просмотров. Как подчёркивает Харбингер, вернуться к серьёзным темам после этого невозможно: алгоритм перестаёт продвигать ролики, а старая аудитория начинает воспринимать автора как клоуна.
💸 Экономика дезинформации: окупаемость цинизма и бизнес на «чуши» 22:08
Собеседники обсудили платформу Substack, которая изначально позиционировалась её создателями как «зона, свободная от алгоритмических рекомендаций». По мнению ДиРеста, создатели платформы действовали из лучших побуждений, но проявили наивность. В отсутствие алгоритма авторы начали создавать идеологически однородные сети кросс-промоушена (когда рассылка А рекомендует рассылку Б). В итоге Substack всё равно пришёл к необходимости внедрения социальных функций и заметок (Notes), так как вовлечённость пользователей остаётся главной бизнес-моделью любой платформы.
Харбингер добавил, что зарабатывать деньги становится намного проще, если автор перестаёт уважать свою аудиторию и начинает считать своих подписчиков дураками. Ведущий подчеркнул:
- Он готов рекламировать в своём подкасте качественные матрасы.
- Он никогда не станет продавать под видом «волшебного лекарства от ковида» сомнительные витамины или «китайские опилки» с наценкой в 100%, потому что ему важно смотреть в глаза своим детям.
- Обманывать аудиторию, к которой у автора нет сострадания, экономически гораздо выгоднее.
Рене ДиРеста сослалась на академическую работу «О чуши» (On Bullshit), в которой этот феномен определяется как «распространение информации без малейшего интереса к истине». Она отметила, что раньше верила в силу фактчекинга, предполагая, что люди просто ошибаются и захотят исправить запись. На самом деле, по мнению исследовательницы, политические инфлюенсеры преследуют иную цель: их задача заключается не в информировании, а в побуждении аудитории к конкретному политическому действию в интересах кандидата.
🌍 Разрушение консенсусной реальности и рождение «персонализированной правды» 30:57
Консенсусная реальность, по определению ДиРеста, — это набор идей и ценностей, о подлинности которых люди договариваются между собой (например, ценность бумажных денег). Проблема дезинформации сегодня заключается не в отсутствии фактов, а в тотальном кризисе доверия к их источникам. Человек, не имеющий личного опыта участия в событии (например, в атаке 7 октября в Израиле), вынужден полагаться на посредников.
В условиях фрагментации медиа восприятие реальности начинает зависеть от того, кому именно доверяет конкретный пользователь — репортёру New York Times или журналисту Al Jazeera. Из-за этого люди, смотрящие на одно и то же физическое событие, получают совершенно разные вводные данные, что делает достижение консенсуса невозможным.
Джордан Харбингер рассказал о своём друге, который во время пандемии присылал ему ссылки на материалы телеканала RT (Russia Today), утверждая, что все мировые СМИ врут, а RT — единственный надёжный источник истины. Ведущий назвал это «инверсией реальности», напомнив, что данный ресурс напрямую финансируется Кремлём и занимается пропагандой, а не журналистикой.
Рене ДиРеста отметила, что её знакомые часто упрекают её в «институционализме» за доверие к агентству Associated Press (AP). Она подчеркнула, что Илон Маск публично называл AP инструментом психологических операций (psyop). По мнению ДиРеста, недоверие к традиционным медиа объединяет как ультраправых (на чём построила империю корпорация Fox News), так и ультралевых сторонников Ноама Хомского, считающих крупные СМИ производителями «фабрикуемого согласия». Она вспомнила, как к концу пандемии COVID-19 полностью распались многие её дружеские групповые чаты, где отношение к вакцинам или локдаунам стало маркером того, кем является человек: «послушной овцой» или «сумасшедшим с Substack».
В качестве исторического примера манипуляций собеседники вспомнили Эдварда Бернейса, отца современного PR, который в 1920-х годах ввёл термин «невидимые правители». Бернейс не считал это неэтичным и по заказу табачных компаний сформировал у американских женщин ассоциацию между курением и высоким социальным статусом, используя Blunt-рекламу вроде «кури, чтобы оставаться стройной и красивой».
🎭 Парасоциальные связи: почему фанаты требуют от блогеров политических заявлений 45:46
Термин «парасоциальные отношения» пришёл из исследований фанатской культуры. Он описывает феномен, при котором аудитория начинает верить в существование двусторонней связи с инфлюенсером, ежедневно наблюдая за его бытом, детьми и поездками. Блогер воспринимается как близкий друг. Если он совершает поступок или высказывает мнение, не соответствующее образу в голове фаната, это вызывает у подписчика глубокое чувство личного предательства.
Джордан Харбингер подтвердил это, отметив, что регулярно получает требования от подписчиков «возвысить свой голос» при каждом крупном мировом событии. По его словам, высказываться о гибели Махсы Амини в Иране было легко, так как никто не поддерживает убийства девушек из-за хиджаба. Однако события 7 октября вызвали волну агрессии: любая нейтральная попытка осудить терроризм ХАМАС приводила к обвинениям в поддержке геноцида со стороны людей, находящихся внутри своих информационных пузырей.
Рене ДиРеста классифицировала инфлюенсерский ландшафт по нескольким ключевым архетипам:
- Аниматоры (Entertainers): авторы комедийных скетчей и развлекательных видео.
- Разъяснители (Explainers): блогеры, анализирующие сложные темы и концепции.
- «Лучшие друзья» (Besties): инфлюенсеры, делящиеся личным бытом и создающие иллюзию близости.
- Идолы (Idols): создатели контента, продающие недостижимый аспирационный образ жизни.
В качестве иллюстрации того, как легко запутаться в алгоритмических цепочках Tik Tok, ДиРеста рассказала о своём исследовании контента про противозачаточные средства. Начав с роликов о вреде контрацептивов, алгоритм последовательно увёл её в темы синдрома поликистозных яичников (PCOS), затем к препарату Ozempic, липосакции и, наконец, в сообщество пластической хирургии. Кроме того, существуют категории «гуру» и политических активистов, которые часто сливаются вместе, когда политический блогер начинает продавать сомнительные медицинские препараты собственного производства.
🛡️ «Сложное заражение» и тактика «затопления зоны»: как манипулируют общественным мнением 53:47
Для объяснения механики распространения идей Рене ДиРеста использует концепцию социолога Дэймона Чентолы «сложное заражение» (complex contagion). В отличие от вирусов, информация не переходит к человеку автоматически после первого контакта. Инфлюенсер выступает в роли «привратника» (gatekeeper): он отслеживает маргинальные идеи на сабреддитах или в Twitter, дожидается, пока они достигнут определённого порога популярности, а затем легитимизирует их для широкой публики, рискуя собственной репутацией.
Популярной уловкой блогеров стала фраза «Важно, если это правда» (Big if true). По мнению ДиРеста, это удобный фиговый листок и страховка: автор запускает пробный шар со стопроцентной дезинформацией, но если его ловят на лжи, он всегда может сказать, что не утверждал, будто это факт. Во время выборов 2020 года в США один из пользователей выложил фото якобы выброшенных избирательных бюллетеней в округе Сонома, отметив крупных инфлюенсеров. Те запустили волну репостов с припиской Big if true. Позже выяснилось, что это были старые конверты двухлетней давности, утилизированные по закону Калифорнии, но никто из блогеров не опубликовал опровержение.
Другой опасной стратегией является тактика «затопления зоны» (flooding the zone). Её цель — не убедить зрителя, а лишить его возможности узнать правду, создав десятки альтернативных версий одного события. По словам ДиРеста, эта схема активно применялась:
- В ходе войны в Сирии.
- Власти Саудовской Аравии использовали её для отвлечения внимания от убийства Джамаля Хашогги.
- При расследовании крушения малайзийского боинга MH17.
- В кампаниях вокруг «биолабораторий на Украине».
Во время протестов в Гонконге правительство Китая задействовало около 100 000 фейковых аккаунтов, чтобы поставить под сомнение историю о девушке-протестующей, которой пробило глаз мешком с песком. В Твиттере до сих пор циркулируют старые архивные видео (например, французские военные съёмки), которые выдаются за кадры того, как «Израиль сам расстреливал своих граждан с вертолётов 7 октября», и авторы таких постов зарабатывают тысячи долларов на монетизации просмотров благодаря купленным синим галочкам.
🤖 «Дивиденд лжеца» и генеративный ИИ: как стирается грань между фактом и вымыслом 1:11:00
Профессор права Даниэль Цитрон сформулировала термин «дивиденд лжеца» (liar's dividend). Он означает, что само существование технологий генеративного ИИ и дипфейков позволяет политикам и преступникам объявлять любые реальные и компрометирующие их доказательства «подделкой, созданной нейросетью».
Рене ДиРеста напомнила о трагическом инциденте периода обострения палестино-израильского конфликта. Правительство Израиля опубликовало официальное фото погибшего младенца, которое верифицировал блогер Бен Шапиро. Один из пользователей прогнал снимок через сырой ИИ-детектор, и из-за пиксельного размытия инструмент выдал ложноположительный результат, назвав фото сгенерированным. В результате Шапиро и израильские власти подверглись массовой травле за «создание фейковых трупов», и этот миф до сих пор циркулирует в сети, несмотря на последующие опровержения.
Исследовательница подчеркнула, что давать обычным людям советы по поиску дефектов ИИ (вроде подсчёта шестых пальцев на руках или анализа зубов) больше не имеет смысла. С каждым новым поколением нейросетей эти артефакты исчезают. Ранее она помогала NPR составлять инструкции по распознаванию фейковых лиц в LinkedIn по расположению глаз и размытию воротничков, но сегодня эти маркеры устарели. Разрыв между стоимостью создания лжи (которая стремится к нулю) и стоимостью её долгого, экспертного опровержения продолжает катастрофически увеличиваться.
Дополнительно ситуацию искажает «иллюзия большинства» (majority illusion). Если несколько гиперподключенных лидеров мнений транслируют определённую позицию, у обычного человека возникает ощущение, что так думает большинство пользователей. Из-за этого политики превращаются в инфлюенсеров: им не нужно работать на условный «центр», им достаточно выиграть внутрипартийные праймериз за счёт радикальной фан-базы. В итоге парламентские слушания превращаются в дешёвый театр, а мотивация управлять государством полностью исчезает.
🧠 Инструкция по выживанию: анализ риторики вместо фактчекинга 1:28:28
Рене ДиРеста утверждает, что главным маркером дезинформации является наше собственное эмоциональное состояние. Если контент вызывает резкую вспышку ярости, обиды или злорадного триумфа («наш враг наконец-то уничтожен!»), это первый сигнал к тому, чтобы убрать руку от кнопки репоста и проверить информацию в других независимых источниках.
В качестве успешного исторического примера борьбы с пропагандой гостья привела деятельность американского Института анализа пропаганды (Institute for Propaganda Analysis), созданного группой профессоров и журналистов в 1930-х годах во время расцвета европейского фашизма и популярности радикализма в США (в частности, выступлений отца Чарльза Кофлина). Вместо неэффективного разбора конкретных фактов институт печатал брошюры, объясняющие сами приёмы демагогии:
- «Блестящие обобщения» (glittering generalities) — приписывание качеств целым нациям или группам.
- «Подтасовка карт» (card stacking).
- «Эффект подражания» (bandwagoning) — апелляция к тому, что «все вокруг уже так считают».
Интересно, что в брошюрах 1930-х годов каждому приёму соответствовал свой графический значок. Например, для «блистательных обобщений» использовался значок бриллианта, что делает эти полиграфические маркеры прямыми предками современных эмодзи. ДиРеста сама использует эмодзи (например, изображение чертёнка для умышленной дезинформации) в своих лекциях для бизнеса и студентов. По её мнению, обучение базовой медиаграмотности и разбору риторических уловок необходимо внедрять на уровне средних школ, чтобы подготовить новое поколение к вызовам цифровой среды.
