В современном медиапространстве понятие «алгоритм» стало восприниматься как некая мистическая сущность, управляющая поведением миллионов людей. Компьютерный учёный Кэл Ньюпорт в своём подкасте подробно разбирает техническую сторону рекомендательной системы TikTok, объясняя её истинное устройство с точки зрения науки. Автор развенчивает популярные мифы о цифровой цензуре и предупреждает о глубинных опасностях слепого математического моделирования человеческой психики.
📰 Иллюзия цифрового редактора: как медиа ошибаются в оценке TikTok 0:01
В современных геополитических дискуссиях вокруг национальной безопасности США и принудительной продажи или блокировки TikTok политики и журналисты регулярно используют риторику о необходимости «переобучить алгоритм» на американской земле. По наблюдениям Кэла Ньюпорта, в обществе укоренилась ошибочная ментальная модель, согласно которой рекомендательная система платформы работает как цифровой аналог главного редактора традиционной газеты. Большинство людей представляет себе программу, которая осознанно принимает решения в духе: «Что мы поместим на первую полосу? Какому сюжету посвятим главный заголовок?».
В рамках этой логики стремление передать код американской стороне выглядит абсолютно оправданным: никто не хочет, чтобы функции главного редактора для половины населения США выполнялись в условной «тёмной комнате в Пекине». Общество ищет надёжного американского «редактора», разделяющего местные ценности и защищённого от попыток манипуляции со стороны иностранных спецслужб. Однако Кэл Ньюпорт подчёркивает, что эта аналогия в корне неверна, а реальное устройство системы не оставляет места для идеологических компромиссов или простого изменения «редакционной политики».
🗼 Двухбашенная система: технический взгляд под капот 4:17
Как специалист по теории распределённых алгоритмов, Кэл Ньюпорт указывает на терминологическую неточность: в случае с TikTok речь идёт не об одном алгоритме, а о сложной, глобально распределённой рекомендательной архитектуре. Данная система одновременно оперирует данными сотен миллиардов видеороликов и поведенческими факторами более чем 1–2 миллиардов активных пользователей.
Хотя ByteDance традиционно держит в секрете коммерческие нюансы, за последние пять лет исследователи компании опубликовали две крупные научные работы, раскрывающие принципы работы их вычислительной экосистемы. На основе этих данных и фундаментальной теории Computer Science Ньюпорт описывает устройство платформы через концепцию так называемой двухбашенной архитектуры (two-tower system), корни которой уходят в ранние разработки Amazon и Netflix конца 1990-х годов.
Механизм распределения контента опирается на параллельную работу двух независимых аналитических блоков:
- Башня объектов (Item Tower): Данный модуль непрерывно анализирует терабайты загружаемого видеоконтента. Нейросети и трансформеры раскладывают каждый ролик на многомерный вектор числовых характеристик. Видео оценивается по условной шкале (например, от 1 до 100) по сотням и тысячам скрытых параметров: от степени комичности и музыкального жанра (например, южнокорейский K-pop) до сложных политических комбинаций. В результате формируется статичная база данных, где каждый ролик имеет свой цифровой паспорт.
- Башня пользователя (User Tower): Этот блок исследует профиль конкретного человека, непрерывно фиксируя его поведение на платформе. Математическая модель оцифровывает историю просмотров, лайки, комментарии и, что критически важно, время удержания взгляда на экране и скорость пролистывания. На выходе формируется точно такой же вектор индивидуальных интересов, использующий те же самые категории и шкалы, что и башня объектов.
Ньюпорт обращает особое внимание на то, что эти категории не задаются инженерами вручную. Обучение происходит в полуавтоматическом режиме (semi-supervised machine learning). Компьютерная система обучается на миллионах примеров успешных и неуспешных взаимодействий реальных людей с контентом. Нейросеть безостановочно корректирует параметры до тех пор, пока векторы пользователей не начнут идеально совпадать с векторами видео, которые им нравятся, и отдаляться от векторов проигнорированного контента. Как итог — даже сами создатели архитектуры не знают, какие именно скрытые паттерны и триггеры обнаружили алгоритмы в видеоряде или поведении человека.
⚡ Секрет успеха: оптимальный формат и обработка данных в реальном времени 18:02
Двухбашенные архитектуры используются многими технологическими гигантами, включая Spotify, однако именно TikTok демонстрирует пугающую точность попадания в интересы аудитории. Ньюпорт выделяет три ключевых инженерных фактора, обеспечивающих это преимущество:
- Чистота и изолированность формата: Короткие вертикальные видеоролики избавляют систему от необходимости учитывать социальный граф пользователя (его друзей, подписки и взаимные связи). TikTok практически полностью игрирует эти усложняющие переменные, направляя весь трафик во вкладку «Для вас». Система решает изолированную задачу подбора идеального контента без оглядки на то, что смотрят друзья пользователя.
- Беспрецедентная плотность обратной связи: Из-за короткого хронометража средний пользователь за одну сессию успевает оценить более 30 видеороликов. Каждое действие генерирует мгновенный отклик для обучения модели. Ньюпорт сравнивает это с Netflix, где пользователь смотрит один фильм или серию сериала в неделю, из-за чего цикл сбора данных растягивается на месяцы, а точность рекомендаций падает.
- Сверхнизкая задержка переобучения: Инфраструктура ByteDance, развёрнутая в американском сегменте на базе Oracle Cloud Infrastructure, умеет обновлять параметры башни пользователя в режиме реального времени. Локальные серверные ноды обрабатывают свежую порцию поведенческих кликов и мгновенно отправляют обновлённые коэффициенты в рабочую модель. Именно эта технологическая фича обеспечивает феноменальный «холодный старт»: новому пользователю достаточно полистать ленту в течение 10 минут, чтобы алгоритм полностью подстроился под его скрытые вкусы.
Кроме того, система TikTok успешно избегает эффекта «эхо-камеры» благодаря гибридному подходу. Вектор долгосрочного профиля пользователя дополняется параллельным анализом краткосрочных трендов — того, что прямо сейчас популярно в конкретном регионе или во всём мире. Алгоритм умышленно подмешивает в ленту популярные ролики, имеющие лишь косвенное отношение к базовым интересам зрителя. Если человек задерживает на них внимание, система плавно расширяет модель его личности, нащупывая новые зоны удержания аудитории.
🧠 Цифровой пропагандист: почему слепая математика опасна для общества 24:02
Главная опасность современных рекомендательных систем, по мнению Кэла Ньюпорта, заключается в их абсолютной ценностной слепоте. Машинное обучение не оперирует понятиями морали, философии или этики — алгоритмы ориентированы исключительно на победу в математической игре по оптимизации метрик удержания внимания.
С точки зрения дата-сайентистов, подобные модели строят точные математические аппроксимации тех скрытых процессов, которые генерируют входящие данные. Например, если скормить нейросети данные о трафике, она аппроксимирует реальность автомобильных пробок и поймет, что в 17:30 на дорогах становится теснее из-за окончания рабочего дня. Но когдаblind-модели сталкиваются с контентом, созданным людьми для людей, они начинают аппроксимировать и моделировать структуру человеческой психики.
Ньюпорт напоминает, что на протяжении последних 500 лет — с момента изобретения печатного станка Гутенберга — человечество всегда осознавало деструктивную силу массовой информации и относилось к ней с высокой осторожностью (вспомнить хотя бы масштабные европейские ведовские процессы, подогретые первыми печатными брошюрами). В человеческом мозге заложены не только благородные порывы, но и глубокие эволюционные уязвимости — тяга к насилию, дегуманизации врагов, теории заговора, агрессии и шок-контенту. Чтобы сдерживать эти деструктивные импульсы, традиционные медиаинституты всегда внедряли человеческие ценности и этические барьеры в процессы кураторства. Даже в условиях военной пропаганды прошлых лет существовали определённые нормативные границы, через которые редакторы старались не переступать.
Математические алгоритмы TikTok лишены какого-либо чувства стыда или социальной ответственности. Пытаясь максимизировать время удержания у экрана, система неизбежно нащупывает эти темные биологические триггеры, понимая, что контент, апеллирующий к ненависти или агрессии, собирает максимальный отклик. В результате, по словам Ньюпорта, мы получаем не технологическую версию объективного редактора газеты, а «цифрового пропагандиста худшего толка», который слепо и безжалостно эксплуатирует примитивные слои нашей психики ради удержания коммерческих показателей.
🔮 Итоги: иллюзия контроля и дефицит гуманизма 29:51
Резюмируя дискуссию о переходе TikTok под юридическую юрисдикцию США, Кэл Ньюпорт соглашается, что этот шаг оправдан с точки зрения национальной безопасности, так как снижает риски прямого вмешательства иностранных государств на этапе финальной ручной настройки рекомендаций. Тем не менее, это никак не решает фундаментальную проблему разрушительного влияния платформы на ментальное здоровье общества.
Ньюпорт убеждён, что деструктивное поведение социальных медиа — это не случайная ошибка программистов и не плохая функция, которую можно удалить или исправить под руководством «правильных» американских менеджеров. Проблема глубоко укоренена в самой математической логике современных рекомендательных систем.
В последние десятилетия человечество совершило системную ошибку, недооценив степень, в которой наша личная и гражданская жизнь зависела от неписаных гуманистических правил, моральных ориентиров и нормативных стандартов. Делегируя управление культурой, развлечениями и новостными потоками слепым вычислительным алгоритмам, которые по определению не могут разделять человеческие ценности, общество сталкивается с непредсказуемыми и пугающими тектоническими сдвигами, исправить которые простой сменой собственника компании невозможно.
