Кибербезопасность против онлайн-абьюза: новый взгляд на старую проблему 0:10
Современные исследователи кибербезопасности всё чаще рассматривают ненависть, харассмент и дезинформацию в интернете не как социальные или гуманитарные вопросы, а как полноценные кибератаки. Доклад спикера в Стэнфордском университете посвящен тому, как методологии, десятилетиями применявшиеся для борьбы с финансовым мошенничеством и фишингом, помогают систематизировать и ограничивать онлайн-агрессию.
🛡️ От защиты систем к защите людей 1:21
Традиционная кибербезопасность опирается на «убийственные цепочки» (kill chains) — фреймворки, описывающие этапы атаки: от разведки и первоначального доступа до закрепления и эксфильтрации данных. Хотя академическое сообщество долгое время сопротивлялось попыткам включить изучение онлайн-ненависти в сферу интересов компьютерных наук, сейчас ситуация меняется.
Основные аргументы в пользу применения методов кибербезопасности к онлайн-абьюзу:
- Наличие агрессора и цели: В большинстве случаев харассмента можно выделить конкретных инициаторов (от одиночек до скоординированных групп) и жертв.
- Параллели со спамом: Спам не взламывает систему технически, но является злоупотреблением протоколом SMTP. Аналогично, многие виды онлайн-агрессии используют платформы по их прямому назначению, что делает их проблемой «злоупотребления», а не «уязвимости».
- Эффективность экономических рычагов: Опыт борьбы с вредоносными сайтами показывает, что отключение от рекламных сетей и платежных систем (например, PayPal) гораздо эффективнее технической блокировки, так как «убийство» потоков финансирования лишает сайты возможности функционировать.
🔍 Журналистика и дилемма «токсичности» 17:49
Исследование, проведенное под руководством Кэтрин, показало, что существующие инструменты борьбы с харассментом (например, блокировки в социальных сетях) часто не работают для профессиональных журналистов. Для них социальные сети — критический рабочий инструмент, а полное игнорирование аудитории противоречит профессиональным нормам.
Ключевой инсайт заключается в разделении контента на два измерения: «токсичность» и «релевантность». Журналистам не всегда нужно фильтровать всё токсичное — иногда им важно знать о претензиях к своей работе, даже если они выражены в грубой форме. Однако некоторые угрозы, например, предупреждения о физической опасности, должны приоритизироваться, а не скрываться «фильтром спама».
🤖 Подпольная экономика Deepfakes 25:16
Особое внимание в докладе уделено площадке MrDeepFakes, которая стала крупнейшим открытым рынком неконсенсуального сексуального контента.
- Масштабы: На период исследования площадка насчитывала около 40 000 видео, набравших 1,5 млрд просмотров.
- Ценообразование: Стоимость создания одного «профессионального» дипфейка варьируется от $50 до нескольких сотен долларов.
- Странная мотивация: Исследователей удивило, что многие пользователи считают создание дипфейков «искусством» и способом «заполнить пробелы в контенте» для сообщества, а не просто инструментом для сексуального удовлетворения.
- Обмен опытом: Сообщество крайне активно и дружелюбно: 80% запросов о помощи получают ответ в течение 3,5 часов. Участники следят за академическими публикациями в таких областях, как компьютерное зрение (CVPR), и удаляют из научных инструментов встроенные функции безопасности, чтобы сделать их пригодными для создания вредоносного контента.
📊 Паттерны поведения на Reddit 37:31
Анализ данных Reddit показал, что лишь 3% активных аккаунтов когда-либо создавали токсичный контент, но на их долю приходится около трети всех комментариев. Спикер выделил три основных типа агрессоров:
- «Случайные» (One-offs): Около 90% токсичных комментариев — это разовые акции, не перерастающие в систематическую травлю.
- «Промежуточные»: Аккаунты с умеренным уровнем токсичности, проявляющимся в ряде сообществ.
- «Серийные абьюзеры»: Около 4% аккаунтов, которые постоянно генерируют ненависть везде, где присутствуют.
Спикер подчеркнул, что подходы к решению этих проблем должны кардинально различаться: если с «разовыми» пользователями можно работать через системы модерации, то серийные абьюзеры требуют принципиально иных мер защиты.
