# Онлайн-абьюз как кибератака: уроки из мира сетевой безопасности

Источник: https://www.youtube.com/watch?v=SWA5FHCCZPs
Канал: Stanford Online
Опубликовано: 14.03.2025

---

## Кибербезопасность против онлайн-абьюза: новый взгляд на старую проблему
[[JUMP:0:10]]

Современные исследователи кибербезопасности всё чаще рассматривают ненависть, харассмент и дезинформацию в интернете не как социальные или гуманитарные вопросы, а как полноценные кибератаки. Доклад спикера в Стэнфордском университете посвящен тому, как методологии, десятилетиями применявшиеся для борьбы с финансовым мошенничеством и фишингом, помогают систематизировать и ограничивать онлайн-агрессию.

### 🛡️ От защиты систем к защите людей
[[JUMP:1:21]]

Традиционная кибербезопасность опирается на «убийственные цепочки» (kill chains) — фреймворки, описывающие этапы атаки: от разведки и первоначального доступа до закрепления и эксфильтрации данных. Хотя академическое сообщество долгое время сопротивлялось попыткам включить изучение онлайн-ненависти в сферу интересов компьютерных наук, сейчас ситуация меняется.

Основные аргументы в пользу применения методов кибербезопасности к онлайн-абьюзу:

*   **Наличие агрессора и цели:** В большинстве случаев харассмента можно выделить конкретных инициаторов (от одиночек до скоординированных групп) и жертв.
*   **Параллели со спамом:** Спам не взламывает систему технически, но является злоупотреблением протоколом SMTP. Аналогично, многие виды онлайн-агрессии используют платформы по их прямому назначению, что делает их проблемой «злоупотребления», а не «уязвимости».
*   **Эффективность экономических рычагов:** Опыт борьбы с вредоносными сайтами показывает, что отключение от рекламных сетей и платежных систем (например, PayPal) гораздо эффективнее технической блокировки, так как «убийство» потоков финансирования лишает сайты возможности функционировать.

### 🔍 Журналистика и дилемма «токсичности»
[[JUMP:17:49]]

Исследование, проведенное под руководством Кэтрин, показало, что существующие инструменты борьбы с харассментом (например, блокировки в социальных сетях) часто не работают для профессиональных журналистов. Для них социальные сети — критический рабочий инструмент, а полное игнорирование аудитории противоречит профессиональным нормам.

Ключевой инсайт заключается в разделении контента на два измерения: «токсичность» и «релевантность». Журналистам не всегда нужно фильтровать всё токсичное — иногда им важно знать о претензиях к своей работе, даже если они выражены в грубой форме. Однако некоторые угрозы, например, предупреждения о физической опасности, должны приоритизироваться, а не скрываться «фильтром спама».

### 🤖 Подпольная экономика Deepfakes
[[JUMP:25:16]]

Особое внимание в докладе уделено площадке MrDeepFakes, которая стала крупнейшим открытым рынком неконсенсуального сексуального контента.

*   **Масштабы:** На период исследования площадка насчитывала около 40 000 видео, набравших 1,5 млрд просмотров.
*   **Ценообразование:** Стоимость создания одного «профессионального» дипфейка варьируется от $50 до нескольких сотен долларов.
*   **Странная мотивация:** Исследователей удивило, что многие пользователи считают создание дипфейков «искусством» и способом «заполнить пробелы в контенте» для сообщества, а не просто инструментом для сексуального удовлетворения.
*   **Обмен опытом:** Сообщество крайне активно и дружелюбно: 80% запросов о помощи получают ответ в течение 3,5 часов. Участники следят за академическими публикациями в таких областях, как компьютерное зрение (CVPR), и удаляют из научных инструментов встроенные функции безопасности, чтобы сделать их пригодными для создания вредоносного контента.

### 📊 Паттерны поведения на Reddit
[[JUMP:37:31]]

Анализ данных Reddit показал, что лишь 3% активных аккаунтов когда-либо создавали токсичный контент, но на их долю приходится около трети всех комментариев. Спикер выделил три основных типа агрессоров:

1.  **«Случайные» (One-offs):** Около 90% токсичных комментариев — это разовые акции, не перерастающие в систематическую травлю.
2.  **«Промежуточные»:** Аккаунты с умеренным уровнем токсичности, проявляющимся в ряде сообществ.
3.  **«Серийные абьюзеры»:** Около 4% аккаунтов, которые постоянно генерируют ненависть везде, где присутствуют.

Спикер подчеркнул, что подходы к решению этих проблем должны кардинально различаться: если с «разовыми» пользователями можно работать через системы модерации, то серийные абьюзеры требуют принципиально иных мер защиты.