Дэвид Базуцки, основатель и генеральный директор платформы Roblox, в недавнем интервью столкнулся с вопросами о стратегии компании в области безопасности детей и модерирования контента. Дискуссия затронула спорные отчеты прошлых лет и эволюцию подходов к защите пользователей в условиях технологических изменений.
Переход на автоматизированные системы безопасности 0:00
Основатель Roblox Дэвид Базуцки прокомментировал критику, прозвучавшую в отчете Hindenburg Research, где компанию обвиняли в снижении расходов на отделы обеспечения безопасности ради демонстрации роста финансовых показателей перед инвесторами. Базуцки категорически отрицает эти обвинения, называя интерпретацию Hindenburg Research ошибочной.
По словам Базуцки, сокращение численности сотрудников в определенных подразделениях безопасности не означает снижение качества контроля. Он сравнил этот процесс с переходом от ручного труда на производстве автомобилей к использованию конвейерных линий:
- Технологический прогресс позволяет автоматизировать рутинные задачи, делая систему более эффективной.
- Использование передовых моделей искусственного интеллекта для проверки изображений и текстового контента рассматривается руководством как качественный скачок.
- Базуцки утверждает, что переход на ИИ направлен на создание «более точных и прилежных систем», способных проверять весь контент на платформе в режиме реального времени.
Дискуссия о надежности алгоритмов 3:28
В ходе интервью ведущие провели параллель с историей социальных сетей 2010-х годов. Отмечалось, что многие крупные платформы в тот период делали ставку на ИИ как на «универсальное решение» для модерации контента, обещая инвесторам снижение зависимости от человеческого труда.
Однако на практике эти компании столкнулись с рядом проблем:
- Алгоритмы демонстрировали недостаточную надежность на ранних этапах внедрения.
- Системы нередко удаляли легитимный контент или, напротив, пропускали вредоносные материалы.
- Ведущие напомнили о событиях 2016 года, когда чрезмерное доверие к автоматизации и отсутствие должного контроля со стороны людей привели к возникновению «антиутопических» сценариев в социальных сетях.
В ответ на это Базуцки подчеркнул, что текущие изменения в Roblox являются частью процесса постоянного совершенствования, направленного на использование лучших доступных технологий для обеспечения безопасности пользователей. Он выразил готовность обсуждать любые аспекты деятельности платформы, включая вопросы возрастной модерации, однако отметил, что его целью было участие в широком диалоге о развитии компании, а не обсуждение узких технических тем.
