Защита инсайдеров в эпоху ИИ: Карл Кох и инициатива AI Whistleblower Initiative 0:00
На фоне стремительного развития технологий искусственного интеллекта вопросы корпоративной безопасности и этики выходят на первый план. Карл Кох, основатель и управляющий директор некоммерческой организации The AI Whistleblower Initiative, совместно с ведущим подкаста The Cognitive Revolution Нейтаном Ламбертом обсудили, с какими барьерами сталкиваются сотрудники ведущих AI-компаний, желающие сообщить о нарушениях, и как новая инфраструктура поддержки помогает им защитить общественные интересы, не подвергая риску собственную карьеру.
⚖️ Специфика инсайдерства в индустрии ИИ 7:19
В отличие от традиционных секторов, индустрия передового ИИ характеризуется крайней закрытостью и отсутствием четкого понимания «границ дозволенного».
- Отсутствие правовой базы: Карл Кох отмечает, что в США законы о защите информаторов в сфере ИИ остаются фрагментарными, а в ЕС надежная защита начнет действовать лишь в августе 2026 года.
- Сложность оценки риска: Согласно опросам, около 50% сотрудников ИИ-компаний сомневаются в своей способности определить, является ли наблюдаемое ими явление серьезной угрозой.
- Отсутствие культуры открытости: Большинство инсайдеров не знают о существовании внутренних политик по информированию о нарушениях или не доверяют им, опасаясь скрытых последствий.
Нейтан Ламберт, опираясь на свой опыт работы в проекте красной команды (red team) GPT-4 в конце 2022 года, подтвердил, что сотрудники часто оказываются в ситуации изоляции. По его словам, попытки поднять вопросы безопасности наталкивались на стену молчания со стороны руководства, что вынуждало его действовать в условиях высокой неопределенности.
🛠 Инфраструктура поддержки: «Третье мнение» 3:02
The AI Whistleblower Initiative предлагает конкретные инструменты для тех, кто оказался в «серой зоне» принятия решений.
- Сервис «Третье мнение»: Анонимная платформа (доступна через сеть Tor), позволяющая инсайдерам задать вопросы о своих наблюдениях независимым экспертам без раскрытия конфиденциальной информации.
- Юридическая и психологическая помощь: Организация связывает информаторов с профессиональными правозащитными группами (например, The Signals Network или Government Accountability Project), которые могут предоставить бесплатную юридическую поддержку и психологическое сопровождение.
- Цифровая безопасность: Предоставление защищенных устройств с настроенными операционными системами для безопасных коммуникаций в критических случаях.
📢 Кампания «Publish Your Policies» 4:46
Карл Кох подчеркивает, что прозрачность является минимально необходимым условием для восстановления доверия в индустрии.
- Цель: Побудить компании уровня Frontier AI опубликовать свои внутренние политики информирования о нарушениях (whistleblowing policies).
- Статус: На данный момент только OpenAI сделала это, и то под давлением общественности.
- Аргументы: Кох утверждает, что публикация политик — это стандарт в других индустриях, который помогает сотрудникам понимать свои права и снижает риски для всех сторон.
Коалиция, поддерживающая инициативу, включает известных экспертов, таких как Стюарт Рассел и Лоуренс Лессиг, а также множество организаций, выступающих за этичное развитие технологий.
