Регулирование «фронтирных» моделей: Скотт Винер о законопроекте SB 1047 0:26
Технологический ландшафт искусственного интеллекта стремительно развивается, вызывая как воодушевление, так и опасения по поводу потенциальных рисков. Сенатор штата Калифорния Скотт Винер (Scott Wiener) представил законопроект SB 1047, направленный на установление стандартов безопасности для наиболее мощных систем ИИ. В интервью подкасту The Cognitive Revolution сенатор обсудил баланс между поддержкой инноваций и необходимостью предотвращения катастрофических последствий.
⚖️ Концепция и цели законодательства 8:30
Законопроект SB 1047 ориентирован исключительно на «фронтирные» модели — системы, обученные с использованием экстремально больших вычислительных мощностей (порог установлен на уровне $10^{26}$ флопсов, аналогично исполнительному указу президента Байдена).
Основные задачи инициативы:
- Внедрение базовых, «лёгких» требований безопасности и оценки рисков.
- Обязательство разработчиков проводить стресс-тестирование (red teaming) моделей перед их обучением и публичным выпуском.
- Принятие «разумных мер по снижению рисков» в случае обнаружения потенциальных угроз катастрофического масштаба.
По словам Винера, он стремится избежать микроменеджмента со стороны государства, предпочитая гибкий подход, который не задушит инновации. Законодатель подчеркнул, что под «катастрофическим вредом» в тексте документа понимаются конкретные угрозы: использование моделей для создания ядерного, химического или биологического оружия, атаки на критическую инфраструктуру с ущербом от $500 млн, или масштабные киберпреступления.
🛠️ Ответственность и правоприменение 21:50
Винер особо подчеркнул, что SB 1047 не предусматривает создания «полицейского государства» вокруг ИИ-разработок.
- Ограничение исков: В отличие от предложений некоторых активистов, законопроект не позволяет частным лицам подавать иски против разработчиков. Право преследования нарушителей остаётся исключительно за Генеральным прокурором штата Калифорния.
- Уголовная ответственность: Сенатор опроверг опасения критиков, что за «честные ошибки» в процессе разработки можно попасть в тюрьму. Уголовное наказание предусмотрено только в случае намеренного лжесвидетельства (пердюри) перед правительственными органами.
- Санкции: В случае доказанной халатности или сокрытия фактов, повлекших катастрофические последствия, разработчикам грозят штрафы, составляющие от 10% до 30% от затрат на обучение модели, а также возможные штрафные убытки.
🌐 Отношение индустрии и открытый исходный код 26:43
Ситуация вокруг поддержки закона неоднозначна. Винер отметил, что многие разработчики высказываются в поддержку инициативы в частных разговорах, опасаясь публичности из-за политики Кремниевой долины. В то же время такие крупные организации, как TechNet, представляющие интересы технологических гигантов, выступают против.
Отдельной темой дискуссии стали модели с открытым исходным кодом (open source). Сенатор заверил, что его офис активно сотрудничает с экспертами этого сообщества, чтобы найти компромисс. В качестве возможного решения обсуждается идея передачи ответственности за безопасность при дообучении моделей: если внешний разработчик вносит значительные изменения (например, более 10% вычислительных затрат), ответственность за проверку безопасности может перейти от автора оригинальной модели к нему.
🛡️ Проблема независимого тестирования 43:52
Один из самых острых вопросов касается независимости оценки. Ведущий подкаста, имевший личный опыт участия в «красной команде» (red team) GPT-4, выразил обеспокоенность тем, что текущая ситуация, при которой доступ к моделям полностью зависит от доброй воли компаний, неэффективна.
Винер признал, что вопрос об аккредитации независимых сторонних аудиторов — это крайне важная тема для будущего диалога. Он провёл аналогию со своим прошлым законом о раскрытии данных об углеродных выбросах, где правительство сертифицировало квалифицированных аудиторов. Однако сенатор подчеркнул: сейчас его первоочередная задача — внедрить базовый уровень безопасности, а дальнейшее усложнение процедур может быть предметом будущих дискуссий.
