# Скотт Винер о законе SB 1047: регулирование безопасности «фронтирных» моделей ИИ

Источник: https://www.youtube.com/watch?v=U7INYDo4m5I
Канал: The Cognitive Revolution
Опубликовано: 10.05.2024

---

## Регулирование «фронтирных» моделей: Скотт Винер о законопроекте SB 1047
[[JUMP:0:26]]

Технологический ландшафт искусственного интеллекта стремительно развивается, вызывая как воодушевление, так и опасения по поводу потенциальных рисков. Сенатор штата Калифорния Скотт Винер (Scott Wiener) представил законопроект SB 1047, направленный на установление стандартов безопасности для наиболее мощных систем ИИ. В интервью подкасту *The Cognitive Revolution* сенатор обсудил баланс между поддержкой инноваций и необходимостью предотвращения катастрофических последствий.

### ⚖️ Концепция и цели законодательства
[[JUMP:8:30]]

Законопроект SB 1047 ориентирован исключительно на «фронтирные» модели — системы, обученные с использованием экстремально больших вычислительных мощностей (порог установлен на уровне $10^{26}$ флопсов, аналогично исполнительному указу президента Байдена).

Основные задачи инициативы:

*   Внедрение базовых, «лёгких» требований безопасности и оценки рисков.
*   Обязательство разработчиков проводить стресс-тестирование (red teaming) моделей перед их обучением и публичным выпуском.
*   Принятие «разумных мер по снижению рисков» в случае обнаружения потенциальных угроз катастрофического масштаба.

По словам Винера, он стремится избежать микроменеджмента со стороны государства, предпочитая гибкий подход, который не задушит инновации. Законодатель подчеркнул, что под «катастрофическим вредом» в тексте документа понимаются конкретные угрозы: использование моделей для создания ядерного, химического или биологического оружия, атаки на критическую инфраструктуру с ущербом от $500 млн, или масштабные киберпреступления.

### 🛠️ Ответственность и правоприменение
[[JUMP:21:50]]

Винер особо подчеркнул, что SB 1047 не предусматривает создания «полицейского государства» вокруг ИИ-разработок.

*   **Ограничение исков:** В отличие от предложений некоторых активистов, законопроект не позволяет частным лицам подавать иски против разработчиков. Право преследования нарушителей остаётся исключительно за Генеральным прокурором штата Калифорния.
*   **Уголовная ответственность:** Сенатор опроверг опасения критиков, что за «честные ошибки» в процессе разработки можно попасть в тюрьму. Уголовное наказание предусмотрено только в случае намеренного лжесвидетельства (пердюри) перед правительственными органами.
*   **Санкции:** В случае доказанной халатности или сокрытия фактов, повлекших катастрофические последствия, разработчикам грозят штрафы, составляющие от 10% до 30% от затрат на обучение модели, а также возможные штрафные убытки.

### 🌐 Отношение индустрии и открытый исходный код
[[JUMP:26:43]]

Ситуация вокруг поддержки закона неоднозначна. Винер отметил, что многие разработчики высказываются в поддержку инициативы в частных разговорах, опасаясь публичности из-за политики Кремниевой долины. В то же время такие крупные организации, как TechNet, представляющие интересы технологических гигантов, выступают против.

Отдельной темой дискуссии стали модели с открытым исходным кодом (open source). Сенатор заверил, что его офис активно сотрудничает с экспертами этого сообщества, чтобы найти компромисс. В качестве возможного решения обсуждается идея передачи ответственности за безопасность при дообучении моделей: если внешний разработчик вносит значительные изменения (например, более 10% вычислительных затрат), ответственность за проверку безопасности может перейти от автора оригинальной модели к нему.

### 🛡️ Проблема независимого тестирования
[[JUMP:43:52]]

Один из самых острых вопросов касается независимости оценки. Ведущий подкаста, имевший личный опыт участия в «красной команде» (red team) GPT-4, выразил обеспокоенность тем, что текущая ситуация, при которой доступ к моделям полностью зависит от доброй воли компаний, неэффективна.

Винер признал, что вопрос об аккредитации независимых сторонних аудиторов — это крайне важная тема для будущего диалога. Он провёл аналогию со своим прошлым законом о раскрытии данных об углеродных выбросах, где правительство сертифицировало квалифицированных аудиторов. Однако сенатор подчеркнул: сейчас его первоочередная задача — внедрить базовый уровень безопасности, а дальнейшее усложнение процедур может быть предметом будущих дискуссий.