# Финальный разбор закона SB 1047: как Калифорния меняет правила игры для OpenAI и Meta

Источник: https://www.youtube.com/watch?v=G8BXft-PEXo
Канал: The Cognitive Revolution
Опубликовано: 24.08.2024

---

В новом выпуске подкаста **The Cognitive Revolution** ведущий Натан Лабенс обсудил финальную версию резонансного законопроекта Калифорнии **SB 1047** («Закон о безопасных и защищенных инновациях в области передовых моделей ИИ»). В дискуссии приняли участие **Нейтан Кэлвин** (Center for AI Safety Action Fund), выступающий соавтором законопроекта, **Дин У. Болл** (Mercatus Center), один из самых последовательных критиков инициативы, и **Стив Ньюман**, эксперт, работающий над улучшением качества публичного дискурса вокруг ИИ [8:28].

## 📄 Эволюция SB 1047: От жесткого контроля к прозрачности
[[JUMP:8:28]]

Законопроект SB 1047, представленный сенатором Скоттом Винером, претерпел значительные изменения с момента своего появления в феврале 2024 года. **Нейтан Кэлвин** подчеркнул, что текущая версия — результат масштабного «ред-тиминга» со стороны технологического сообщества [11:05]. 

**Ключевые изменения в финальной версии:**

*   **Удаление Frontier Model Division:** Вместо создания нового надзорного органа функции контроля переданы Агентству по государственным операциям (GovOps) [10:26].
*   **Смена стандарта ответственности:** Формулировка «разумная уверенность» (reasonable assurance) заменена на стандарт «разумной осторожности» (reasonable care), что ближе к классическому деликтному праву [11:32].
*   **Публичность планов безопасности:** Компании обязаны публиковать свои протоколы безопасности, при этом они имеют право на определенные сокращения (redactions) для защиты коммерческой тайны [11:05].
*   **Удаление ценового регулирования:** Требования по прозрачности ценообразования для облачных провайдеров были полностью исключены [11:18].
*   **Финансовые пороги:** Законопроект теперь четко сфокусирован на моделях, разработка которых стоит более $100 млн, или на дообучении (fine-tuning) стоимостью свыше $10 млн [17:07].

**Дин У. Болл** признал, что законопроект стал значительно лучше по сравнению с первоначальным текстом, который он критиковал еще в феврале. Однако он сохраняет скепсис относительно способности GovOps (традиционно занимающегося IT и HR внутри правительства) эффективно регулировать фронтирные технологии [21:00].

## 🏛️ Юридические и политические риски: Федерализм против штатов
[[JUMP:27:07]]

Одной из центральных тем спора стала правомерность регулирования ИИ на уровне штата. **Дин У. Болл** выразил опасение, что Калифорния (вслед за Брюсселем) навязывает свои стандарты всей стране, фактически лишая федеральное правительство права голоса в вопросах национальной безопасности. По его мнению, это может привести к «национальному разводу», если другие штаты (например, Техас) не захотят подчиняться де-факто правилам Сакраменто [28:01].

**Нейтан Кэлвин** возразил, что в условиях федерализма штаты обязаны действовать, если Конгресс США не проявляет активности в вопросах безопасности граждан. Он отметил, что судебная система в США сейчас ограничивает возможности федеральных агентств (таких как FTC) принимать новые правила без прямого указания закона, поэтому законодательство штатов становится необходимым инструментом [49:00].

**Аргументы сторон по поводу юридической ответственности:**

1.  **Позиция Нейтана Кэлвина:** Законопроект лишь формализует обязанность разработчиков соблюдать «разумную осторожность», напоминая им, что они несут ответственность за катастрофические риски (например, содействие в создании биооружия) [48:33].
2.  **Позиция Дина У. Болла:** Внедрение ответственности на уровне моделей — это радикальный отход от традиций разработки ПО. Он опасается амбициозных прокуроров, которые могут использовать неопределенные формулировки закона для громких судебных исков против разработчиков, даже если вред был нанесен злонамеренным пользователем [57:45].

## 🦾 Будущее AGI и «усталость от политики»
[[JUMP:39:50]]

Участники обсудили фундаментальный вопрос: является ли ИИ качественно новой технологией, требующей особого надзора, или это лишь эволюция программного обеспечения?

**Стив Ньюман** указал на опасность «политической усталости». Проведя аналогию с пандемией COVID-19, он заметил, что общество быстро теряет интерес к подготовке к будущим угрозам, как только острый кризис проходит. По его словам, если «цунами AGI» нагрянет, у нас может не оказаться времени на разработку вдумчивых законов [1:12:37].

**Прогнозы участников по поводу будущего SB 1047:**

*   **OpenAI vs Anthropic:** **Нейтан Кэлвин** отметил странность ситуации: OpenAI выступает против, ссылаясь на риск для инноваций, в то время как Anthropic считает проект «работоспособным» (workable) [12:00].
*   **Позиция Илона Маска:** **Дин У. Болл** предположил, что Илон Маск на самом деле может поддерживать этот закон, так как он давно говорит об экзистенциальных рисках ИИ, а Дэн Хендрикс (один из инициаторов закона) является советником в xAI [1:21:39].
*   **Прогноз на финал:** **Дин У. Болл** предсказывает, что законодательное собрание примет законопроект, но губернатор Гэвин Ньюсом наложит на него вето [1:38:09]. 

## 🛡️ Технологические решения как альтернатива законам
[[JUMP:1:18:32]]

Обсуждалась работа Дэна Хендрикса по созданию «защищенных от взлома» (tamper-resistant) систем безопасности для моделей с открытыми весами. **Нейтан Кэлвин** считает, что SB 1047 может стимулировать «гонку вооружений в области безопасности», заставляя компании инвестировать в методы, которые не позволяют пользователям легко удалять защитные фильтры при дообучении [1:18:45].

**Дин У. Болл** согласился, что технические решения (silver bullets) были бы лучшим выходом, чем судебные иски, но выразил сомнение в их текущей эффективности: методы Хендрикса пока делают модели «чуть более глупыми» на бенчмарках [1:22:17].

В завершение **Стив Ньюман** подчеркнул, что даже в случае неудачи SB 1047, дискурс вокруг него был крайне полезен: «Это первая глава в поколенческом интеллектуальном проекте, который, если AGI реален, будет сопоставим по масштабу с написанием Конституции» [1:35:55].