В новом выпуске подкаста The Cognitive Revolution ведущий Натан Лабенс обсудил финальную версию резонансного законопроекта Калифорнии SB 1047 («Закон о безопасных и защищенных инновациях в области передовых моделей ИИ»). В дискуссии приняли участие Нейтан Кэлвин (Center for AI Safety Action Fund), выступающий соавтором законопроекта, Дин У. Болл (Mercatus Center), один из самых последовательных критиков инициативы, и Стив Ньюман, эксперт, работающий над улучшением качества публичного дискурса вокруг ИИ .
📄 Эволюция SB 1047: От жесткого контроля к прозрачности 8:28
Законопроект SB 1047, представленный сенатором Скоттом Винером, претерпел значительные изменения с момента своего появления в феврале 2024 года. Нейтан Кэлвин подчеркнул, что текущая версия — результат масштабного «ред-тиминга» со стороны технологического сообщества .
Ключевые изменения в финальной версии:
- Удаление Frontier Model Division: Вместо создания нового надзорного органа функции контроля переданы Агентству по государственным операциям (GovOps) .
- Смена стандарта ответственности: Формулировка «разумная уверенность» (reasonable assurance) заменена на стандарт «разумной осторожности» (reasonable care), что ближе к классическому деликтному праву .
- Публичность планов безопасности: Компании обязаны публиковать свои протоколы безопасности, при этом они имеют право на определенные сокращения (redactions) для защиты коммерческой тайны .
- Удаление ценового регулирования: Требования по прозрачности ценообразования для облачных провайдеров были полностью исключены .
- Финансовые пороги: Законопроект теперь четко сфокусирован на моделях, разработка которых стоит более $100 млн, или на дообучении (fine-tuning) стоимостью свыше $10 млн .
Дин У. Болл признал, что законопроект стал значительно лучше по сравнению с первоначальным текстом, который он критиковал еще в феврале. Однако он сохраняет скепсис относительно способности GovOps (традиционно занимающегося IT и HR внутри правительства) эффективно регулировать фронтирные технологии .
🏛️ Юридические и политические риски: Федерализм против штатов 27:07
Одной из центральных тем спора стала правомерность регулирования ИИ на уровне штата. Дин У. Болл выразил опасение, что Калифорния (вслед за Брюсселем) навязывает свои стандарты всей стране, фактически лишая федеральное правительство права голоса в вопросах национальной безопасности. По его мнению, это может привести к «национальному разводу», если другие штаты (например, Техас) не захотят подчиняться де-факто правилам Сакраменто .
Нейтан Кэлвин возразил, что в условиях федерализма штаты обязаны действовать, если Конгресс США не проявляет активности в вопросах безопасности граждан. Он отметил, что судебная система в США сейчас ограничивает возможности федеральных агентств (таких как FTC) принимать новые правила без прямого указания закона, поэтому законодательство штатов становится необходимым инструментом .
Аргументы сторон по поводу юридической ответственности:
- Позиция Нейтана Кэлвина: Законопроект лишь формализует обязанность разработчиков соблюдать «разумную осторожность», напоминая им, что они несут ответственность за катастрофические риски (например, содействие в создании биооружия) .
- Позиция Дина У. Болла: Внедрение ответственности на уровне моделей — это радикальный отход от традиций разработки ПО. Он опасается амбициозных прокуроров, которые могут использовать неопределенные формулировки закона для громких судебных исков против разработчиков, даже если вред был нанесен злонамеренным пользователем .
🦾 Будущее AGI и «усталость от политики» 39:50
Участники обсудили фундаментальный вопрос: является ли ИИ качественно новой технологией, требующей особого надзора, или это лишь эволюция программного обеспечения?
Стив Ньюман указал на опасность «политической усталости». Проведя аналогию с пандемией COVID-19, он заметил, что общество быстро теряет интерес к подготовке к будущим угрозам, как только острый кризис проходит. По его словам, если «цунами AGI» нагрянет, у нас может не оказаться времени на разработку вдумчивых законов .
Прогнозы участников по поводу будущего SB 1047:
- OpenAI vs Anthropic: Нейтан Кэлвин отметил странность ситуации: OpenAI выступает против, ссылаясь на риск для инноваций, в то время как Anthropic считает проект «работоспособным» (workable) .
- Позиция Илона Маска: Дин У. Болл предположил, что Илон Маск на самом деле может поддерживать этот закон, так как он давно говорит об экзистенциальных рисках ИИ, а Дэн Хендрикс (один из инициаторов закона) является советником в xAI .
- Прогноз на финал: Дин У. Болл предсказывает, что законодательное собрание примет законопроект, но губернатор Гэвин Ньюсом наложит на него вето .
🛡️ Технологические решения как альтернатива законам 1:18:32
Обсуждалась работа Дэна Хендрикса по созданию «защищенных от взлома» (tamper-resistant) систем безопасности для моделей с открытыми весами. Нейтан Кэлвин считает, что SB 1047 может стимулировать «гонку вооружений в области безопасности», заставляя компании инвестировать в методы, которые не позволяют пользователям легко удалять защитные фильтры при дообучении .
Дин У. Болл согласился, что технические решения (silver bullets) были бы лучшим выходом, чем судебные иски, но выразил сомнение в их текущей эффективности: методы Хендрикса пока делают модели «чуть более глупыми» на бенчмарках .
В завершение Стив Ньюман подчеркнул, что даже в случае неудачи SB 1047, дискурс вокруг него был крайне полезен: «Это первая глава в поколенческом интеллектуальном проекте, который, если AGI реален, будет сопоставим по масштабу с написанием Конституции» .
