# ИИ на скамье подсудимых: конгресс США обсуждает правила игры

Источник: https://www.youtube.com/watch?v=DeSXnESGxr4
Канал: Machine Learning Street Talk
Опубликовано: 16.05.2023

---

## ИИ на скамье подсудимых: конгресс США обсуждает правила игры ⚖️
[[JUMP:3:48]]

В американском Сенате состоялись исторические слушания, посвященные надзору за искусственным интеллектом, которые стали поворотным моментом в диалоге между технологическим сектором и правительством. В дискуссии приняли участие Сэм Альтман (OpenAI), Гэри Маркус (профессор, эксперт по ИИ) и Кристина Монтгомери (IBM). Главной темой стало стремление законодателей «демистифицировать» ИИ и разработать правила до того, как технологии окончательно опередят регуляторику.

### 🏛️ Позиция регуляторов: страх перед «социальными сетями»
[[JUMP:5:49]]

Сенаторы продемонстрировали настороженность, сформированную опытом взаимодействия с крупными соцсетями. Законодатели открыто заявили, что в прошлом компании старались всеми силами избегать ограничений, однако сегодня лидеры индустрии сами призывают к регулированию.

*   **Риски:** Сенаторы обеспокоены неконтролируемым использованием данных, дезинформацией, углублением социального неравенства и алгоритмической предвзятостью.
*   **Скепсис:** Существует риск, что предлагаемые законы станут «гринвошингом» (имитацией деятельности), а новые регуляторные агентства столкнутся с «захватом» со стороны корпораций, как это исторически происходило с другими ведомствами.

### 🤖 Сэм Альтман: «ИИ — это инструмент, а не существо»
[[JUMP:10:39]]

Генеральный директор OpenAI Сэм Альтман подчеркнул, что его компания управляется некоммерческой структурой, что позволяет фокусироваться на миссии по обеспечению безопасности ИИ, а не только на извлечении прибыли.

*   **Лицензирование:** Альтман предложил правительству внедрить систему лицензирования и тестирования для моделей, превышающих определенный порог вычислительной мощности.
*   **Взаимодействие с властью:** Он признал, что ответственность лежит на компаниях, но правительственное вмешательство критически важно для управления рисками.
*   **Рынок труда:** Альтман не отрицает, что ИИ автоматизирует некоторые задачи, но верит, что это создаст гораздо более качественные рабочие места в будущем.
*   **Контент:** По мнению Альтмана, необходимо требовать четкой маркировки контента, созданного ИИ, чтобы пользователи понимали, что перед ними не результат человеческого труда.

### 🛡️ Кристина Монтгомери (IBM): «Точность вместо запретов»
[[JUMP:14:18]]

Представительница IBM выступила с предложением «точного регулирования» (Precision regulation), которое фокусируется не на технологии как таковой, а на конкретных сценариях её использования.

*   **Риск-ориентированный подход:** IBM предлагает применять самые строгие правила к сферам с наибольшим риском для общества.
*   **Прозрачность:** Потребители должны всегда знать, взаимодействуют ли они с ИИ, и иметь возможность получить консультацию у живого человека.
*   **Внутренняя этика:** Монтгомери призвала компании создавать этические советы и назначать ответственных офицеров по вопросам ИИ-этики.

### 🔍 Гэри Маркус: «Мы строим быков в посудной лавке»
[[JUMP:18:16]]

Профессор Гэри Маркус занял критическую позицию, предупреждая, что текущие системы ИИ непредсказуемы, неэтичны и склонны к галлюцинациям.

*   **Угроза демократии:** Маркус утверждает, что ИИ способен генерировать убедительную ложь в невиданных масштабах, что может использоваться для манипуляции выборами и рынками.
*   **Регулирование через доступ:** Он настаивает на создании независимого органа (аналога CERN), который даст ученым доступ к системам *до* их широкого выпуска для независимой оценки безопасности.
*   **Мнение о «паузе»:** Маркус пояснил, что призыв к шестимесячному мораторию был направлен не на полный запрет исследований, а на фокусировку усилий на надежном и безопасном ИИ.

### 🌍 Глобальный контекст и вызовы
[[JUMP:7:36]]

Участники обсудили также новые инициативы Евросоюза — *AI Act*, который вступает в силу в 2026 году. Существует опасение, что жесткие европейские требования могут создать конфликт с американским рынком и стать бременем для стартапов. Альтман выразил обеспокоенность тем, что чрезмерное регулирование может задушить инновации, оставив поле боя лишь для крупнейших игроков, что создаст эффект «технократии в сочетании с олигархией».

---