ИИ на скамье подсудимых: конгресс США обсуждает правила игры ⚖️ 3:48
В американском Сенате состоялись исторические слушания, посвященные надзору за искусственным интеллектом, которые стали поворотным моментом в диалоге между технологическим сектором и правительством. В дискуссии приняли участие Сэм Альтман (OpenAI), Гэри Маркус (профессор, эксперт по ИИ) и Кристина Монтгомери (IBM). Главной темой стало стремление законодателей «демистифицировать» ИИ и разработать правила до того, как технологии окончательно опередят регуляторику.
🏛️ Позиция регуляторов: страх перед «социальными сетями» 5:49
Сенаторы продемонстрировали настороженность, сформированную опытом взаимодействия с крупными соцсетями. Законодатели открыто заявили, что в прошлом компании старались всеми силами избегать ограничений, однако сегодня лидеры индустрии сами призывают к регулированию.
- Риски: Сенаторы обеспокоены неконтролируемым использованием данных, дезинформацией, углублением социального неравенства и алгоритмической предвзятостью.
- Скепсис: Существует риск, что предлагаемые законы станут «гринвошингом» (имитацией деятельности), а новые регуляторные агентства столкнутся с «захватом» со стороны корпораций, как это исторически происходило с другими ведомствами.
🤖 Сэм Альтман: «ИИ — это инструмент, а не существо» 10:39
Генеральный директор OpenAI Сэм Альтман подчеркнул, что его компания управляется некоммерческой структурой, что позволяет фокусироваться на миссии по обеспечению безопасности ИИ, а не только на извлечении прибыли.
- Лицензирование: Альтман предложил правительству внедрить систему лицензирования и тестирования для моделей, превышающих определенный порог вычислительной мощности.
- Взаимодействие с властью: Он признал, что ответственность лежит на компаниях, но правительственное вмешательство критически важно для управления рисками.
- Рынок труда: Альтман не отрицает, что ИИ автоматизирует некоторые задачи, но верит, что это создаст гораздо более качественные рабочие места в будущем.
- Контент: По мнению Альтмана, необходимо требовать четкой маркировки контента, созданного ИИ, чтобы пользователи понимали, что перед ними не результат человеческого труда.
🛡️ Кристина Монтгомери (IBM): «Точность вместо запретов» 14:18
Представительница IBM выступила с предложением «точного регулирования» (Precision regulation), которое фокусируется не на технологии как таковой, а на конкретных сценариях её использования.
- Риск-ориентированный подход: IBM предлагает применять самые строгие правила к сферам с наибольшим риском для общества.
- Прозрачность: Потребители должны всегда знать, взаимодействуют ли они с ИИ, и иметь возможность получить консультацию у живого человека.
- Внутренняя этика: Монтгомери призвала компании создавать этические советы и назначать ответственных офицеров по вопросам ИИ-этики.
🔍 Гэри Маркус: «Мы строим быков в посудной лавке» 18:16
Профессор Гэри Маркус занял критическую позицию, предупреждая, что текущие системы ИИ непредсказуемы, неэтичны и склонны к галлюцинациям.
- Угроза демократии: Маркус утверждает, что ИИ способен генерировать убедительную ложь в невиданных масштабах, что может использоваться для манипуляции выборами и рынками.
- Регулирование через доступ: Он настаивает на создании независимого органа (аналога CERN), который даст ученым доступ к системам до их широкого выпуска для независимой оценки безопасности.
- Мнение о «паузе»: Маркус пояснил, что призыв к шестимесячному мораторию был направлен не на полный запрет исследований, а на фокусировку усилий на надежном и безопасном ИИ.
🌍 Глобальный контекст и вызовы 7:36
Участники обсудили также новые инициативы Евросоюза — AI Act, который вступает в силу в 2026 году. Существует опасение, что жесткие европейские требования могут создать конфликт с американским рынком и стать бременем для стартапов. Альтман выразил обеспокоенность тем, что чрезмерное регулирование может задушить инновации, оставив поле боя лишь для крупнейших игроков, что создаст эффект «технократии в сочетании с олигархией».
