В Сенате США прошли масштабные слушания, посвященные вопросам регулирования и безопасности систем искусственного интеллекта с участием лидеров индустрии. Ведущий YouTube-канала Yannic Kilcher Янник Кильхер подробно разобрал выступления ключевых спикеров, среди которых был глава компании OpenAI Сэм Альтман. Автор анализирует предложенную концепцию лицензирования ИИ-моделей и указывает на скрытые экономические последствия подобных мер для независимых разработчиков.
🏛️ Слушания в Сенате США и позиция Сэма Альтмана 0:00
В Сенате США состоялись официальные слушания, целью которых было получение экспертной информации от представителей ИИ-индустрии для принятия более обоснованных законодательных решений. В качестве свидетелей на мероприятие были приглашены профессор Нью-Йоркского университета Гэри Маркус, Кристина Монтгомери из IBM, а также генеральный директор OpenAI Сэм Альтман.
Янник Кильхер отмечает, что выступление Сэма Альтмана оставило крайне положительное впечатление благодаря его высокому интеллекту и умению грамотно выстраивать презентацию. По мнению ведущего, главе OpenAI удалось продемонстрировать взвешенный оптимизм относительно влияния технологий на экономику и рынок труда, сделав концепцию развития ИИ привлекательной и вдохновляющей для широкой аудитории. При этом свидетельские показания Кристины Монтгомери автор канала охарактеризовал как стандартную корпоративную речь, не несущую глубокого смысла.
📜 Инициатива лицензирования: защита или уничтожение конкуренции? 1:59
Главной точкой разногласий в экспертном сообществе, по словам Янника Кильхера, стало предложение Сэма Альтмана ввести обязательное государственное лицензирование для разработчиков ИИ. Руководитель OpenAI заявил перед Сенатом, что государственное вмешательство будет критически важным для снижения рисков, исходящих от все более мощных моделей. Он предложил внедрить комбинацию лицензирования и обязательного тестирования для систем, превышающих определенный порог возможностей.
Для минимизации вреда инновациям Сэм Альтман предложил разделить сферы регулирования:
- Крупные системы: модели выше установленного порога должны проходить жесткую процедуру проверки и лицензирования.
- Малый бизнес и наука: стартапы, независимые исследователи и open-source сообщество должны сохранить свободу действий в рамках более мягкого правового режима.
В качестве критерия для проведения этой границы Сэм Альтман назвал два возможных подхода:
- Объем вычислений (compute): самый простой технический маркер, который может корректироваться в зависимости от эффективности новых алгоритмов.
- Порог возможностей (capabilities): более точный, но сложный метод, при котором лицензированию подлежат модели, способные манипулировать поведением людей, убеждать их или помогать в создании биологического оружия.
Янник Кильхер признает техническую логику Сэма Альтмана в использовании вычислительных мощностей как метрики. Однако сам факт выдвижения таких инициатив вызывает у ведущего серьезные опасения. По мнению Кильхера, призывы крупных корпораций к государственному регулированию — это классический элемент их бизнес-стратегии.
Лицензирование создает колоссальный барьер для входа на рынок новых игроков, защищая виртуальную монополию OpenAI или их дуополию с Google. Полноценное соблюдение регуляторных требований легко дается компании, спонсируемой миллиардами долларов от Microsoft, но практически невыполнимо для независимого open-source сообщества.
Ведущий напоминает, что исторически свободное ПО (например, операционная система Linux или веб-сервер Apache) не раз догоняло и перегоняло коммерческие аналоги без всякого надзора со стороны ведомств. Введение лицензий, по его оценке, преследует цель подавить эту естественную конкуренцию.
🏷️ «Этикетки состава» и секретность OpenAI 8:47
В ходе слушаний поднимался вопрос о введении аналогов «этикеток пищевой ценности» (nutrition labels) или деклараций для ИИ-моделей, которые бы четко информировали пользователей о составе данных и надежности системы.
Сэм Альтман высказал мнение, что современные пользователи достаточно подготовлены, чтобы самостоятельно распознавать ошибки алгоритмов и брать на себя ответственность за проверку информации. Он подчеркнул важность дисклеймеров о возможных неточностях (какие уже используются в ChatGPT) и выразительную поддержку идеи публикации данных о поведении моделей независимыми агентствами.
Тем не менее, Янник Кильхер указывает на явное противоречие в позиции OpenAI. В то время как профессор Гэри Маркус призывает обязать компании раскрывать обучающие датасеты и параметры обучения, OpenAI демонстрирует растущую закрытость.
Как отмечает ведущий, в своем последнем техническом отчете компания целенаправленно скрыла от научного сообщества объемы данных, архитектуру, размер модели и показатели функции потерь, ограничившись лишь демонстрацией успехов в тестах вроде экзамена на адвоката. Таким образом, по мнению Кильхера, реальные действия компании полностью противоречат концепции прозрачных «этикеток» состава продукта.
⚖️ Спор об уязвимостях ИИ: Гэри Маркус против здравого смысла 12:28
Отдельной критике со стороны ведущего подверглось выступление профессора Гэри Маркуса. В своем докладе Маркус указал на фундаментальную ненадежность текущих систем ИИ, приведя в пример случай, когда чат-бот ложно обвинил профессора права в сексуальных домогательствах, сославшись на несуществующую статью в Washington Post. По утверждению Маркуса, подобные галлюцинации ИИ подрывают доверие присяжных к реальным уликам и несут прямую угрозу демократическим институтам.
Янник Кильхер отнесся к этим заявлениям с глубокой иронией, подчеркнув, что авторы ложных обвинений, манипуляторы и создатели фальшивых доказательств существовали задолго до появления GPT-4. По его словам, ни одна технология в мире — будь то клавиатура компьютера, поисковая система Google или графический редактор Photoshop — никогда не подвергалась ограничениям на том основании, что с ее помощью можно сгенерировать ложь.
В подтверждение своей позиции ведущий ссылается на мнение самого Сэма Альтмана, который в ходе слушаний напомнил о внедрении Photoshop. По словам Альтмана, общество быстро адаптировалось к появлению фоторедакторов и осознало, что изображение не всегда отражает реальность; аналогичная адаптация наступит и в отношении генерируемого ИИ текста. Янник Кильхер резюмирует, что удешевление массового производства фейков благодаря ИИ является лишь количественным изменением, но никак не меняет фундаментальные принципы проверки информации человечеством.
