В новом видео исследователь машинного обучения Янник Кильхер (Yannic Kilcher) подвергает жесткой критике новые лицензии для ИИ-моделей, таких как BLOOM и Stable Diffusion. По его мнению, формат OpenRAIL-M не только нарушает базовые принципы открытого исходного кода, но и содержит опасную юридическую лазейку, которая позволяет корпорациям в любой момент «отозвать» или испортить уже выпущенные модели.
📜 Анатомия OpenRAIL-M: лицензия с «сюрпризом» 0:00
Янник Кильхер (Yannic Kilcher) начинает разбор с утверждения, что новые «ответственные» лицензии ИИ (RAIL) являются, по сути, бессмысленными и противоречат духу Open Source. В качестве примеров он приводит модели Stable Diffusion и BLOOM, использующие лицензии семейства OpenRAIL-M.
Структура названия OpenRAIL-M расшифровывается автором следующим образом:
- RAIL — Responsible AI License (лицензия ответственного ИИ).
- Open — теоретически означает отсутствие ограничений на использование, хотя Кильхер оспаривает этот тезис.
- M — Model, указывает на то, что лицензируется именно сама модель (веса), а не код или данные.
На первый взгляд, это разрешительная лицензия, напоминающая Apache или MIT: она позволяет использовать модель для создания контента, продавать результаты её работы, дообучать (fine-tune) и дистиллировать её. Однако ключевое отличие кроется в разделе «Ограничения использования» (Usage Restrictions), который находится в конце документа.
🚫 Этические запреты и «вареные спагетти» Столлмана 3:30
Разработчики OpenRAIL-M стремятся предотвратить использование своих моделей в целях, которые они считают неэтичными. Лицензия запрещает использовать ИИ для:
- диффамации, домогательств или преследования;
- генерации заведомо ложной информации с целью нанесения вреда;
- любой деятельности, нарушающей местное или международное законодательство.
Янник Кильхер (Yannic Kilcher) апеллирует к философии Ричарда Столлмана, основателя движения свободного ПО. Столлман утверждает, что «Нулевая свобода» — право запускать программу для любых целей — является незыблемой. По мнению Кильхера, попытки ограничить использование инструмента через лицензию так же неэффективны, как попытки «толкать объект с помощью длинного куска вареных спагетти».
Автор видео подчеркивает, что разработчики не должны иметь власти над деятельностью пользователей, проводя аналогию с производителями ручек: нельзя продавать ручку с условием, что ею запрещено подписывать приказы о пытках. Кроме того, Кильхер считает мировоззрение авторов лицензий слишком узким и ориентированным исключительно на ценности Кремниевой долины. Например, запрет на использование в правоохранительных органах или медицине может лишить жителей развивающихся стран доступа к критически важной помощи, где ИИ был бы полезен даже с оговорками.
🧨 Юридическая ловушка седьмого параграфа 12:38
Самым опасным элементом лицензии Янник Кильхер (Yannic Kilcher) называет Параграф 7, касающийся обновлений (Updates and runtime restrictions). Лицензиар оставляет за собой право удаленно ограничивать использование модели в случае нарушения условий, а также обновлять модель через электронные каналы.
Ключевой риск, по мнению автора, кроется в следующей фразе: «Вы должны прилагать разумные усилия для использования последней версии этой модели». Кильхер описывает гипотетический сценарий «уничтожения» модели:
- Крупная корпорация, заинтересованная в закрытии доступа к технологии (например, к Stable Diffusion), покупает организацию-правообладателя.
- Новый владелец выпускает «обновление», которое делает модель значительно хуже или полностью неработоспособной.
- Согласно лицензии, пользователи обязаны перейти на эту версию, а использование старой (лучшей) версии становится незаконным.
В ответ на эту угрозу Янник Кильхер (Yannic Kilcher) предложил собственную версию лицензии — OpenRAIL++, в которой из седьмого параграфа удалено обязательство использовать последнюю версию.
⚖️ Модель как контракт, а не объект авторского права 16:48
Янник Кильхер (Yannic Kilcher) выдвигает тезис, что лицензии типа OpenRAIL-M юридически работают иначе, чем привычные MIT или GPL. Классическое открытое ПО базируется на авторском праве (Copyright): автор владеет кодом по умолчанию, а лицензия лишь смягчает эти права для пользователей.
Однако в случае с ИИ-моделями ситуация спорная:
- Согласно прецедентам (например, дело Стивена Талера), суды часто отказывают в защите авторских прав на объекты, созданные алгоритмами без участия человека-автора.
- Если тренировочный код защищен авторским правом, то результат его работы (веса модели) — это «черный ящик», не являющийся творческим произведением в юридическом смысле.
По мнению Кильхера, именно поэтому Hugging Face заставляет пользователей ставить галочку «Я прочитал и согласен с условиями» перед скачиванием Stable Diffusion. Это превращает лицензию в контракт, а не просто в разрешение на использование авторского права. Такой подход ограничивает возможности свободного распространения: модель нельзя просто скачать с любого ресурса, так как каждый пользователь должен юридически подтвердить согласие с правообладателем. Это ведет к централизации контроля над технологиями.
