Спорная стратегия Stability AI: повторяет ли стартап путь OpenAI?

Yannic Kilcher 29,7 тыс. 39 мин 5 мин 01.11.2022
Главное

В новом обзоре независимый исследователь искусственного интеллекта Янник Килхер (Yannic Kilcher) анализирует серию корпоративных скандалов вокруг стартапа Stability AI. Ведущий подробно рассматривает четыре инцидента, произошедших за короткий промежуток времени, и задается вопросом, не повторяет ли проект путь OpenAI, уходя от идеалов открытого исходного кода к жесткому коммерческому контролю.

🗂️ Захват контроля: как корпорация вытеснила фанатов из сообществ 2:38

Стартап Stability AI, получивший широкую известность благодаря финансированию разработки открытой нейросети Stable Diffusion, недавно привлек крупный раунд инвестиций в размере 101 млн долларов США. Однако на фоне стремительного коммерческого взлета компания столкнулась с серьезными репутационными кризисами. Как сообщается в профильных медиа, стартап фактически осуществил принудительное поглощение фанатских сообществ на платформах Reddit и Discord, вытеснив независимых модераторов.

Хронология поглощения сообществ волонтеров выглядела следующим образом:

После волны возмущения на Reddit права на Discord-сервер были временно возвращены создателю. При этом представитель Stability AI под псевдонимом Cyberbully прокомментировал ситуацию в пассивно-агрессивной форме, обвинив волонтера в излишней драматизации. Позже администрация Discord официально признала ошибку в процедуре передачи прав. Янник Килхер также упомянул циркулировавшие в сообществе слухи о том, что один из отстраненных модераторов был несовершеннолетним, и компания якобы пыталась спешно оформить его в штат, чтобы распространить на него соглашение о неразглашении (NDA).

Ситуацию удалось частично разрешить, когда к команде стартапа в качестве директора по стратегии присоединился авторитетный исследователь Дэвид Ха (David Ha), известный в сети под ником Hardmaru. В свой второй рабочий день он публично признал, что молодая организация совершила ошибку, и полностью вернул контроль над сабреддитом независимому сообществу. По мнению Янника Килхера, данные инциденты демонстрируют типичные «болезни роста» молодой структуры, где менеджеры получили слишком много свободы и власти, не умея работать с аудиторией.

💻 Противостояние с разработчиками: кейс Automatic1111 и утечки Novel AI 14:41

Второй крупный конфликт развернулся вокруг независимого разработчика под псевдонимом Automatic1111. Этот программист создал самую популярную альтернативную веб-оболочку (Web UI) для работы со Stable Diffusion, которая по функционалу превзошла официальное решение Dream Studio от Stability AI. Его интерфейс распространялся бесплатно на GitHub, хотя на начальном этапе и не имел четко прописанной открытой лицензии.

Конфликт обострился после крупной хакерской атаки и утечки закрытого исходного кода компании Novel AI, которая тесно сотрудничает со Stability AI и получает от нее вычислительные мощности. Разработчик Automatic1111 оперативно добавил в свой популярный интерфейс совместимость с утекшей моделью. В ответ представитель Stability AI под ником Ether обвинил его в краже проприетарного кода и заблокировал на официальном Discord-сервере проекта.

Сам разработчик Automatic1111 категорически отверг обвинения, заявив, что весь код интеграции был написан им с нуля. В ходе последующего разбирательства пользователи Reddit выяснили следующие факты:

  1. Опережающий код: Спорный фрагмент кода являлся открытым и был написан сторонними авторами задолго до реализации в Novel AI.
  2. Обратное заимствование: Сама Novel AI без разрешения использовала уникальные наработки Automatic1111. Поскольку его репозиторий формально не имел открытой лицензии, компания фактически сама нарушила авторские права.
  3. Ложные оправдания: Представители Novel AI попытались списать инцидент на ошибку интерна, однако в истории изменений GitHub автором коммита значился ведущий программист компании.

Позже на GitHub появился аккаунт e_stability с публичными извинениями перед разработчиком, однако Automatic1111 назвал этот пост шуткой фейкового профиля. При этом Янник Килхер отмечает, что глава Stability AI Эмад Мостак в личных беседах подтверждал подлинность этих извинений. Ведущий склоняется к версии, что инцидент стал следствием внутреннего хаоса и импульсивности сотрудников стартапа, а не спланированной кампанией по уничтожению независимого UI.

⚖️ Война за интеллектуальную собственность: конфликт вокруг Stable Diffusion 1.5 24:49

Третья точка напряжения возникла вокруг релиза обновленной модели Stable Diffusion 1.5. Вопреки планам Stability AI придержать публикацию, нейросеть была размещена на платформе Hugging Face компанией Runway ML, занимающейся созданием ИИ-инструментов для редактирования видео. Юристы Stability AI незамедлительно направили жалобу на нарушение авторских прав (DMCA), потребовав заблокировать страницу релиза.

Генеральный директор Runway ML Крис Валенсуэла (Chris Valenzuela) выступил с официальным заявлением, подчеркнув, что данная модель является прямым продолжением их собственных научных исследований, опубликованных совместно с Мюнхенским университетом Людвига-Максимилиана (LMU). Разработчиками оригинального алгоритма являлись Патрик Эссер (Patrick Esser) из Runway и Робин Ромбах (Robin Rombach) из LMU. Валенсуэла жестко указал, что Stability AI лишь предоставила вычислительные мощности для дообучения модели, что не дает ей прав на единоличное владение интеллектуальной собственностью.

В итоге юридическая служба Stability AI отозвала свою претензию, и Hugging Face закрыла тред разбирательства, оставив модель в открытом доступе. По мнению Янника Килхера, этот инцидент обнажил правовую непрозрачность структуры владения открытыми ИИ-проектами. Ведущий задается вопросом, имеет ли право любая третья сторона дообучить модель и выпустить ее под условным названием «Stable Diffusion 1.6», поскольку четкие правила использования торговой марки до сих пор отсутствуют.

🔒 Новая закрытость: превратится ли Stability AI во второй OpenAI? 31:19

Наиболее опасной тенденцией Янник Килхер считает официальное заявление директора по информационным технологиям (CIO) Stability AI Дэниела Джеффриса (Daniel Jeffries) под заголовком «Почему будущее ИИ с открытым исходным кодом гораздо масштабнее, чем Stable Diffusion 1.5». В этой публикации Джеффрис попытался оправдать попытку заблокировать релиз версии 1.5 требованиями регуляторов и необходимостью обеспечения безопасности пользователей от нелегального контента.

По мнению ведущего, подобная риторика полностью копирует путь компании OpenAI, которая начинала как децентрализованный открытый проект по демократизации ИИ, а превратилась в закрытого коммерческого провайдера платного API. Килхер считает позицию Джеффриса проявлением элитарного патернализма в духе «мы — элита, мы знаем, что для вас лучше, а обычным людям доверять инструменты нельзя». Блогер выражает опасение, что под предлогом создания безопасной среды полезные ИИ-модели будут полностью кастрированы или спрятаны за коммерческими шлюзами.

В качестве исторической аналогии Янник Килхер приводит кейс модели GPT-2 от OpenAI, релиз которой в свое время искусственно задерживали из-за якобы высокой угрозы злоупотреблений. Время показало, что эти страхи были необоснованными, а сама стратегия послужила лишь предлогом для коммерциализации технологии. Автор видео выражает надежду, что сообщество сможет заставить руководство Stability AI вернуться на путь истинной открытости и децентрализации, вопреки давлению регуляторов США и Евросоюза.

💬 Цитаты

«По мнению Янника Килхера, цель Stability AI изначально заключалась в том, чтобы стать тем, чем должна была стать OpenAI.»

Янник Килхер 00:40

«Если вы считаете, что должны выдавать инструменты людям только после того, как сами проверите их на безопасность, вы не преданы идее открытого кода.»

Янник Килхер 34:51
👥 Спикер
🔗 Упомянутые сайты и проекты
📖 Термины
Web UI
Пользовательский интерфейс, работающий через веб-браузер и позволяющий управлять сложным программным обеспечением без ввода команд вручную.
IP (Intellectual Property)
Интеллектуальная собственность, защищенная законом совокупность прав на результаты творческой, программной и научной деятельности.
Open Source
Программное обеспечение с открытым исходным кодом, который доступен для просмотра, изменения и легального использования любыми разработчиками.
📊 Цифры
🗓 Хронология
  1. 2018 год Основание компании Runway ML, соразработчика технологии Stable Diffusion.
  2. Октябрь 2022 года Stability AI привлекает 101 млн долларов инвестиций и оказывается в центре серии репутационных скандалов.
⚖️ Другая сторона
Искусственный интеллект Stability AI OpenAI Stable Diffusion Yannic Kilcher Runway ML