Уильям Фалкон: «Отрасли ИИ нужен свой iPhone, чтобы избавиться от костылей»

Eye on AI 705 50 мин 5 мин 29.04.2024
Главное

В мире разработки искусственного интеллекта наступил «момент iPhone». Именно так Уильям Фалкон, создатель PyTorch Lightning и основатель компании Lightning AI, характеризует запуск своего нового продукта — Lightning Studio. В интервью Крейгу Смиту для подкаста Eye on AI Фалкон рассказал, почему традиционна парадигма разработки «код на ноутбуке — запуск в облаке» безнадежно устарела и как создание единой операционной системы для ИИ поможет демократизировать доступ к технологиям.

🪖 От спецназа до нейросетей: путь Уильяма Фалкона 4:43

Биография Уильяма Фалкона нетипична для Кремниевой долины. До того как стать заметной фигурой в мире машинного обучения, он провел шесть лет в рядах вооруженных сил США, проходя подготовку в элитном подразделении Navy SEAL (Морские котики) в Сан-Диего . Тяжелая травма закрыла ему путь к карьере офицера спецназа, что вынудило Фалкона искать себя в гражданской жизни.

В 2013 году, как раз в период бума глубокого обучения, он поступил в Колумбийский университет. Фалкон вспоминает, что его знакомство с нейросетями началось на лекциях профессора Тони Джабары, который на примере базы данных MNIST показывал возможности распознавания образов . Вскоре Уильям погрузился в исследования в области вычислительной нейробиологии и поступил в докторантуру Нью-Йоркского университета (NYU), где его наставниками стали легендарный Ян Лекун (Yann LeCun) и Кюнхён Чо (Kyunghyun Cho) .

Проект PyTorch Lightning родился как внутренний инструмент для автоматизации рутины во время исследовательской работы Фалкона в FAIR (Facebook AI Research) в 2019 году . По словам основателя, тысячи компаний начали обращаться к нему с просьбой помочь внедрить этот фреймворк в производство. Это побудило его оставить Facebook и аспирантуру, чтобы полностью сосредоточиться на Lightning AI.

⚡ Разница между PyTorch и Lightning: аналогия с React 9:04

Чтобы объяснить суть своих технологий, Фалкон использует наглядные аналогии из веб-разработки:

По словам Фалкона, до появления Lightning в 2019 году обучение моделей на тысячи графических процессоров (GPU) было доступно лишь единицам — самому Фалкону и паре профессиональных команд инженеров в Facebook . Lightning сделал возможность масштабного параллельного обучения доступной для широкого круга разработчиков.

📱 Lightning Studio: «iPhone для разработчиков ИИ» 11:55

Главная проблема современной индустрии ИИ, по мнению Фалкона, заключается в колоссальной сложности «обвязки». Разработчику нужно знать Kubernetes, Docker, облачную инфраструктуру и десятки различных библиотек. «Это напоминает эпоху MS-DOS или BlackBerry до появления iPhone — все очень громоздко и неудобно», — отмечает он .

Lightning Studio призвана изменить эту парадигму. Ключевые особенности платформы:

  1. Отказ от локальной разработки. Большинство инструментов заставляют писать код на ноутбуке и отправлять его в облако. В Lightning Studio код пишется и хранится непосредственно в облаке (Cloud-native), хотя сохраняется возможность подключения локальной IDE (например, VS Code) без задержек .
  2. Концепция «студий» как ноутбуков. Для каждой задачи (обучение, RAG, тонкая настройка) создается отдельная изолированная среда — Studio. Фалкон сравнивает это с возможностью мгновенно получить «новый чистый ноутбук» для каждого проекта .
  3. Дупликация и шеринг. Любую настроенную среду со всеми зависимостями и кодом можно клонировать одним кликом. «Я могу отправить вам ссылку на свою "студию", и вы получите полную копию моего рабочего окружения», — объясняет основатель .
  4. Единая экосистема приложений. Внутри платформы всё является приложением: от инструментов мониторинга (Weights & Biases, TensorBoard) до готовых шаблонов моделей .

Фалкон подчеркивает, что это не просто оркестрация, а полноценная операционная система для ИИ, которая абстрагирует сложность инфраструктуры .

💰 Экономика и доступность технологий 30:17

Lightning Studio предлагает четыре уровня подписки, включая бесплатный (Free tier). Фалкон утверждает, что компания предоставляет 15 бесплатных кредитов в месяц, что эквивалентно примерно 22 часам работы на GPU .

Для Фалкона, выходца из Южной Америки (Венесуэла), крайне важен аспект демократизации: «В Венесуэле невозможно просто так достать GPU, но через Lightning это становится реальностью для разработчиков в развивающихся странах» .

Для крупных корпораций платформа решает проблему прозрачности расходов. По утверждению Фалкона, большинство компаний не могут точно сказать, сколько они тратят на конкретный проект машинного обучения. Lightning же позволяет отслеживать затраты на облачную инфраструктуру в режиме реального времени с точностью до секунды .

🏭 Корпоративное использование и образование 42:33

На данный момент сообщество PyTorch Lightning насчитывает от 1 до 2 миллионов человек, а на платформе Lightning Studio за первые два месяца после публичного запуска зарегистрировалось более 50 000 пользователей . Среди клиентов компании есть гиганты финансового сектора.

Фалкон приводит в пример один из крупнейших банков США (входит в топ-3), где работает около 5000 специалистов по данным (Data Scientists) . Внедрение Lightning Studio позволяет таким организациям экономить десятки миллионов долларов, которые иначе ушли бы на создание и поддержку собственных аналогичных платформ .

Технология также находит применение в неожиданных сферах:

🛡️ Будущее и важность Open Source 45:50

Завершая беседу, Уильям Фалкон призвал мировое сообщество поддерживать открытый исходный код в сфере ИИ. По его мнению, отрасль находится в критической точке. Фалкон считает, что ситуация, при которой одна или две корпорации (вроде OpenAI) будут владеть ключевой интеллектуальной собственностью на модели, была бы катастрофой — это напомнило бы эпоху, когда IBM была единственным поставщиком компьютеров .

Он ставит в пример компанию Meta и свою бывшую лабораторию FAIR, которые, по его оценке, делают для продвижения Open Source больше, чем кто-либо другой . Фалкон убежден, что открытость ИИ — это «чистая выгода для мира», и надеется, что к концу года Lightning Studio станет мировым стандартом разработки, избавив инженеров от рутины и позволив им сфокусироваться на науке и решении бизнес-задач.

💬 Цитаты

«Разработка ИИ сегодня напоминает эпоху MS-DOS или BlackBerry до появления iPhone — все супер-гробмоздко.»

Уильям Фалкон 08:23

«Мы просто позволяем вам кодить в облаке, и код остается в облаке. Мы избавились от старой парадигмы.»

Уильям Фалкон 18:09

«Последнее, чего вы хотите — чтобы одна или две компании владели ключевой интеллектуальной собственностью на модели ИИ.»

Уильям Фалкон 46:27
👥 Спикеры
🔗 Упомянутые сайты и проекты
📖 Термины
PyTorch
Библиотека для машинного обучения с открытым исходным кодом, разработанная лабораторией FAIR компании Meta.
RAG
Retrieval-Augmented Generation — метод оптимизации вывода LLM путем использования внешних баз знаний без переобучения модели.
Cloud-native
Подход в разработке ПО, при котором приложения изначально создаются для работы и масштабирования в облачной среде.
Fine-tuning
Процесс дообучения предварительно натренированной модели на специфическом наборе данных для конкретной задачи.
📊 Цифры
🗓 Хронология
  1. 2013 Уильям Фалкон поступает в Колумбийский университет после службы в ВМС США.
  2. 2019 Создание PyTorch Lightning во время работы в Facebook AI Research.
  3. Конец 2019 Фалкон основывает компанию Lightning AI (изначально Grid.ai).
  4. Декабрь 2023 Публичный запуск платформы Lightning Studio.
⚖️ Другая сторона
Искусственный интеллект William Falcon Lightning AI PyTorch Lightning Lightning Studio Open Source AI