Микеле Кастаста: «Мы создаем ИИ-разработчика, а не сверхразум»

The Cognitive Revolution 1,1 тыс. 1 ч 39 мин 3 мин 08.08.2023
Главное

Микеле Кастаста о будущем программирования и «Искусственном разработчике» 💡 5:01

Будущее разработки программного обеспечения лежит не в бесконечном написании кода, а в симбиозе человека и ИИ. Вице-президент по ИИ в Replit Микеле Кастаста в интервью подкасту The Cognitive Revolution представил амбициозную концепцию ADI (Artificial Developer Intelligence — «Искусственный интеллект разработчика»), призванную кардинально трансформировать творческий процесс создания софта. По мнению Кастасты, эта технология позволит привлечь к программированию следующий «миллиард разработчиков» — людей без профильного технического образования, для которых написание кода станет интуитивно понятным процессом.

🤖 Что такое ADI и почему это не AGI? 5:01

Разграничение между ADI и AGI (искусственным общим интеллектом) является принципиальным для стратегии Replit. Кастаста утверждает, что компания не ставит целью создание универсального сверхразума, горизонт которого остается непредсказуемым. Вместо этого они фокусируются на конкретных, достижимых целях:

По мнению Кастасты, с текущим темпом развития технологий, мы сможем увидеть весьма мощные результаты внедрения ADI в ближайшие пару лет.

🚀 Продуктивность и «тысячекратный» разработчик 35:30

Отрасль уже достигла порога 2x-кратного повышения продуктивности благодаря инструментам автодополнения кода. В ближайшем будущем ожидается десятикратный (10x) прирост.

Гость проводит различие между двумя типами пользователей:

  1. Аматоры: Люди, автоматизирующие рутинные задачи в жизни и быту. Для них программирование станет базовым полезным навыком.
  2. Эксперты (уровня Джона Кармака): Для таких профессионалов ADI станет инструментом оркестровки, где ИИ берет на себя управление целыми «отрядами» агентов, позволяя одному человеку эффективно управлять задачами, на которые раньше требовались огромные команды.

🛠 Моты и экосистема инструментов 55:48

Отвечая на вопрос о конкурентных преимуществах, Кастаста подчеркивает уникальность данных, которыми обладает Replit. В отличие от VS Code, который является локальным приложением, облачная природа Replit позволяет компании логировать каждое действие пользователя, вплоть до каждого нажатия клавиши. Эти данные, по мнению вице-президента, являются бесценным ресурсом для обучения будущих моделей.

В отношении широко обсуждаемого фреймворка LangChain, Кастаста призывает не делать поспешных выводов:

🛡 Ответственность и будущее обучения 27:16

Кастаста признает, что создание «безопасного» ИИ — сложнейшая задача, у которой пока нет готового решения или «серебряной пули». Replit делает упор на прозрачность: открытие исходного кода собственных моделей и использование открытых датасетов для обучения.

Комментируя недавние изменения в поведении моделей (отказ от генерации вредоносного кода), гость объясняет это эволюцией методов RLHF (обучение с подкреплением на основе отзывов людей) и изменением систем промптов. Он призывает сообщество не поддаваться паническим «Doomsday»-сценариям, которые, по его словам, лишь вредят конструктивной дискуссии о реальных методах минимизации рисков.

💬 Цитаты

«Творческий процесс создания софта по-прежнему требует человеческих усилий, но расширение возможностей позволит нам открыть невероятно широкий пул идей.»

Микеле Кастаста 0:12

«Мы не пытаемся предсказать, когда наступит AGI. Нас интересует, что мы можем дать разработчикам в ближайшие несколько лет.»

Микеле Кастаста 5:57
👥 Спикеры
🔗 Упомянутые сайты и проекты
📖 Термины
ADI
Artificial Developer Intelligence — концепция ИИ-помощника, способного не просто генерировать код, но и планировать, оркестровать инструменты и исправлять свои ошибки.
RLHF
Метод дообучения моделей, при котором система корректирует свое поведение на основе оценок и отзывов людей.
Zero-shot
Способность модели выполнять задачу без предварительного обучения на примерах из этой конкретной области.
📊 Цифры
⚖️ Другая сторона
Искусственный интеллект Michele Catasta Replit Artificial Developer Intelligence ADI LLM