В новом видео на канале Мэтью Бермана обсуждается эксклюзивное выступление Андрея Карпатого (Andre Karpathy) на ежегодном AI-мероприятии венчурного фонда Sequoia. Карпатый, сооснователь OpenAI и бывший глава отдела автопилота в Tesla, объясняет парадоксальную «неравномерность» интеллекта современных нейросетей и описывает фундаментальный сдвиг в программировании, который он называет «Software 3.0».
🚀 Прощание с кодом: Эра «Vibe Coding» и Software 3.0 0:40
Андрей Карпатый признается, что как программист он никогда не чувствовал себя настолько «отстающим», как в последние месяцы . Переломный момент наступил в декабре 2023 года: если раньше ИИ-инструменты выдавали куски кода, которые требовали правки и ручной сборки, то теперь модели начали выдавать готовые, рабочие приложения целиком .
Этот феномен Карпатый и Берман называют «vibe coding» (программирование на уровне ощущений/вайба). Основные тезисы этой концепции:
- Смена парадигмы: Software 1.0 — это написание явных правил (традиционный код); Software 2.0 — обучение весов нейросетей через наборы данных; Software 3.0 — программирование через промпты и контекстное окно .
- LLM как новый компьютер: В этой архитектуре веса модели выполняют роль CPU, а контекстное окно становится оперативной памятью (RAM) .
- Ориентация на результат: Вместо того чтобы диктовать агенту пошаговые инструкции (например, bash-скрипты для установки ПО), разработчик просто описывает желаемый исход. Карпатый приводит в пример проект OpenClaw, где вместо сложного кода установки используется простой текстовый файл с описанием навыков, которые агент должен применить .
Берман дополняет это примерами «агентно-ориентированных» продуктов, таких как Here Now и его собственный проект Journey Kits, где вся «инсталляция» сводится к короткой текстовой инструкции для ИИ-помощника .
🧠 Почему ИИ тупеет на простых задачах: Фактор верифицируемости 13:03
Один из главных вопросов современности: как модель может безупречно отрефакторить миллион строк кода, но при этом ошибиться в подсчете букв в слове «strawberry»? . Карпатый объясняет это концепцией верифицируемости.
По мнению Карпатого, ИИ прогрессирует семимильными шагами именно в тех областях, где результат легко проверить автоматически .
- Программирование и математика: Код можно скомпилировать и запустить — если возникла ошибка, модель получает мгновенную обратную связь и исправляется. У математических задач есть однозначный правильный ответ .
- Отсутствие «здравого смысла»: В бытовых задачах (например, совет дойти пешком до автомойки в 50 метрах вместо того, чтобы поехать на машине) верификация затруднена или отсутствует в обучающих данных .
Берман подчеркивает: такая «рваная» компетентность (jagged intelligence) является доказательством того, что мы еще не достигли AGI (общего искусственного интеллекта) . Если бы интеллект был подлинно общим, навыки логики из программирования автоматически переносились бы на повседневные задачи.
🛠 Будущее профессий: «Агентная инженерия» против страха увольнения 21:20
Карпатый вводит разделение между двумя подходами к работе с ИИ:
- Vibe Coding: Поднимает «пол» возможностей для всех. Любой человек может создать софт, не зная синтаксиса, но такие продукты часто не масштабируемы и «грязны» внутри .
- Agentic Engineering (Агентная инженерия): Поднимает «потолок» для профессионалов. Это дисциплина управления «роем» агентов (иногда десятками одновременно), которые автоматизируют деплой, поиск багов и управление PR, сохраняя при этом высокую планку качества .
По мнению Карпатого, инженеры не останутся без работы, но их роль сместится в сторону оркестрации и эстетического контроля . Человек становится надсмотрщиком, который обладает «вкусом» — пониманием того, что именно найдет отклик у других людей.
Однако Карпатый высказывает радикальную мысль: он считает, что в конечном итоге всё можно сделать верифицируемым, включая человеческий вкус и искусство . Берман с этим не согласен, полагая, что в творчестве и «магии» виральных хитов есть компоненты, которые ИИ не сможет оцифровать в ближайшее время .
👻 Сущность ИИ: Животные или призраки? 27:29
Обсуждая свою статью «Animals vs Ghosts», Карпатый утверждает, что ИИ — это не биологический разум с инстинктами, а «вызванные призраки» . У них нет внутренней мотивации, любопытства или страха. Это математические уравнения, предсказывающие следующий токен.
Тем не менее, в индустрии ведутся споры об управлении этими «призраками». Берман напоминает слова сооснователя Google Сергея Брина о том, что модели работают лучше, если им угрожать (например, физической расправой в тексте промпта) . Карпатый, однако, считает это скорее курьезом, чем признаком подлинного сознания.
🌐 Перестройка интернета под нужды агентов 29:51
Участники дискуссии сходятся во мнении, что современный интернет построен «людьми для людей», и это становится барьером для ИИ .
- Проблема интерфейсов: Регистрация по email, ввод данных кредитных карт и копирование API-ключей вручную — это процессы, которые тормозят агентов.
- Новая инфраструктура: Stripe уже запустил проект Stripe Projects CLI, позволяющий агентам самостоятельно оплачивать услуги и развертывать сервисы от имени пользователя .
- Agent-first сервисы: Карпатый выражает надежду на появление инфраструктуры, где «мой агент договорится с твоим агентом», минуя человеческие интерфейсы .
В завершение Карпатый цитирует мысль, которая его поразила: «Вы можете делегировать мышление, но вы не можете делегировать понимание» . Даже в мире Software 3.0 человек остается узким местом системы — именно он должен понимать, что строить и почему это имеет ценность, иначе он потеряет контроль над процессом управления своими ИИ-агентами.
