Переход от простых чат-ботов к автономным агентам знаменует собой фундаментальный сдвиг в том, как технологии взаимодействуют с экономикой и рынком труда. В рамках подкаста a16z Аарон Леви (Box) и Стивен Синофски (a16z) обсуждают, почему современные прогнозы об общем искусственном интеллекте (AGI) часто ошибочны, как исторические параллели с развитием ПК и интернета помогают понять текущий момент и почему будущее ИИ — это не один всезнающий разум, а миллионы узкоспециализированных «интернов».
🤖 Что такое ИИ-агент: от чат-бота к автономному исполнителю 0:00
По мнению Стивена Синофски, наиболее точное техническое определение агента — это аналог символа амперсанда (&) в Linux, который запускает процесс в фоновом режиме . В его понимании, агент — это не просто интерфейс для общения, а сущность, выполняющая работу без участия пользователя. Он иронично сравнивает нынешнее состояние технологии с «худшим в мире ассистентом» или плохим стажёром, который постоянно забывает пароли, но постепенно учится .
Аарон Леви дополняет это определение, указывая на эволюцию парадигмы. Если два года назад, после выхода ChatGPT, индустрия была сосредоточена на форме общения («вопрос-ответ»), то конечным состоянием ИИ станут полностью автономные системы . Главной метрикой агентности, по словам Леви, является объем создаваемой ценности на единицу вмешательства человека: чем меньше вы взаимодействуете с системой для получения результата, тем более «агентной» она является .
Собеседники выделяют ключевые технические признаки агента:
- Длительность выполнения (Long-running): Способность работать часами или днями над одной задачей без прерывания сессии .
- Рекурсивный вывод: Способность системы подавать собственный результат на вход для следующей итерации, что позволяет вести «цепочку рассуждений» .
- Саморефлексия: Технически сложная задача, при которой агент должен оценивать, не отклонился ли он от курса, чтобы не тратить вычислительные ресурсы впустую .
🧠 Миф об AGI и реальность экспоненциального роста 4:55
Аарон Леви отмечает, что за последние полгода консенсус вокруг AGI (общего искусственного интеллекта) изменился. Если раньше его представляли как монолитную суперсистему, решающую любые задачи, то сегодня архитектурно это выглядит маловероятным . Скорее всего, решение сложных задач будет происходить через оркестрацию множества глубоко специализированных агентов .
Стивен Синофски призывает отказаться от антропоморфизации ИИ, так как это порождает ложные страхи об уничтожении рабочих мест и «восстании роботов» . Он утверждает, что термин AGI делает «бесконечную работу» для оправдания любых человеческих опасений и надежд, не имея под собой четких экономических метрик .
Основные тезисы участников о прогнозировании:
- «Правило 10 лет»: По мнению Синофски, любые фундаментальные изменения занимают десятилетие, но предсказать конкретные события на такой срок невозможно из-за экспоненциального характера развития .
- Провал интуиции: В 1999 году нейросети считались бесперспективными, а Джеффри Хинтон не мог получить финансирование. Те, кто обучал студентов нейросетям, считались «тратящими время впустую» .
- Математическая неопределенность: Леви указывает на теорию нелинейного управления. Вопрос о том, приведет ли «рекурсивное самосовершенствование» ИИ к взрывному росту или к плато (асимптоте), остается открытым с точки зрения науки .
🏢 ИИ в корпоративной среде: от галлюцинаций к продуктивности 13:15
За последние два года отношение бизнеса к «галлюцинациям» ИИ изменилось. Аарон Леви выделяет два вектора улучшений: технический (улучшение моделей, внедрение RAG) и культурный . Сотрудники начинают понимать, что ИИ — это вероятностная, а не детерминированная система. Это позволяет использовать ИИ в критических бизнес-процессах при условии, что человек берет на себя роль верификатора .
Интересное наблюдение экспертов касается распределения продуктивности:
- Выигрыш экспертов: ИИ максимально ускоряет тех, кто уже является профессионалом. Опытный инженер может позволить себе «играть в игровой автомат» с выдачей кода ИИ, потому что он мгновенно видит ошибки и получает 10-кратный прирост скорости .
- Риски для новичков: Непрофессионал может не заметить ошибку и внедрить неверное решение, что ограничивает полезность ИИ для обучения с нуля в сложных областях .
Стивен Синофски сравнивает использование ИИ с работой плотника: дать человеку мощную пилу (инструмент) — отличная идея, если он умеет строить, и опасная, если он не знает, как держать инструмент в руках .
📜 Исторические параллели: как инструменты меняют работу 22:09
Стивен Синофски приводит серию примеров из истории вычислительной техники, чтобы показать, как работа адаптируется под новые инструменты:
- Автоматизация против переосмысления: В 1960-х бухгалтерия на ЭВМ пыталась копировать ручные процессы. Понадобилось время, чтобы понять: компьютеру не нужно имитировать человека в зеленых козырьках, у него своя логика обработки данных .
- Эпоха принтеров: Первые текстовые процессоры тратили колоссальные ресурсы на поддержку 1700 моделей принтеров и печать предзаполненных бланков отчетов о расходах . Затем появились системы вроде Concur, которые просто сканируют чеки, полностью инвертируя процесс .
- Смерть вордовских документов: Раньше повестку встречи печатали в Word. С появлением электронной почты этот сценарий исчез — повестка стала простым текстом без форматирования .
Аарон Леви задается вопросом: когда мы перестанем втискивать ИИ в старые рабочие процессы (например, заставлять его писать традиционные маркетинговые документы) и начнем менять саму структуру работы под возможности агентов? .
🏗️ Микросервисная архитектура агентов и «Context Rot» 35:48
Обсуждая будущее разработки, Леви описывает новую парадигму: вместо одного мощного агента инженеры создают десятки узкоспециализированных «под-агентов» . Это связано с проблемой «гниения контекста» (context rot): чем больше информации в контекстном окне, тем больше модель путается и дает менее точные ответы .
Пример новой структуры организации:
- Агент на микросервис: Каждому микросервису в коде соответствует свой агент .
- README для ИИ: Вместо сложного промптинга инженеры пишут инструкции (README), которые читает агент, чтобы понять свою зону ответственности .
- Инженер как менеджер: Человек превращается в управляющего штатом агентов, проверяющего их работу через GitHub Pull Requests .
Этот подход «разделяй и властвуй» противоречит идее универсального AGI, но оказывается гораздо эффективнее в реальной работе .
📈 Экономика специализации и новые рынки 45:54
Вопреки опасениям, что ИИ уничтожит специализацию, Синофски уверен в обратном: специализация будет только расти . Он приводит аналогию со строительством дома: раньше его строил один плотник Клем, сегодня это делает команда из 20 субподрядчиков, каждый из которых использует свои высокотехнологичные инструменты .
Участники прогнозируют появление тысяч новых вертикальных компаний:
- Агент как сервис: Подобно тому как Twilio стала компанией на базе одного API, появятся компании-агенты, выполняющие одну узкую функцию (например, только подписание документов или только расчет налогов для определенной ниши) .
- Вертикальный ИИ: Рынок будет принадлежать прикладным компаниям, имеющим доступ к специфическим данным (здравоохранение, финансы, юриспруденция), а не только провайдерам базовых моделей .
- Проблема «Шерлокинга»: Синофски предупреждает, что если создатели больших моделей (OpenAI, Google) начнут поглощать функции сторонних разработчиков («шерлокинг»), они рискуют убить собственную экосистему и остаться без поддержки девелоперов .
