# Джордж Сивулка: «RAG не работает, будущее за Scaling at Inference»

Источник: https://www.youtube.com/watch?v=KmwdPwwXwWw
Канал: 20VC (Harry Stebbings)
Опубликовано: 22.01.2025

---

В новом выпуске подкаста 20VC Джордж Сивулка (George Sivulka), сооснователь и CEO компании Hebbia, рассказывает о пути от жизни в шкафу во время учебы в Стэнфорде до создания одного из самых перспективных ИИ-стартапов современности. В центре дискуссии — радикальный переход от традиционного поиска (RAG) к «масштабированию вычислений при выводе» (scaling at inference) и амбициозный прогноз о создании дополнительной стоимости в 100 триллионов долларов благодаря ИИ-агентам.

## 🧬 Психология основателя: три архетипа великих лидеров
[[JUMP:0:00]]

Джордж Сивулка выдвигает провокационную теорию о том, что выдающихся основателей компаний можно разделить на три категории в зависимости от их жизненного бэкграунда [0:00]. По его наблюдениям, чаще всего это люди:

*   с тяжелым или «неправильным» детством (как Илон Маск);
*   представители ЛГБТ-сообщества (как Питер Тиль или Сэм Альтман);
*   усыновленные дети (как Джефф Безос или Стив Джобс) [0:14].

Сивулка полагает, что подобные ранние жизненные опыты формируют глубокую внутреннюю страсть и желание доказать свою ценность миру [0:11]. Гарри Стеббингс соглашается с этим тезисом, признаваясь, что сам долгое время чувствовал себя «разочарованием» для семьи по сравнению с более талантливым братом [4:37].

Сам Джордж описывает себя как «математического ребенка» из семьи спортсменов на Статен-Айленде [1:35]. Его отец — иммигрант из Словакии, выросший за «железным занавесом», а мать — успешный сейлз-менеджер. Сивулка утверждает, что всегда чувствовал несоответствие между тем, кем он был (замкнутым гиком), и тем, кем его хотели видеть родители [2:40]. Это сформировало у него тот самый «chip on the shoulder» (затаенную обиду или амбиции), ставший топливом для его карьеры [1:22].

## 🚀 Путь в NASA и Стэнфорд: упорство на грани безумия
[[JUMP:5:28]]

Одним из ключевых моментов формирования характера Джорджа стала история его попадания на стажировку в NASA в 15 лет. После пяти отказов он приехал к офису Института космических исследований имени Годдарда в Нью-Йорке в костюме и с распечатанным резюме [6:20]. Охранник выставил его на мороз, и мальчик в слезах позвонил матери.

По словам Сивулки, мать дала ему жесткий совет: «Никуда не уходи, садись и обзванивай каждый номер в этом здании, какой только найдешь в Google» [7:13]. В итоге кто-то поднял трубку, Джордж прорвался на интервью, которое сначала провалил из-за незнания физики, но на следующий день вернулся, вызубрив названия всех научных работ профессора на стенах [7:37]. Это упорство позволило ему опубликовать международное исследование и позже поступить в Стэнфорд [8:04].

Сивулка уверен, что основатель может «проломить» любую стену грубой силой. По его мнению, даже ларек с лимонадом можно довести до выручки в $100 млн, если обладать достаточной одержимостью [9:09].

## 🛋️ Рождение Hebbia: из шкафа к миллионам
[[JUMP:10:03]]

Джордж стал одним из самых молодых студентов PhD в истории своего факультета в Стэнфорде, занимаясь мета-обучением (машины, которые учатся учиться) [10:16]. Однако выход GPT-3 в июне 2020 года заставил его пересмотреть планы. Он осознал, что OpenAI уже создали технологию, и его задача — создать на её основе «самый важный продукт» [10:42].

Первые шаги Hebbia сопровождались экстремальным аскетизмом:

*   Джордж ушел в академический отпуск и арендовал гардеробную (кладовку) в доме друзей в Восточном Пало-Альто за $500–600 в месяц [13:07].
*   В кладовке помещались только матрас из общежития и складной стол [13:21].
*   Он работал по 16–18 часов в сутки, питаясь едой из микроволновки [13:34].

Интересно, что первые два раунда финансирования он привлек, сидя в этой самой кладовке. Во время звонка с партнерами фонда Index Ventures на фоне Сивулки висела его одежда [15:45]. Инвесторов это не смутило, а скорее убедило в его фанатичной преданности делу [15:59].

Первые инвестиции Hebbia:

*   **Pre-seed:** $1 млн от Питера Тиля и фонда Floodgate [18:15].
*   **Seed:** $2–2,5 млн от Майка Волпи (Index Ventures) [20:14].
*   **Series A:** $30 млн под руководством Index Ventures [23:10].

## 🧩 Почему RAG не работает и что такое Scaling at Inference
[[JUMP:20:28]]

Hebbia была одной из первых компаний, внедривших технологию RAG (Retrieval-Augmented Generation — генерация с дополнением данных из поиска) в 2020 году [20:28]. Однако сегодня Сивулка утверждает: «RAG не работает» [21:23].

По мнению гостя, главная проблема RAG заключается в следующем:

1.  Пользователи редко спрашивают факты, которые явно прописаны в документах (например, «что сказал CEO»).
2.  90% запросов в корпоративной среде требуют анализа *над* данными (например, «какова концентрация клиентов?» или «есть ли несоответствия в этих контрактах?») [23:50].
3.  Системы RAG часто выдают поверхностные ответы, неспособные заменить аналитическую работу человека [24:39].

Вместо этого Hebbia разработала продукт **Matrix**, который использует концепцию **Scaling at Inference** (масштабирование при выводе). Вместо того чтобы обучать всё более крупные модели (scaling at training), Hebbia запускает сотни или тысячи параллельных вызовов моделей для обработки одного запроса [36:37].

Сивулка сравнивает это с автомобилем Tesla: вместо одного огромного двигателя вы используете множество маленьких эффективных электромоторов, которые вместе дают огромный крутящий момент [42:03]. По его утверждению, это позволяет достичь беспрецедентной точности в анализе документов на 800+ страниц, находя скрытые риски и условия дефолта [25:32].

## 💰 Экономика ИИ: прогноз на $100 триллионов
[[JUMP:28:19]]

Джордж Сивулка делает смелое предсказание: в ближайшие десятилетия ИИ создаст дополнительную стоимость в размере $100 триллионов в мировой экономике [29:12]. Он считает, что более 50% мирового ВВП будет создаваться «агентскими приложениями» [30:04].

Ключевые тезисы Сивулки об индустрии:

*   **Финансы как авангард:** Несмотря на репутацию медлительной отрасли, финансовый сектор внедряет технологии мгновенно, если они дают «альфу» (преимущество на рынке). Переход на Excel в 1985 году занял всего 18 месяцев [30:58].
*   **Замена сотрудников:** Джордж не верит в массовые увольнения из-за ИИ в ближайшее время. Он считает, что ИИ сделает людей более эффективными, увеличивая объем активов под управлением (AUM) компаний [33:47].
*   **Крах RPA:** Сивулка скептичен по отношению к традиционной автоматизации процессов (RPA). По его мнению, RPA — это низкоуровневые когнитивные задачи, в то время как будущее за ИИ-агентами, принимающими сложные решения в условиях неопределенности [25:58].

Гарри Стеббингс выражает опасение, что из-за автоматизации исчезнет «путь обучения» для младших сотрудников, которые раньше осваивали бизнес, делая черновую работу вручную [31:49]. Сивулка возражает: ИИ-инструменты позволят младшим аналитикам оперировать данными сотен сделок, превращая их в лучших инвесторов быстрее, чем раньше [33:07].

## 🔌 Рынок моделей и чипов: xAI против всех
[[JUMP:43:11]]

Сивулка считает, что слой базовых моделей (LLM) станет биржевым товаром (commoditized), и ценность будет накапливаться либо на уровне «железа», либо на уровне приложений (агентов) [43:11].

Его оценки ключевых игроков:

*   **xAI:** Самая недооцененная компания. Сивулка полагает, что Илон Маск может обойти OpenAI и Anthropic благодаря операционной эффективности и геополитическому влиянию [45:49].
*   **Nvidia:** Хотя компания удерживает монополию на обучение, переход рынка к масштабированию при выводе (inference) может ослабить их хватку. Это откроет двери для чипов AMD и кастомных решений (ASIC) от Google или Amazon [53:46].
*   **OpenAI и Anthropic:** Сивулка считает их оценку оправданной, но отмечает, что переключение между моделями сегодня — это вопрос замены API-ключа, в то время как переключение облачного провайдера (AWS/Azure) стоит миллионы, что делает облака более устойчивым бизнесом [45:24].

## 🎨 Личная жизнь: религия, молитвы и 10-футовые полотна
[[JUMP:59:22]]

В конце беседы Джордж раскрывает неожиданные стороны своей личности. Несмотря на работу в глубоко атеистичной индустрии, он является верующим человеком.

*   Он молится по одному часу каждое утро [1:00:42].
*   По его словам, молитва — это «антивирус для человеческого разума», который помогает справляться с давлением стартапа и находить смыслы выше собственных интересов [1:00:15].
*   Сивулка также занимается масштабной масляной живописью, создавая полотна размером более трех метров [1:06:04]. Для него это способ разгрузить подсознание и найти творческие связи, недоступные при обычном логическом мышлении [1:07:11].

Относительно будущего управления ИИ-агентами, Джордж считает, что главной проблемой станет не технология, а «менеджмент» [50:52]. Нам придется управлять армиями из тысяч агентов, и для этого потребуются новые, человеко-ориентированные интерфейсы, над которыми и работает Hebbia [50:38].