Если бы Джон фон Нейман магическим образом появился в современном офисе, он оказался бы менее полезен в первый час, чем рядовой сотрудник — просто потому, что у него нет корпоративного контекста. Решить эту проблему призваны ИИ-агенты нового поколения, которые вместо традиционного RAG используют автономную память, Git-структуры и экономичные китайские модели. Эпоха «кентавров», где люди и алгоритмы работают рука об руку, стремительно уходит в прошлое: полная автоматизация уже переписывает экономику стартапов.
{ "title_candidates": [ "Смерть эпохи кентавров: как ИИ-сотрудники заменяют инженеров", "Конец синергии: почему полная автоматизация выгоднее гибридного ИИ", "От памяти агентов до DeepSeek: изнанка новой экономики токенов" ], "title": "Смерть эпохи кентавров: как ИИ-сотрудники заменяют инженеров", "category": "Искусственный интеллект", "keywords": [ "Фло Кривелло", "Lindy", "DeepSeek", "ИИ-агенты", "Нейтан Лабенц" ], "tldr": [ "ИИ-сотрудники в Slack используют автономное управление памятью вместо RAG.", "Производительность компании Lindy выросла в три раза без увеличения штата.", "Переход на модели DeepSeek сократил расходы на инференс в сто раз.", "Концепция гибридных команд-кентавров признана временным этапом." ], "speakers": [ { "name": "Фло Кривелло", "role": "Основатель Lindy" }, { "name": "Нейтан Лабенц", "role": "Ведущий подкаста" } ], "books": [], "films": [], "quotes": [ { "text": "Если бы Джон фон Нейман магическим образом появился у вас в офисе, он был бы менее полезен в первый час, чем ваш обычный коллега, потому что у него нет контекста.", "speaker": "Фло Кривелло", "time": "06:51" }, { "text": "Я очень скептически настроен по отношению к RAG и верю в агентский подход к управлению памятью.", "speaker": "Фло Кривелло", "time": "11:37" }, { "text": "Наши инженеры больше не рецензируют код — они стали «рецензентами рецензентов», проверяя работу машин.", "speaker": "Фло Кривелло", "time": "56:21" }, { "text": "Называть ИИ «сотрудником» — это как называть первые автомобили «безлошадными экипажами». Это попытка описать новую парадигму терминами старой.", "speaker": "Фло Кривелло", "time": "1:10:25" }, { "text": "Эти модели в конечном итоге станут величайшим инструментом иностранной пропаганды на американской земле.", "speaker": "Фло Кривелло", "time": "1:43:28" } ], "mentioned_urls": [ { "url": "aipodcast.ing", "context": "Сервис для автоматизации постобработки подкастов" } ], "glossary": [ { "term": "RAG", "definition": "Retrieval-Augmented Generation, метод генерации с дополненным извлечением данных, от которого автор предлагает отказаться в пользу агентской памяти." }, { "term": "TUNE", "definition": "Специальный формат данных, экономящий до 30% токенов по сравнению с JSON." }, { "term": "GPAM", "definition": "Система автоматической оптимизации промптов для работы с новыми версиями языковых моделей." } ] }
🤖 Lindy Teammate: Эволюция ИИ от личного помощника к полноценному сотруднику 4:02
Запуск Lindy Teammate: ИИ-сотрудник внутри Slack 4:02
Фло Кривелло (Flo Crivello) представляет новый этап развития своего продукта — Lindy Teammate. Если раньше Lindy воспринималась скорее как инструмент для автоматизации рабочих процессов в духе «умного Zapier» , то теперь она трансформировалась в полноценного ИИ-сотрудника, который интегрируется прямо в рабочее пространство команды в Slack . Основная идея заключается в переходе от «однопользовательского» ИИ к «многопользовательскому» (multiplayer) опыту .
Фло сравнивает этот переход с эволюцией офисного ПО: раньше люди пересылали друг другу файлы Word по почте, а затем появились Google Docs, где работа стала совместной и прозрачной . В современной компании Slack — это место, где происходит всё взаимодействие, и если ИИ-агент не присутствует там, он выпадает из рабочего ритма . Вместо того чтобы «выходить из комнаты» для общения с ChatGPT, команда теперь может взаимодействовать с общим агентом, который обладает единым контекстом для всех участников процесса . Нейтан Лабенц (Nathan Labenz) отмечает, что это ставит перед разработчиками новые вызовы, связанные с приватностью и процедурой онбординга .
Контекст против интеллекта: система «гидратации» данных 6:24
В обсуждении эффективности ИИ Фло Кривелло выдвигает тезис о том, что по мере приближения к AGI чистый «интеллект» модели становится менее значимым фактором, чем «контекст» . Он приводит в пример Джона фон Неймана: если бы один из величайших умов в истории внезапно появился в вашем офисе, в первый час он был бы менее полезен, чем рядовой коллега, просто потому что у него нет контекста ваших задач .
Чтобы решить проблему нехватки знаний, в Lindy разработали систему «гидратации» (hydration system) . Она работает следующим образом:
- Агент подключается к корпоративным базам знаний (Notion, Google Docs, Confluence), но основным источником правды становится Slack .
- Lindy сканирует историю переписки и строит сложный граф знаний на основе файловой системы .
- Процесс обучения начинается мгновенно: уже через 10 секунд после подключения агент начинает выдавать первые инсайты о том, что он узнал о компании и пользователе .
Фло подчёркивает, что ИИ справляется с онбордингом лучше людей, так как письменная документация (вики) часто устаревает в момент написания, а агенты способны извлекать актуальные знания из «хаоса» Slack-каналов .
Агентное управление памятью вместо классического RAG 11:37
Одним из самых смелых технических заявлений Фло Кривелло становится его скепсис в отношении стандартного RAG (Retrieval-Augmented Generation) . Вместо классического поиска по базе знаний Lindy использует агентное управление памятью . Это означает наличие отдельного «агента памяти» (memory agent), который обладает собственной «мета-памятью» о том, как именно нужно структурировать информацию об организации .
Этот агент работает непрерывно в фоновом режиме (Фло называет это «napping, not sleeping» — дремота, а не сон), обновляя данные каждые 15 минут . Такой подход позволяет системе:
- Самообучаться фильтрации шума: агент со временем понимает, что каналы с техническими логами бесполезны, и перестаёт тратить на них ресурсы .
- Работать с совещаниями как с приоритетными данными: Фло считает встречи «гражданами первого класса» в системе знаний, так как именно там сосредоточено 90% актуальной информации о проектах и отношениях в команде .
- Обеспечивать согласованность: в отличие от обычных чат-ботов, от ИИ-сотрудника требуется высокий уровень когерентности на протяжении месяцев работы .
Фло отмечает, что управление памятью, объём которой достигает миллионов токенов на пользователя, является сложнейшей инженерной задачей . По его словам, многие решения, которые они внедрили, позже появляются в виде громких научных статей от топовых лабораторий .
Приватность и новый социальный контракт в команде 14:56
Внедрение ИИ, который «слышит всё», поднимает острые вопросы приватности. Нейтан Лабенц делится своим опытом: некоторые данные в его личной базе знаний носят конфиденциальный характер и не должны быть доступны агенту, работающему на всю команду . Фло признаёт, что внутри команды Lindy на этот счёт велись жаркие споры .
В итоге они пришли к модели двух уровней памяти: публичного (командного) и приватного (личного) . Однако вместо жёсткого кода для разграничения прав доступа Lindy использует промпты и текстовые файлы . Пользователь может открыть свой файл memory.md и просто дописать в него инструкции на естественном языке: «Никогда не запоминай информацию из этой папки» или «Используй эти данные только в случае X» .
Фло аргументирует пользу такого подхода:
- Прозрачность: память можно проинспектировать и отредактировать вручную как обычный текстовый файл .
- Гибкость: можно создать «санированную» версию памяти (например,
memory2.md) для демонстраций или специфических задач . - Доверие: инструкции (guardrails) внедряются непосредственно в контекстное окно агента памяти, что обеспечивает их исполнение по мере того, как модели становятся всё лучше в следовании промптам .
Ранее в разговоре Фло упоминал, что в будущем роль человека может свестись к внесению шума в оптимизированные системы, но пока мы находимся в «эпохе Кентавров», где социальный контракт между ИИ и людьми только формируется .
🧠 Масштабирование памяти: от «пещерного человека» до древовидных структур 25:09
Когда ИИ-агент перестает быть просто чат-ботом и превращается в полноценного «сотрудника» (Lindy Teammate), объем обрабатываемой информации возрастает на порядки. Это ставит перед разработчиками две критические проблемы: запредельную стоимость токенов и необходимость мгновенного доступа к гигантским массивам данных. В этой части разговора Фло Кривелло (Flo Crivello) раскрывает внутреннюю кухню оптимизации контекста, объясняя, почему современные ИИ-стартапы вынуждены временно работать с отрицательной маржой и как алгоритмы из классических учебников по CS внезапно стали ключом к созданию «божественной памяти» агентов.
Экономика токенов: кэширование и субсидирование 25:09
Переход от простых задач персонального ассистента к сложным операциям уровня полноценного ИИ-сотрудника резко изменил экономику продукта. Фло Кривелло признает, что на текущем этапе компания фактически субсидирует использование Lindy для своих клиентов . Если раньше для базовых задач вроде планирования встреч хватало легких моделей (таких как DeepSeek Flash), то теперь пользователи доверяют агентам гораздо более тяжелые и контекстно-зависимые процессы . Это вернуло компанию в зону «отрицательной валовой маржи», что Фло считает оправданным риском ради создания продукта следующего поколения .
Ключевым инструментом выживания в таких условиях становится агрессивное кэширование.
- В Lindy уровень кэширования контекста достигает 85% .
- Система крайне чувствительна: любое незначительное изменение в коде может обрушить этот показатель с 85% до 65%, что фактически удваивает расходы на токены .
- Для управления огромными объемами входящих данных (до 100 000 токенов на одно действие) используются «контекстные корзины» (context buckets) — субагенты, которые хранят в себе сырые данные и выдают основному агенту лишь краткое резюме .
Такой подход позволяет основному агенту взаимодействовать с огромными пластами информации через диалог с субагентом, используя Unix-утилиты для манипуляции данными, что существенно экономит бюджет токенов .
Древовидные структуры данных для управления контекстом 30:00
Одной из самых элегантных находок команды Lindy стало применение классических алгоритмов информатики для решения проблемы «бесконечного» контекста. Когда история взаимодействий и объем корпоративных данных (Slack, Notion) превышают лимиты модели, возникает необходимость в рекурсивном сжатии. Однако простая линейная вложенность (эффект «матрешки») делает доступ к старым данным слишком медленным и дорогим, увеличивая вычислительную сложность до O(n) .
Для решения этой задачи Lindy использует самобалансирующиеся деревья :
- AVL-деревья и красно-черные деревья: Фло отмечает, что хотя AVL-деревья обеспечивают минимальную высоту дерева, в архитектуре агентов лучше показывают себя красно-черные деревья, так как они требуют меньше затрат на перебалансировку, которая при работе с LLM обходится очень дорого из-за необходимости регенерации контекстных пакетов .
- Centary-деревья: Команда пошла еще дальше, внедрив структуру, где каждый узел имеет до 100 дочерних узлов .
Благодаря этой структуре агент может получить доступ к любой точке из массива в 2 миллиарда токенов всего за два прыжка (два вызова LLM) . Это создает эффект «идеальной памяти»: ИИ-сотрудник мгновенно находит детали разговора пятилетней давности или специфический документ в недрах корпоративного хранилища . Как отмечает Фло, для команды из 20 человек весь объем истории Slack обычно укладывается в 3–5 миллионов токенов, так что лимит в 2 миллиарда дает колоссальный запас для масштабирования .
Методы сжатия данных: Caveman и формат TUNE 41:00
Помимо структурных изменений, Lindy экспериментирует с лингвистическим сжатием. Один из обсуждаемых методов — Caveman («пещерный человек») . Суть проста: текст переписывается в максимально упрощенном стиле (например, «Нейтан не любить буррито»), что позволяет сократить потребление токенов на 20-30% без потери смысла для модели . Несмотря на высокую эффективность, Фло решил не внедрять этот метод повсеместно, чтобы сохранить «читаемость» и возможность аудита системы корпоративными клиентами .
Вместо этого компания сфокусировалась на замене стандартного формата JSON на TUNE (Token Oriented Object Notation) .
- TUNE на 20-30% эффективнее JSON по количеству токенов .
- Агенты, как ни странно, чувствуют себя более уверенно с TUNE и YAML, чем с перегруженным синтаксическим «шумом» JSON, несмотря на то что последний доминирует в обучающих выборках .
Также важную роль играет «агент памяти» (Librarian), который работает в фоновом режиме: он анализирует логи запросов и, когда система «спит», перестраивает структуру памяти, чтобы сократить количество «хопов» для наиболее часто запрашиваемой информации .
Риски антропоморфизма в мультиагентных системах 46:25
В завершение главы Фло Кривелло предостерегает от излишнего антропоморфизма при проектировании систем. По его мнению, разработчики часто совершают ошибку, копируя структуру человеческих организаций . Создание отдельных агентов для ролей «дизайнера», «инженера» или «менеджера проектов» зачастую является избыточным .
Человечество пришло к разделению труда из-за биологических ограничений: у нас всего 24 часа в сутках и ограниченный объем рабочей памяти . У ИИ этих ограничений нет. Фло выступает за консолидацию функций в рамках одного мощного агента везде, где это возможно .
Однако параллельная работа нескольких агентов все же неизбежна. Для синхронизации их действий Lindy использует файловую систему, построенную на базе Git . Это позволяет эффективно решать конфликты при одновременном редактировании данных (merge conflicts) и дает «историю изменений» бесплатно . В частности, используется решение от компании Mesa, предоставляющее агентно-ориентированную файловую систему с поддержкой Git-репозиториев .
🛠️ Инфраструктура и жизнь внутри ИИ-лаборатории: когда агенты строят агентов 50:20
Стек для разработки агентов: покупай, а не строй (кроме исключений) 50:20
Фло Кривелло (Flo Crivello) признается, что его взгляды на разработку инфраструктуры кардинально изменились: если раньше в индустрии доминировал подход «напиши сам», то сегодня он стал ярым сторонником покупки готовых решений . Разработка файловых систем или песочниц для исполнения кода таит в себе глубину и количество нюансов, которые сложно оценить на старте . Для работы Lindy команда использует E2B в качестве песочницы для исполнения кода и рекомендует использовать Mesa для управления файловыми системами, подчеркивая важность их разделения при масштабировании .
Единственным крупным исключением из правила «покупай, а не строй» в Lindy стали платформы для оценки (evals) и мониторинга (observability) . Поскольку компания была основана еще в 2022 году, когда индустрия агентов находилась в зачаточном состоянии, готового инструментария уровня LangSmith или Braintrust просто не существовало . В итоге Lindy создала собственную платформу для эвалов, над которой сегодня на полную ставку работает выделенный инженер . По словам Кривелло, их внутреннее решение достигло функционального паритета с рыночными аналогами и даже превосходит их в специфических аспектах работы агентного скаффолдинга .
Трансформация Lindy: жизнь внутри ИИ-компании 53:20
Внутри Lindy концепция «dogfooding» (использование собственного продукта) доведена до абсолюта. Фло Кривелло отмечает, что благодаря агентам компания движется «со скоростью мысли»: идея, возникшая утром, может быть реализована и выкачена в продакшен уже через два часа . Внутренний Slack компании на 50% состоит из сообщений, которыми обмениваются люди и ИИ-агенты . Это привело к взрывному росту продуктивности: за последние три месяца количество пул-реквестов (PR) и объем кода в них утроились .
Процессы в компании изменились качественно:
- Рецензирование кода: Инженеры больше не проверяют PR вручную. Этим занимаются агенты. Люди теперь выступают в роли «рецензентов для рецензентов» .
- Оптимизация CI/CD: Когда затраты на инфраструктуру и время сборки (CI) стали критическими, проблему решил агент . Lindy Teammate получил доступ к GCP и GitHub, проанализировал пайплайны и самостоятельно оптимизировал их, ежедневно присылая отчеты со сгенерированными графиками снижения издержек .
- Экономика: Штат компании остается стабильным (headcount flat), в то время как производительность выросла в три раза . Кривелло прогнозирует, что через 3-6 месяцев расходы Lindy на инференс (запуск моделей) внутри компании превысят расходы на выплату зарплат сотрудникам .
Проблема «автомойки»: спорадичность интеллекта ИИ 1:00:00
Несмотря на впечатляющие успехи, Фло Кривелло предостерегает от иллюзии полной автономности ИИ. Он называет современный интеллект «пятнистым» или «спорадическим» (spiky) . Модели демонстрируют способности уровня ASI (искусственного сверхинтеллекта) в написании 50 000 строк кода, но в то же время могут совершать абсурдно глупые ошибки в простейших логических задачах .
Фло приводит ироничный пример: агент может спроектировать сложнейшую систему, но внезапно предложить «отвести машину на автомойку», когда это не имеет никакого смысла в контексте задачи . Эта спорадичность создает главную проблему управления — ИИ не знает, когда он ошибается, и не понимает, в какой момент ему нужно позвать человека . Современная работа в ИИ-компании напоминает ношение «костюма Железного человека»: нужно постоянно калибровать слайдер между автономией машины и вмешательством человека, чтобы не тратить внимание людей на рутину, но и не позволить ИИ совершить катастрофическую глупость .
Конец эпохи Кентавра: человек как источник шума 1:03:40
Нейтан Лабенц (Nathan Labenz) и Фло Кривелло обсуждают популярный миф о «кентаврах» — гипотезу, что связка «человек + ИИ» всегда будет эффективнее, чем чистый ИИ . Кривелло считает это опасным заблуждением, которое история уже опровергла на примере шахмат и других игр . На определенном этапе вмешательство человека перестает добавлять ценность и начинает вносить «рандомный шум», снижая эффективность системы .
Мы находимся в переходной фазе, которую Фло сравнивает с эпохой «безлошадных экипажей» . Называть ИИ-систему «сотрудником» (AI employee) — это такой же анахронизм, как первые телепередачи, которые были просто заснятыми на камеру радиоспектаклями .
- Скевоморфизм: Мы пытаемся втиснуть ИИ в привычные человеческие роли, хотя ИИ-организация будущего должна выглядеть иначе .
- Мультиплеер: Важна не просто модель, а «агент в комнате» . В Lindy предпочитают общаться в Slack, а не на созвонах, именно потому, что там агент обладает всей полнотой контекста и истории компании .
- Теория «M»: Ссылаясь на книгу Робина Хансона «Age of Em», Кривелло рассуждает о том, что native-ИИ организации будут использовать такие приемы, как «расщепление» (splitting) агентов для масштабирования, что невозможно для людей .
В конечном счете, человек станет не соавтором каждой строчки, а «членом совета директоров», который лишь задает высокоуровневую стратегию и наблюдает за тем, как машина управляет машиной .
🤖 Экономика интеллекта: DeepSeek, валидаторы и автоматизация промптов 1:15:29
Вопрос выбора базовой модели для ИИ-агентов перестал быть только вопросом «кто умнее». Сегодня это уравнение, в котором стоимость токена и скорость инференса играют не меньшую роль, чем баллы в бенчмарках. Фло Кривелло (Flo Crivello) признает, что современный стек Lindy во многом опирается на решения, которые еще год назад казались экзотикой .
Переход на DeepSeek: когда качество встречается с демпингом 1:19:26
Одним из самых заметных изменений в стратегии Lindy стал массовый переход на китайские модели, в частности на DeepSeek Flash. Фло Кривелло называет эту модель «практически бесплатной» . Несмотря на то, что топовые западные модели вроде Claude 3.5 Sonnet или GPT-4o по-прежнему показывают выдающиеся результаты, разрыв в цене становится критическим фактором для масштабирования агентных систем .
По оценке Фло, DeepSeek Flash сопоставим по уровню возможностей с моделями уровня GPT-4o, но при этом обходится в 100 раз дешевле . Даже с учетом того, что сторонние провайдеры инференса могут быть менее эффективны в кэшировании (которого ранее в разговоре они касались как ключевого метода экономии), итоговая выгода остается колоссальной — использование DeepSeek может быть в 50 раз выгоднее западных аналогов .
Для компании, эксплуатирующей тысячи агентов, это разница между счетом в $1 000 и $50 000 в месяц . Тем не менее, Фло отмечает «неровность» (spikiness) китайских моделей: иногда им требуется больше итераций, чтобы прийти к верному решению, что делает их чуть медленнее в реальном времени, но всё же экономически оправданными . Сейчас DeepSeek является основной «рабочей лошадкой» (main driver) для большинства задач внутри Lindy по умолчанию .
Совет судей: модульные валидаторы как щит от галлюцинаций 1:22:30
Чтобы использовать дешевые модели без потери качества, Lindy внедрила многоуровневую систему валидации. Фло считает это «самым низковисящим фруктом» для любого разработчика ИИ-агентов: простое добавление этапа «Ты уверен?» перед выполнением действия уже значительно повышает надежность системы .
В Lindy архитектура валидаторов построена следующим образом:
- AI-судьи: Перед тем как агент совершит действие, оно перехватывается валидатором. Инструкция (промпт) для такого «судьи» может достигать 10 000 токенов и включать в себя подробнейшие чек-листы .
- Детерминированные проверки: Некоторые вещи слишком важны, чтобы доверять их вероятностной природе LLM. Например, модели часто ошибаются в датах ровно на один день . Для решения этой проблемы в Lindy заставляют агента всегда указывать день недели (например, «вторник, 28 июля»), а затем детерминированный валидатор на базе регулярных выражений (regex) проверяет соответствие даты и дня недели .
- Федеративная структура: Система использует подход
promise.allс таймаутом . Несколько валидаторов анализируют действие одновременно, и если кто-то из них находит ошибку или не успевает ответить, действие может быть заблокировано или отправлено на повторную итерацию .
Фло подчеркивает важность использования одной и той же модели для агента и его валидатора ради сохранения кэша . Чтобы валидатор не «сломал» контекст, в его инструментарий включают те же функции, что и у основного агента, но с запретом на их вызов .
GPAM: автоматическая перенастройка под новые модели 1:31:19
Каждое обновление базовой модели (например, выход новой версии Claude или GPT) часто требует переписывания системных инструкций, так как модели по-разному интерпретируют одни и те же промпты . Чтобы не делать это вручную, команда Lindy разработала внутренний инструмент GPAM (Generative Pareto Frontier) — цикл самооптимизации промптов .
Процесс выглядит так:
- У Lindy есть база из более чем 1 000 тестовых сценариев (evals) .
- Специальный агент-оптимизатор вносит правки в системный промпт, пытаясь максимизировать общую оценку по тестам .
- При выходе каждой значимой модели Lindy выделяет бюджет около $10 000 на автоматический прогон этого цикла, чтобы «подогнать» инструкции под нюансы новой нейросети .
Фло отмечает, что промпты меняются довольно сильно от версии к версии . Этот подход позволяет Lindy оставаться гибкими и быстро переключаться между провайдерами, не тратя недели на ручной промпт-инжиниринг.
Fine-tuning: почему это «последний рубеж» инженера 1:33:04
Несмотря на популярность дообучения моделей (fine-tuning), Фло Кривелло называет его «крайней мерой», к которой стоит прибегать только тогда, когда все методы промпт-инжиниринга и автоматической оптимизации исчерпаны . Основная проблема здесь не в стоимости обучения, а в сложности поддержки инфраструктуры .
Фло выделяет несколько причин избегать fine-tuning на ранних этапах:
- Сложность данных: Сбор, очистка и анонимизация датасетов — это огромный труд .
- Гибкость: Как только вы обучили модель, вы «привязаны» к ней. В мире, где новые лидеры бенчмарков появляются каждые три месяца, это может стать обузой .
- Простота системы: Фло придерживается эвристики экстремальной простоты — лучше иметь одну мощную модель с хорошим контекстом, чем зоопарк узкоспециализированных дообученных моделей .
Впрочем, в будущем Фло видит потенциал в использовании LoRA (Low-Rank Adaptation) для каждого отдельного пользователя . Это позволило бы системе не просто «запоминать» факты в контекстном окне, а буквально «вплетать» предпочтения и знания пользователя в веса модели . Однако пока это остается инженерным вызовом из-за необходимости быстро менять адаптеры при каждом запросе (inference-time swapping) . В конечном итоге Фло верит, что индустрия придет к тому, что обучение и инференс станут единым процессом, но пока мы живем в эпоху разделения этих сущностей .
🌏 Геополитика ИИ: почему Фло Кривелло призывает к запрету китайских моделей 1:40:34
Дискуссия о будущем ИИ неизбежно выходит за рамки технических характеристик и упирается в вопросы национальной безопасности. Несмотря на то что Lindy активно использует DeepSeek (о чем упоминалось ранее при обсуждении смены моделей), Фло Кривелло занимает на удивление жесткую позицию: он выступает за полный запрет китайских передовых моделей на территории США . По его мнению, ситуация с китайским ИИ — это не вопрос открытого кода или свободы информации, а проблема выживания западной технологической экосистемы.
Аргументы против китайских моделей: дистилляция и нечестная конкуренция 1:42:05
Основная претензия Кривелло к китайским разработчикам заключается в «нечестной дистилляции» знаний . В то время как американские компании, такие как OpenAI или Anthropic, тратят миллиарды долларов на сбор и обработку первичных данных , китайские игроки зачастую обучают свои модели на ответах этих самых западных систем.
Фло приводит следующие аргументы в пользу того, почему это разрушительно:
- Экономический дисбаланс: Обучение на человеческих данных стоит миллиарды, тогда как дистилляция через API конкурента обходится в сотни миллионов или даже меньше .
- Нарушение правил игры: Это прямое нарушение условий обслуживания (ToS), которое в случае с китайскими компаниями практически невозможно пресечь через судебную систему .
- Убийство инноваций: Кривелло сравнивает это с фармацевтикой: если позволить всем бесплатно копировать формулы лекарств сразу после их выхода, инвестиции в новые разработки прекратятся .
Фло признает, что как глава компании он находится в «ловушке координации»: он вынужден использовать дешевые китайские модели, такие как DeepSeek, потому что это делают его конкуренты . Однако как гражданин он предпочел бы, чтобы эти модели были запрещены на корню, чтобы обеспечить равные условия для всех игроков рынка .
ИИ как инструмент пропаганды и контроля 1:42:33
Помимо экономических аспектов, Кривелло указывает на экзистенциальную угрозу суверенитету. Он называет китайские модели «величайшим инструментом иностранной пропаганды в истории» . В качестве примера он приводит ситуацию, когда при запросе о событиях на площади Тяньаньмэнь модель выдает стандартную заглушку: «Я не могу об этом говорить» .
Проблема заключается в том, что:
- Скрытая цензура: Модели, контролируемые КПК, транслируют политические нарративы Пекина, которые могут быть глубоко «зашиты» в веса нейросети .
- Агентное влияние: Поскольку ИИ становится агентным и начинает управлять частями экономики, передача этого управления моделям из враждебной юрисдикции выглядит как стратегическое самоубийство .
- Отсутствие правового поля: В отличие от западных компаний, китайские разработчики полностью подотчетны своей партии, что делает любые гарантии приватности или нейтральности бессмысленными .
Регулирование через страхование и аудит 1:53:30
Нейтан Лабенц предлагает более гибкий подход, сомневаясь в эффективности тотальных запретов. Он выдвигает идею «рыночного механизма безопасности» — обязательного страхования рисков при использовании ИИ . Если компания использует проверенную модель (например, Claude), её страховой тариф будет низким. Если же она выбирает «непрозрачную» китайскую модель с потенциальными «спящими агентами» , стоимость страховки должна резко возрастать, отражая риски для безопасности .
Кривелло поддерживает идею создания своего рода «FAA для ИИ» — регулирующего органа, который занимался бы проверкой и «санитарной обработкой» иностранных моделей . Он согласен, что если китайская модель пройдет жесткий аудит и будет дообучена (fine-tuned) для соответствия американским интересам и ценностям, её использование может быть допустимым . Однако на данный момент технологии интерпретируемости (mechanistic interpretability) еще не позволяют с полной уверенностью находить скрытые «бэкдоры» в моделях .
Геополитика AGI: гонка на выживание или мировая сделка? 1:57:30
В финальной части дискуссии собеседники касаются сложности международной координации. Нейтан Лабенц подчеркивает, что для безопасного развития сверхинтеллекта (ASI) США и Китаю необходимо будет договориться о «контролируемом замедлении» . Однако агрессивная риторика и запреты могут сделать такие соглашения невозможными из-за вопросов «сохранения лица», которые крайне важны в китайской культуре .
Фло Кривелло настроен скептично, напоминая о случаях биологических атак и шпионажа, которые уже фиксируются на территории США . Он считает, что доверие между сверхдержавами подорвано настолько, что любая сделка будет возможна только исходя из чистого рационального эгоизма, а не дипломатической вежливости .
Завершая разговор, Фло отмечает, что текущая ситуация, когда лаборатории агрессивно субсидируют стоимость токенов своих моделей, делает создание прикладного слоя ИИ крайне сложной задачей . Тем не менее, он уверен, что следующие полгода пройдут под знаком «мультиплеерного ИИ» и гибридных организаций, где человек и агент работают как единое целое .
🏁 Завершение пути: Искусственный интеллект как новая когнитивная норма 2:05:42
Философия сотворчества и новая роль слушателя 2:05:42
Завершая масштабную дискуссию, Нейтан Лабенц подчеркивает, что обсуждение ИИ-агентов и будущего Lindy — это не просто технический обзор, а часть глобального процесса, который он называет «Когнитивной революцией» . В этом контексте каждый слушатель перестает быть пассивным потребителем контента и становится активным участником формирования нового социального и технологического ландшафта . Фло Кривелло на протяжении всей беседы демонстрировал, как радикальная прозрачность в разработке — от признания использования китайских моделей до раскрытия внутренних механизмов памяти — помогает сообществу быстрее адаптироваться к переменам .
Диалог между ведущим и гостем выходит за рамки простого интервью, превращаясь в живой пример того, как глубокая экспертиза Нейтана Лабенца помогает вскрывать неочевидные риски и возможности агентных систем . Ранее в разговоре они касались темы геополитики и этики, и в финале становится ясно, что эти вызовы требуют коллективного осмысления . Быть частью этого движения — значит осознавать, что грань между создателем технологии и её пользователем становится всё более прозрачной . Именно это вовлечение аудитории, по мнению Лабенца, является критически важным для того, чтобы ИИ развивался в интересах человечества .
Оптимизация творческих процессов: от записи до публикации 2:05:56
Практическим воплощением идей об эффективности и делегировании задач ИИ-агентам становится упоминание инструментов для автоматизации медиапроизводства . Нейтан Лабенц делится своим опытом оптимизации рабочего процесса подкаста, указывая на сервис aipodcast.ing как на важный элемент современного стека создателя контента . Это решение закрывает весь цикл задач: от момента, когда автор нажимает кнопку «стоп» в конце записи, до момента, когда готовый эпизод попадает в уши аудитории .
Такой подход коррелирует с философией Фло Кривелло о том, что рутинные, но когнитивно затратные операции должны быть переданы специализированным помощникам . В контексте Lindy и мультиагентных систем, обсуждавшихся ранее, подобные сервисы являются предвестниками будущего, где «сотрудник-ИИ» берет на себя всю логистику производства . Лабенц подчеркивает, что использование таких инструментов — это не просто вопрос удобства, а стратегическая необходимость для тех, кто хочет оставаться конкурентоспособным в эпоху стремительного роста объемов информации .
Рекомендация сервиса служит финальным аккордом, подтверждающим тезис всей встречи: будущее принадлежит тем, кто умеет эффективно оркестровать работу ИИ-инструментов, высвобождая время для глубоких смыслов и стратегического планирования . Благодарность слушателям за участие в «Когнитивной революции» закрывает этот этап исследования агентных технологий, оставляя открытыми вопросы для будущих дискуссий о природе интеллекта и труда .
