Мэттью Берман: кому на самом деле нужен локальный ИИ?

Современный энтузиазм вокруг развертывания искусственного интеллекта на собственном оборудовании сталкивается с жесткими техническими и финансовыми барьерами. Технический эксперт и автор популярного профильного канала Мэттью Берман провел детальный сравнительный анализ стоимости, производительности и удобства автономных систем против передовых облачных сервисов. По его мнению, несмотря на фундаментальную важность технологического суверенитета, локальный ИИ на данном этапе остается дорогим увлечением для энтузиастов и пока не способен конкурировать с облачной инфраструктурой в реальных рабочих процессах.

🖥️ Иллюзия независимости: почему локальный ИИ пока не решает рабочих задач 0:00

Призывы отказаться от платных подписок на ChatGPT в пользу развертывания нейросетей на домашних компьютерах не имеют под собой практических оснований . Как утверждает Мэттью Берман, для подавляющего большинства пользователей локальный ИИ сегодня неоправданно дорог, крайне сложен в настройке и существенно уступает флагманским облачным решениям .

Сам Берман подчеркивает, что обладает всеми необходимыми ресурсами для перехода на локальные системы:

• Внушительный парк вычислительных мощностей и доступ к профессиональному оборудованию .
• Многолетний инженерный опыт и глубокое понимание технической стороны работы нейросетей .
• Профессиональная занятость в сфере освещения индустрии искусственного интеллекта, позволяющая тратить неограниченное время на отладку .
• Личная заинтересованность в полном контроле над конфиденциальными данными .
• Нежелание зависеть от корпоративных ограничений и внезапных блокировок со стороны закрытых лабораторий .

Тем не менее, когда возникает необходимость оперативно и качественно выполнить реальную рабочую задачу, эксперт неизменно выбирает облачные интерфейсы ChatGPT или Claude . По наблюдениям Бермана, современное сообщество любителей локального ИИ страдает подменой понятий: участники дискуссий гордятся самим фактом запуска громоздких моделей на своих машинах, а не реальными результатами их труда .

Потенциальный провал концепции локального ИИ Берман считает серьезной угрозой для всей индустрии . Если пользователи не смогут запускать модели независимо от ИТ-гигантов, монополизация рынка передовых алгоритмов станет необратимой . Однако покупка дорогостоящего «железа» стоимостью в тысячи долларов без трезвого расчета окупаемости лишь разочарует обычного пользователя .

⚖️ Локальные модели против открытых весов: в чем принципиальная разница 2:15

В публичных обсуждениях часто возникает путаница между понятиями «локальный ИИ» (local AI) и «модели с открытыми весами» (open source / open weights AI) . Берман подчеркивает, что это абсолютно разные сущности, хотя они тесно связаны :

• Локальный ИИ предполагает физическое выполнение вычислений на клиентском компьютере без обращения к внешней сети: если отключить кабель интернета, система продолжит отвечать на запросы .
• Открытые веса означают, что архитектура, математические параметры и коэффициенты модели выложены разработчиками в публичный доступ для бесплатного использования .

Доступность открытых весов вовсе не обязывает пользователя разворачивать их дома. Крупные дата-центры, включая AWS, Google Cloud и специализированные нео-облачные платформы, загружают эти открытые модели на свои многомиллионные серверные фермы и сдают вычислительную мощность в аренду по API .

Лучшие открытые решения отстают от закрытых передовых лидеров рынка всего на одно поколение . По оценке Бермана, флагманские закрытые системы задают золотой стандарт индустрии, однако вслед за ними идут высококонкурентные открытые модели, преимущественно разрабатываемые китайскими лабораториями .

Главная проблема заключается в их масштабе: передовые открытые нейросети насчитывают сотни миллиардов и даже триллионы параметров . Запустить их на потребительской или даже полупрофессиональной технике невозможно . Для обеспечения адекватной скорости генерации требуются серверные стойки с видеокартами суммарной стоимостью в сотни тысяч и миллионы долларов .

🛡️ Суверенитет данных и страх перед монополией: аргументы «за» локализацию 4:27

Берман выделяет пять ключевых факторов, которые заставляют пользователей и бизнес стремиться к локализации искусственного интеллекта :

1. Суверенитет данных. При обращении к облачным сервисам вся информация неизбежно передается на удаленные сервера сторонних корпораций . Большинство людей привыкли делиться своей частной жизнью с крупными технологическими платформами через социальные сети, почту и документы, однако передача чувствительных данных сторонним нейросетям несет существенные риски .
2. Защита от платформенных рисков и произвола лабораторий. Закрытые провайдеры в любой момент могут заблокировать доступ или изменить правила игры, если сценарии использования противоречат их политике . В качестве примера Берман приводит инцидент с Open Claw, когда компания Anthropic фактически заблокировала использование платных пользовательских подписок со сторонним софтом, постоянно меняя регламенты . OpenAI исторически лояльнее относится к интеграциям, однако в рамках капиталистической модели интересы корпорации всегда будут превалировать над удобством пользователя .
3. Автономная работа без подключения к сети. Локальная модель функционирует при полном отсутствии интернета . Для самого Бермана этот сценарий остается маргинальным в силу наличия стабильной связи и спутникового терминала Starlink, однако в рамках концепции выживания («преппинга») наличие базы знаний на жестком диске может стать критическим преимуществом .
4. Снижение регулярных затрат. Идея избавиться от постоянных подписок стоимостью 20–100 долларов в месяц привлекательна, однако, как показывают расчеты, затраты на амортизацию оборудования полностью нивелируют эту выгоду .
5. Децентрализация вычислительной власти. Концентрация передового интеллекта в руках узкой группы частных лабораторий создает серьезную угрозу монополизации контроля над технологиями .

На фоне проблем фрагментации рабочих сред Берман упоминает инструменты унификации, такие как среда разработки JetBrains Air с ассистентом Junie Lite, позволяющие запускать несколько конкурирующих моделей и агентов параллельно для взаимной перепроверки результатов прямо из командной строки или привычной IDE .

⏳ Проклятие оверклокинга: сложность настройки и барьер для пользователей 12:05

Развертывание локальных моделей сегодня остается уделом узкого круга увлеченных специалистов . Процесс требует тонкого понимания архитектур, форматов квантования и параметров инференса .

Берман проводит прямую аналогию между локальным ИИ и разгоном компьютерного железа:

«Люди, которые занимаются оверклокингом, получают удовольствие от самого процесса оптимизации таймингов и частот, а не от того, что их игра станет работать на 20% быстрее. Точно так же энтузиасты локального ИИ увлечены процессом настройки, а не созданием реального продукта» .

Чтобы подтвердить свою веру в индустрию локальных вычислений действием, Берман стал инвестором компании LM Studio, разрабатывающей интерфейс для упрощенного запуска моделей на ПК . Но даже специализированный софт не может устранить системные барьеры :

• Колоссальный разброс в архитектурах чипов (поколения Nvidia, процессоры Apple Silicon с объединенной памятью, видеокарты AMD) .
• Различия операционных систем Windows, macOS и Linux .
• Отсутствие единого отраслевого стандарта среди китайских, американских и европейских архитектур открытых нейросетей .

Критическим параметром юзабилити выступает скорость вывода — количество генерируемых токенов в секунду (tokens per second, tps) . Скорость в 15–30 tps делает модель непригодной для сложных сценариев и годится лишь для коротких вопросов и ответов . Приемлемая скорость начинается от 70–100 tps, однако локальная система остается однопоточной: запуск нескольких параллельных агентов для решения составных задач делит вычислительную мощность между ними, замедляя работу до полной остановки .

Единственное неоспоримое преимущество домашней рабочей станции — возможность загружать ее круглосуточными фоновыми вычислениями без риска исчерпать жесткие лимиты облачных тарифов .

📊 Суровая арифметика железа: расчет стоимости токенов и оборудования 15:51

Чтобы проверить экономическую целесообразность локализации, Берман рассчитал реальные затраты на аппаратное обеспечение и сопоставил их с производительностью популярных открытых моделей .

Передовые открытые модели, такие как GLM 5.3 Flash, требуют настолько сильного квантования для запуска на клиентских видеокартах, что неизбежно теряют в качестве логических рассуждений .

📉 Кривая Парето и дефицит чипов: почему облака выигрывают конкуренцию 20:00

Сопоставление ежемесячных затрат и качества моделей на основе индекса искусственного интеллекта платформы Artificial Analysis демонстрирует сокрушительное поражение локальных систем :

• Локальная сборка на ПК стоимостью $4 000 при амортизации на 3 года обходится примерно в $144 в месяц . При этом пользователь получает модель Qwen 3.8 27B со скоростью около 50 tps и скромным баллом интеллекта 34 пункта .
• Облачная подписка на новейшую Claude Haiku 5.5 от Anthropic обходится всего в $27 в месяц . Скорость достигает 235 tps, а показатель качества находится на уровне 44 пунктов — на 10 пунктов выше локального аналога .

На границе эффективности Парето (минимальная цена при максимальном качестве) сегодня находятся исключительно проприетарные закрытые модели . Облачные провайдеры предлагают кроссплатформенную синхронизацию, автоматические обновления и специализированные надстройки вроде Claude Code, Claude Co-work и Claude Design без необходимости обслуживания серверной части .

Рыночный дисбаланс усугубляется двумя системными факторами:

1. Скупка кремниевых мощностей дата-центрами. Крупные корпорации выкупают квоты на производство чипов и памяти, провоцируя дефицит потребительских видеокарт . Карта RTX 5090, которая должна была стоить $3 000–$4 000, продается за $7 000–$8 000, что удваивает себестоимость локальных вычислений без прироста качества .
2. Экономическая тупиковость открытых стартапов в США. Разработка флагманской модели требует миллиардных инвестиций . При публикации весов сторонние облачные провайдеры монетизируют чужой труд без затрат на первичное обучение .

Единственным крупным бенефициаром и защитником открытого софта в США выступает корпорация Nvidia . Производитель чипов инвестирует миллиарды в поддержку открытых весов и поглощает профильные команды (включая приобретение Hugging Face и слухи вокруг покупки Reflection AI), создавая для венчурных инвесторов гарантию ликвидности активов . Китайские же лаборатории финансируются государственными субсидиями, что позволяет им выпускать мощные веса бесплатно, однако не создает устойчивой рыночной модели для конечных пользователей .

🔮 Будущее за гибридной моделью: как локальный ИИ может стать массовым 28:29

Чтобы локальный искусственный интеллект преодолел барьер хобби и стал полезен массовому потребителю, он должен стать незаметным . Пользователь вообще не должен задумываться, где именно обрабатывается его запрос .

Ключевая роль в этой трансформации принадлежит разработчикам операционных систем — Microsoft, Apple и Google :

• Они контролируют связку аппаратного обеспечения и системного программного уровня .
• Они способны реализовать интеллектуальную маршрутизацию запросов (local routing) .
• Конфиденциальные документы и тривиальные команды должны обрабатываться компактными локальными моделями прямо на устройстве .
• Тяжелые логические задачи должны автоматически делегироваться в облачные дата-центры .
• При отключении интернета система должна плавно переключаться на встроенный локальный модуль .

В корпоративном секторе уже наблюдается структурный сдвиг: общий объем генерируемых токенов всё сильнее смещается в сторону моделей с открытыми весами, хотя финансовая выручка по-прежнему концентрируется у OpenAI и Anthropic .

По прогнозу Бермана, дальнейшая миниатюризация архитектур и рост энергоэффективности чипов позволят перенести значительную часть фоновых задач персональных ассистентов непосредственно на смартфоны и персональные компьютеры . Однако до тех пор, пока гибридная архитектура не будет нативно встроена в операционные системы, запуск локальных нейросетей остается уделом энтузиастов, готовых платить тысячами долларов и десятками часов личного времени за удовольствие покопаться в настройках .

---META--- { "title_candidates": [ "Мэттью Берман: кому на самом деле нужен локальный ИИ?", "Мэттью Берман сравнил расходы на локальный ИИ и облако", "Берман о локальном ИИ: «Это занятие для хоббистов»" ], "title": "Мэттью Берман: кому на самом деле нужен локальный ИИ?", "category": "Искусственный интеллект", "keywords": [ "Matthew Berman", "Nvidia", "LM Studio", "Anthropic", "OpenAI" ], "tldr": [ "Локальный ИИ экономически невыгоден обычному пользователю по сравнению с облачными подписками.", "Сборка ПК с Qwen 3.8 обходится в $144/мес против $27/мес за более умную Claude Haiku.", "Дефицит видеокарт из-за спроса дата-центров удвоил стоимость домашнего оборудования.", "Массовое будущее локального ИИ возможно только в форме невидимой гибридной маршрутизации внутри ОС." ], "speakers": [ { "name": "Мэттью Берман", "role": "Технический обозреватель, автор профильного YouTube-канала об ИИ и технологический инвестор" } ], "books": [], "films": [], "quotes": [ { "text": "Если вы советуете обычному человеку бросить подписку на ChatGPT ради запуска ИИ локально, вы просто обманываете себя.", "speaker": "Мэттью Берман", "time": "0:00" }, { "text": "Люди увлечены самим процессом настройки локального ИИ, а не тем, какую реальную работу они смогли с его помощью выполнить.", "speaker": "Мэттью Берман", "time": "0:56" }, { "text": "Чтобы локальный ИИ действительно стал массовым, пользователи вообще не должны знать, что они используют локальный ИИ.", "speaker": "Мэттью Берман", "time": "28:58" } ], "mentioned_urls": [ { "url": "LM Studio", "context": "Инструмент и компания для упрощенного запуска открытых моделей на пользовательских компьютерах" }, { "url": "JetBrains Air", "context": "Среда разработки с поддержкой мультиагентных систем и перекрестной проверки кода" }, { "url": "Artificial Analysis", "context": "Бенчмарк и индекс для сравнения качества и стоимости работы нейросетевых моделей" } ], "glossary": [ { "term": "Квантование (Quantization)", "definition": "Метод сжатия нейросети за счет снижения точности весов, уменьшающий требования к памяти ценой незначительной потери качества." }, { "term": "Веса модели (Model weights)", "definition": "Числовые коэффициенты нейросети, полученные в процессе ее обучения и определяющие ее знания и логику." }, { "term": "Токены в секунду (Tokens per second, tps)", "definition": "Показатель скорости генерации текста языковой моделью." }, { "term": "Граница Парето (Pareto frontier)", "definition": "Множество оптимальных состояний системы, при которых невозможно улучшить один параметр без ухудшения другого." }, { "term": "Оверклокинг (Overclocking)", "definition": "Принудительный разгон компьютерных компонентов сверх заводских параметров для получения максимальной производительности." } ], "numbers": [ { "value": "~$5 000", "context": "Рыночная стоимость видеокарты Nvidia RTX 4090 на момент записи видео", "speaker": "Мэттью Берман" }, { "value": "~$8 500", "context": "Стоимость дефицитной видеокарты Nvidia RTX 5090 на 32 ГБ памяти", "speaker": "Мэттью Берман" }, { "value": "~$16 000", "context": "Цена профессионального ускорителя Nvidia RTX Pro 6000 Blackwell", "speaker": "Мэттью Берман" }, { "value": "$144 в месяц", "context": "Расчетная амортизация домашнего компьютера стоимостью $4 000 на три года для запуска Qwen 3.8", "speaker": "Мэттью Берман" }, { "value": "$27 в месяц", "context": "Стоимость работы с облачной моделью Claude Haiku 5.5 при более высоком качестве и скорости", "speaker": "Мэттью Берман" }, { "value": "235 tps", "context": "Скорость генерации текста моделью Claude Haiku 5.5 против 50 tps у локальной Qwen 3.8", "speaker": "Мэттью Берман" } ], "timeline": [], "counterpoints": [ { "claim": "Локальный ИИ позволяет полностью отказаться от платных подписок и сэкономить деньги.", "counter": "С учетом стоимости железа от $4 000 до $16 000 и его амортизации за 3 года ежемесячные затраты на порядок выше подписок на ChatGPT или Claude." }, { "claim": "Открытые веса гарантируют независимость обычного пользователя от бигтеха.", "counter": "Передовые открытые модели требуют вычислительных кластеров за сотни тысяч долларов, вынуждая пользователей снова арендовать мощности у облачных провайдеров." }, { "claim": "Локальные модели обеспечивают полную приватность личных данных при работе.", "counter": "Приватность достигается ценой существенной потери в интеллекте моделей и невозможности запускать сложные параллельные агентские цепочки." } ] }Современный энтузиазм вокруг развертывания искусственного интеллекта на собственном оборудовании сталкивается с жесткими техническими и финансовыми барьерами. Технический эксперт и автор популярного профильного канала Мэттью Берман провел детальный сравнительный анализ стоимости, производительности и удобства автономных систем против передовых облачных сервисов. По его мнению, несмотря на фундаментальную важность технологического суверенитета, локальный ИИ на данном этапе остается дорогим увлечением для энтузиастов и пока не способен конкурировать с облачной инфраструктурой в реальных рабочих процессах.

🖥️ Иллюзия независимости: почему локальный ИИ пока не решает рабочих задач 0:00

Призывы отказаться от платных подписок на ChatGPT в пользу развертывания нейросетей на домашних компьютерах не имеют под собой практических оснований. Как утверждает Мэттью Берман, для подавляющего большинства пользователей локальный ИИ сегодня неоправданно дорог, крайне сложен в настройке и существенно уступает флагманским облачным решениям.

Сам Берман подчеркивает, что обладает всеми необходимыми ресурсами для перехода на локальные системы:

• Внушительный парк вычислительных мощностей и доступ к профессиональному оборудованию.
• Многолетний инженерный опыт и глубокое понимание технической стороны работы нейросетей.
• Профессиональная занятость в сфере освещения индустрии искусственного интеллекта, позволяющая тратить неограниченное время на отладку.
• Личная заинтересованность в полном контроле над конфиденциальными данными.
• Нежелание зависеть от корпоративных ограничений и внезапных блокировок со стороны закрытых лабораторий.

Тем не менее, когда возникает необходимость оперативно и качественно выполнить реальную рабочую задачу, эксперт неизменно выбирает облачные интерфейсы ChatGPT или Claude. По наблюдениям Бермана, современное сообщество любителей локального ИИ страдает подменой понятий: участники дискуссий гордятся самим фактом запуска громоздких моделей на своих машинах, а не реальными результатами их труда.

Потенциальный провал концепции локального ИИ Берман считает серьезной угрозой для всей индустрии. Если пользователи не смогут запускать модели независимо от ИТ-гигантов, монополизация рынка передовых алгоритмов станет необратимой. Однако покупка дорогостоящего «железа» стоимостью в тысячи долларов без трезвого расчета окупаемости лишь разочарует обычного пользователя.

⚖️ Локальные модели против открытых весов: в чем принципиальная разница 2:15

В публичных обсуждениях часто возникает путаница между понятиями «локальный ИИ» (local AI) и «модели с открытыми весами» (open source / open weights AI). Берман подчеркивает, что это абсолютно разные сущности, хотя они тесно связаны:

• Локальный ИИ предполагает физическое выполнение вычислений на клиентском компьютере без обращения к внешней сети: если отключить кабель интернета, система продолжит отвечать на запросы.
• Открытые веса означают, что архитектура, математические параметры и коэффициенты модели выложены разработчиками в публичный доступ для бесплатного использования.

Доступность открытых весов вовсе не обязывает пользователя разворачивать их дома. Крупные дата-центры, включая AWS, Google Cloud и специализированные нео-облачные платформы, загружают эти открытые модели на свои многомиллионные серверные фермы и сдают вычислительную мощность в аренду по API.

Лучшие открытые решения отстают от закрытых передовых лидеров рынка всего на одно поколение. По оценке Бермана, флагманские закрытые системы задают золотой стандарт индустрии, однако вслед за ними идут высококонкурентные открытые модели, преимущественно разрабатываемые китайскими лабораториями.

Главная проблема заключается в их масштабе: передовые открытые нейросети насчитывают сотни миллиардов и даже триллионы параметров. Запустить их на потребительской или даже полупрофессиональной технике невозможно. Для обеспечения адекватной скорости генерации требуются серверные стойки с видеокартами суммарной стоимостью в сотни тысяч и миллионы долларов.

🛡️ Суверенитет данных и страх перед монополией: аргументы «за» локализацию 4:27

Берман выделяет пять ключевых факторов, которые заставляют пользователей и бизнес стремиться к локализации искусственного интеллекта:

1. Суверенитет данных. При обращении к облачным сервисам вся информация неизбежно передается на удаленные сервера сторонних корпораций. Большинство людей привыкли делиться своей частной жизнью с крупными технологическими платформами через социальные сети, почту и документы, однако передача чувствительных данных сторонним нейросетям несет существенные риски.
2. Защита от платформенных рисков и произвола лабораторий. Закрытые провайдеры в любой момент могут заблокировать доступ или изменить правила игры, если сценарии использования противоречат их политике. В качестве примера Берман приводит инцидент с Open Claw, когда компания Anthropic фактически заблокировала использование платных пользовательских подписок со сторонним софтом, постоянно меняя регламенты. OpenAI исторически лояльнее относится к интеграциям, однако в рамках капиталистической модели интересы корпорации всегда будут превалировать над удобством пользователя.
3. Автономная работа без подключения к сети. Локальная модель функционирует при полном отсутствии интернета. Для самого Бермана этот сценарий остается маргинальным в силу наличия стабильной связи и спутникового терминала Starlink, однако в рамках концепции выживания («преппинга») наличие базы знаний на жестком диске может стать критическим преимуществом.
4. Снижение регулярных затрат. Идея избавиться от постоянных подписок стоимостью 20–100 долларов в месяц привлекательна, однако, как показывают расчеты, затраты на амортизацию оборудования полностью нивелируют эту выгоду.
5. Децентрализация вычислительной власти. Концентрация передового интеллекта в руках узкой группы частных лабораторий создает серьезную угрозу монополизации контроля над технологиями.

На фоне проблем фрагментации рабочих сред Берман упоминает инструменты унификации, такие как среда разработки JetBrains Air с ассистентом Junie Lite, позволяющие запускать несколько конкурирующих моделей и агентов параллельно для взаимной перепроверки результатов прямо из командной строки или привычной IDE.

⏳ Проклятие оверклокинга: сложность настройки и барьер для пользователей 12:05

Развертывание локальных моделей сегодня остается уделом узкого круга увлеченных специалистов. Процесс требует тонкого понимания архитектур, форматов квантования и параметров инференса.

Берман проводит прямую аналогию между локальным ИИ и разгоном компьютерного железа:

«Люди, которые занимаются оверклокингом, получают удовольствие от самого процесса оптимизации таймингов и частот, а не от того, что их игра станет работать на 20% быстрее. Точно так же энтузиасты локального ИИ увлечены процессом настройки, а не созданием реального продукта».

Чтобы подтвердить свою веру в индустрию локальных вычислений действием, Берман стал инвестором компании LM Studio, разрабатывающей интерфейс для упрощенного запуска моделей на ПК. Но даже специализированный софт не может устранить системные барьеры:

• Колоссальный разброс в архитектурах чипов (поколения Nvidia, процессоры Apple Silicon с объединенной памятью, видеокарты AMD).
• Различия операционных систем Windows, macOS и Linux.
• Отсутствие единого отраслевого стандарта среди китайских, американских и европейских архитектур открытых нейросетей.

Критическим параметром юзабилити выступает скорость вывода — количество генерируемых токенов в секунду (tokens per second, tps). Скорость в 15–30 tps делает модель непригодной для сложных сценариев и годится лишь для коротких вопросов и ответов. Приемлемая скорость начинается от 70–100 tps, однако локальная система остается однопоточной: запуск нескольких параллельных агентов для решения составных задач делит вычислительную мощность между ними, замедляя работу до полной остановки.

Единственное неоспоримое преимущество домашней рабочей станции — возможность загружать ее круглосуточными фоновыми вычислениями без риска исчерпать жесткие лимиты облачных тарифов.

📊 Суровая арифметика железа: расчет стоимости токенов и оборудования 15:51

Чтобы проверить экономическую целесообразность локализации, Берман рассчитал реальные затраты на аппаратное обеспечение и сопоставил их с производительностью популярных открытых моделей.

Передовые открытые модели, такие как GLM 5.3 Flash, требуют настолько сильного квантования для запуска на клиентских видеокартах, что неизбежно теряют в качестве логических рассуждений.

📉 Кривая Парето и дефицит чипов: почему облака выигрывают конкуренцию 20:00

Сопоставление ежемесячных затрат и качества моделей на основе индекса искусственного интеллекта платформы Artificial Analysis демонстрирует сокрушительное поражение локальных систем:

• Локальная сборка на ПК стоимостью $4 000 при амортизации на 3 года обходится примерно в $144 в месяц. При этом пользователь получает модель Qwen 3.8 27B со скоростью около 50 tps и скромным баллом интеллекта 34 пункта.
• Облачная подписка на новейшую Claude Haiku 5.5 от Anthropic обходится всего в $27 в месяц. Скорость достигает 235 tps, а показатель качества находится на уровне 44 пунктов — на 10 пунктов выше локального аналога.

На границе эффективности Парето (минимальная цена при максимальном качестве) сегодня находятся исключительно проприетарные закрытые модели. Облачные провайдеры предлагают кроссплатформенную синхронизацию, автоматические обновления и специализированные надстройки вроде Claude Code, Claude Co-work и Claude Design без необходимости обслуживания серверной части.

Рыночный дисбаланс усугубляется двумя системными факторами:

1. Скупка кремниевых мощностей дата-центрами. Крупные корпорации выкупают квоты на производство чипов и памяти, провоцируя дефицит потребительских видеокарт. Карта RTX 5090, которая должна была стоить $3 000–$4 000, продается за $7 000–$8 000, что удваивает себестоимость локальных вычислений без прироста качества.
2. Экономическая тупиковость открытых стартапов в США. Разработка флагманской модели требует миллиардных инвестиций. При публикации весов сторонние облачные провайдеры монетизируют чужой труд без затрат на первичное обучение.

Единственным крупным бенефициаром и защитником открытого софта в США выступает корпорация Nvidia. Производитель чипов инвестирует миллиарды в поддержку открытых весов и поглощает профильные команды (включая приобретение Hugging Face и слухи вокруг покупки Reflection AI), создавая для венчурных инвесторов гарантию ликвидности активов. Китайские же лаборатории финансируются государственными субсидиями, что позволяет им выпускать мощные веса бесплатно, однако не создает устойчивой рыночной модели для конечных пользователей.

🔮 Будущее за гибридной моделью: как локальный ИИ может стать массовым 28:29

Чтобы локальный искусственный интеллект преодолел барьер хобби и стал полезен массовому потребителю, он должен стать незаметным. Пользователь вообще не должен задумываться, где именно обрабатывается его запрос.

Ключевая роль в этой трансформации принадлежит разработчикам операционных систем — Microsoft, Apple и Google:

• Они контролируют связку аппаратного обеспечения и системного программного уровня.
• Они способны реализовать интеллектуальную маршрутизацию запросов (local routing).
• Конфиденциальные документы и тривиальные команды должны обрабатываться компактными локальными моделями прямо на устройстве.
• Тяжелые логические задачи должны автоматически делегироваться в облачные дата-центры.
• При отключении интернета система должна плавно переключаться на встроенный локальный модуль.

В корпоративном секторе уже наблюдается структурный сдвиг: общий объем генерируемых токенов всё сильнее смещается в сторону моделей с открытыми весами, хотя финансовая выручка по-прежнему концентрируется у OpenAI и Anthropic.

По прогнозу Бермана, дальнейшая миниатюризация архитектур и рост энергоэффективности чипов позволят перенести значительную часть фоновых задач персональных ассистентов непосредственно на смартфоны и персональные компьютеры. Однако до тех пор, пока гибридная архитектура не будет нативно встроена в операционные системы, запуск локальных нейросетей остается уделом энтузиастов, готовых платить тысячами долларов и десятками часов личного времени за удовольствие покопаться в настройках.