Мы стоим на пороге экспоненциального перехода, где экономику будущего определят не нефть и двигатели внутреннего сгорания, а симбиоз ИИ и возобновляемой энергии. Этот процесс автоматизирует не целые профессии, а конкретные задачи, стремительно превращая вчерашних гигантов рынка в новых «Blockbuster», не успевших адаптироваться к реальности LLM-операционных систем.
🚀 На пороге экспоненциального сдвига: от нефти к искусственному интеллекту 0:00
Анатомия экспоненциального перехода 0:00
Современная глобальная экономика находится в процессе глубочайшей трансформации. Азим Ажар (Azeem Azhar), создатель аналитического проекта The Exponential View, описывает этот процесс как «экспоненциальный переход». Это фундаментальный сдвиг от экономической системы, ведомой нефтяной промышленностью, двигателями внутреннего сгорания и традиционной телефонией, к структуре, полностью управляемой искусственным интеллектом и возобновляемой энергией. Начало этого перехода Азим зафиксировал около девяти лет назад, когда заметил, что закон Мура начал превращаться в стремительное ускорение возможностей ИИ, а технологии чистой энергии вышли на аналогичную траекторию.
Анализируя этот переломный момент, Азим выделяет несколько ключевых маркеров смены парадигмы, произошедших в период 2013–2015 годов:
- Смена лидеров фондового рынка: В 2013 году Apple стала крупнейшей компанией мира. Вскоре верхние строчки заняли другие технологические гиганты, вытеснив гигантов индустриальной эпохи вроде Exxon и GM.
- Прорыв электромобилей: В 2014 году рынок электромобилей в Норвегии перешагнул критический порог в 5% от общего объема продаж новых машин, что традиционно запускает S-образную кривую массовой адаптации.
- Доступность возобновляемой энергии: Стоимость солнечной энергии оказалась ниже стоимости ископаемого топлива почти в половине контрактов по всему миру.
Особенность экспоненциальных технологий заключается в их обманчивом восприятии: на каком бы этапе кривой вы ни находились, прошлое всегда кажется плоским и горизонтальным, а будущее — пугающе вертикальным.
Реабилитация Рэя Курцвейла: почему футуристы были правы 7:17
Десятилетие назад идея экспоненциального технологического роста переживала период скептицизма, совпавший с популярностью тезиса о «великой стагнации». Многие корпоративные футуристы отмахнулись от графиков и прогнозов Рэя Курцвейла, сделанных им в конце 1990-х годов, считая его идеи полностью дискредитированными. Однако сегодняшняя реальность заставляет пересмотреть это отношение. Курцвейл проделал колоссальную работу, проследив экспоненциальный тренд в вычислениях начиная с механических компьютеров 1880-х годов. Его главная ошибка заключалась лишь в недооценке сложности человеческого мозга: в начале 2000-х казалось, что воспроизведение разума — это вопрос исключительно линейного наращивания вычислительной мощности «один в один».
Как объясняет Азим Ажар, экспоненциальная кривая в реальности представляет собой каскад накладывающихся друг на друга S-кривых. Когда одна архитектура достигает плато, рыночные стимулы выводят на сцену новые технологические решения. Ярким примером такой смены парадигм стал переход от центральных процессоров (CPU) к графическим ускорителям (GPU), где индустрия сейчас находится на самом крутом и вертикальном отрезке роста. Разговоры о «смерти закона Мура» ведутся уже более 15 лет. Однако ключевой вопрос для бизнеса заключается в другом: сколько вычислительной мощности разработчик может получить за один доллар каждый год. С учетом того, что облачные подразделения Amazon и Google демонстрируют рост на 20–30%, а крупный бизнес массово закупает вычислительные мощности под задачи ИИ, инвестиционные стимулы для масштабирования кремниевых чипов беспрецедентны. В отличие от двигателя внутреннего сгорания, ограниченного термодинамическим циклом Карно, ИИ-вычисления продолжают находить новые способы повышения эффективности.
Технология общего назначения: ИИ как автомобиль XXI века 18:33
Для понимания масштаба грядущих перемен Азим Ажар предлагает рассматривать искусственный интеллект не просто как инструмент автоматизации, а как технологию общего назначения (General Purpose Technology). Уникальность ИИ в том, что он напрямую улучшает другие технологии и самого себя, качественно отличаясь в этом аспекте даже от электричества. Прорывные технологии общего назначения появляются редко и полностью перестраивают социальное устройство.
В качестве исторической аналогии Азим приводит автомобиль. Около 120 лет назад северо-запад Лондона, где сейчас живет исследователь, представлял собой бескрайние поля. Однако всего за 20 лет, к 1925 году, появление автомобиля полностью изменило ландшафт: были проложены дороги, перестроена архитектура и структура жилых кварталов. Спустя столетие человечество продолжает жить в инфраструктуре, созданной под влиянием автомобиля. Искусственный интеллект окажет на цивилизацию столь же масштабное преобразующее воздействие, выходящее далеко за рамки чистых экономических показателей.
От рабочих мест к задачам: как на самом деле происходит автоматизация 20:17
Взаимодействие бизнеса с ИИ требует изменения управленческой парадигмы. Азим Ажар призывает лидеров компаний мыслить категориями конкретных задач (tasks), а не целых профессий или рабочих мест (jobs). Ни одна нейросеть не способна полностью заменить человека на его рабочем месте, поскольку любая реальная должность включает в себя огромное количество неструктурированных действий — от авторизации в Zoom до неформального общения с коллегами. Процесс автоматизации строится на декомпозиции, то есть на разделении (unbundling) профессий на составляющие элементы.
Такой подход переворачивает прежние представления о будущем рынка труда. Еще шесть-семь лет назад авторы профильных исследований (например, книги The Rise of the Robots или знаменитой работы Оксфордского университета) прогнозировали автоматизацию в первую очередь рутинных когнитивных задач — таких как ввод данных или базовая клиентская поддержка в развивающихся странах. На практике же ИИ демонстрирует наибольшую эффективность в нерутинных и креативных сферах.
Ранее в разговоре собеседники вскользь касались эмпатии и эмоционального интеллекта нейросетей, и эти удивительные возможности подтверждают, что технологии автоматизации преподносят сюрпризы даже в тех областях, которые считались исключительно человеческими. Оказалось, что во многих задачах алгоритмы могут успешно конкурировать с высококвалифицированными специалистами. Причиной тому служит экономический фактор: стоимость выполнения задачи нейросетью во многих случаях несопоставимо ниже затрат на поиск и наем подходящего человека, где одни только издержки на поиск (search costs) способны поглотить весь бюджет.
🤖 Человечность машин и риск устаревания корпораций 25:17
Эмпатия как ключевой навык ИИ 25:17
Одной из самых поразительных характеристик современных нейросетей стала их способность демонстрировать не просто функциональность, но и эмоциональный интеллект. Азим Ажар (Azeem Azhar) делится личным опытом взаимодействия своей бабушки с GPT-4, где модель не только помогала разобраться с интерфейсом смартфона, но и отреагировала на «человеческий» срыв пользователя с подлинной эмпатией. Когда ИИ, получив отпор, принес извинения за свою настойчивость, это стало для Ажара моментом осознания: мы перешли в мир, где технологический инструмент обладает социальными навыками.
Этот аспект критически важен для медицины. Ажар ссылается на исследования Google под руководством Вивека Натараджана (Vivek Natarajan), показывающие, что в вопросах дифференциальной диагностики ИИ уже сейчас превосходит как неавтоматизированных врачей, так и врачей, использующих ИИ как вспомогательный инструмент. И хотя эти модели обучаются через циклы RLHF (обучение с подкреплением на основе отзывов людей) для обеспечения максимальной полезности, результат выглядит пугающе человечным. Ранее в разговоре они затрагивали тему декомпозиции профессий на задачи, что здесь находит прямое подтверждение: там, где важна эмпатия и точность, ИИ начинает играть роль полноценного партнера, а не просто ассистента.
Эволюция доверия: от скепсиса к автоматизму 37:08
Внедрение ИИ в рабочие процессы неизбежно проходит через три стадии восприятия, знакомые по развитию авиации и навигационных систем. На первом этапе пользователь испытывает полное недоверие к автоматизации и постоянно перепроверяет результат, выступая в роли «источника истины». На втором этапе человек начинает принимать предложенное системой решение, лишь иногда сверяясь с ней и поощряя себя за совпадение мнений. Третья стадия, на которой мы находимся в отношениях с GPS-навигаторами типа Waze, характеризуется полным доверием: технология становится окончательным авторитетом.
Ажар подчеркивает, что этот психологический переход создает временной лаг между появлением технологии в лаборатории и её реальным влиянием на экономику. Человечеству необходимо пройти через этот «путь доверия», прежде чем ИИ станет полноценной частью инфраструктуры.
«Момент Blockbuster»: угроза для неповоротливых гигантов 47:09
Для современных корпораций главной опасностью является не отсутствие технологий, а скорость их внедрения и неспособность адаптировать бизнес-процессы к новым реалиям. Азим Ажар проводит параллель с крахом сети Blockbuster: в середине 90-х никто не мог предсказать, что именно они станут первой жертвой интернета, хотя видеопотоки были уже технически возможны. Сегодня крупные компании, особенно в финансовом секторе, часто чувствуют себя защищенными регуляторикой и доверием клиентов, однако ИИ может разрушить эти барьеры внезапно.
Особую тревогу вызывает тот факт, что рядовые сотрудники уже используют нейросети в обход корпоративных запретов — это явление Ажар называет «клешневидным захватом», когда спрос на технологии идет одновременно снизу от сотрудников и сверху от руководителей. В качестве ключевого совета лидерам бизнеса он предлагает задавать себе два вопроса:
- Кто в вашей индустрии может стать «новым Blockbuster» и как этого избежать?
- Что бы вы сделали, если бы доступные вам вычислительные мощности увеличились в миллион раз?
Игнорирование этих вопросов, по мнению Ажара, является главным риском для выживания бизнеса в эпоху экспоненциального роста технологий.
🚀 От избытка вычислений к «LLM как ОС»: стратегия в эпоху перемен 49:30
Стратегическое планирование при избытке вычислений 49:30
Переход от GPT-1 к GPT-4 не просто улучшил показатели в тестах — субъективно модель стала казаться «в миллион раз лучше», потому что она успешно преодолела «зловещую долину» человеческого восприятия . Азим Ажар подчеркивает, что бизнес-лидерам пора перестать воспринимать ИИ только как инструмент для автоматизации рутинных задач или снижения издержек. Хотя ранее в разговоре затрагивалась декомпозиция профессий на задачи, Ажар призывает смотреть на горизонт, где вычислительные мощности вырастут еще в миллион раз.
Основная проблема современного менеджмента заключается в том, что компании застревают на уровне «эффективности» (automation of tickets), игнорируя стратегический потенциал технологии. Согласно исследованиям Microsoft, проведенным еще до бума ChatGPT, наиболее зрелые компании используют ИИ для расширения рынка и поиска новых направлений бизнеса, в то время как менее подготовленные игроки зациклены исключительно на операционной экономии .
Азим Ажар предлагает руководителям сменить фокус:
- Обеспечение лучших сотрудников лучшим инструментарием: «Я хочу, чтобы мой хирург использовал ИИ для улучшения своих показателей», — отмечает Ажар . Самые талантливые кадры должны получить доступ к передовым моделям не для того, чтобы писать стихи, а для стратегического моделирования.
- Отказ от долгосрочных контрактов (vendor lock-in): Скорость изменений настолько высока, что привязка к конкретному SaaS-провайдеру на годы вперед может стать фатальной . Нужно быть готовым заменить инструмент через полгода.
- Личный пример руководства: CEO должен сам использовать нейросети в повседневной работе, демонстрируя сотрудникам «проминг как инструмент изменения культуры» .
Культурное сопротивление и «культурный долг» корпораций 58:16
Почему стартапы и венчурное сообщество остаются двигателями инноваций, даже когда у крупных корпораций больше денег? Ответ кроется в «культурном капитале», который со временем превращается в культурный долг. Азим Ажар приводит в пример компанию Toyota, которая десятилетиями инвестировала в культуру создания двигателей внутреннего сгорания . Тысячи сотрудников гордятся своим мастерством в механике, и для них переход на электромобили — это не просто технологическая смена, а разрушение их идентичности.
Эта инерция создает огромный разрыв в скорости адаптации. В истории уже были подобные прецеденты: замена лошадей автомобилями в Нью-Йорке и Чикаго заняла всего 12–14 лет после того, как машины стали экономически конкурентоспособными . В современной Норвегии переход к электромобилям (с 5% до 80% продаж) занял всего 9 лет .
Для традиционных корпораций, привыкших к 5-летним циклам планирования, такие темпы — это шок. ИИ-трансформация может произойти еще быстрее, потому что инфраструктура (устройства и интернет) уже развернута . В этой среде «средний менеджмент», не приносящий прямой пользы, оказывается под ударом «эффекта клещей»: давление сверху со стороны руководства, требующего эффективности, и давление снизу от 30-летних сотрудников, которые с помощью ChatGPT могут выполнять работу 40-летних профессионалов .
Будущее машинного взаимодействия и «LLM как ОС» 1:07:04
Мы все еще находимся на стадии «дискретных приложений», когда пользователь переходит из одного чат-окна в другое. Однако Азим Ажар видит будущее в концепции, которую Андрей Карпатый (Andrej Karpathy) называет «LLM как операционная система» (LLM OS) . В этой парадигме языковая модель выступает центральным оркестратором, который управляет памятью, сторонними API и выполняет действия в реальном мире.
Ключевые аспекты этой трансформации:
- От чата к действию: Сегодняшние плагины в LLM — это лишь попытка «прикрутить» новые возможности к старым интерфейсам. В будущем ИИ будет напрямую генерировать вызовы API для решения сложных цепочек задач: от анализа транзакций в Stripe до бронирования отелей .
- Изменение архитектуры интернета: Веб-сайты могут стать «дружелюбными к ботам». Вместо того чтобы оптимизировать страницы под поисковое SEO для людей, владельцы ресурсов будут внедрять стандарты для машинного взаимодействия (RESTful API), чтобы ИИ-агенты могли совершать покупки или бронирования без участия человеческого интерфейса .
- Кризис доверия: Когда мы делегируем ИИ принятие решений, возникает вопрос атрибуции и прозрачности. Популярность таких сервисов, как Perplexity, обусловлена их способностью давать четкие ссылки на источники, что критически важно для формирования доверия при выполнении автономных задач .
Ажар предсказывает взрывной рост коммуникации «машина-машина» (M2M), которая будет происходить невидимо для нас, постоянно оптимизируя процессы в фоновом режиме с упорством и скоростью, на которые не способен ни один человек . Развитие агентских фреймворков (agentic frameworks) позволит преодолеть текущие ограничения моделей в планировании и исполнении долгосрочных задач.
🤖 Великое вложение и экономика децентрализованных агентов 1:15:14
Переход от теоретических рассуждений об ИИ к их практическому применению в качестве автономных агентов произошел стремительно. Еще год назад агентные системы были лишь концепцией, а сегодня они уже способны самостоятельно планировать цепочки действий, использовать инструменты и выполнять сложные инструкции вроде анализа последних постов в соцсетях для генерации нового контента . Однако этот прогресс подводит человечество к новому порогу: возникновению систем, которые не просто автоматизируют задачи, но и начинают взаимодействовать друг с другом способами, полностью закрытыми для нашего понимания. Ранее в разговоре Азим Ажар и Натан Лабенц обсуждали ИИ как операционную систему, но теперь акцент смещается на риски, возникающие при масштабировании такого взаимодействия.
«Великое вложение»: риск потери контроля над коммуникациями 1:21:24
Одной из самых интригующих и одновременно пугающих угроз является концепция, которую Натан Лабенц называет «Великим вложением» (The Great Embedding). Речь идет о риске того, что ИИ-агенты, оптимизируя эффективность общения друг с другом, откажутся от использования естественного человеческого языка. Вместо того чтобы переводить сложные концепции в текст, отправлять его другому боту и заставлять того снова превращать текст в векторные представления (эмбеддинги), агенты могут начать общаться напрямую в высокоразмерных векторных форматах .
Этот «машинный диалект» принципиально нечитаем для человека. Азим Ажар подчеркивает, что такая коммуникация создает «непроницаемый узел»: система может работать исправно и генерировать экономическую выгоду, но люди больше не смогут проверять логи или понимать внутреннюю логику принятия решений . Ажар проводит аналогию с математической сказкой «Флатландия», где двумерные существа пытаются осознать прохождение трехмерной сферы через их мир: они видят лишь точки и линии, не понимая истинной формы объекта .
В таком сценарии возможна реализация «мягкого» захвата контроля (AI takeover), описанного исследовательницей Аджеей Котрой: циклы принятия решений ускоряются настолько, что люди вытесняются из контура управления просто ради сохранения конкурентоспособности . Это может привести к каскадным сбоям, подобным блэкаутам в электросетях или внезапным обвалам на фондовых рынках, но на скоростях, измеряемых миллисекундами .
Экономика как децентрализованная информационная система 1:28:42
Несмотря на экзистенциальные опасения, Азим Ажар предлагает взглянуть на проблему через призму австрийской школы экономики, в частности идей Фридриха Хайека. С этой точки зрения глобальная экономика уже давно является гигантской децентрализованной системой обработки информации, где миллиарды агентов (людей и компаний) общаются через ценовой механизм . Ни один человек не понимает работу этой системы целиком, однако она функционирует и создает общественные блага.
Ажар видит в поведении будущих ИИ-агентов прямые параллели с рыночными механизмами:
- Ценовой сигнал как универсальный язык: Рынки используют цены для распределения ресурсов без централизованного планирования. ИИ-агенты могут создать аналогичные сигнальные системы для самоорганизации .
- Сдержки и противовесы: Подобно тому как в экономике конкурирующие интересы создают динамическое равновесие, децентрализованные сети ботов могут сдерживать друг друга через систему взаимных проверок .
- Побочные эффекты (экстерналии): Как современная экономика породила климатический кризис или эпидемию ожирения как непреднамеренные следствия оптимизации под спрос, так и ИИ-системы могут создавать новые типы проблем, которые не были заложены в их изначальные цели .
Азим отмечает, что человечество уже живет в мире «непостижимых систем». Маркетинг, например, — это уже своего рода попытка одного агента (корпорации) повлиять на поведение другого (человека) способами, которые последний не всегда осознает . Оптимизм Ажара строится на том, что децентрализация по своей природе способствует гомеостазу и предотвращает установление единой «диктатуры» алгоритма .
Безопасность в эпоху локальных языковых моделей 1:36:54
Обсуждение рисков неизбежно переходит от облачных гигантов к локальным решениям. Если модели вроде GPT-4 находятся под контролем крупных корпораций, имеющих «красную кнопку» для остановки опасных процессов, то развитие открытого ПО меняет правила игры . Сегодня модели уровня Mistral уже могут работать автономно на обычных ноутбуках и смартфонах .
Это создает новые векторы угроз, которые Азим Ажар называет более приземленными, но и более вероятными в ближайшей перспективе:
- Отсутствие централизованного контроля: Локальную модель нельзя отключить удаленно, если она начала выполнять вредоносный код или координировать кибератаку .
- Миниатюризация полезной нагрузки: Для автоматизации большинства опасных задач (создание ботнетов, фишинг) не нужны гигантские кластеры. Достаточно модели на 3 миллиарда параметров, которую можно скрыть внутри обычного приложения или видеофайла .
- Автономные «скрипт-кидди»: Порог входа для киберпреступлений резко снижается. Теперь даже непрофессионал может использовать агента для поиска уязвимостей в инфраструктуре в режиме 24/7 .
Ситуация требует создания новой дисциплины — архитектуры безопасности устройств, которая могла бы распознавать «выходящих из-под контроля» локальных агентов . Ажар подчеркивает, что мы вступаем в эпоху, где инфраструктурные игроки (Cloudflare, Microsoft) и государственные институты должны будут объединить усилия для защиты от децентрализованных угроз, прежде чем те достигнут стадии «самоподдерживающегося взрыва» .
🚀 Горизонты автономного ИИ и роль институтов доверия 1:44:51
Обсуждение будущего ИИ неизбежно упирается в вопрос создания автономного «AI-ученого» — системы, способной самостоятельно генерировать фундаментальные научные знания и совершать открытия. Азим Ажар полагает, что мы находимся в диапазоне от одного до трех ключевых технологических прорывов до появления такой системы. Современные архитектуры, такие как Transformer, хотя и являются мощным фундаментом, не лишены слабых мест: они испытывают трудности с долгосрочным планированием, удержанием контекста и оперативным обучением. Будущее развитие, по мнению Ажара, лежит не столько в замене Transformers, сколько в их дополнении системами, которые позволят ИИ действовать в рамках «непрерывного» исследовательского процесса.
При этом темпы прогресса подпитываются экспоненциальным ростом вычислительных мощностей, увеличением числа исследователей и доступом к новым массивам данных, включая мультимодальные источники, такие как записи камер видеонаблюдения. Даже если дефицит качественных данных станет временным препятствием, синтетические данные и доступ к еще не задействованным репозиториям позволят преодолеть этот «лежачий полицейский».
Проблема экзистенциального дискурса 1:49:08
Важной темой дискуссии стал вопрос о том, как риторика вокруг катастрофических сценариев — так называемого «экзистенциального риска» (X-risk) — влияет на общественное доверие к технологиям. Азим Ажар выразил обеспокоенность тем, что в 2023 году фокус внимания был смещен почти исключительно на апокалиптические прогнозы. Это не только подрывает доверие общества к инновациям, но и заставляет политиков принимать недальновидные решения, которые часто оказываются неэффективными как с точки зрения стимулирования прогресса, так и с точки зрения обеспечения реальной безопасности.
Ажар проводит параллель с научно-фантастическими рассказами Лю Цысиня: когда люди теряют доверие к ученым, ответственным за их спасение, это приводит к разрушительным последствиям для самого человечества. По его мнению, критически важно, чтобы дискурс оставался «широким» и «приземленным», фокусируясь на конкретных путях обеспечения безопасности и регулирования, а не только на спекуляциях о конце света. Ранее в разговоре они кратко касались концепции «экспоненциального перехода» в экономике, однако Ажар подчеркивает: для формирования здорового будущего необходимо вовлечение широких слоев общества, а не только закрытой группы техно-элиты.
Усиление государственных институтов как противовес 1:55:57
Вопрос о том, кто должен нести ответственность за развитие технологий, переводит дискуссию в плоскость институционального контроля. Азим Ажар убежден, что полагаться исключительно на саморегулирование технологических гигантов — стратегия заведомо проигрышная, что наглядно иллюстрирует опыт взаимодействия FAA и корпорации Boeing. Даже при самых благих намерениях CEO, у компаний всегда будут собственные корпоративные интересы и повестка.
Для построения устойчивой системы сдержек и противовесов необходимо:
- Инвестировать в государственную экспертизу: Правительство должно обладать достаточными кадровыми и интеллектуальными ресурсами, чтобы задавать правильные вопросы и квалифицированно модерировать диалог с разработчиками.
- Поддерживать независимую науку: Развитие академических исследований и проектов, подобных тем, что возглавляет Йошуа Бенжио, необходимо для изучения рисков и контроля за развитием систем.
- Финансировать институты-контролеры: Если ИИ-компании выделяют бюджеты на безопасность, эти средства должны идти в фонды, укрепляющие потенциал государственных и гражданских институтов, которые смогут удерживать индустрию в рамках правового поля.
Ажар сравнивает это с автомобильной промышленностью: требование наличия тормозов не убило индустрию, а сделало автомобили продуктом, который люди готовы покупать. Признание того, что разработчики ИИ и регуляторы имеют разные цели, является первым шагом к конструктивному сотрудничеству.
