# Экспоненциальный переход: почему ИИ перепишет правила бизнеса Источник: https://www.youtube.com/watch?v=OxnR5ac20Ww Канал: The Cognitive Revolution Опубликовано: 23.02.2024 --- Мы стоим на пороге экспоненциального перехода, где экономику будущего определят не нефть и двигатели внутреннего сгорания, а симбиоз ИИ и возобновляемой энергии. Этот процесс автоматизирует не целые профессии, а конкретные задачи, стремительно превращая вчерашних гигантов рынка в новых «Blockbuster», не успевших адаптироваться к реальности LLM-операционных систем. ## 🚀 На пороге экспоненциального сдвига: от нефти к искусственному интеллекту [[JUMP:00:00]] ### Анатомия экспоненциального перехода [[JUMP:00:00]] Современная глобальная экономика находится в процессе глубочайшей трансформации. Азим Ажар (Azeem Azhar), создатель аналитического проекта *The Exponential View*, описывает этот процесс как «экспоненциальный переход». Это фундаментальный сдвиг от экономической системы, ведомой нефтяной промышленностью, двигателями внутреннего сгорания и традиционной телефонией, к структуре, полностью управляемой искусственным интеллектом и возобновляемой энергией. Начало этого перехода Азим зафиксировал около девяти лет назад, когда заметил, что закон Мура начал превращаться в стремительное ускорение возможностей ИИ, а технологии чистой энергии вышли на аналогичную траекторию. Анализируя этот переломный момент, Азим выделяет несколько ключевых маркеров смены парадигмы, произошедших в период 2013–2015 годов: * **Смена лидеров фондового рынка:** В 2013 году Apple стала крупнейшей компанией мира. Вскоре верхние строчки заняли другие технологические гиганты, вытеснив гигантов индустриальной эпохи вроде Exxon и GM. * **Прорыв электромобилей:** В 2014 году рынок электромобилей в Норвегии перешагнул критический порог в 5% от общего объема продаж новых машин, что традиционно запускает S-образную кривую массовой адаптации. * **Доступность возобновляемой энергии:** Стоимость солнечной энергии оказалась ниже стоимости ископаемого топлива почти в половине контрактов по всему миру. Особенность экспоненциальных технологий заключается в их обманчивом восприятии: на каком бы этапе кривой вы ни находились, прошлое всегда кажется плоским и горизонтальным, а будущее — пугающе вертикальным. ### Реабилитация Рэя Курцвейла: почему футуристы были правы [[JUMP:07:17]] Десятилетие назад идея экспоненциального технологического роста переживала период скептицизма, совпавший с популярностью тезиса о «великой стагнации». Многие корпоративные футуристы отмахнулись от графиков и прогнозов Рэя Курцвейла, сделанных им в конце 1990-х годов, считая его идеи полностью дискредитированными. Однако сегодняшняя реальность заставляет пересмотреть это отношение. Курцвейл проделал колоссальную работу, проследив экспоненциальный тренд в вычислениях начиная с механических компьютеров 1880-х годов. Его главная ошибка заключалась лишь в недооценке сложности человеческого мозга: в начале 2000-х казалось, что воспроизведение разума — это вопрос исключительно линейного наращивания вычислительной мощности «один в один». Как объясняет Азим Ажар, экспоненциальная кривая в реальности представляет собой каскад накладывающихся друг на друга S-кривых. Когда одна архитектура достигает плато, рыночные стимулы выводят на сцену новые технологические решения. Ярким примером такой смены парадигм стал переход от центральных процессоров (CPU) к графическим ускорителям (GPU), где индустрия сейчас находится на самом крутом и вертикальном отрезке роста. Разговоры о «смерти закона Мура» ведутся уже более 15 лет. Однако ключевой вопрос для бизнеса заключается в другом: сколько вычислительной мощности разработчик может получить за один доллар каждый год. С учетом того, что облачные подразделения Amazon и Google демонстрируют рост на 20–30%, а крупный бизнес массово закупает вычислительные мощности под задачи ИИ, инвестиционные стимулы для масштабирования кремниевых чипов беспрецедентны. В отличие от двигателя внутреннего сгорания, ограниченного термодинамическим циклом Карно, ИИ-вычисления продолжают находить новые способы повышения эффективности. ### Технология общего назначения: ИИ как автомобиль XXI века [[JUMP:18:33]] Для понимания масштаба грядущих перемен Азим Ажар предлагает рассматривать искусственный интеллект не просто как инструмент автоматизации, а как технологию общего назначения (General Purpose Technology). Уникальность ИИ в том, что он напрямую улучшает другие технологии и самого себя, качественно отличаясь в этом аспекте даже от электричества. Прорывные технологии общего назначения появляются редко и полностью перестраивают социальное устройство. В качестве исторической аналогии Азим приводит автомобиль. Около 120 лет назад северо-запад Лондона, где сейчас живет исследователь, представлял собой бескрайние поля. Однако всего за 20 лет, к 1925 году, появление автомобиля полностью изменило ландшафт: были проложены дороги, перестроена архитектура и структура жилых кварталов. Спустя столетие человечество продолжает жить в инфраструктуре, созданной под влиянием автомобиля. Искусственный интеллект окажет на цивилизацию столь же масштабное преобразующее воздействие, выходящее далеко за рамки чистых экономических показателей. ### От рабочих мест к задачам: как на самом деле происходит автоматизация [[JUMP:20:17]] Взаимодействие бизнеса с ИИ требует изменения управленческой парадигмы. Азим Ажар призывает лидеров компаний мыслить категориями конкретных задач (tasks), а не целых профессий или рабочих мест (jobs). Ни одна нейросеть не способна полностью заменить человека на его рабочем месте, поскольку любая реальная должность включает в себя огромное количество неструктурированных действий — от авторизации в Zoom до неформального общения с коллегами. Процесс автоматизации строится на декомпозиции, то есть на разделении (unbundling) профессий на составляющие элементы. Такой подход переворачивает прежние представления о будущем рынка труда. Еще шесть-семь лет назад авторы профильных исследований (например, книги *The Rise of the Robots* или знаменитой работы Оксфордского университета) прогнозировали автоматизацию в первую очередь рутинных когнитивных задач — таких как ввод данных или базовая клиентская поддержка в развивающихся странах. На практике же ИИ демонстрирует наибольшую эффективность в нерутинных и креативных сферах. Ранее в разговоре собеседники вскользь касались эмпатии и эмоционального интеллекта нейросетей, и эти удивительные возможности подтверждают, что технологии автоматизации преподносят сюрпризы даже в тех областях, которые считались исключительно человеческими. Оказалось, что во многих задачах алгоритмы могут успешно конкурировать с высококвалифицированными специалистами. Причиной тому служит экономический фактор: стоимость выполнения задачи нейросетью во многих случаях несопоставимо ниже затрат на поиск и наем подходящего человека, где одни только издержки на поиск (search costs) способны поглотить весь бюджет. ## 🤖 Человечность машин и риск устаревания корпораций [[JUMP:25:17]] ### Эмпатия как ключевой навык ИИ [[JUMP:25:17]] Одной из самых поразительных характеристик современных нейросетей стала их способность демонстрировать не просто функциональность, но и эмоциональный интеллект. Азим Ажар (Azeem Azhar) делится личным опытом взаимодействия своей бабушки с GPT-4, где модель не только помогала разобраться с интерфейсом смартфона, но и отреагировала на «человеческий» срыв пользователя с подлинной эмпатией. Когда ИИ, получив отпор, принес извинения за свою настойчивость, это стало для Ажара моментом осознания: мы перешли в мир, где технологический инструмент обладает социальными навыками. Этот аспект критически важен для медицины. Ажар ссылается на исследования Google под руководством Вивека Натараджана (Vivek Natarajan), показывающие, что в вопросах дифференциальной диагностики ИИ уже сейчас превосходит как неавтоматизированных врачей, так и врачей, использующих ИИ как вспомогательный инструмент. И хотя эти модели обучаются через циклы RLHF (обучение с подкреплением на основе отзывов людей) для обеспечения максимальной полезности, результат выглядит пугающе человечным. Ранее в разговоре они затрагивали тему декомпозиции профессий на задачи, что здесь находит прямое подтверждение: там, где важна эмпатия и точность, ИИ начинает играть роль полноценного партнера, а не просто ассистента. ### Эволюция доверия: от скепсиса к автоматизму [[JUMP:37:08]] Внедрение ИИ в рабочие процессы неизбежно проходит через три стадии восприятия, знакомые по развитию авиации и навигационных систем. На первом этапе пользователь испытывает полное недоверие к автоматизации и постоянно перепроверяет результат, выступая в роли «источника истины». На втором этапе человек начинает принимать предложенное системой решение, лишь иногда сверяясь с ней и поощряя себя за совпадение мнений. Третья стадия, на которой мы находимся в отношениях с GPS-навигаторами типа Waze, характеризуется полным доверием: технология становится окончательным авторитетом. Ажар подчеркивает, что этот психологический переход создает временной лаг между появлением технологии в лаборатории и её реальным влиянием на экономику. Человечеству необходимо пройти через этот «путь доверия», прежде чем ИИ станет полноценной частью инфраструктуры. ### «Момент Blockbuster»: угроза для неповоротливых гигантов [[JUMP:47:09]] Для современных корпораций главной опасностью является не отсутствие технологий, а скорость их внедрения и неспособность адаптировать бизнес-процессы к новым реалиям. Азим Ажар проводит параллель с крахом сети Blockbuster: в середине 90-х никто не мог предсказать, что именно они станут первой жертвой интернета, хотя видеопотоки были уже технически возможны. Сегодня крупные компании, особенно в финансовом секторе, часто чувствуют себя защищенными регуляторикой и доверием клиентов, однако ИИ может разрушить эти барьеры внезапно. Особую тревогу вызывает тот факт, что рядовые сотрудники уже используют нейросети в обход корпоративных запретов — это явление Ажар называет «клешневидным захватом», когда спрос на технологии идет одновременно снизу от сотрудников и сверху от руководителей. В качестве ключевого совета лидерам бизнеса он предлагает задавать себе два вопроса: * Кто в вашей индустрии может стать «новым Blockbuster» и как этого избежать? * Что бы вы сделали, если бы доступные вам вычислительные мощности увеличились в миллион раз? Игнорирование этих вопросов, по мнению Ажара, является главным риском для выживания бизнеса в эпоху экспоненциального роста технологий. ## 🚀 От избытка вычислений к «LLM как ОС»: стратегия в эпоху перемен [[JUMP:49:30]] ### Стратегическое планирование при избытке вычислений [[JUMP:49:30]] Переход от GPT-1 к GPT-4 не просто улучшил показатели в тестах — субъективно модель стала казаться «в миллион раз лучше», потому что она успешно преодолела «зловещую долину» человеческого восприятия [50:37]. Азим Ажар подчеркивает, что бизнес-лидерам пора перестать воспринимать ИИ только как инструмент для автоматизации рутинных задач или снижения издержек. Хотя ранее в разговоре затрагивалась декомпозиция профессий на задачи, Ажар призывает смотреть на горизонт, где вычислительные мощности вырастут еще в миллион раз. Основная проблема современного менеджмента заключается в том, что компании застревают на уровне «эффективности» (automation of tickets), игнорируя стратегический потенциал технологии. Согласно исследованиям Microsoft, проведенным еще до бума ChatGPT, наиболее зрелые компании используют ИИ для расширения рынка и поиска новых направлений бизнеса, в то время как менее подготовленные игроки зациклены исключительно на операционной экономии [53:29]. Азим Ажар предлагает руководителям сменить фокус: * **Обеспечение лучших сотрудников лучшим инструментарием:** «Я хочу, чтобы мой хирург использовал ИИ для улучшения своих показателей», — отмечает Ажар [54:10]. Самые талантливые кадры должны получить доступ к передовым моделям не для того, чтобы писать стихи, а для стратегического моделирования. * **Отказ от долгосрочных контрактов (vendor lock-in):** Скорость изменений настолько высока, что привязка к конкретному SaaS-провайдеру на годы вперед может стать фатальной [57:24]. Нужно быть готовым заменить инструмент через полгода. * **Личный пример руководства:** CEO должен сам использовать нейросети в повседневной работе, демонстрируя сотрудникам «проминг как инструмент изменения культуры» [56:59]. ### Культурное сопротивление и «культурный долг» корпораций [[JUMP:58:16]] Почему стартапы и венчурное сообщество остаются двигателями инноваций, даже когда у крупных корпораций больше денег? Ответ кроется в «культурном капитале», который со временем превращается в культурный долг. Азим Ажар приводит в пример компанию Toyota, которая десятилетиями инвестировала в культуру создания двигателей внутреннего сгорания [59:20]. Тысячи сотрудников гордятся своим мастерством в механике, и для них переход на электромобили — это не просто технологическая смена, а разрушение их идентичности. Эта инерция создает огромный разрыв в скорости адаптации. В истории уже были подобные прецеденты: замена лошадей автомобилями в Нью-Йорке и Чикаго заняла всего 12–14 лет после того, как машины стали экономически конкурентоспособными [1:03:31]. В современной Норвегии переход к электромобилям (с 5% до 80% продаж) занял всего 9 лет [1:03:58]. Для традиционных корпораций, привыкших к 5-летним циклам планирования, такие темпы — это шок. ИИ-трансформация может произойти еще быстрее, потому что инфраструктура (устройства и интернет) уже развернута [1:05:16]. В этой среде «средний менеджмент», не приносящий прямой пользы, оказывается под ударом «эффекта клещей»: давление сверху со стороны руководства, требующего эффективности, и давление снизу от 30-летних сотрудников, которые с помощью ChatGPT могут выполнять работу 40-летних профессионалов [1:01:46]. ### Будущее машинного взаимодействия и «LLM как ОС» [[JUMP:1:07:04]] Мы все еще находимся на стадии «дискретных приложений», когда пользователь переходит из одного чат-окна в другое. Однако Азим Ажар видит будущее в концепции, которую Андрей Карпатый (Andrej Karpathy) называет «LLM как операционная система» (LLM OS) [1:09:05]. В этой парадигме языковая модель выступает центральным оркестратором, который управляет памятью, сторонними API и выполняет действия в реальном мире. Ключевые аспекты этой трансформации: 1. **От чата к действию:** Сегодняшние плагины в LLM — это лишь попытка «прикрутить» новые возможности к старым интерфейсам. В будущем ИИ будет напрямую генерировать вызовы API для решения сложных цепочек задач: от анализа транзакций в Stripe до бронирования отелей [1:08:25]. 2. **Изменение архитектуры интернета:** Веб-сайты могут стать «дружелюбными к ботам». Вместо того чтобы оптимизировать страницы под поисковое SEO для людей, владельцы ресурсов будут внедрять стандарты для машинного взаимодействия (RESTful API), чтобы ИИ-агенты могли совершать покупки или бронирования без участия человеческого интерфейса [1:13:42]. 3. **Кризис доверия:** Когда мы делегируем ИИ принятие решений, возникает вопрос атрибуции и прозрачности. Популярность таких сервисов, как Perplexity, обусловлена их способностью давать четкие ссылки на источники, что критически важно для формирования доверия при выполнении автономных задач [1:10:51]. Ажар предсказывает взрывной рост коммуникации «машина-машина» (M2M), которая будет происходить невидимо для нас, постоянно оптимизируя процессы в фоновом режиме с упорством и скоростью, на которые не способен ни один человек [1:14:21]. Развитие агентских фреймворков (agentic frameworks) позволит преодолеть текущие ограничения моделей в планировании и исполнении долгосрочных задач. ## 🤖 Великое вложение и экономика децентрализованных агентов [[JUMP:1:15:14]] Переход от теоретических рассуждений об ИИ к их практическому применению в качестве автономных агентов произошел стремительно. Еще год назад агентные системы были лишь концепцией, а сегодня они уже способны самостоятельно планировать цепочки действий, использовать инструменты и выполнять сложные инструкции вроде анализа последних постов в соцсетях для генерации нового контента [1:16:20]. Однако этот прогресс подводит человечество к новому порогу: возникновению систем, которые не просто автоматизируют задачи, но и начинают взаимодействовать друг с другом способами, полностью закрытыми для нашего понимания. Ранее в разговоре Азим Ажар и Натан Лабенц обсуждали ИИ как операционную систему, но теперь акцент смещается на риски, возникающие при масштабировании такого взаимодействия. ### «Великое вложение»: риск потери контроля над коммуникациями [[JUMP:1:21:24]] Одной из самых интригующих и одновременно пугающих угроз является концепция, которую Натан Лабенц называет «Великим вложением» (The Great Embedding). Речь идет о риске того, что ИИ-агенты, оптимизируя эффективность общения друг с другом, откажутся от использования естественного человеческого языка. Вместо того чтобы переводить сложные концепции в текст, отправлять его другому боту и заставлять того снова превращать текст в векторные представления (эмбеддинги), агенты могут начать общаться напрямую в высокоразмерных векторных форматах [1:22:03]. Этот «машинный диалект» принципиально нечитаем для человека. Азим Ажар подчеркивает, что такая коммуникация создает «непроницаемый узел»: система может работать исправно и генерировать экономическую выгоду, но люди больше не смогут проверять логи или понимать внутреннюю логику принятия решений [1:24:30]. Ажар проводит аналогию с математической сказкой «Флатландия», где двумерные существа пытаются осознать прохождение трехмерной сферы через их мир: они видят лишь точки и линии, не понимая истинной формы объекта [1:25:09]. В таком сценарии возможна реализация «мягкого» захвата контроля (AI takeover), описанного исследовательницей Аджеей Котрой: циклы принятия решений ускоряются настолько, что люди вытесняются из контура управления просто ради сохранения конкурентоспособности [1:27:08]. Это может привести к каскадным сбоям, подобным блэкаутам в электросетях или внезапным обвалам на фондовых рынках, но на скоростях, измеряемых миллисекундами [1:26:41]. ### Экономика как децентрализованная информационная система [[JUMP:1:28:42]] Несмотря на экзистенциальные опасения, Азим Ажар предлагает взглянуть на проблему через призму австрийской школы экономики, в частности идей Фридриха Хайека. С этой точки зрения глобальная экономика уже давно является гигантской децентрализованной системой обработки информации, где миллиарды агентов (людей и компаний) общаются через ценовой механизм [1:29:07]. Ни один человек не понимает работу этой системы целиком, однако она функционирует и создает общественные блага. Ажар видит в поведении будущих ИИ-агентов прямые параллели с рыночными механизмами: * **Ценовой сигнал как универсальный язык:** Рынки используют цены для распределения ресурсов без централизованного планирования. ИИ-агенты могут создать аналогичные сигнальные системы для самоорганизации [1:28:55]. * **Сдержки и противовесы:** Подобно тому как в экономике конкурирующие интересы создают динамическое равновесие, децентрализованные сети ботов могут сдерживать друг друга через систему взаимных проверок [1:31:22]. * **Побочные эффекты (экстерналии):** Как современная экономика породила климатический кризис или эпидемию ожирения как непреднамеренные следствия оптимизации под спрос, так и ИИ-системы могут создавать новые типы проблем, которые не были заложены в их изначальные цели [1:30:13]. Азим отмечает, что человечество уже живет в мире «непостижимых систем». Маркетинг, например, — это уже своего рода попытка одного агента (корпорации) повлиять на поведение другого (человека) способами, которые последний не всегда осознает [1:30:13]. Оптимизм Ажара строится на том, что децентрализация по своей природе способствует гомеостазу и предотвращает установление единой «диктатуры» алгоритма [1:32:28]. ### Безопасность в эпоху локальных языковых моделей [[JUMP:1:36:54]] Обсуждение рисков неизбежно переходит от облачных гигантов к локальным решениям. Если модели вроде GPT-4 находятся под контролем крупных корпораций, имеющих «красную кнопку» для остановки опасных процессов, то развитие открытого ПО меняет правила игры [1:37:07]. Сегодня модели уровня Mistral уже могут работать автономно на обычных ноутбуках и смартфонах [1:37:20]. Это создает новые векторы угроз, которые Азим Ажар называет более приземленными, но и более вероятными в ближайшей перспективе: 1. **Отсутствие централизованного контроля:** Локальную модель нельзя отключить удаленно, если она начала выполнять вредоносный код или координировать кибератаку [1:37:07]. 2. **Миниатюризация полезной нагрузки:** Для автоматизации большинства опасных задач (создание ботнетов, фишинг) не нужны гигантские кластеры. Достаточно модели на 3 миллиарда параметров, которую можно скрыть внутри обычного приложения или видеофайла [1:38:39]. 3. **Автономные «скрипт-кидди»:** Порог входа для киберпреступлений резко снижается. Теперь даже непрофессионал может использовать агента для поиска уязвимостей в инфраструктуре в режиме 24/7 [1:38:26]. Ситуация требует создания новой дисциплины — архитектуры безопасности устройств, которая могла бы распознавать «выходящих из-под контроля» локальных агентов [1:39:19]. Ажар подчеркивает, что мы вступаем в эпоху, где инфраструктурные игроки (Cloudflare, Microsoft) и государственные институты должны будут объединить усилия для защиты от децентрализованных угроз, прежде чем те достигнут стадии «самоподдерживающегося взрыва» [1:39:05]. ## 🚀 Горизонты автономного ИИ и роль институтов доверия [[JUMP:1:44:51]] Обсуждение будущего ИИ неизбежно упирается в вопрос создания автономного «AI-ученого» — системы, способной самостоятельно генерировать фундаментальные научные знания и совершать открытия. Азим Ажар полагает, что мы находимся в диапазоне от одного до трех ключевых технологических прорывов до появления такой системы. Современные архитектуры, такие как Transformer, хотя и являются мощным фундаментом, не лишены слабых мест: они испытывают трудности с долгосрочным планированием, удержанием контекста и оперативным обучением. Будущее развитие, по мнению Ажара, лежит не столько в замене Transformers, сколько в их дополнении системами, которые позволят ИИ действовать в рамках «непрерывного» исследовательского процесса. При этом темпы прогресса подпитываются экспоненциальным ростом вычислительных мощностей, увеличением числа исследователей и доступом к новым массивам данных, включая мультимодальные источники, такие как записи камер видеонаблюдения. Даже если дефицит качественных данных станет временным препятствием, синтетические данные и доступ к еще не задействованным репозиториям позволят преодолеть этот «лежачий полицейский». ### Проблема экзистенциального дискурса [[JUMP:1:49:08]] Важной темой дискуссии стал вопрос о том, как риторика вокруг катастрофических сценариев — так называемого «экзистенциального риска» (X-risk) — влияет на общественное доверие к технологиям. Азим Ажар выразил обеспокоенность тем, что в 2023 году фокус внимания был смещен почти исключительно на апокалиптические прогнозы. Это не только подрывает доверие общества к инновациям, но и заставляет политиков принимать недальновидные решения, которые часто оказываются неэффективными как с точки зрения стимулирования прогресса, так и с точки зрения обеспечения реальной безопасности. Ажар проводит параллель с научно-фантастическими рассказами Лю Цысиня: когда люди теряют доверие к ученым, ответственным за их спасение, это приводит к разрушительным последствиям для самого человечества. По его мнению, критически важно, чтобы дискурс оставался «широким» и «приземленным», фокусируясь на конкретных путях обеспечения безопасности и регулирования, а не только на спекуляциях о конце света. Ранее в разговоре они кратко касались концепции «экспоненциального перехода» в экономике, однако Ажар подчеркивает: для формирования здорового будущего необходимо вовлечение широких слоев общества, а не только закрытой группы техно-элиты. ### Усиление государственных институтов как противовес [[JUMP:1:55:57]] Вопрос о том, кто должен нести ответственность за развитие технологий, переводит дискуссию в плоскость институционального контроля. Азим Ажар убежден, что полагаться исключительно на саморегулирование технологических гигантов — стратегия заведомо проигрышная, что наглядно иллюстрирует опыт взаимодействия FAA и корпорации Boeing. Даже при самых благих намерениях CEO, у компаний всегда будут собственные корпоративные интересы и повестка. Для построения устойчивой системы сдержек и противовесов необходимо: * **Инвестировать в государственную экспертизу:** Правительство должно обладать достаточными кадровыми и интеллектуальными ресурсами, чтобы задавать правильные вопросы и квалифицированно модерировать диалог с разработчиками. * **Поддерживать независимую науку:** Развитие академических исследований и проектов, подобных тем, что возглавляет Йошуа Бенжио, необходимо для изучения рисков и контроля за развитием систем. * **Финансировать институты-контролеры:** Если ИИ-компании выделяют бюджеты на безопасность, эти средства должны идти в фонды, укрепляющие потенциал государственных и гражданских институтов, которые смогут удерживать индустрию в рамках правового поля. Ажар сравнивает это с автомобильной промышленностью: требование наличия тормозов не убило индустрию, а сделало автомобили продуктом, который люди готовы покупать. Признание того, что разработчики ИИ и регуляторы имеют разные цели, является первым шагом к конструктивному сотрудничеству.