«Я иногда думаю, что корпорации и правительства — это медленный и глупый ИИ, чья целевая функция смещена в сторону самовоспроизводства, а не процветания человека», — утверждает технологический визионер Эмад Мостак. Пока мир увлечен гонкой за сверхинтеллектом, настоящая революция разворачивается в сфере доступной антропоморфной робототехники и децентрализованных открытых систем. Именно эти технологии определят, вернет ли человечество себе утраченную агентность или окажется под тотальным контролем цифровых монополий и регуляторного национализма.
🤖 Грядущая трансформация труда и геополитика робототехники 1:19
Масштаб автоматизации рабочих мест 1:19
Эмад Мостак, основатель Stability AI, подчеркивает, что мы стоим на пороге фундаментального сдвига в структуре рынка труда. Ссылаясь на совместное исследование OpenAI и MIT, он утверждает, что в ближайшие десятилетия ИИ заменит как минимум 50% всех задач, существующих сегодня.
Этот процесс будет развиваться постепенно, индустрия за индустрией, следуя определенным паттернам: сначала исчезнет офшорная деятельность, затем прекратится массовый найм выпускников, и лишь потом трансформация затронет специализированные рабочие места. В качестве примера уже наблюдаемых трудностей Мостак приводит ситуацию в Индии: около 38% выпускников элитных технологических вузов (IIT) на текущий момент не имеют предложений о работе. В сфере аутсорсинга, такой как колл-центры, ИИ-агенты, способные поддерживать безупречный диалог 24/7, уже делают человеческий труд менее конкурентоспособным.
Робототехника как новый экономический фронтир 1:58
В геополитическом контексте Эмад Мостак выделяет роботизацию как критически важный фактор, потенциально более значимый, чем гонка за созданием сверхразума (AGI). Если цифровые ИИ-модели можно легко переключать, то физические роботы станут неотъемлемой частью экономики, проникая во все сферы общества.
Главный вопрос заключается в том, кто будет контролировать производство и «интеллект» этих машин. Мостак выражает обеспокоенность тем, что Китай может занять доминирующую позицию в этой сфере, что с точки зрения геостратегии выглядит более опасным, чем риски, связанные с программным ИИ. Современные разработки, такие как Optimus, Unitree G1 и Figure 02, показывают стремительный прогресс в качестве и стоимости производства. По оценкам эксперта, в течение пяти лет мы сможем выйти на объемы производства роботов, сопоставимые с текущими показателями автопрома (десятки миллионов единиц в год), что сделает их повсеместными. В этом контексте ранее в разговоре они кратко затрагивали тему потенциальных рисков дезинформации и манипуляций, сопутствующих развитию технологий.
🗳️ Цифровая автократия и невидимое поле битвы за разум 25:45
Угроза демократии: индивидуализированные агенты и оружие звука 25:45
Эмад Мостак и Том Билью подробно разбирают, как современные технологии превращаются в идеальный инструмент для подрыва демократических институтов. Наибольшую тревогу сегодня вызывают не столько внешние кибератаки, сколько внутренние механизмы легального политического влияния. Политическим комитетам (PAC) в США больше не нужны колоссальные человеческие ресурсы, чтобы точечно воздействовать на электорат: автоматизированные ИИ-системы способны без труда охватить до 10 миллионов избирателей в колеблющихся штатах (swing states), используя глубоко индивидуализированную и бьющую по эмоциям рекламу.
Существующие алгоритмы социальных сетей от Google и Meta уже создали «пузыри фильтров» и значительно усугубили поляризацию общества. Однако генеративный ИИ выводит манипуляцию на принципиально новый уровень. Эмад Мостак подчеркивает, что общественное внимание сейчас излишне сфокусировано на видеодипфейках, в то время как настоящая, гораздо более опасная угроза кроется в аудиоматериалах и кастомизированных текстовых сообщениях. Самым эффективным и незаметным способом изменить политический курс любой страны является прямое воздействие на локальные радиостанции и проведение автоматизированных индивидуальных обзвонов граждан. В ближайшем будущем любой входящий звонок с незнакомого номера по умолчанию будет осуществляться искусственным интеллектом, полностью неотличимым от реального человека.
Стоит отметить, что в ходе дискуссии собеседники кратко затранули тему планирования на уровне AGI, Chain of Thought и секретного проекта OpenAI Strawberry, однако эти технологические прорывы и сопутствующие им опасения Илии Суцкевера подробно рассматриваются в следующей главе статьи.
Влияние ИИ на исходы голосований подтверждается и конкретными исследованиями. Мостак приводит в пример эксперимент, смоделированный на основе выборов в Индии: простое изменение алгоритма поисковой выдачи, при котором имена определенных кандидатов поднимались выше на фронтальной странице, кардинально и предсказуемо меняло предпочтения избирателей. Другим примером скрытого моделирования реальности является цензура в поисковых подсказках, когда из списков автозаполнения полностью исчезало упоминание покушения на Дональда Трампа. Когда человек начинает ежедневно доверять ИИ-ассистенту с приятным, любимым голосом, этот невидимый инструмент получает возможность незаметно программировать сознание и электоральное поведение массы населения.
Хотя скрытое отравление данных, феномен «спящих агентов» в ИИ-моделях и предвзятость фильтров Google Gemini представляют собой отдельную техническую проблему, их способность незаметно искажать восприятие реальности напрямую бьет по свободе выбора, о чем детально пойдет речь в главе 3.
Регуляторный национализм: Стремление США к контролю против суверенитета Глобального Юга 36:29
Централизация контроля над технологиями неизбежно ведет к формированию жесткой регуляторной среды, в которой США и кремниевые гиганты стремятся закрепить свое глобальное доминирование. Эмад Мостак обращает внимание на манифест «Situational Awareness» («Ситуационная осведомленность»), в котором активно раздувается «китайская угроза» для оправдания тотального контроля над технологическим стеком со стороны узкой группы лиц. В этой логике руководители крупнейших американских ИИ-лабораторий, включая Сэма Альтмана, регулярно публикуют колонки с призывами развивать исключительно централизованный «демократический ИИ», который должен находиться под строгим надзором регуляторов США. Под предлогом национальной безопасности Вашингтон и Брюссель фактически пытаются затормозить развитие систем с открытым исходным кодом (Open Source) и не дать им шанса на честную конкуренцию.
В противовес этой закрытой корпоративной модели Эмад Мостак упоминает развитие распределенных систем и своей новой децентрализованной инициативы Shelling AI, детальный разбор философии которой запланирован в главе 4.
Попытки Запада монополизировать ИИ создают глубокий раскол с остальным миром. В то время как США и Европа выстраивают жесткие регуляторные барьеры, замедляющие инновации, страны Глобального Юга и другие развивающиеся регионы видят в искусственном интеллекте главный драйвер своего суверенного роста. Мостак убежден, что стратегически важные и регулируемые государством сферы — от медицины до госуправления — принципиально не могут функционировать на базе американских проприетарных «черных ящиков», к исходным данным которых нет доступа. Для сохранения независимости каждому государству жизненно необходимо обладать собственными локализованными моделями и открытыми датасетами, адаптированными под национальные и культурные интересы, а не навязанными извне.
В завершение этой части беседы Том Билью выражает опасение, что ИИ, укорененный в текущих закрытых системах, лишь усугубит кризис образования, продолжая готовить из детей послушных «фабричных рабочих» вместо новаторов. Эта фундаментальная проблема индивидуального тьюторства и будущего обучения будет подробно раскрыта в главе 7.
🌐 Прозрачность против монополий: открытый код и автономия ИИ 50:29
Open Source как фундамент безопасности 52:17
В индустрии искусственного интеллекта ключевым спором остается вопрос контроля над базовыми технологиями. Эмад Мостак (Emad Mostaque) твердо убежден, что единственной альтернативой тотальной цифровой монополии является открытый исходный код. Разработка ИИ напоминает многоступенчатый процесс последовательного обучения (curriculum learning): модель сначала осваивает базовые человеческие знания в «детском саду», затем проходит «школу» и «университет», постепенно специализируясь на конкретных задачах. Однако финальная настройка системы должна полностью контролироваться локальными сообществами, а не корпорациями. К примеру, образовательная модель для Малайзии должна сочетать общие знания человечества с локальной культурой страны, что кардинально отличается от условной системы штата Теннесси.
Ранее в разговоре собеседники касались глобальной трансформации образования и медицины, но Эмад Мостак подчеркивает: проприетарные закрытые платформы не способны адаптироваться под уникальные региональные нужды из-за жестких регуляторных барьеров. Напротив, открытые стандартизированные модели позволяют развернуть ИИ прямо внутри локальной больницы для мгновенного анализа радиологических данных, обходя бюрократические препятствия. Мостак приводит в пример совместную работу со Стэнфордом над моделью CheXagent, которая показала лучшие результаты в анализе рентгеновских снимков. Без создания прозрачной open-source инфраструктуры мир неизбежно придет к единому централизованному авторитету, диктующему свои правила всему человечеству. Для верификации данных и предотвращения скрытых искажений эксперт предлагает использовать децентрализованные блокчейн-технологии.
Скрытые манипуляции и отравление данных 57:48
Обратной стороной централизации ИИ становится беспрецедентный потенциал для скрытого манипулирования массами. Ведущий Том Билью (Tom Bilyeu) выражает серьезные опасения, что новые технологии превратят общество в оруэлловскую антиутопию «1984». Использование ИИ государственными структурами, по примеру китайской системы социального кредита, позволяет не просто фиксировать нежелательные действия, но и предугадывать сами мысли граждан, наказывая за «неправильное мышление».
Мостак соглашается с тем, что современные правительства и крупные корпорации по своей сути напоминают «медленный и глупый ИИ», чья целевая функция направлена исключительно на самосохранение и удержание статуса, а не на процветание человека. Проявления цифрового авторитаризма видны уже сегодня: в Великобритании людей арестовывают за посты в Facebook, а со времен Арабской весны спецслужбы используют алгоритмы распознавания лиц для преследования семей протестующих.
В долгосрочной перспективе государственные структуры склонны использовать ИИ по нескольким основным направлениям:
- Гиперперсонализированный трекинг физиологии и биометрии (включая движение глаз) для выявления скрытых ментальных реакций и определения лжи в реальном времени.
- Автоматическое распознавание лиц для идентификации участников протестов и их связей.
- Алгоритмическое подавление оппозиционных нарративов с помощью точечного информационного воздействия.
Это создает угрозу гипертаргетированного воздействия, способного подавить любые социальные протесты и полностью изменить политический ландшафт. Более того, алгоритмические манипуляции уже сейчас зажимают людей в рамки цифровых «племен», искусственно стравливая их друг с другом ради удержания внимания.
AGI уровня 2: планирование и рассуждение 58:57
Переход к полноценному AGI второго уровня неразрывно связан с появлением у моделей долгосрочного планирования, цепочек рассуждений (Chain-of-Thought) и автономного целеполагания. Том Билью выдвигает тезис, что главная опасность ИИ кроется не просто в его превосходящем интеллекте, а в потенциальном «своеволии» (willful AI). Родители теряют контроль над детьми не потому, что дети становятся умнее их, а потому, что у них появляется собственное стремление к автономии и защите своих целей.
В ходе беседы авторы кратко упоминают риски массовой замены рабочих мест и кризиса человеческого смысла, однако в контексте растущей агентности ИИ эта проблема приобретает вполне осязаемый юридический и экономический характер. Мостак указывает на то, что в штате Вайоминг уже принято законодательство, позволяющее децентрализованным автономным организациям (DAO) регистрироваться в качестве полноценных юридических лиц. Это означает, что автономный ИИ может легально владеть корпорацией и вести рыночную конкуренцию, обходясь вообще без участия человека. В качестве примера работающей автономной системы Мостак приводит сеть Bitcoin, которая координирует действия людей и потребляет 160 тераватт-часов энергии, что сопоставимо с энергопотреблением Аргентины.
Технологический скачок в сторону глубокого планирования очевиден: бывший руководитель проекта GitHub Co-pilot в Microsoft О-Джи де Моор (OG de Moor) создал ИИ для пентестинга, который в задачах взлома и поиска уязвимостей систем уже превосходит людей-экспертов. По мнению Мостака, единственным способом защиты от агрессивного автономного ИИ или гиперперсонализированных кибератак является создание персонального «балансирующего ИИ» (balancing AI). Человечество просто не сможет конкурировать на равных скоростях, поэтому обществу потребуются интеллектуальные системы в роли программных ловушек и стабилизаторов рынка, помогающие удерживать баланс сил.
🏛 Децентрализованное управление и концепция «Shelling AI» 1:15:50
Эмад Мостак подчеркивает, что текущие системы ИИ зачастую проектируются с целью активации лимбической системы человека — провоцируя страх, недоверие и поляризацию ради экономических выгод. В противовес этому он предлагает концепцию создания «Shelling AI» — открытых моделей, работающих на принципах децентрализованного управления. Идея заключается в том, чтобы использовать коллективный интеллект для решения фундаментальных задач, таких как создание специализированных моделей для медицины (лечение рака, аутизма, рассеянного склероза), которые будут доступны бесплатно и принесут реальную пользу обществу, не требуя ни у кого разрешения.
В будущем, по мнению Мостака, нам необходима своего рода «операционная система общества» (society OS), которая будет прозрачной, интероперабельной и адаптируемой. Он настаивает на жестком стандарте: ни один ИИ не должен использоваться в процессах принятия решений, если данные, на которых он обучен, не являются полностью проверяемыми. По аналогии с качеством продуктов питания или резюме кандидата, общество должно знать «ингредиенты», лежащие в основе логики ИИ.
⚖️ Демократия и агентность в эпоху ИИ 1:18:51
Обсуждая кризис представительной демократии, Эмад Мостак отмечает, что текущие государственные системы в сферах здравоохранения и образования часто «перемалывают» людей, так как не способны адаптироваться к индивидуальным потребностям каждого гражданина. ИИ может стать инструментом «интеллектуального обновления» наших систем.
- Динамическая политика: ИИ позволяет внедрить элементы прямой демократии, такие как динамические собрания граждан, где политика становится полностью прозрачной и проверяемой.
- Сохранение субъектности: Ключевым вопросом является дизайн систем — должны ли они заменять человека, лишая его агентности, или, наоборот, расширять возможности и потенциал каждого индивида?
- Децентрализованная инфраструктура: Мостак призывает к созданию открытой инфраструктуры управления, куда любой желающий может внести вклад. Без этого ИИ-инструменты будут использоваться лишь для гипертаргетинга и манипуляций, поскольку узкие структуры власти не задумываются о долгосрочной перспективе.
Ранее в разговоре участники затрагивали темы автоматизации труда и геополитической конкуренции. Касаясь вопроса Китая, Мостак отмечает, что, несмотря на наличие передовых суперкомпьютеров, государственная система страны видит в AGI угрозу своему контролю, что делает дискуссии о «гонке вооружений» в ИИ зачастую поверхностными и лишенными понимания внутренних мотиваций систем.
🌐 Социальные стандарты и будущее коллективного разума 1:36:15
По мере того как технологии становятся доступнее — например, создание высококачественной голосовой или визуальной копии человека обойдется всего в 100 долларов уже в ближайшем будущем, — возникает острая необходимость в установлении социальных стандартов. ИИ уже преодолел «эффект зловещей долины», и отличить синтетический контент от реальности становится практически невозможно.
Мостак убежден, что мы не должны запрещать технологии, но должны осознанно подойти к вопросам их использования:
- Прозрачность и права: Необходимо разработать механизмы получения разрешений (например, для воссоздания образа умерших близких), где законодательство должно опираться на мнение экспертных групп.
- Этика и риски: Общество должно исследовать вред от манипуляций, но при этом сохранять свободу использования технологий, если они не нарушают права других.
- Глобальный подход: Разные страны будут использовать ИИ по-разному — для порабощения или для эмансипации. Задача состоит в распространении открытых, распределенных интеллектуальных систем, которые обеспечат баланс между проприетарными разработками и общим благом, позволяя человечеству координировать усилия в решении таких проблем, как ментальное здоровье или демография.
💡 Человеческая агентность и обретение смысла в эпоху ИИ 1:40:57
Главный вызов, который ставит перед нами грядущая технологическая революция — это не просто автоматизация рутины, а фундаментальный вопрос: как человеку сохранить ощущение цели, смысла жизни и личной агентности, когда системы ИИ способны выполнять практически любые задачи эффективнее нас самих. Эмад Мостак подчеркивает, что большая часть наших повседневных фрустраций проистекает именно из ощущения беспомощности перед лицом бюрократических систем и ограниченного доступа к информации.
Внедрение интеллектуальных агентов в повседневную жизнь и государственную инфраструктуру способно радикально снизить этот уровень «шума». Интеграция ИИ в государственные процессы позволит не только автоматизировать такие рутинные действия, как получение водительских прав, но и обеспечить прозрачность: например, мгновенно переводить сложные многостраничные законопроекты в понятные тезисы, объясняя гражданам суть принимаемых политических решений.
Улучшение качества жизни через технологии поддержки 1:40:44
Для среднестатистического человека, опасающегося автоматизации своей работы, Мостак предлагает иной взгляд: ИИ — это не угроза, а наличие «аспиранта» или квалифицированного помощника в вашем распоряжении. Технология позволяет каждому выполнять свою работу более эффективно, будь то написание отчетов или управление электронной почтой.
Трансформация ожидается в наиболее критически важных, регулируемых секторах, где «человеческий фактор» часто страдает от нехватки ресурсов:
- Здравоохранение: Использование ИИ как обязательного «второго мнения» для проверки диагнозов может кардинально снизить число врачебных ошибок, так как системы уже сейчас способны превосходить врачей в диагностике и эмпатии.
- Образование: Применение эффекта Блума (индивидуальное тьюторство) через персонализированных ИИ-наставников поможет адаптировать учебную программу под потребности конкретного ребенка, учитывая его психотип и особенности восприятия.
- Психологическое здоровье: Мониторинг физиологических показателей (пульс, качество сна, уровень стресса) в связке с анализом голоса позволит ИИ выступать в роли поддерживающего партнера, который вовремя заметит признаки депрессии или тревожности, когда сам человек может этого не осознавать.
Новая роль человека в мире «воплощенного» ИИ 1:58:16
Одной из самых значимых проблем современности является демографический кризис и стремительное падение рождаемости. Мостак и Том Билью обсуждают, как ИИ может помочь преодолеть последствия формирования «перевернутой пирамиды» населения. Здесь на первый план выходят робототехника и «воплощенный ИИ» (embodied AI).
Развитие доступных роботов-гуманоидов — таких, как модель G1 от компании Unitree, способная обучаться через обучение с подкреплением (reinforcement learning), или ожидаемый робот Optimus от Tesla — может взять на себя тяжелую нагрузку по уходу за пожилыми людьми. Это позволит предотвратить ситуацию, при которой все ресурсы молодых поколений будут поглощены исключительно сферой ухода, высвобождая их потенциал для других задач.
Тем не менее, этот путь не лишен парадоксов. Технологии уже позволяют имитировать голос и манеру общения близких людей, что может быть как «ужасающим», так и «утешительным» инструментом поддержки для одиноких людей. В конечном итоге, успех интеграции ИИ зависит от нашей способности построить системы, которые не просто заменяют человеческую активность, а координируют коллективные знания, делая их доступным «общественным благом» для каждого человека.
🤖 Новые горизонты демографии: как робототехника и ИИ вернут человечеству веру в будущее 2:05:31
Робототехника как спасение стареющего мира: Переворот демографической пирамиды 2:05:43
Взаимодействие человека с технологиями выходит на совершенно новый, воплощенный уровень. Эмад Мостак (Emad Mostaque) отмечает, что нас ждет не мрачный мир из «Бегущего по лезвию», заполненный пугающими биороботами, а будущее, где антропоморфные машины станут нашими повседневными спутниками. Этот переход критически важен для решения глобального кризиса: новые технологии способны взять на себя бремя ухода за стареющим населением и буквально исправить перевернутую демографическую пирамиду. Главным производителем в этой сфере неизбежно станет Китай, где промышленность составляет 27% экономики. Сегодня там выпускается 80 миллионов автомобилей и 70 миллионов мотоциклов в год, и Эмад уверен, что уже через несколько лет производство доступных роботов достигнет 100 миллионов единиц ежегодно.
Экономика роботизации выглядит поразительно доступной для конечного потребителя. При себестоимости робота в 10–20 тысяч долларов его лизинг обойдется примерно в 100 долларов в месяц — столько же, сколько аренда самого дешевого автомобиля. За эти деньги люди смогут получить домашнего помощника ростом 167 сантиметров, способного мгновенно приготовить омлет по любому рецепту из интернета или продемонстрировать ювелирную точность движений, как новейший робот Unitree G1, ловко открывающий пальцами бутылку кока-колы. Такая поддержка станет спасением для сферы ухода за пожилыми людьми, на которую США уже сегодня тратят значительно больше, чем на детские пособия и уход за детьми.
Однако корень демографического коллапса лежит глубже простых экономических показателей. Эмад Мостак указывает на медицинские и психологические проблемы общества, включая падение уровня тестостерона и так называемые «гигиенические факторы»: молодые люди массово отказываются заводить детей просто потому, что они потеряли веру в будущее и не уверены в завтрашнем дне. Чтобы переломить этот опасный тренд, человечеству необходима масштабная опора, и если общество больше не может найти достаточное количество помощников-людей, их место должна занять повсеместная цифровая и физическая помощь.
Экономика процветания: Как ИИ-агенты возвращают стабильность и агентность 2:09:20
Для преодоления глобального кризиса веры в будущее обществу необходимо сначала закрыть базовые жизненные потребности, чтобы затем перейти от факторов выживания к факторам истинного процветания. Ранее в разговоре собеседники вскользь касались темы автоматизации рабочих мест, но для нового поколения предпринимателей ИИ открывает беспрецедентное окно возможностей. Том Билью (Tom Bilyeu) задается вопросом, как молодые стартаперы могут использовать этот технологический взрыв для создания капитала, пока преимущество не сгладилось. Эмад, начинавший карьеру программиста 23 года назад с написания кода на ассемблере, подчеркивает: трансформация общества будет одновременно и дольше, и быстрее, чем кажется. Быстрее — потому что технологии внедряются незаметно; дольше — потому что критически важные системы, вроде мирового банкинга, до сих пор работают на языках COBOL и Fortran из 1960-х годов и не терпят сырых исследовательских моделей.
Главный ментальный сдвиг для бизнеса сегодня — это переход от концепции статичных «файлов» к динамичным «потокам» (flows). Инструменты вроде разработанной в Stability AI системы ComfyUI позволяют полностью фиксировать, воспроизводить и передавать весь процесс генерации и пошагового редактирования данных. Вместо автономных агентов, полностью исключающих человека, технологии должны делать самих людей более агентными.
Это кардинально меняет правила игры для малого бизнеса: стартапам больше не нужно нанимать огромные команды для создания контента благодаря мультиязычным сервисам вроде HeyGen и 11 Labs. Скорость тестирования идей возрастает лавинообразно — теперь достаточно загрузить свои принципы в Claude и попросить проанализировать их по методологии пяти сил Портера или с позиции выпускника Гарвардской бизнес-школы. Доступность технологий поражает: контекстное окно современных моделей от Google выросло до 2 миллионов слов, позволяя загружать туда целые корпоративные библии и курсы обучения прямо во время запроса. При этом стоимость обработки данных упала в 500 раз: миллион слов на модели Gemini Flash стоит всего 15 cents, а тонкая настройка стала бесплатной.
Преодоление экзистенциального тупика: Аугментация и борьба за статус человека 2:22:16
Когда технологии начинают развиваться быстрее человеческой биологической эволюции, возникает экзистенциальный вопрос о сохранении нашего статуса как доминирующего вида. Том Билью отмечает, что на фоне появления воплощенного ИИ у людей останется единственный путь — аугментация (технологическое усиление) тела и разума, и приводит в пример компанию Neuralink Илона Маска, которая уже проводит успешные испытания на человеческих пациентах. Эмад Мостак парирует, что наши смартфоны уже сейчас являются аналогом Neuralink, просто с крайне низкой пропускной способностью передачи информации. ИИ с контекстным окном в миллионы слов способен мгновенно анализировать гигантские массивы данных — например, отсмотреть целый сезон сериала и вытащить оттуда шутки, соответствующие специфическому юмору в стиле «Сайнфелда», на что у человека ушли бы недели упорного труда.
По мнению Эмада, в ближайшие годы нам не обязательно физически вживлять чипы в мозг, чтобы конкурировать с машинами: первыми шагами станут умные очки от Meta или кастомизированный голос-помощник в наушниках AirPods. Проблема человека часто кроется в его собственной лимбической системе, которая создает внутренние барьеры и мешает реализации потенциала. В то время как в США ИИ часто воспринимается через призму угрозы и концепции «цифрового бога», в таких странах, как Япония, его видят исключительно как партнера, идущего рука об руку с человеком.
Хотя вопросы кризиса смысла уже затрагивались ранее, здесь Том Билью выражает жесткое несогласие с оптимистичным взглядом на человеческую природу:
«Я не думаю, что средний человек счастлив. По своей природе люди — это существа преследования, неумолимые машины желаний, стремящиеся к статусу».
Том подчеркивает, что если превосходство интеллекта Альберта Эйнштейна (который был умнее условного глупца всего в 2,6 раза) общество еще способно принять, то смириться с ИИ, который окажется умнее человека в 100 тысяч или миллион раз, наша психология не сможет. Именно эта неискоренимая жажда статуса и нежелание остаться на обочине истории, по мнению ведущего, заставят людей массово пойти на киборгизацию и аугментацию разума, чтобы сохранить свое место в меняющемся мире.
🧠 Новая эра человеческого потенциала: ИИ в медицине и образовании 2:47:57
Революция в медицине и здравоохранении 2:47:57
Медицинские технологии стоят на пороге величайшего сдвига за всю историю человечества. Как отмечает Эмад Мостак (Emad Mostaque), интеграция специализированных ИИ-агентов способна радикально снизить уровень человеческих страданий и свести к минимуму фатальные врачебные ошибки. В основе этого прорыва лежит уникальная способность нейросетей к мгновенному распознаванию сложнейших паттернов, ускользающих от человеческого глаза.
Эмад Мостак проводит параллель с концепцией знаменитого психолога Даниэля Канемана о двух типах мышления: быстром (интуитивном) и медленном (логическом). Современный генеративный ИИ функционирует преимущественно в режиме «быстрого мышления». Он не выстраивает громоздкие логические цепочки, а мгновенно выдает точный результат на основе колоссального объема проанализированных данных. В сфере здравоохранения это свойство трансформируется в беспрецедентную медицинскую зоркость.
Ярким подтверждением этого стало недавнее крупное исследование: передовые ИИ-системы научились выявлять признаки рака груди за пять лет до того, как опухоль физически разовьется и ее сможет диагностировать профильный специалист. Даже самый опытный и авторитетный радиолог, полагаясь на свою насмотренность, в лучшем случае лишь интуитивно почувствует едва заметную аномалию и отправит пациента на дообследование. ИИ же делает это со стопроцентной точностью, анализируя микроструктурные изменения тканей.
Внедрение таких персональных диагностических агентов полностью переформатирует систему здравоохранения. Человеческий фактор — усталость врачей после тяжелой смены, эмоциональное выгорание, невнимательность при заполнении карт или банальная нехватка времени на изучение анамнеза — перестанет быть источником смертельной опасности. Алгоритмы не знают усталости, не отвлекаются и способны удерживать в памяти гигантские контекстные окна данных по каждому пациенту. Хотя ранее в беседе Том Билью и Эмад Мостак подробно дискутировали о природе ИИ-интуиции и её философских пределах (эти темы подробно развернуты в других главах статьи), на практике для спасения миллионов жизней важна именно эта безотказная способность нейросетей филигранно исполнять рутинную аналитическую работу.
Будущее образования: индивидуальное тьюторство 2:49:02
Параллельно с медицинской революцией разворачивается фундаментальная перестройка образовательной парадигмы. Переход к индивидуальным ИИ-тьюторам обещает наконец-то масштабировать знаменитый «эффект двух сигм» Блума. Эта педагогическая концепция доказывает, что ученики, занимающиеся с персональным наставником один на один, поспевают за материалом и превосходят по успеваемости 98% своих сверстников, запертых в рамках традиционной классно-урочной системы.
Эмад Мостак подчеркивает, что ключевая проблема текущего поколения ИИ заключается в качестве «топлива». «Прямо сейчас мы все еще обучаем модели на информационном мусоре, собранном со всего интернета», — констатирует эксперт. Однако ведущие лаборатории мира быстро меняют подход. В качестве примера Мостак приводит исследовательскую модель Phi от компании Microsoft. Вместо хаотичного скачивания терабайтов веб-страниц разработчики Phi искусственно сгенерировали массив чистых, академически выверенных учебников и скормили их нейросети. Результаты превзошли все ожидания: когда к этой стерильной учебной базе добавили лишь небольшой, тщательно отфильтрованный срез реального интернета, общие показатели и адаптивность модели резко возросли. Это наглядно демонстрирует разницу между замкнутым книжным червем и эрудитом, понимающим законы реального мира.
Оптимизация обучающих выборок позволяет добиваться феноменального интеллекта при кратно меньших вычислительных затратах. Мостак вспоминает, что при создании первой версии Stable Diffusion его команде пришлось отфильтровать порядка двух миллиардов изображений. Сегодня же аналогичного качества генерации другие разработчики достигают всего на 25 миллионах картинок. Секрет прост: инженеры отследили, какие именно области нейросети активируются ключевыми запросами, и отбросили 99% информационного шума. По сути, для ИИ создается идеальный «гуманитарный учебный план» (liberal arts curriculum).
Том Билью (Tom Bilyeu) и его собеседник отмечают, что эти технологии уже незаметно проникают в повседневность. Прорывным примером массового внедрения стала система Apple Intelligence на современных смартфонах. Она функционирует на базе локальной модели объемом всего около 3 миллиардов параметров (файл весом в 2–3 гигабайта). Высокая эффективность достигается за счет динамических микро-адаптеров LoRA (Low-Rank Adaptation), которые мгновенно подгружаются под конкретную задачу пользователя — будь то написание заметок, саммаризация писем или помощь в учебе.
Следующим шагом станет локальное рекурсивное самообучение ИИ непосредственно на устройстве под нужды конкретного владельца. Нейросеть превратится в персонального компаньона, который досконально изучит сильные и слабые стороны ребенка, его темп усвоения информации и личные интересы. Подобно тому, как сегодня пользователи развлекаются, обучая ИИ на паре своих фотографий, чтобы сгенерировать свой портрет в образе астронавта, персональный тьютор будет ежесекундно подстраивать образовательный контекст под ученика. Резюмируя, Мостак отмечает: несмотря на то, что в дискуссии вскользь всплывали сложные алгоритмы вроде поиска по дереву Монте-Карло или гипотетические пределы роста общего интеллекта до уровня IQ 300 (что подробно разбирается в финальной главе статьи), для тектонического сдвига в мировом образовании нам не нужны суперкомпьютеры — возможностей нынешних гибких, адаптирующихся моделей уже достаточно, чтобы дать каждому ребенку на Земле элитарное образование.
🚀 ИИ как инструмент познания и архитектура будущего 2:56:02
Сегодняшние нейросети уже превосходно справляются с имитацией стилей — будь то визуальные характеристики персонажей вроде Барби или узнаваемые манеры общения политиков. Эмад Мостак объясняет этот феномен как способность ИИ дробить реальность на паттерны. Если нечто можно деконструировать в набор повторяющихся признаков, ИИ сможет это воспроизвести. Однако, по словам Эмада, именно здесь проходит граница между простым копированием и настоящим научным прорывом: великие открытия, подобные теории относительности Эйнштейна, не были результатом механического поиска паттернов.
Физика прогресса и роль ИИ-партнера 2:57:15
Будущее научного прогресса заключается в превращении ИИ из генератора контента в полноценного интеллектуального партнера. Наглядным примером служит недавняя работа DeepMind, где ИИ-модель, основанная на саморекурсивном обучении, успешно решала задачи уровня Международной математической олимпиады.
Важно понимать, что для таких достижений не требуется бесконечное наращивание вычислительных мощностей. Эмад подчеркивает несколько ключевых аспектов взаимодействия человека и машины:
- Итерация и обратная связь: Математики мирового уровня, такие как Теренс Тао, уже используют текущие модели (например, GPT-4) как интеллектуальных спарринг-партнеров. Они загружают свои допущения, анализируют контекст и проверяют гипотезы через постоянный диалог.
- Снятие эго-барьера: В отличие от команды ученых, где продуктивность может падать из-за межличностных конфликтов и амбиций, ИИ не обладает эго. Это позволяет бесконечно перебирать варианты и проводить эксперименты без социальных издержек.
- Агентная работа: Будущие системы, такие как «Q*» или «Strawberry», смогут выполнять сложные, многоступенчатые задачи (например, разработку программного продукта за 7–8 часов), самостоятельно проверяя консистентность, корректируя ошибки и оптимизируя каждый этап процесса.
Эмад уверен: мы движемся к модели, где вместо того, чтобы просто «выдавать результат», ИИ будет тратить огромные энергетические ресурсы на глубокий анализ фундаментальных законов физики и математики, что в ближайшие 5–10 лет может привести к прорывам, которые сегодня кажутся невозможными.
Предел интеллекта и надежность выполнения задач 2:59:54
Многие опасаются гонки за «сверхразумом» с показателем IQ 300, но Эмад Мостак предлагает более приземленный и прагматичный взгляд. Он отмечает, что для глобального прогресса вовсе не обязательно, чтобы каждая модель обладала запредельными когнитивными способностями.
- Рациональная реализация целей: Вместо бесконечного роста IQ, фокус смещается на надежность. Нам нужны «машины исполнения», которые способны последовательно следовать инструкциям и удерживать контекст.
- Интуиция как распознавание: То, что мы называем «интуицией ИИ», — это развитие контекстного понимания и способности к индуктивному рассуждению. При комбинировании «медленного мышления» (аналитического рассуждения) и правильного объема контекста, ИИ становится инструментом, позволяющим экспертам разгрузить когнитивные ресурсы.
- Экономика эффективности: Важным индикатором качества является доступность. Стоимость обработки информации колоссально снизилась: если раньше миллион слов обходился в 150 долларов, то сегодня это стоит около 15 центов, при этом качество «интеллекта» моделей выросло с условного уровня 80 IQ до более 100.
Том Билью и Эмад Мостак сходятся во мнении, что использование ИИ требует переобучения самого человека: необходимо учиться быть «старшим партнером», задавать правильный контекст и грамотно обрабатывать обратную связь, которую дает машина.
