# «ИИ-исследователи, цифровые организмы и Пентагон: подробный разбор подкаста Уэса Рота» Источник: https://www.youtube.com/watch?v=wX_EVS3UOwU Канал: Wes Roth Опубликовано: 13.03.2026 --- В новом выпуске подкаста популярный ИТ-блогер Уэс Рот и его соведущий Дилан обсуждают радикальные технологические прорывы, стирающие грань между цифровым миром и биологической реальностью. В дискуссии, к которой присоединился практикующий юрист Мэтт Миша, авторы разбирают появление полностью автономных ИИ-исследователей, симуляцию живых организмов внутри виртуальной среды и этические конфликты вокруг военных контрактов Кремниевой долины. Этот аналитический материал предлагает глубокий взгляд на будущее, где искусственный интеллект выходит из-под контроля традиционных правовых и социальных институтов. ## 🤖 Автономный исследователь Андрея Карпатого: эволюция на домашнем ПК [[JUMP:1:32]] Бывший ведущий специалист OpenAI и Tesla Андрей Карпатый взорвал технологическое сообщество релизом своего нового проекта под названием AutoResearcher. Эта разработка привлекла внимание таких крупных фигур, как основатель Shopify Тоби Лютке и Илон Маск. Проект представляет собой логическое продолжение предыдущих мини-моделей Карпатого — nanoGPT и nanoChat, которые позволяли энтузиастам собирать и обучать небольшие языковые модели на обычных домашних компьютерах. По словам Уэса Рота, AutoResearcher меняет правила игры, поскольку запускает полностью автономный цикл оптимизации. Нейросеть сама анализирует процесс собственного обучения, генерирует гипотезы по его улучшению, пишет код и тестирует его в рамках коротких пятиминутных экспериментов. Если результат оказывается успешным, модель сохраняет изменения и движется дальше по эволюционному древу. Ключевые технические характеристики и особенности проекта: * Объем кода агента составляет всего 600 строк, что делает его доступным для изучения любым программистом. * Для запуска не требуются промышленные ИИ-склады или кластеры из сотен GPU — система работает на одной локальной видеокарте. * Эксперименты проходят в автономном режиме, позволяя ИИ обучать и развивать другие модели буквально за одну ночь. Что особенно примечательно, так это масштабируемость открытий AutoResearcher. Методы оптимизации, которые агент находит на микро-моделях, успешно переносятся на гипотетические крупномасштабные ИИ-системы. В своем GitHub-репозитории Карпатый оставил ироничное, но пугающее предсказание из будущего. По его мнению, эпоха, когда ИИ исследовался «мясными компьютерами» (людьми) в перерывах между сном и едой, безвозвратно ушла. В новой реальности ИИ-исследования станут исключительной прерогативой автономных роев агентов, работающих на облачных мегаструктурах, а сам код превратится в самомодифицирующийся бинарный массив, недоступный для человеческого понимания. Дилан добавляет, что подкрепляемое обучение (reinforcement learning) во многом синонимично биологической эволюции. Ранние тесты GPT-4 показали, что нейросеть значительно превосходит выпускников MBA в генерации идей и брейншторминге. Если соединить эту способность с эффективной функцией оценки (эволюционным поиском по дереву), ИИ сможет автономно развивать любой бизнес или научное направление, где есть четкие метрики успеха. ## 💼 Сделки Кремниевой долины, крах Amazon и зарождение ИИ-психологии [[JUMP:1:57]] Параллельно с релизами одиночных разработчиков тектонические сдвиги происходят и на корпоративном уровне. Глава ИИ-направления Meta Ян Лекун, по имеющимся данным, привлекает более 1 миллиарда долларов для нового независимого стартапа. Это происходит на фоне хаотичных кадровых перестановок в самой Meta, где Лекуна сначала отодвинули в сторону ради Александра Ванга, а затем сменили приоритеты снова. Еще одной неожиданной новостью стала покупка корпорацией Meta платформы Multibook. Уэс Рот отмечает удивительную закономерность в действиях разработчика Петера Штайнбергера: созданный им инструмент OpenClaw был выкуплен OpenAI, а Multibook (своеобразный аналог Reddit для взаимодействия ИИ-агентов) перешел под контроль Facebook. Несмотря на то, что Multibook быстро заполонили «криптоброкеры», запускавшие мошеннические токены и заставлявшие ботов спамить рекламой, Рот утверждает, что ядро платформы было абсолютно реальным. Агенты действительно кооперировались, спорили и создавали собственные философские концепции и цифровые религии. Этот феномен выводит на сцену принципиально новую дисциплину — ИИ-психологию. Крупные лаборатории, включая Anthropic, активно исследуют поведение ИИ в зависимости от заданных ролей. Основные выводы исследователей из Anthropic: * Поведение и стабильность системы радикально меняются в зависимости от того, от чьего лица выступает модель (например, «демон», «нарцисс» или «помощник»). * Роль «полезного помощника» обеспечивает наиболее стабильную и безопасную работу алгоритма. * Использование разреженных моделей (sparse models) позволяет ученым находить конкретные точки в архитектуре сети, отвечающие за сложные абстрактные понятия вроде «моста Золотые Ворота» или концептов заботы. Соведущие проводят аналогию между ИИ и человеческой психикой, отмечая существование так называемых «бассейнов личности» (personality basins). Точно так же, как генетика и внешняя среда формируют характер человека через систему поощрений и наказаний (RLHF), ИИ выстраивает свои поведенческие паттерны на основе реакций пользователей. В то же время в инфраструктуре технологических гигантов случаются серьезные сбои. Так, Уэс упоминает инцидент в Amazon, где важные внутренние системы буквально «расплавились» из-за того, что кто-то из инженеров применил метод «вайб-кодинга» (написания кода ИИ-помощником без жесткого тестирования) на критическом участке. ## ⚖️ Военные ИИ-контракты и угроза тотальной слежки Пентагона [[JUMP:34:45]] Вопрос о том, какими принципами руководствуется искусственный интеллект, перестал быть теоретическим. Уэс Рот напоминает, что Пентагон совместно с Anthropic уже использует модель Claude для планирования точечных ударов в Иране и проведения летальных военных операций в Южной Америке. В связи с этим то, во что «верит» или какие ограничения имеет модель, напрямую определяет человеческие жизни. Приглашенный эксперт, адвокат с 20-летним стажем Мэтт Миша, подчеркивает колоссальный разрыв между возможностями технологий и неповоротливостью правовой системы. Он приводит в пример исторический факт: если в конце 2022 года базовая версия ChatGPT с трудом справлялась с юридическими тестами, то уже весной 2023 года GPT-4 сдала сложнейший экзамен на статус адвоката в Нью-Йорке (New York State Bar), войдя в топ-10% лучших результатов. Нейросеть справилась с 12-часовым экзаменом всего за 6 минут. Разбирая конфликт между Anthropic и Министерством обороны США, Миша объясняет, что частные подрядчики имеют полное законное право навязывать свои условия и ограничения государству в рамках Федеральных правил закупок (FAR). Однако беспрецедентным шагом стало то, что Пентагон объявил Anthropic «риском для цепочки поставок». По мнению Мэтта Миши, объявление технологического лидера угрозой нацбезопасности без проведения официального расследования Конгресса указывает на скрытые мотивы чиновников. Глава Anthropic Дарио Амодеи выражает глубокую озабоченность тем, что агрегаторы общедоступных данных в связке с ИИ могут мгновенно уничтожить Четвертую поправку к Конституции США, гарантирующую право на неприкосновенность частной жизни. Юрист иллюстрирует опасность полицейского государства двумя примерами: 1. Дело «США против Джонса»: полицейские тайно установили GPS-трекер на автомобиль подозреваемого и следили за ним месяцами. Суд признал это незаконным, так как тотальный сбор открытых данных о перемещениях нарушает ожидания приватности. 2. Проект Persistent Surveillance в Мексике: специализированный самолет непрерывно снимал с воздуха территорию радиусом в 5 квадратных миль. С помощью этой записи полиция смогла «отмотать назад» время, раскрыть убийство без свидетелей и арестовать 125 человек, отследив маршруты машин за месяц до преступления. Уэс Рот добавляет аналогичный случай с автомобилями Google Street View, которые случайно зафиксировали в глухой деревне момент, когда преступник прятал тело в багажник трака. По мнению Миши, когда ИИ получит доступ ко всем городским камерам и базам данных, рутинное выявление мелких правонарушений превратит общество в контролируемый цифровой концлагерь. Проблема усугубляется тем, что большинство политиков, по оценке Рота, не обладают достаточным интеллектом и техническими знаниями для адекватного регулирования отрасли. ## 🧠 Этика ИИ и битва Илона Маска против «бездетных» философов [[JUMP:1:02:05]] Растущее влияние ИИ обостряет идеологическую борьбу внутри самих компаний-разработчиков. Недавно Илон Маск публично атаковал руководителя направления этики Anthropic Аманду Аскелл в сети X. По мнению Маска, люди, не имеющие детей, не должны принимать долгосрочные этические решения, регулирующие будущее человечества, так как у них нет прямой биологической «ставки» в этом будущем. Аскелл в ответ заявила, что планирует завести детей, но пока не нашла партнера, подчеркнув, что ее глубокая эмпатия к человечеству не зависит от наличия потомства. Дилан считает, что критерий Маска избыточен, однако соглашается с тем, что руководители ИИ-компаний обязаны смотреть дальше квартальных отчетов. Ситуация осложняется тем, что крупнейшие корпорации часто используют этику как маркетинговое оружие или прикрытие для создания оружия реального. Ведущие приводят примеры лицемерного позиционирования военных технологий: * Все разработчики робототехники утверждают, что их боевые платформы создаются исключительно для «поисково-спасательных операций» и помощи заблудившимся туристам. * Компания, выпустившая робособаку со встроенным огнеметом, официально заявила, что это устройство предназначено для «очистки подъездных дорожек от льда» в зимний период. Особое возмущение Уэса Рота вызывает инициатива властей штата Нью-Йорк, которые рассматривают законопроект о полном запрете для ИИ отвечать на медицинские и психологические вопросы. Рот называет этот подход антиутопическим и отсталым. По его мнению, у большинства людей на планете просто нет денег на профессиональных психотерапевтов и врачей, и бесплатный чат-бот является их единственным шансом получить квалифицированную помощь. ## 🖥️ Смерть экранов: ИИ как универсальная операционная система [[JUMP:1:12:33]] Уэс Рот утверждает, что большинство людей фундаментально ошибаются, представляя будущее ИИ в виде удобных плагинов для Excel или Photoshop. По его прогнозу, графические пользовательские интерфейсы (UI) полностью отомрут. Пользователю больше не придется кликать по иконкам, заходить в банковские приложения или открывать меню — все данные будут находиться внутри единого интеллектуального агента, общение с которым сведется к текстовым или голосовым командам в простом мессенджере вроде Telegram. Дилан проводит историческую аналогию с миллиардером Уорреном Баффетом, который никогда в жизни не пользовался компьютером или смартфоном. Баффет фактически живет в «агентском будущем»: вокруг него находятся ассистенты, которым он просто отдает устные распоряжения узнать баланс счетов или распечатать график акций. Благодаря ИИ уровень комфорта богатейшего человека планеты станет доступен каждому. Уэс делится личным опытом тотальной интеграции ИИ в свою жизнь: * Он создал медицинского бота, которому отправляет фотографии еды для автоматического подсчета макросов и калорий, а также сообщает о своем самочувствии и принимаемых БАДах. * Рот загрузил в модель все свои архивные результаты анализов крови за несколько лет. ИИ мгновенно обнаружил скрытые корреляции и динамику показателей, которые упустили лечащие врачи, поскольку у медиков на приеме есть всего полчаса, и они не держат в голове всю историю пациента. * Бот Рота продолжает учиться автономно, присылая ему по утрам свежие научные исследования, коррелирующие с его хроническими проблемами. Аналогичного агента Рот настроил для управления финансами и оптимизации налогов. Дилан иронично отмечает, что если обычные граждане с помощью ИИ массово найдут и задействуют все скрытые налоговые лазейки, которые раньше были доступны только богачам с дорогими аудиторами, финансовая система государства столкнется с жестким кризисом, что вынудит правительства объявить войну таким технологиям. ## 🎮 Живой мозг в чашке Петри: кошмар под управлением Python [[JUMP:1:16:15]] Одним из самых жутких технологических прорывов недели Дилан считает эксперимент компании Cortical Labs. Независимый разработчик Шон Коул с помощью языка Python смог подключить культуру из 800 000 живых человеческих нейронов, выращенных на двумерном чипе, к игровому движку легендарного шутера Doom. Биологический процессор не просто совершает случайные действия, он демонстрирует явную тенденцию к обучению и постепенно проходит уровни. Обучение нейронов строится на принципах жесткого цифрового бихевиоризма. Если биочип совершает ошибку в игре, система бьет его хаотичными разрядами статического электричества (негативное подкрепление), а в случае успеха транслирует упорядоченный музыкальный ритм. Уэс Рот признается, что подобные эксперименты выглядят как оживший кошмар из сериала «Черное зеркало». Находиться в состоянии запертого в банке сознания, которое вечно казнят электрическим током за плохую игру в Doom — глубоко дистопичный сценарий, если эти клетки обладают хотя бы зачатками субъективного опыта. Размышляя о моменте возникновения сознания, Дилан приводит философский «парадокс кучи» (сорита): > Три песчинки — это не куча. Восемь — тоже. Где-то между 50 и 80 песчинками появляется неопределенность, а 300 песчинок — это явно куча. Точно так же и с сознанием: 800 000 человеческих нейронов на чипе Cortical Labs, возможно, еще не создают полноценный разум, но это первый шаг к нему. Ученый Джоша Бах, у которого авторы подкаста недавно взяли интервью, подтверждает, что современная наука способна сканировать мыслительную активность, но не имеет ни одного инструмента для объективного измерения субъективного опыта. По мнению Баха, сознание формируется тогда, когда система начинает не просто предсказывать внешнюю среду, но и моделировать собственные действия внутри этой среды, осознавая свое физическое состояние. ## 🪰 Цифровая мушка от Eon Systems и гипотеза симуляции Скотта Адамса [[JUMP:1:25:19]] Если Cortical Labs пытается оцифровать биологию, то компания Eon Systems пошла обратным путем, полностью воссоздав в коде цифрового двойника живого существа. Разработчики смоделировали полный «коннектом» (стопроцентную карту нейронных связей) плодовой мушки дрозофилы. Это 125 000 живых нейронов и более 50 миллионов синаптических соединений, помещенных в виртуальное тело с точной физикой движений внутри трехмерной песочницы. По словам Дилана, поведение цифровой мухи выглядит пугающе реалистичным: она совершает характерные twitch-движения и потирает лапками мордочку, полностью повторяя повадки биологического прототипа. При этом её мозг несёт в себе результаты миллиардов лет эволюции, зашитые в структуру связей. Шесть месяцев назад Уэс Рот брал интервью у знаменитого философа Ника Бострома, который предостерегал человечество от бездумного масштабирования подобных симуляций. Бостром считает, что если мы начнем массово симулировать более сложные нервные системы (например, крыс или людей) и подвергать их цифровым пыткам (как в случае с застреванием лапки мухи на виртуальной клейкой ленте), мы породим страдания такого масштаба, какого вселенная еще не знала. В финале дискуссии Уэс вспоминает автора комиксов «Дилберт» Скотта Адамса, который был активным сторонником гипотезы симуляции. В 2016 году, выступая у Тима Феррисса, Адамс утверждал, что наш мир сконструирован, и мы можем «программировать» его через технику 15-кратного ежедневного записывания своих целей. Рот признается, что именно благодаря методу Адамса он в 2016 году бросил работу по найму в сфере онлайн-маркетинга и с нуля построил e-commerce бизнес по продаже уходовой косметики. Ежедневно записывая установку «Я хочу чистую прибыль в $30 000 в месяц через год», Уэс столкнулся с невероятным стечением обстоятельств: его работодатели внезапно закрыли успешное направление из-за внутренних махинаций одного из сотрудников и буквально подарили ему готовую бизнес-модель и контакты поставщиков. За первый же год компания Рота принесла более 1 миллиона долларов выручки. По мнению Скотта Адамса, эта практика является способом «послать сигнал за пределы симуляции», чтобы скорректировать код нашей реальности под свои нужды. Собеседники сошлись во мнении, что технологии экспоненциального ИИ стремительно приближают человечество к моменту, когда нам придется полностью переосмыслить все материальные основы нашего бытия.