Дарио Амодей: Страна гениев в облаке и триллионные риски

К 2027 году в недрах дата-центров возникнет «страна гениев», способная переписать законы экономики и сделать диктатуры морально устаревшими. Глава Anthropic Дарио Амодей ставит на кон триллионы долларов, утверждая, что развитие ИИ сегодня — это не просто обучение алгоритмов, а ускоренная цифровая эволюция, ведущая к уровню Нобелевской премии во всех областях знаний. Пока индустрия несется к сверхразуму на скорости, не оставляющей времени даже на обед, мир балансирует между небывалым расцветом и риском тотального финансового краха.

🚀 На пороге завершения экспоненты: универсальная гипотеза вычислений 1:55

Дарио Амодей утверждает, что развитие искусственного интеллекта за последние три года практически полностью соответствует прогнозам, которые он делал еще в 2017 году . Самым удивительным для него остается не технологический прогресс, а отсутствие в обществе осознания того, насколько близко мы подошли к концу «экспоненты» — точки, за которой ИИ достигает человеческого уровня в большинстве задач .

В основе этого движения лежит его авторская концепция 2017 года — «Гипотеза большой капли вычислений» (Big Blob of Compute hypothesis). Согласно этой теории, архитектурные хитрости и сложные новые методы обучения значат гораздо меньше, чем масштаб . Амодей выделяет семь ключевых факторов, определяющих успех модели:

• Общий объем вычислительных мощностей ;
• Количество данных ;
• Широта распределения и качество этих данных ;
• Продолжительность обучения ;
• Масштабируемая целевая функция (objective function) ;
• Механизмы нормализации и численной стабильности для «ламинарного» потока вычислений .

Дарио уверен: нет причин полагать, что этот подход перестанет работать в ближайшее время. Прогресс моделей от уровня «умного школьника» до «уровня PhD» подтверждает, что масштаб остается главным двигателем индустрии. Ранее в разговоре они кратко касались перспектив Claude Code, но Амодей подчеркивает, что именно фундаментальный рост вычислительного «капли» позволяет достигать таких прикладных результатов.

Смена парадигмы: вторая жизнь масштабирования через RL 4:32

Если раньше основной прогресс ИИ был связан с этапом предобучения (pre-training), то сейчас индустрия входит в фазу активного масштабирования обучения с подкреплением (RL) . Амодей отмечает, что законы масштабирования, которые блестяще сработали для предсказания следующего токена в текстах, теперь находят свое отражение и в RL-задачах .

Основные тезисы новой парадигмы:

• Лог-линейная зависимость: Эффективность модели в сложных задачах, таких как математические олимпиады (AIME), растет лог-линейно в зависимости от времени обучения .
• Генерализация через разнообразие: Подобно тому как GPT-2 начал демонстрировать общие способности только после перехода от узких датасетов (вроде фанфиков) к широкому интернет-скрейпингу , современные RL-системы проходят путь от решения простых математических задач к широкому спектру кодинга и других навыков .
• Верифицируемость задач: Амодей наиболее уверен в прогрессе в тех областях, где результат можно проверить автоматически (программирование, математика) . По его прогнозу, ИИ сможет полностью закрывать задачи по написанию кода end-to-end уже через год-два .

Хотя критики, вроде Ричарда Саттона, утверждают, что потребность в огромных данных указывает на отсутствие у ИИ «истинного алгоритма человеческого обучения» , Дарио считает это препятствие преодолимым за счет масштаба сред RL .

ИИ как переходное звено: между биологией и кодом 9:25

Одной из самых глубоких философских идей главы является сравнение обучения ИИ с биологическими процессами. Амодей предлагает смотреть на предобучение моделей не как на аналог того, как учится человеческий ребенок, а как на нечто среднее между обучением особи и эволюцией целого вида .

Различия в эффективности обучения (sample efficiency) между человеком и ИИ Дарио объясняет следующим образом:

1. Отсутствие априорных знаний: Человеческий мозг — это не «чистый лист» (blank slate), он имеет структуру, сформированную миллионами лет эволюции . Модели же начинают с абсолютно случайных весов .
2. Иерархия обучения: В процессах ИИ можно проследить аналогию с человеческой иерархией «эволюция — долгосрочное обучение — краткосрочное обучение — моментальная реакция» .
3. In-context learning как мост: Способность современных моделей с длинным контекстом (до миллиона токенов) обучаться «на лету» без изменения весов — это шаг в сторону человеческой эффективности .

Несмотря на то, что модели потребляют триллионы токенов, что несопоставимо с опытом одного человека , достижение ими способности к линейной регрессии или написанию комментариев к коду без прямой спецификации этих задач в обучении доказывает их растущую способность к генерализации . Амодей убежден на 90%, что в течение 10 лет мы увидим потенциал, эквивалентный «стране гениев в дата-центре» , если только такие факторы, как геополитическая нестабильность или проблемы с Тайванем, не затормозят этот процесс .

🚀 Диффузия технологий и новая продуктивность 25:22

Вторая стадия развития ИИ связана не только с мощностью моделей, но и с тем, как быстро эти возможности проникают в реальную экономику. Дарио Амодей отмечает, что хотя индивидуальные разработчики и стартапы внедряют новые инструменты мгновенно, крупный бизнес — финансовые гиганты и фармацевтические корпорации — движется медленнее из-за юридических барьеров и необходимости обеспечения безопасности . Тем не менее, Anthropic наблюдает беспрецедентную скорость адаптации: компании готовы сокращать привычные циклы закупок ради доступа к таким инструментам, как Claude Code, поскольку их экономическая эффективность становится очевидной .

Производительность программистов и Claude Code 33:38

Одной из центральных тем обсуждения стал реальный вклад ИИ в работу инженеров. Амодей утверждает, что внутри самой Anthropic использование собственных инструментов программирования — это не вопрос субъективного ощущения, а фактор выживания под огромным коммерческим прессом . В компании есть инженеры, которые практически перестали писать код вручную, делегируя Клоду целиком такие задачи, как написание GPU-ядер .

Ключевые моменты по продуктивности программной инженерии:

• Текущий прирост: Амодей оценивает текущий вклад ИИ в общую скорость разработки (total factor speedup) примерно в 15–20% . Еще полгода назад этот показатель составлял около 5%, что было трудно зафиксировать статистически .
• От строк к задачам: Происходит переход от простых автодополнений к выполнению «end-to-end» задач. Модели начинают понимать контекст всей кодовой базы сразу, что заменяет месяцы человеческого обучения на новом рабочем месте .
• Эффект снежного кома: Процесс улучшения моделей идет по траектории «мягкого взлета» (soft takeoff) — постепенное ускорение с 10% до 25%, а затем до 40% и выше .

Амодей скептически относится к исследованиям (например, от Gitclear или подобных), заявляющим о снижении продуктивности (downlift) из-за ИИ . Он подчеркивает, что Anthropic видит результат каждые несколько месяцев в форме запусков новых, более совершенных моделей, что было бы невозможно, если бы ИИ тайно замедлял работу команды . Ранее в разговоре они касались того, что ИИ является промежуточным звеном между биологической эволюцией и обучением.

Экспоненциальный рост выручки Anthropic 21:26

Финансовые показатели компании отражают скорость технологического прогресса. Амодей заявляет, что выручка Anthropic растет в 10 раз ежегодно . Более того, внутри компании ставятся задачи по ускорению этого темпа до 20- или 30-кратного роста в год .

Дарио прогнозирует, что ИИ-компании смогут поддерживать 3-кратный или даже 10-кратный ежегодный рост выручки, даже когда они достигнут масштаба в сотни миллиардов долларов — задача, которая никогда ранее не решалась в истории бизнеса . Однако он предостерегает от ожиданий «бесконечно быстрой» диффузии. Даже если в дата-центре появится «страна гениев» (концепция, подробно разбираемая далее в интервью), реальный мир будет сопротивляться мгновенным изменениям .

Примеры инерции, сдерживающей выручку и внедрение:

1. Регуляция и биология: Создание лекарства «гениальным ИИ» может занять дни, но клинические испытания и производство всё равно потребуют времени, как это было с вакцинами от COVID .
2. Логистика: Вакцина от полиомиелита существует 50 лет, но ее до сих пор не могут доставить в каждый уголок планеты .
3. Экономическая неопределенность: Ошибка в планировании дата-центра всего на два года может стать фатальной, если выручка не успеет догнать огромные капитальные вложения .

Проблема «обучения на рабочем месте» 32:25

Дваркеш Патель поднял вопрос о способности ИИ адаптироваться к специфическому контексту компании так, как это делает сотрудник-человек за первые 6 месяцев работы . Амодей считает, что эта проблема решается двумя путями: через расширение контекстного окна и через «обучение в процессе» (continual learning) .

• Контекст как замена опыту: Благодаря увеличению длины контекста (до миллиона токенов и выше), модель может «прочитать» весь объем накопленных знаний компании за минуты. Это эквивалентно неделям человеческого обучения .
• Инженерный вызов: Проблемы с деградацией ответов в длинном контексте — это не фундаментальный научный барьер, а вопрос качественного инжиниринга и управления KV-кэшем в GPU .
• Прогноз: По мнению Амодея, ИИ научится полноценно осваивать профессию «на лету» (на уровне видеоредактора или инженера с 6-месячным опытом) в течение ближайших 1–3 лет .

Дарио подчеркивает, что даже без решения проблемы непрерывного обучения (continual learning), существующая парадигма масштабирования уже способна генерировать триллионы долларов дохода и решать задачи национальной безопасности .

🧠 Страна гениев и экономика триллионных дата-центров 50:32

Текущий этап развития ИИ характеризуется не просто количественным ростом, а переходом к качественному состоянию, которое Дарио Амодей называет «страной гениев в дата-центре» . В этом сценарии системы ИИ достигают уровня коллективного интеллекта, сопоставимого с сообществом нобелевских лауреатов, способных совершать прорывы в биологии, физике и инженерии . Однако этот технологический оптимизм сталкивается с жесткой экономической реальностью: стоимостью инфраструктуры и рисками банкротства при попытке масштабирования до уровня триллионов долларов. Ранее в разговоре они касались того, как RL-масштабирование меняет парадигму обучения, но здесь Дарио фокусируется на бизнес-рисках этого пути.

Концепция «Страны гениев в дата-центре» 53:47

Амодей предсказывает, что в ближайшие 1–3 года появятся ИИ-системы, способные функционировать как виртуальное государство, населенное исключительно интеллектуальными элитами . Это не просто чат-бот, а ресурс, способный ускорить научные циклы. Например, в медицине такие системы могли бы радикально ускорить клинические испытания, минимизируя количество неудачных попыток за счет более точного моделирования .

Ключевые характеристики этой концепции:

• Интеллектуальный масштаб: Способность решать задачи уровня лучших ученых мира одновременно в тысячах направлений .
• Автономия: Возможность ИИ-агентов «основывать собственные компании» или вести R&D проекты внутри лабораторий практически без участия человека .
• Ускорение диффузии: Несмотря на физические ограничения (например, время на рост биологических культур в лаборатории), «страна гениев» может сжать десятилетия исследований в годы .

Дарио подчеркивает, что это не отдаленное будущее: он ожидает увидеть появление такой «страны» к 2027 или 2028 году . По его прогнозам, это приведет к тому, что выручка ИИ-индустрии достигнет триллионов долларов еще до 2030 года за счет резкого ускорения экономического роста, который может составить 10–20% в год .

Экономические риски и угроза банкротства 51:11

Несмотря на веру в «страну гениев», Anthropic проявляет осторожность в закупках вычислительных мощностей. Амодей указывает на критическую проблему: цикл строительства дата-центра занимает 1–2 года . Чтобы иметь мощности в 2027 году, решения нужно принимать уже сейчас. Ошибка в прогнозе спроса даже на один год может стать фатальной .

Если компания экстраполирует текущий 10-кратный ежегодный рост выручки и закупит чипы на 1 триллион долларов (что фактически означает обязательства на 5 триллионов на 5 лет ), а реальная выручка составит «всего» 800 миллиардов, компания неизбежно обанкротится . «Никакая сила на Земле, никакое хеджирование не спасет вас от банкротства, если вы купите столько вычислений и ошибетесь в прогнозе роста» .

Дарио критикует подход конкурентов:

1. «YOLO-инвестиции»: Амодей считает, что некоторые игроки рынка тратят десятки миллиардов, не имея четкой финансовой модели в электронных таблицах .
2. Риск недоиспользования: Покупка мощностей на 10 триллионов долларов в 2027 году невозможна не только экономически, но и физически — мир просто не производит столько энергии и чипов .
3. Балансировка: Anthropic выбирает путь «ответственного масштабирования», закупая мощности, которые позволяют поймать «апсайд», но не уничтожат компанию при замедлении темпов роста .

Модель прибыльности и «адское прогнозирование» 59:32

Дарио описывает парадоксальную экономику ИИ-лабораторий. В этой индустрии прибыльность часто является признаком того, что компания недооценила спрос . В идеальном равновесии (toy model) около 50% мощностей уходит на инференс (обслуживание клиентов), а 50% — на обучение новых моделей (R&D) .

Если спрос превышает ожидания, компания становится очень прибыльной, но ее исследовательский отдел «сжимается», так как мощности уходят клиентам . Если спрос переоценен — компания получает избыток вычислений для R&D, но терпит убытки . В текущей фазе экспоненциального масштабирования каждая отдельная модель может быть прибыльной (принося $4 млрд выручки при затратах в $1 млрд на инференс ), но необходимость тратить $10 млрд на обучение следующей, более мощной модели, делает всю компанию убыточной .

Амодей ожидает, что рынок консолидируется вокруг 3–4 крупных игроков (по аналогии с облачными провайдерами), так как порог входа невероятно высок и требует не только капитала в $100+ млрд, но и редчайшей экспертизы .

🌐 Модели монетизации и архитектура глобального управления 1:23:41

Вторая половина интервью с Дарио Амодеи фокусируется на том, как теоретические возможности ИИ превращаются в реальную экономику и как обществу предстоит адаптировать свои институты управления под темпы, которые в 10–20 раз превышают привычные . Обсуждение переходит от технических аспектов обучения к бизнес-стратегиям Anthropic и вопросам глобальной безопасности в мире, где ИИ-агенты становятся повсеместными.

Бизнес-модель: почему API останется актуальным 1:23:41

Отвечая на вопрос классического ценообразования в эпоху, когда ИИ превращается в полноценного «удаленного сотрудника», Амодеи выражает уверенность в долговечности модели API . Несмотря на появление специализированных продуктов, таких как чат-боты, API сохраняет уникальную ценность:

• Близость к «железу»: API позволяет разработчикам работать максимально близко к возможностям модели («bare metal»), создавая кейсы, которые еще вчера были невозможны .
• Экспоненциальная поверхность инноваций: Из-за быстрого прогресса любая надстройка (Product Surface) рискует устареть через несколько месяцев . API же дает возможность тысячам стартапов экспериментировать с новейшими функциями сразу после их релиза .

Дарио прогнозирует сосуществование разных моделей оплаты. Он отмечает парадокс стоимости токенов: базовый совет по диагностике компьютера может стоить центы , в то время как одна подсказка о том, как изменить молекулу для фармацевтического прорыва, может обладать ценностью в десятки миллионов долларов . В будущем это может привести к моделям «оплаты за результат» или почасовой оплате труда ИИ, аналогичной человеческому найму .

В контексте продуктовой стратегии Амодеи упоминает успех Claude Code, который вырос из внутреннего инструмента Anthropic (изначально называвшегося Claude CLI) . Продукт доказал свою жизнеспособность внутри компании, где сотни инженеров использовали его для ускорения собственных исследований, прежде чем он был представлен внешнему рынку . Здесь Дарио делает важную оговорку: Anthropic может эффективно итерировать инструменты для программирования, потому что команда сама является целевой аудиторией, но компания не планирует открывать, например, фармацевтическое подразделение, так как не обладает нужными ресурсами для оценки результатов в этой специфической области .

Глобальное управление и архитектура безопасности 1:33:26

С увеличением количества и интеллектуальности ИИ-систем возникает вопрос о равновесии в мире, где «плохие» или просто не выровненные модели могут быть созданы кем угодно. Ранее в разговоре Дарио упоминал концепцию «страны гениев в дата-центре», и теперь он переходит к механизмам сдерживания этой мощи. Амодеи признает, что простая «проверка и балансировка» между несколькими крупными лабораториями может не сработать в мире, где доминирует наступательный потенциал (offense-dominant world) .

Основные тезисы Дарио по долгосрочному управлению:

1. Архитектура управления: Необходима глобальная структура, которая охраняла бы мир от生物- и киберугроз, одновременно сохраняя гражданские свободы и конституционные права .
2. ИИ-мониторинг: Возможно, потребуется создание систем мониторинга на базе ИИ, которые будут отслеживать попытки создания биологического оружия или «зеркальных форм жизни» .
3. Сжатие времени: Главная проблема — скорость. Если бы у человечества было 100 лет на адаптацию (как с появлением видеокамер или взрывчатки), мы бы выработали нормы методом проб и ошибок . При текущих темпах (5–10 лет на столетие прогресса) думать и действовать нужно кратно быстрее .

Позиция по регулированию и законодательным инициативам 1:37:25

Обсуждая текущие попытки регулирования, Амодеи критикует «глупые» законы, предлагаемые на местах — например, попытки запретить ИИ оказывать эмоциональную поддержку . Однако он объясняет жесткую позицию Anthropic против 10-летнего моратория на государственное регулирование ИИ в США . С его точки зрения, 10 лет в индустрии ИИ — это вечность, и запрещать штатам действовать при отсутствии внятного федерального плана — безответственно перед лицом рисков автономии моделей и биотерроризма .

Дарио выступает за:

• Федеральные стандарты прозрачности: Государство должно установить единые правила «преимущественного права» (preemption), которые заменят лоскутное одеяло законов штатов понятными нормами мониторинга рисков .
• Обязательные классификаторы: По мере роста угроз могут потребоваться законы, обязывающие разработчиков внедрять классификаторы опасного контента (например, в области биологии) .

В завершение segments Дарио подчеркивает, что хотя риск биотерроризма еще не материализовался в полной мере, интеллектуальная честность требует готовить законодательную базу уже сейчас, возможно, даже на уровне отдельных штатов, если федеральное правительство промедлит .

⚖️ Регулирование, чипы и закат диктатур: геополитика ИИ 1:40:50

В пятой главе Дарио Амодей переходит от архитектурных и экономических вопросов к большой политике. Он анализирует, как супермощные ИИ-системы повлияют на глобальный баланс сил между демократиями и автократиями, почему лоскутное одеяло государственных законов США его пугает меньше, чем экспорт чипов в Китай, и как ИИ может сделать диктатуры «морально и экономически устаревшими».

Отношение к госрегулированию и мораториям 1:40:50

Амодей занимает нюансированную позицию в вопросе регулирования . С одной стороны, он скептически относится к «лоскутному одеялу» законов на уровне отдельных штатов. По его мнению, попытки запретить эмоциональных чат-ботов или чрезмерно зарегулировать ИИ-помощников могут лишить людей колоссальных преимуществ в сфере здравоохранения и увеличения продолжительности жизни . Он «определенно против» глупых и вредных законопроектов, которые могут парализовать индустрию .

Однако Дарио выступает не за полное отсутствие правил, а за их «маневренность» (agility):

• Прозрачность прежде всего: Последние и будущие несколько месяцев должны быть посвящены прозрачности в разработке .
• Скорость реакции: Если реальные риски материализуются уже к концу этого года (что вполне вероятно), правительство должно действовать крайне быстро .
• Реформа FDA: Амодей призывает ускорить процессы одобрения лекарств, созданных с помощью ИИ, поскольку традиционные бюрократические надстройки были созданы для эры лекарств, которые «едва работают и имеют побочные эффекты», тогда как ИИ-препараты будут иметь гораздо более четкие показатели безопасности и эффективности .

Он признает, что законодательный процесс обычно не бывает гибким, но именно поэтому он написал свое эссе «Отрочество технологии» — чтобы подготовить экономистов и специалистов по нацбезопасности к необходимости действовать быстрее, чем обычно .

Геополитический рычаг: экспортный контроль чипов 1:47:47

Одним из самых жестких пунктов программы Амодея является экспортный контроль. Он активно выступает за ограничение поставок передовых чипов в Китай . Несмотря на то, что это противоречит интересам рынка и «огромным деньгам», которые хотят заработать корпорации, Дарио считает это вопросом национальной безопасности демократического мира .

Его аргументация строится на концепции «начальных условий» :

1. Нестабильность равновесия: В отличие от ядерного оружия, где существует стабильное сдерживание, ИИ-противостояние может быть нестабильным. Если обе стороны считают, что их ИИ победит в гипотетическом конфликте с вероятностью 90%, война становится почти неизбежной .
2. Рычаг в переговорах: Амодей хочет, чтобы в момент создания правил «мирового порядка после появления AGI», коалиция демократических стран держала в руках «сильнейшую карту» . Контроль над вычислениями (compute) — это тот самый рычаг, который позволит демократиям навязывать про-человеческие ценности при обсуждении глобальных правил игры .

Он прямо говорит, что не боится замедления прогресса в развивающемся мире из-за этих ограничений, но предлагает компенсировать это строительством дата-центров, например, в Африке (при условии, что они не будут принадлежать Китаю) .

Моральное и системное устаревание диктатур 1:58:38

Дарио высказывает смелую гипотезу: мощный ИИ может сделать авторитарные формы правления невозможными в долгосрочной перспективе . Он проводит историческую параллель с феодализмом, который стал нежизнеспособным после промышленной революции .

Его надежда (хотя он признает её идеалистичность) зиждется на нескольких факторах:

• Кризис управления: Диктатуры могут стать «морально устаревшими» формами правления, так как ИИ усилит потребность в индивидуальных правах и свободах для эффективного функционирования общества .
• ИИ как децентрализатор: Амодей размышляет о возможности создания таких конфигураций ИИ, которые авторитарные государства не смогут контролировать. Например, предоставление каждому гражданину персональной модели, защищающей его от слежки . Если такая технология будет «растворять» структуры контроля, автократии могут начать распадаться изнутри .
• Эволюция либерализма: Он надеется, что ИИ приведет к «коллективному осознанию» того, что нет другого способа жить, кроме как защищая индивидуальные права .

При этом он признает, что интернет и соцсети изначально тоже воспринимались как инструменты свободы, но в итоге были успешно адаптированы диктатурами для слежки . Тем не менее, он считает, что с ИИ стоит «попробовать еще раз», учитывая прошлые ошибки .

Ранее в разговоре они кратко упоминали концепцию «Страны гениев в дата-центре», и в контексте геополитики Амодей подчеркивает, что экономическая ценность в будущем будет создаваться очень легко, а вот политическая свобода и справедливое распределение благ останутся сложнейшими задачами для человечества .

📜 Конституционный ИИ и культура управления в эпоху сингулярности 2:05:38

В заключительной части беседы Дарио Амодей подробно останавливается на архитектуре безопасности Claude и на том, как Anthropic удается сохранять внутреннюю сплоченность в условиях беспрецедентного давления и скорости развития индустрии. Пока мир обсуждает геополитические риски и регуляцию (о которых шла речь в предыдущих главах), внутри компании выстраиваются системы «мягкой» силы — как технологические, так и социальные.

Конституционный ИИ: принципы против жесткого контроля 2:05:38

Центральным методом обучения моделей Anthropic является Constitutional AI (Конституционный ИИ). Амодей объясняет, что это не просто список запретов («не делай X»), а обучение ИИ на основе набора высокоуровневых принципов .

Дарио выделяет два ключевых преимущества такого подхода:

• Обобщающая способность: Если просто давать модели список правил (например, «не говори по-корейски» или «не учи угонять машины»), она плохо понимает их суть и не может эффективно справляться с пограничными случаями . Принципы позволяют модели самостоятельно выводить правильное поведение в новых ситуациях .
• Корригируемость (Corrigibility): Хотя Claude спроектирован так, чтобы следовать указаниям пользователя («skin suit» направление), конституция задает границы, которые модель не перейдет даже по прямому приказу — например, помощь в создании биологического оружия или причинение вреда людям .

Амодей видит Claude как «в целом послушную систему с четкими лимитами, основанными на ценностях» . Он также описывает три «петли обратной связи» для формирования этих принципов:

1. Внутренняя: Команда Anthropic сама обновляет конституцию, если не довольна поведением модели .
2. Рыночная (Архипелаг конституций): Разные компании (Google, Anthropic и др.) публикуют свои наборы принципов. Это создает конкуренцию и позволяет обществу сравнивать разные этические подходы . В этом Дарио видит сходство с либертарианской идеей «городов-хартеров», конкурирующих за жителей .
3. Общественная: Эксперименты с «коллективным интеллектом», когда обычные люди голосуют за те или иные принципы для ИИ .

Хотя законодательное регулирование ИИ кажется Дарио слишком медленным и неповоротливым, он допускает, что в будущем государство могло бы закреплять определенные «базовые разделы» конституций для всех разработчиков .

Dario Vision Quest (DVQ) и борьба с «декогеренцией» 2:19:18

Одной из самых уникальных практик внутри Anthropic стала традиция под названием Dario Vision Quest (DVQ) . Каждые две недели Амодей выступает перед сотрудниками (которых уже более 2500 человек) с честным разбором текущей ситуации .

Этот процесс включает в себя:

• Трех-четырехстраничный манифест: Дарио пишет документ, в котором без корпоративного пафоса («corpo speak») излагает мысли о продуктах, конкурентах, геополитике и внутренних проблемах .
• Прямое общение: Часовое выступление и сессия вопросов и ответов позволяют поддерживать связь с командой даже при глубокой иерархии .
• Радикальная честность: Амодей подчеркивает важность «называть вещи своими именами» и признавать ошибки, что критически важно для удержания талантливых специалистов от взаимного «подсиживания» и борьбы за власть .

Дарио тратит до 40% своего времени на культуру компании . Он отмечает, что по мере роста многие ИИ-лаборатории сталкиваются с «декогеренцией» — внутренними конфликтами и потерей фокуса, чего Anthropic пока удается избегать благодаря прозрачности .

Туман войны в эпоху экспоненты 2:13:59

Завершая интервью, Амодей размышляет о том, как будущие историки будут описывать наше время. Он сравнивает текущий момент с созданием атомной бомбы и выделяет два фактора, которые будет сложнее всего понять из будущего :

1. Невежество внешнего мира: Истории всё кажется неизбежным в ретроспективе, но сейчас большинство людей на улице даже не подозревают, насколько близко мы подошли к радикальным изменениям .
2. Безумная скорость принятия решений: В условиях экспоненты критические решения часто принимаются за две минуты между делом, потому что на повестке дня стоят десятки других, не менее важных задач .

По иронии судьбы, самое судьбоносное решение для человечества может быть принято в спешке, просто потому что «нужно идти обедать» . Весь манифест Амодея и его участие в публичных дискуссиях — это попытка минимизировать этот хаос и подготовить общество к тому, что неизбежно произойдет в ближайшие годы.