В штаб-квартире компании Anthropic в Сан-Франциско состоялась беседа между её генеральным директором Дарио Амодеи и ведущим Алексом Кантровицем. Глава одного из самых влиятельных ИИ-стартапов мира ответил на обвинения в «думерстве», объяснил экономику обучения моделей и рассказал о личной трагедии, которая заставляет его спешить с развитием технологий.
📈 Феномен экспоненты и сроки создания мощного ИИ 3:33
Дарио Амодеи утверждает, что индустрия находится в состоянии «взрывной экспоненты», которую человеческий мозг склонен недооценивать . По его словам, два года назад нейросети находились на уровне способного школьника, сейчас — на уровне выпускника вуза или PhD, и прогресс не замедляется .
Амодеи выделяет следующие аспекты процесса:
- Отказ от терминов AGI и «суперинтеллект»: Спикер считает их чисто маркетинговыми инструментами, предназначенными для «активации дофамина» у публики, и сознательно избегает их в своей речи .
- Два этапа обучения: Рост возможностей обеспечивается не только «пре-трейнингом» (закачкой данных из интернета), но и вторым этапом — обучением с подкреплением (RL), который позволяет моделям «рассуждать» .
- Вероятность плато: Амодеи признаёт наличие 20–25% вероятности того, что в ближайшие два года прогресс внезапно остановится из-за нехватки данных или вычислительных мощностей, что сделает все текущие предупреждения о рисках «глупыми» .
💻 Проблема обучения и «стеклянный потолок» архитектуры 9:49
Ведущий поднял вопрос о так называемом «отсутствии непрерывного обучения» (continual learning) — ситуации, когда модель статична и не учится в процессе взаимодействия после фазы тренировки .
Амодеи выдвинул несколько контраргументов:
- Модели фактически «учатся» внутри контекстного окна. Глава Anthropic заявил, что технически нет препятствий для создания контекстного окна в 100 миллионов слов — это примерный объем информации, который человек получает за всю жизнь .
- Даже если проблема обучения никогда не будет решена, миллионы «замороженных» моделей с уровнем интеллекта Нобелевского лауреата способны совершить революцию в биологии и экономике .
- Там, где кажется, что есть фундаментальный барьер (как раньше было с математикой и кодингом), решение обычно находится через масштабирование и новые методы RL .
💰 Экономика ИИ: почему убытки — это инвестиции 20:10
Anthropic демонстрирует аномальные темпы роста выручки: в 2023 году она выросла с нуля до $100 млн, в 2024 году — до $1 млрд, а в первой половине текущего года показатель превысил $4,5 млрд . При этом компания привлекла почти $20 млрд инвестиций от таких гигантов, как Amazon и Google .
Амодеи объяснил парадокс убыточности следующим образом:
- Модель как отдельный венчур: Если рассматривать каждую отдельную модель, она сверхприбыльна. Например, затраты на обучение модели 2023 года могли составить $100 млн, а выручка от её использования в 2024-м — $200 млн .
- Цикл перевложений: Убыточность компании возникает из-за того, что всю прибыль от текущей модели и огромные заёмные средства компания немедленно вкладывает в обучение следующей, гораздо более мощной и дорогой модели .
- Капиталоэффективность: Глава Anthropic утверждает, что благодаря «плотности талантов» его компания может делать за $10 млрд то, на что другие тратят $100 млрд .
🥊 Противостояние с Meta и OpenAI: «Преданность нельзя купить» 16:47
В ответ на вопрос о «войне талантов», инициированной Марком Цукербергом, который предлагает огромные бонусы инженерам Anthropic, Амодеи высказал скепсис . Он подчеркнул, что в компании действуют строгие принципы справедливости: уровень зарплаты определяется квалификацией, а не тем, «кинул ли Цукерберг дротик в твоё имя» .
По мнению Амодеи, Meta пытается купить то, что не продаётся — искреннюю преданность миссии безопасности ИИ. «Я довольно пессимистично настроен относительно того, что они пытаются сделать», — резюмировал он . Также Амодеи упомянул, что их дата-центры, строящиеся совместно с Amazon, не уступают по масштабам мощностям других техногигантов .
🧬 Личная история: Смерть отца и спешка за лекарством 40:10
Одной из самых эмоциональных частей интервью стал рассказ Амодеи о его отце. В 2006 году тот скончался от болезни, которая в то время считалась трудноизлечимой (выживаемость составляла 50%) .
«Всего через три-четыре года после его смерти показатель излечения вырос до 95%», — поделился Дарио . Этот факт сформировал его мировоззрение:
- Он пришел в ИИ из биологии, осознав, что человеческий разум слишком медленно обрабатывает данные для поиска лекарств .
- Он отвергает ярлык «думера» (пессимиста), считая его оскорбительным. Амодеи утверждает, что именно из-за осознания ценности спасенных жизней он хочет, чтобы технология появилась как можно скорее, но была безопасной .
- Спикер противопоставил свою позицию «акселерационистам» из соцсетей, считая, что ими движет адреналин, а не гуманистические ценности .
🛡️ Безопасность и ответ на критику Дженсена Хуанга 54:15
Глава NVIDIA Дженсен Хуанг ранее критиковал Амодеи, намекая, что тот хочет контролировать всю индустрию под предлогом безопасности. Амодеи назвал это «возмутительной ложью» .
Его позиция по контролю:
- Гонка к вершине (Race to the top): Вместо попыток запретить ИИ Амодеи предлагает устанавливать стандарты безопасности (Responsible Scaling Policies), которые вынужденно будут копировать конкуренты, чтобы не выглядеть безответственными .
- Открытость: Anthropic публикует свои исследования в области интерпретируемости (понимания работы «внутренностей» модели), считая это общественным благом .
- Сэм Бэнкман-Фрид (SBF): Амодеи признал, что встречался с основателем FTX (бывшим крупным инвестором Anthropic) всего несколько раз и ограничил его влияние, не дав места в совете директоров, так как тот показался ему слишком безрассудным («move fast and break things») .
В завершение Амодеи подчеркнул, что его критика касается «морально несерьезного» подхода тех, кто видит только доллары в глазах и призывает не регулировать отрасль десятилетиями .
