# Бен Манн об Anthropic: «ИИ сделает будущее намного страннее»

Источник: https://www.youtube.com/watch?v=WWoyWNhx2XU
Канал: Lenny's Podcast
Опубликовано: 20.07.2025

---

## Будущее ИИ и выживание человечества: взгляд сооснователя Anthropic
[[JUMP:0:00]]

Искусственный интеллект стремительно приближается к уровню «трансформативного ИИ», что может стать последним изобретением, которое когда-либо потребуется человечеству. В откровенной беседе с Ленни Рачитски сооснователь компании Anthropic Бен Манн рассуждает о том, как скоро мы достигнем сверхчеловеческого интеллекта, почему вопросы безопасности стали для него делом всей жизни и что ждет рынок труда в эпоху «машин, исполненных любви и благодати».

### 🤖 Гонка талантов и масштаб прогресса
[[JUMP:5:04]]

Бен Манн отмечает, что текущий ажиотаж вокруг найма ведущих исследователей ИИ — это закономерное отражение огромной ценности разрабатываемых технологий.

*   **Стратегия найма:** По словам Манна, Anthropic меньше страдает от «похищения» сотрудников, так как команда сфокусирована на миссии: влиянии на будущее человечества, а не только на краткосрочной прибыли.
*   **Реальность бонусов:** Слухи о бонусах в размере $100 млн Манн считает правдоподобными. С точки зрения бизнеса, повышение эффективности стека логических выводов даже на несколько процентов приносит огромную прибыль, поэтому такие выплаты оправданы масштабами создаваемой ценности.
*   **Масштабируемость:** Мировая индустрия ежегодно удваивает капитальные вложения, и сейчас объем трат оценивается в $300 млрд. По прогнозам Манна, скоро мы будем оперировать цифрами в триллионы долларов.

### 📈 Темпы развития: почему прогресс ускоряется
[[JUMP:8:04]]

Манн категорически не согласен с мнением, что развитие моделей замедлилось. Он объясняет «эффект плато» временем сжатия: раньше новые модели выходили раз в год, а теперь — каждый месяц или три.

*   **Временная дилатация:** Собеседник сравнивает текущую ситуацию с путешествием на околосветовой скорости, где день для разработчика ощущается как пять дней для окружающих.
*   **Закон масштабирования:** Законы масштабирования (scaling laws) продолжают работать, хотя и потребовали перехода от простого обучения к обучению с подкреплением.
*   **Бенчмарки:** Часто кажется, что прогресс остановился, потому что старые тесты мгновенно насыщаются. По мнению Манна, проблема не в замедлении интеллекта, а в отсутствии достаточно амбициозных задач, которые могли бы выявить новые «скачки» способностей.

### 🧠 АГI и «Экономический тест Тьюринга»
[[JUMP:11:07]]

Бен Манн предпочитает термин «трансформативный ИИ» (transformative AI), так как АГИ — слишком нагруженное понятие. Для оценки прогресса он предлагает «экономический тест Тьюринга».

*   **Суть теста:** Если вы нанимаете ИИ-агента для выполнения работы на несколько месяцев и по итогам решаете, что это был человек, значит, тест пройден.
*   **Порог трансформации:** Когда подобные агенты смогут пройти тест для 50% профессий, взвешенных по доходу, общество ждут фундаментальные изменения в ВВП, институтах и занятости.

### ⚖️ Философия безопасности Anthropic
[[JUMP:24:12]]

Манн подробно рассказал о причинах ухода восьми ключевых сотрудников из OpenAI: они чувствовали, что вопросы безопасности не являются главным приоритетом.

*   **Миссия:** В Anthropic безопасность — это основа. Компания стремится сделать ИИ «полезным, честным и безвредным» (helpful, harmless, and honest).
*   **Конституционный ИИ (Constitutional AI):** Этот метод позволяет модели самой оценивать свои ответы на основе списка принципов (например, Всеобщей декларации прав человека). Если модель нарушает принцип, она сама себя критикует и переписывает ответ.
*   **Честность:** Манн считает важным открыто обсуждать риски (например, способность моделей помогать в создании биооружия), так как именно такая прозрачность вызывает доверие у законодателей.

### 🚀 Советы для карьеры в эпоху ИИ
[[JUMP:18:07]]

Бен Манн признает, что никто не застрахован от замены ИИ, включая его самого.

*   **Будьте амбициозны:** Используйте новые инструменты максимально полно. Если запрос не сработал с первого раза, попробуйте еще трижды — алгоритмы стохастичны, и успех может прийти при следующей попытке.
*   **Curiosity (Любопытство):** На вопрос о том, чему учить детей, Манн отвечает однозначно — любопытству, креативности и доброте. Знания быстро устаревают, а умение задавать вопросы останется актуальным.