Будущее ИИ и выживание человечества: взгляд сооснователя Anthropic 0:00
Искусственный интеллект стремительно приближается к уровню «трансформативного ИИ», что может стать последним изобретением, которое когда-либо потребуется человечеству. В откровенной беседе с Ленни Рачитски сооснователь компании Anthropic Бен Манн рассуждает о том, как скоро мы достигнем сверхчеловеческого интеллекта, почему вопросы безопасности стали для него делом всей жизни и что ждет рынок труда в эпоху «машин, исполненных любви и благодати».
🤖 Гонка талантов и масштаб прогресса 5:04
Бен Манн отмечает, что текущий ажиотаж вокруг найма ведущих исследователей ИИ — это закономерное отражение огромной ценности разрабатываемых технологий.
- Стратегия найма: По словам Манна, Anthropic меньше страдает от «похищения» сотрудников, так как команда сфокусирована на миссии: влиянии на будущее человечества, а не только на краткосрочной прибыли.
- Реальность бонусов: Слухи о бонусах в размере $100 млн Манн считает правдоподобными. С точки зрения бизнеса, повышение эффективности стека логических выводов даже на несколько процентов приносит огромную прибыль, поэтому такие выплаты оправданы масштабами создаваемой ценности.
- Масштабируемость: Мировая индустрия ежегодно удваивает капитальные вложения, и сейчас объем трат оценивается в $300 млрд. По прогнозам Манна, скоро мы будем оперировать цифрами в триллионы долларов.
📈 Темпы развития: почему прогресс ускоряется 8:04
Манн категорически не согласен с мнением, что развитие моделей замедлилось. Он объясняет «эффект плато» временем сжатия: раньше новые модели выходили раз в год, а теперь — каждый месяц или три.
- Временная дилатация: Собеседник сравнивает текущую ситуацию с путешествием на околосветовой скорости, где день для разработчика ощущается как пять дней для окружающих.
- Закон масштабирования: Законы масштабирования (scaling laws) продолжают работать, хотя и потребовали перехода от простого обучения к обучению с подкреплением.
- Бенчмарки: Часто кажется, что прогресс остановился, потому что старые тесты мгновенно насыщаются. По мнению Манна, проблема не в замедлении интеллекта, а в отсутствии достаточно амбициозных задач, которые могли бы выявить новые «скачки» способностей.
🧠 АГI и «Экономический тест Тьюринга» 11:07
Бен Манн предпочитает термин «трансформативный ИИ» (transformative AI), так как АГИ — слишком нагруженное понятие. Для оценки прогресса он предлагает «экономический тест Тьюринга».
- Суть теста: Если вы нанимаете ИИ-агента для выполнения работы на несколько месяцев и по итогам решаете, что это был человек, значит, тест пройден.
- Порог трансформации: Когда подобные агенты смогут пройти тест для 50% профессий, взвешенных по доходу, общество ждут фундаментальные изменения в ВВП, институтах и занятости.
⚖️ Философия безопасности Anthropic 24:12
Манн подробно рассказал о причинах ухода восьми ключевых сотрудников из OpenAI: они чувствовали, что вопросы безопасности не являются главным приоритетом.
- Миссия: В Anthropic безопасность — это основа. Компания стремится сделать ИИ «полезным, честным и безвредным» (helpful, harmless, and honest).
- Конституционный ИИ (Constitutional AI): Этот метод позволяет модели самой оценивать свои ответы на основе списка принципов (например, Всеобщей декларации прав человека). Если модель нарушает принцип, она сама себя критикует и переписывает ответ.
- Честность: Манн считает важным открыто обсуждать риски (например, способность моделей помогать в создании биооружия), так как именно такая прозрачность вызывает доверие у законодателей.
🚀 Советы для карьеры в эпоху ИИ 18:07
Бен Манн признает, что никто не застрахован от замены ИИ, включая его самого.
- Будьте амбициозны: Используйте новые инструменты максимально полно. Если запрос не сработал с первого раза, попробуйте еще трижды — алгоритмы стохастичны, и успех может прийти при следующей попытке.
- Curiosity (Любопытство): На вопрос о том, чему учить детей, Манн отвечает однозначно — любопытству, креативности и доброте. Знания быстро устаревают, а умение задавать вопросы останется актуальным.
