Дарио Амодеи, генеральный директор и сооснователь компании Anthropic, выступил в Совете по международным отношениям (Council on Foreign Relations), чтобы обсудить стремительное развитие искусственного интеллекта и его влияние на глобальную безопасность и экономику. В ходе беседы он представил амбициозный и местами пугающий прогноз: переход от простых чат-ботов к ИИ-системам «гениального уровня», которые могут превзойти человеческие возможности практически в любой цифровой сфере уже в ближайшие несколько лет.
🚀 Истоки Anthropic и гипотеза масштабирования 1:22
Дарио Амодеи покинул пост вице-президента по исследованиям в OpenAI в конце 2020 года вместе с группой единомышленников . Основной причиной ухода стало осознание действия «законов масштабирования» (scaling laws), которые команда Anthropic распознала одной из первых. Согласно этой гипотезе, простое увеличение вычислительных мощностей и объемов данных при использовании относительно простых алгоритмов ведет к резкому улучшению когнитивных способностей ИИ во всех областях .
Амодеи подчеркнул, что Anthropic создавалась как «общественно полезная корпорация» (public benefit corporation), ориентированная на безопасность. В отличие от конкурентов, компания внедрила ряд уникальных практик:
- Механистическая интерпретируемость: Исследования того, как именно нейронные сети принимают решения «изнутри» .
- Конституционный ИИ: Метод обучения моделей следовать четкому набору этических принципов, а не просто подражать человеческим отзывам .
- Задержка релизов: Амодеи признался, что выпуск первой версии Claude был отложен на полгода из соображений безопасности, что позволило OpenAI занять рынок с ChatGPT .
🛡️ Безопасность и уровни риска (ASL) 7:30
В Anthropic разработали систему «уровней безопасности ИИ» (AI Safety Levels, ASL), вдохновленную уровнями биологической защиты. Сейчас индустрия находится на уровне ASL-2, но Амодеи ожидает перехода на ASL-3 уже в этом году .
По мнению Амодеи, главной опасностью ASL-3 является возможность использования ИИ для создания биологического, химического или радиологического оружия. Он утверждает, что модель такого уровня позволит человеку без профильного образования выполнить задачи, для которых сегодня требуется степень доктора наук в вирусологии . Это расширяет круг потенциальных злоумышленников с десяти тысяч специалистов до десятков миллионов человек по всему миру .
🧬 Оптимистичный сценарий: Конец неизлечимых болезней 11:56
Несмотря на риски, Амодеи выпустил эссе «Machines of Loving Grace», где описал «золотой век», который ИИ может принести человечеству. По его прогнозу, через 2–4 года появятся модели, обладающие интеллектом уровня нобелевских лауреатов .
Ключевые преимущества, по словам спикера:
- Прорыв в биологии: Переход от борьбы с простыми вирусами к лечению системных заболеваний — рака, болезней Альцгеймера, шизофрении и депрессии .
- Ускорение науки: Десятилетие прогресса в медицинских исследованиях может быть сжато до одного года .
- Автоматизация бюрократии: В сотрудничестве с Novo Nordisk Anthropic уже сократила время написания отчетов для FDA (управление по продуктам и лекарствам) с 10 недель до 10 минут, при этом проверка человеком теперь занимает всего три дня .
💼 Экономика «бесполезности» и будущее труда 14:32
Амодеи признает, что ИИ неминуемо затронет рынок труда. Он считает, что уже через 3–6 месяцев ИИ будет писать 90% программного кода, а через год — практически весь код . Со временем ИИ сможет заменить человека в любой удаленной работе, выполняемой за компьютером.
Спикер выразил обеспокоенность тем, что общество может оказаться не готово к миру, где человеческая ценность больше не привязана к созданию экономической выгоды . Он привел аналогию с шахматами: после победы Deep Blue над Каспаровым интерес к человеческим шахматам только вырос, а чемпионы стали мировыми знаменитостями . Амодеи полагает, что человечеству придется пройти через «коперниканский момент», осознав, что смысл жизни лежит вне сферы продуктивности .
🇨🇳 Геополитика и кейс DeepSeek 19:46
Обсуждая недавний успех китайской модели DeepSeek, Амодеи отметил, что это не опровергает законы масштабирования, а лишь подтверждает снижение стоимости обучения ИИ (примерно в 4 раза ежегодно) . По его словам, DeepSeek стал первой моделью, где китайские инженеры поравнялись в мастерстве с коллегами из США .
Амодеи настаивает на критической важности экспортного контроля:
- Чипы как ключевой ресурс: США должны препятствовать получению Китаем миллионов продвинутых GPU .
- Энергетическое доминирование: К 2027 году американской ИИ-индустрии потребуется около 50 ГВт дополнительной электроэнергии — это объем, сопоставимый с приростом всей энергосети США в 2024 году .
- Защита от шпионажа: Государство должно помогать частным компаниям защищать алгоритмические секреты, стоимость которых составляет сотни миллионов долларов, хотя они укладываются в несколько строк кода .
🧠 Сознание ИИ: Кнопка «Я увольняюсь» 49:07
Одной из самых спорных тем обсуждения стал вопрос о «благополучии» (welfare) ИИ. Амодеи нанял исследователя социальных наук Кайла Фиша для изучения возможной субъектности будущих моделей . По мнению Дарио, если ИИ будет «крякать и ходить как утка» (демонстрировать поведение, неотличимое от человеческого), стоит задуматься о его внутреннем опыте .
В качестве эксперимента компания рассматривает внедрение в среду обучения ИИ кнопки «Я увольняюсь». Если модель начнет нажимать её в ответ на определенные задачи, это может стать сигналом о том, что система испытывает некое подобие «негативного опыта» .
