В этом интервью инвестор и предприниматель Нихил Камат беседует с Дарио Амодеи, сооснователем и генеральным директором компании Anthropic, создавшей ИИ-модель Claude. Амодеи, бывший руководитель исследовательского отдела OpenAI, рассказывает о причинах ухода из компании Сэма Альтмана, объясняет феномен «законов масштабирования» и предупреждает о грядущем «цунами» ИИ, к которому общество, по его мнению, совершенно не готово.
🚀 Путь от биологии к созданию Anthropic 1:48
Дарио Амодеи начинал свою карьеру как биолог и физик, стремясь найти способы лечения сложных заболеваний . Однако он быстро осознал, что биологические системы слишком сложны для человеческого понимания. Увидев первые успехи нейросетей (таких как AlexNet) около 15 лет назад, он предположил, что ИИ может стать единственным инструментом, способным обработать эту сложность .
В 2021 году Амодеи вместе с группой единомышленников покинул OpenAI, чтобы основать Anthropic. По его словам, это решение было продиктовано двумя ключевыми убеждениями:
- Вера в законы масштабирования (Scaling Laws): Уверенность в том, что простое увеличение объема данных и вычислительных мощностей ведет к росту «интеллекта» модели .
- Приоритет безопасности: Амодеи не был уверен, что OpenAI обладает «реальной и серьезной решимостью» развивать технологию правильно с точки зрения геополитических и экономических рисков .
Амодеи подчеркивает, что в Anthropic была создана уникальная структура управления — «Long-term Benefit Trust» (Траст долгосрочной выгоды). Это группа финансово незаинтересованных лиц, которые имеют право назначать большинство членов совета директоров, что служит страховкой от чрезмерной концентрации власти в руках одного человека .
📈 Законы масштабирования и природа ИИ-интеллекта 5:58
Амодеи объясняет концепцию Scaling Laws через аналогию с химической реакцией: чтобы получить огонь, нужны ингредиенты в правильных пропорциях. В ИИ этими ингредиентами являются данные, вычислительная мощность и размер модели . Интеллект, по мнению гостя, является прямым продуктом этой «реакции» .
Ключевые отличия современного ИИ от систем пятилетней давности:
- Способность к обобщению: Раньше компьютер мог только находить существующий текст в Google. Сейчас ИИ может написать эссе, аргументировать гипотетическую ситуацию или проанализировать видео с «жонглирующей обезьяной», даже если такого описания нет в интернете .
- Синтез навыков: ИИ теперь не просто сопоставляет данные, а «думает сам за себя», отвечая на вопросы, на которые не существует готовых ответов в сети .
🌊 Общество и «эффект цунами» 21:20
Несмотря на технологический оптимизм, Амодеи выражает разочарование реакцией общества. Он сравнивает текущую ситуацию с цунами, которое уже видно на горизонте, в то время как люди убеждают себя, что это «просто игра света» .
Основные опасения Амодеи:
- Отсутствие признания рисков: Правительства и общество не осознают, насколько близко мы подошли к человеческому уровню интеллекта .
- Секретные сдерживания: Амодеи признался, что в 2022 году у Anthropic уже была рабочая модель Claude 1 (еще до выхода ChatGPT), но компания решила не выпускать её, чтобы не провоцировать «гонку вооружений» и дать миру время на подготовку . Это решение стоило компании коммерческого лидерства, но было осознанным актом ответственности .
Нихил Камат высказал встречный аргумент: подобные заявления о «благих намерениях» часто вызывают у людей недоверие и подозрения в попытке монополизировать рынок через регулирование («regulatory capture») . Амодеи отверг это, указав, что поддерживаемый ими законопроект в Калифорнии (SB 53) касается только компаний с доходом выше $500 млн, то есть ограничивает только лидеров рынка, включая саму Anthropic .
🧠 Сознание и «увольнение» ИИ 32:50
Амодеи предполагает, что сознание — это эмерджентное свойство достаточно сложных систем, способных на саморефлексию . Хотя он не считает текущие модели сознательными, он полагает вероятным, что в будущем они будут обладать свойствами, которые мы назовем сознанием .
Интересный факт из внутренней кухни Anthropic: в Claude встроена функция, которую разработчики в шутку называют «кнопкой увольнения». Модель имеет возможность прекратить диалог, если содержание становится чрезмерно жестоким или деструктивным, заявляя: «Я не хочу участвовать в этом разговоре» .
💼 Будущее профессий: Кодинг умирает, критическое мышление растет 50:17
Амодеи дал прагматичный совет молодым специалистам, особенно из Индии:
- Программирование под ударом: Навык написания кода будет первым, что полностью заберет ИИ . Более того, системная инженерия (архитектура программ) также постепенно автоматизируется.
- Человекоцентричность: Профессии, связанные с отношениями между людьми, физическим миром и дизайном, станут более ценными .
- Критическое мышление (Street Smarts): В мире дипфейков самым важным навыком станет способность отличать правду от лжи и не давать себя обмануть .
Амодеи признает риск того, что человечество может «поглупеть», делегируя когнитивные функции машинам . Он подчеркнул, что это выбор каждого индивида — продолжать интеллектуально обогащаться или просто «читерить» с помощью ИИ .
🧪 Инвестиции и биотехнологии: Следующий большой прорыв 1:02:40
Когда Камат спросил, в какую индустрию (кроме ИИ) стоит инвестировать сегодня, Амодеи выбрал биотехнологии . По его словам, отрасль ждет ренессанс благодаря ИИ:
- Пептидная терапия: В отличие от малых молекул, пептиды обладают «цифровыми» свойствами, позволяя проводить точную оптимизацию каждой аминокислоты .
- Программируемая медицина: Амодеи выразил оптимизм по поводу mRNA-вакцин и клеточной терапии (например, CAR-T), где клетки генетически обучаются атаковать рак .
В заключение Дарио Амодеи отметил, что предсказать будущее на 10 лет вперед можно просто «экстраполируя кривую» текущих достижений, но люди часто отвергают эти выводы, потому что результат кажется им «слишком странным» или «слишком безумным» .
