Даниэла Амодеи, сооснователь и президент компании Anthropic, выступила в Стэнфордской высшей школе бизнеса, чтобы поделиться историей создания одного из самых влиятельных ИИ-стартапов в мире. В ходе беседы она рассказала, почему безопасность ИИ должна быть приоритетом бизнеса, как её гуманитарное прошлое помогло ей возглавить технологического гиганта и почему «человеческий фактор» станет самой дорогой валютой будущего.
🎨 От английской литературы к управлению ИИ-гигантом 0:59
Путь Даниэлы Амодеи в Кремниевую долину был нелинейным: она изучала английскую литературу и не планировала карьеру в технологиях. В 2009 году, окончив университет с дипломом гуманитария в разгар экономического кризиса, она чувствовала острую потребность приносить пользу миру.
Ее карьера началась с международного развития и глобального здравоохранения, где она пыталась решить вопросы справедливого доступа к еде и медикаментам. Затем последовал период работы на Капитолийском холме и участие в политических кампаниях. По мнению Амодеи, именно этот опыт научил её тому, что небольшая группа амбициозных людей способна реально менять мир.
В технологический сектор она попала, присоединившись к Stripe, когда в компании работало всего около 40 человек. Даниэла называет себя «генералистом» и считает, что отсутствие диплома компьютерного инженера компенсировалось её любознательностью и умением задавать правильные вопросы. По её словам, в стартапе почти любая роль, кроме чисто инженерной, требует именно таких качеств: способности быстро учиться и желания быть полезным.
🧠 Опыт в OpenAI и рождение Anthropic 5:07
В 2018 году Даниэла присоединилась к OpenAI, которая тогда еще была небольшой исследовательской лабораторией. Несмотря на отсутствие технического образования, она быстро освоила терминологию нейронных сетей и трансформеров, опираясь на опыт работы с инженерами в Stripe и многолетнее общение со своим братом Дарио — талантливым физиком и исследователем.
Переломный момент наступил в декабре 2020 года, когда Даниэла, Дарио и еще пять их коллег решили покинуть OpenAI. По словам гостьи, это не было «бегством» от чего-то плохого — скорее, они «бежали навстречу» своему видению ответственности в ИИ.
Ключевые факторы создания Anthropic:
- Команда единомышленников: Основу составили 7 сооснователей, которые долгое время работали вместе и умели эффективно разрешать конфликты.
- Новая структура: Anthropic была зарегистрирована как корпорация общественной пользы (Public Benefit Corporation), чтобы закрепить приоритет безопасности и ответственности над чистой коммерцией.
- Общность взглядов: Все основатели ранее занимались как вопросами возможностей ИИ (capabilities), так и безопасностью и политикой.
🛡️ Философия безопасности: больше чем просто фильтры 11:37
Даниэла Амодеи настаивает на том, что «безопасность ИИ» — это форма «радикальной ответственности» за создаваемую технологию. Она проводит аналогию с социальными сетями, создатели которых не планировали причинять вред психике подростков, но не учли побочные эффекты в погоне за ростом.
Anthropic стремится предотвратить такие риски, как:
- Использование ИИ для разработки биологического и химического оружия.
- Применение в кибервойнах (именно из-за этого компания решила ограничить доступ к своей модели класса Mythos).
- Дезинформация и вмешательство в выборы.
Говоря о конфликте между безопасностью и прибылью, Даниэла утверждает, что для бизнеса эти понятия чаще всего совпадают. Компании-клиенты не хотят, чтобы их ИИ-помощники галлюцинировали или выдавали вредный контент, поэтому безопасность становится конкурентным преимуществом. Однако она признает, что иногда возникают сложности: например, в рамках проекта Glasswing компании пришлось отложить релиз мощной модели, чтобы убедиться в её защищенности, что вызвало недовольство клиентов.
💼 Будущее профессий и «режим обучения» 16:40
На вопрос о том, стоит ли людям бояться потери работы, Даниэла отвечает осторожно: ИИ изменит структуру занятости, но не обязательно уничтожит её. Согласно экономическому индексу Anthropic, сегодня ИИ чаще выступает как дополнение к навыкам человека, а не как его замена.
Влияние на конкретные сферы:
- Программирование: Разработчики не исчезнут, но станут писать меньше кода вручную, больше фокусируясь на общении с клиентами и проектировании продуктов.
- Образование: Амодеи выделяет два сценария использования ИИ студентами — «режим читерства» (простое получение ответов) и «режим обучения» (использование Claude как терпеливого тьютора, который помогает разобраться в материале).
- Медицина: ИИ станет отличным диагностом, но не сможет заменить человеческое сочувствие и «манеры у постели больного» (bedside manner), которые, по данным исследований, напрямую влияют на успех лечения.
💰 Пузырь или новая реальность? 35:31
Обсуждая опасения по поводу «пузыря ИИ», Амодеи признает, что отрасль является чрезвычайно капиталоемкой. Огромные затраты на вычислительные мощности (compute) и дефицит чипов заставляют компании делать «ставки на будущее», закупая ресурсы задолго до того, как они окупятся.
Несмотря на астрономические доходы Anthropic и OpenAI, которые растут быстрее любого бизнеса в истории венчурного капитала, Даниэла считает риск обоснованным, но реальным. Если темпы внедрения технологии замедлятся, у всей индустрии могут возникнуть серьезные финансовые проблемы.
🌍 Регулирование и личная ответственность 38:22
В вопросах государственного регулирования Даниэла призывает к «здравомыслию». По её мнению, политики часто впадают в крайности: либо «инновации любой ценой», либо «жесткие запреты». Она надеется на сотрудничество, где технологические компании будут делиться данными о рисках, а регуляторы — создавать рамки для защиты общества.
Лично для себя Амодеи находит неожиданные способы применения Claude: от коучинга по управлению персоналом (анализ паттернов в отзывах сотрудников) до практических советов по приучению детей к горшку. Она советует пользователям сохранять «здоровый скептицизм» и никогда не полагаться на ИИ безоговорочно, особенно в медицинских вопросах.
