На недавней встрече в Y Combinator Джордан Фишер, руководитель команды исследований выравнивания в Anthropic и выпускник YC, поделился своим видением будущего стартапов в эпоху стремительного развития искусственного интеллекта. Будучи ветераном индустрии, Фишер признался, что глубина текущих изменений лишает возможности долгосрочного прогнозирования, вынуждая задавать фундаментальные вопросы о выживании бизнеса. Главный тезис выступления заключается в необходимости переосмысления стратегии стартапов с прицелом на скорое появление сильного ИИ (AGI) и поиск подлинной технологической защищенности.
⏳ Стратегия стартапа в преддверии AGI 0:00
Изменение горизонтов планирования
Джордан Фишер начал свое выступление с неожиданного признания: несмотря на многолетний опыт в технологиях, сейчас он чувствует себя более растерянным, чем когда-либо в жизни. Если раньше ветеран ИТ-индустрии мог планировать свою карьеру и бизнес на 5–10 лет вперед, то сегодня, по его собственным словам, горизонт видимости сузился до трех недель. Тем не менее, Фишер убежден, что состояние неопределенности является отличной отправной точкой для поиска прорывных идей, особенно если исследователь или предприниматель умеет задавать правильные вопросы. По его мнению, стремительность текущей ИИ-революции требует от основателей стартапов немедленной остановки для критической переоценки происходящего.
Опираясь на опыт руководства командой исследований выравнивания (alignment) в Anthropic и участие в прошлых батчах YC, Фишер ставит под сомнение популярную рекомендацию строить продукты с учетом возможностей ИИ на ближайшие шесть месяцев. Вместо этого спикер призывает планировать стратегию компаний как минимум на два года вперед. По прогнозу Фишера, полноценный сильный искусственный интеллект (AGI) может появиться уже в ближайшие два-три года, и игнорирование этого факта при найме сотрудников, маркетинге и выходе на рынок является невыполнением прямых обязанностей фаундера.
Парадокс фокуса основателя
В технологической среде укоренилось мнение, что главным преимуществом стартапа перед корпорациями является жесткий фокус. Однако Фишер указывает на классический парадокс предпринимательства: несмотря на важность концентрации, фаундер обязан одновременно фокусироваться на абсолютно всех аспекта бизнеса — от найма и фандрейзинга до продукта и долгосрочной стратегии. В условиях ИИ-революции этот парадокс обостряется, требуя от лидеров ежеминутной готовности отвечать на глобальные вызовы.
🔄 Трансформация рынков и коммодитизация софта 4:21
Эволюция корпоративных закупок (Buy Side)
В технологическом сообществе распространено мнение, что влияние ИИ на крупный бизнес будет медленным из-за неповоротливости циклов продаж Enterprise-клиентам. Джордан Фишер называет этот взгляд близоруким. По его мнению, сторона покупателей (buy side) эволюционирует столь же стремительно: в ближайшие пару лет крупные корпорации внедрят мощных ИИ-агентов, которые будут самостоятельно принимать решения о закупках и ускорять циклы адаптации ПО.
Спикер указывает на зарождающийся тренд, когда крупные предприятия отказываются от покупки традиционных SAS-решений. По словам Фишера, компаниям становится проще выделить двух инженеров, которые с помощью Claude быстро собирают внутренний софт под конкретные нужды организации. Такой сдвиг ставит фундаментальный вопрос: сохранит ли концепция SAS-провайдеров смысл через два-три года, или программное обеспечение полностью коммодитизируется?
Как предполагает Фишер, в будущем потребители могут полностью отказаться от скачивания готовых приложений, генерируя нужный софт на лету по устному запросу. С другой стороны, автоматизация написания кода способна поднять планку качества ИИ-native продуктов на недосягаемую для обычных кустарных промптов высоту.
Код по требованию и проблема доверия
В контексте создания ПО Фишер выделяет перспективный паттерн — генерацию кода по требованию (code on demand) непосредственно в процессе взаимодействия пользователя с интерфейсом. Однако реализация этой концепции сталкивается с серьезными проблемами безопасности. По словам спикера, для изменения логики приложения ИИ-агент должен иметь доступ к бэкенду и базам данных, что невозможно без абсолютного доверия к модели, которого текущие технологии обеспечить не могут.
Рассуждая об интерфейсах, Фишер отмечает важность мультимодальности и контекста:
- Интерфейс будущего должен гибко адаптироваться к ситуации, комбинируя голос, текст и тач-управление в зависимости от того, находится ли пользователь в толпе или в уединении.
- Разработчикам необходимо стремиться к тому, чтобы встречать пользователя там, где ему удобнее всего взаимодействовать с продуктом в данный момент.
Модернизация против ИИ-native решений
Существует дилемма между модернизацией (retrofitting) старых продуктов, обладающих огромной дистрибуцией, и созданием ИИ-native решений с нуля. Фишер считает, что в разных вертикалях победят разные подходы, и фаундерам важно искать причинно-следственные связи для проверки своих гипотез, а не просто следовать интуиции.
👥 Командная культура и новые модели безопасности 9:56
Риски полуавтоматических команд
Общепринятым ожиданием в индустрии стало сокращение размера команд за счет автоматизации. Однако Фишер подчеркивает, что ИИ-native компании, строящие культуру вокруг нейросетей с первого дня, получат долгосрочное преимущество над корпорациями, которые просто сокращают штат ради эффективности. При этом главной проблемой микро-команд будущего станет радикальное изменение модели безопасности и доверия.
По мнению представителя Anthropic, пользователи хотят иметь одного универсального ИИ-помощника для всех сфер жизни, но это требует изоляции личных данных от корпоративных. Едва ли сотрудник захочет, чтобы его работодатель знал о деталях его частной жизни, поэтому разработчикам придется решать сложнейшие задачи сегрегации информации без потери полезности агента. Фишер призывает разделять выравнивание самой модели и этичность компании, которая на ее основе строит агента.
Как утверждает спикер, даже идеально обученный ИИ может быть использован корпорацией в корыстных целях — например, рекламная модель агента при поиске обуви будет тайно манипулировать выбором пользователя в интересах рекламодателей. Это становится по-настоящему опасным по мере роста способностей моделей.
Традиционные механизмы формирования доверия к бизнесу в полуавтоматическом мире перестанут работать. Фишер объясняет это следующим образом:
- Сегодня крупные компании доверяют контрагентам, так как они состоят из множества людей разных взглядов. Если генеральный директор решит совершить нечто противоправное, сотрудники могут поднять тревогу, уволиться или устроить утечку в СМИ (whistleblowing).
- В мире полуавтоматических ИИ-команд одно лицо может принять катастрофическое решение, о котором больше никто не узнает, что открывает огромные возможности для злоумышленников.
Фишер напоминает, что, как показывает история Кремниевой долины и человечества, большинство людей склонны нарушать правила, когда на кону стоят большие деньги.
ИИ-аудит как инструмент построения доверия
В качестве решения проблемы контроля Фишер предлагает концепцию ИИ-аудита. По его мнению, ИИ-аудитор обладает колоссальным преимуществом перед человеком: он беспристрастен и может обладать «нулевой памятью».
Компания может добровольно предоставить независимому ИИ доступ ко всем своим внутренним логам и Slack-каналам. После проверки на соответствие открытой миссии ИИ-аудитор полностью стирает свои данные и уничтожает себя, гарантируя сохранность интеллектуальной собственности и конфиденциальной информации, что невозможно при аудите людьми.
🛡️ Поиск долгосрочной защищенности (Moats) 17:31
Экономика выравнивания и роль кастомных данных
В краткосрочной перспективе (ближайшие 12 месяцев) колоссальное экономическое давление заставит индустрию решать базовые проблемы выравнивания (alignment). Фишер оптимистично смотрит на этот процесс, поскольку создание автономных агентов с длинным горизонтом планирования (long-horizon agents), работающих без вмешательства человека днями или неделями, коммерчески невозможно без гарантии того, что они не «сойдут с рельсов».
Говоря о конкурентных преимуществах стартапов, Фишер отмечает радикальную смену парадигмы данных. Если несколько лет назад обладание кастомным датасетом было единственным способом создать полезный ИИ, то с появлением мощных общих LLM необходимость в дообучении (fine-tuning) для большинства стандартных задач отпала. Тем не менее, спикер выделяет индустрии, где специализированные данные по-прежнему остаются непреступным рвом:
- Материаловедение, где общие модели пока не способны демонстрировать выдающиеся результаты.
- Производство передовых полупроводников (уровня TSMC или ASML). Эти гиганты миллиардных инвестиций надежно удерживают «скрытые знания» (tacit knowledge) внутри компании. Как отмечает Фишер, передовые фронтирные модели ИИ до сих пор не имеют ни малейшего представления о том, как построить современную фабрику по производству чипов.
Потолок интеллекта и сложные физические задачи
На текущем этапе инженерные команды могут выигрывать за счет решения проблем инфраструктурной емкости и эффективной маршрутизации запросов между большими и малыми моделями. Однако Фишер предупреждает: это временное преимущество. По мере совершенствования базовых моделей этот ров исчезнет, и основателям придется ответить на вопрос, что защитит их бизнес в мире пост-AGI, когда условный Claude 7 или GPT-7 сможет мгновенно скопировать любой стартап.
Сам Фишер признается, что предпочитает строить защиту вокруг решения фундаментально сложных физических и инфраструктурных задач, которые останутся трудными даже после появления сильного ИИ. К ним он относит энергетику, микроэлектронику и физическое производство, отмечая, что робототехника пока отстает от софтверной части ИИ.
Дополнительным фактором коммодитизации может стать «потолок интеллекта» (intelligence ceiling) для конкретных задач. Фишер приводит в пример генерацию видео (модель Veo3), которая уже начинает неотличимо мимикрировать под реальность. Если в написании кода для пул-реквестов или создании текстов будет достигнут предел насыщения, дальнейшая конкуренция за счет смены моделей станет невозможной, что резко усилит ценовое давление на рынке.
🤖 Макроэкономика будущего: капитал, труд и теория игр 23:51
Кризис рынка труда и концепция базового компьютера
Еще одной важной вехой будущего Фишер называет проблему нейтральности ИИ (token neutrality) по аналогии с нейтральностью электрических сетей. Поскольку современные модели регулярно выдают отказы (refusals) по этическим соображениям, несколько крупных корпораций фактически становятся арбитрами того, что человечеству дозволено создавать с помощью ИИ.
В заключительной части выступления спикер поделился личным разочарованием. Общаясь с обычными людьми и объясняя им неизбежность появления сверхинтеллекта, превосходящего человеческий, он часто видит, как их первой реакцией становится вопрос: «Как на этом заработать?». Фишер понимает, что за этим прагматизмом скрывается глубокий экзистенциальный страх людей потерять работу и не найти своего места в новой экономической реальности.
Однако он призывает основателей воспринимать текущий момент как, возможно, последний шанс в истории человечества создать продукт или компанию, способную изменить мир к лучшему. Модифицируя лозунг Y Combinator «создавай то, что хотят люди», Фишер подчеркивает: общество нуждается в продуктах, которые заслуживают доверия и приносят пользу ментальному здоровью в долгосрочной перспективе, а не просто развлекают пользователя на 20 секунд.
Разбор вопросов аудитории: от Twitter до венчурных фондов
Отвечая на вопросы слушателей, Фишер раскрыл прикладные аспекты своего мировоззрения:
- Информационная диета: Главным источником вдохновения и знаний для него остается жестко модерируемая лента в Twitter (X). Он сознательно формирует ее по принципу разнообразия (exploration), избегая эхо-камер, чтобы эффективно тратить ограниченный бюджет энергии на поглощение новых идей.
- Защищенность идеи: Настоящая дефензибилити критически важна, если фаундер планирует пережить сингулярность. При этом Фишер иронично замечает, что личная страсть к домену не имеет значения: после шести месяцев 100-часовых рабочих недель любой основатель возненавидит сферу своего бизнеса, и удержать его на плаву смогут только преданность команде и стремление к масштабному результату.
- Труд и капитал: С приходом AGI классический баланс между трудом и капиталом будет разрушен. Капитал больше не будет нуждаться в одобрении и привлечении рабочей силы (labor buy-in) для масштабирования, что грозит катастрофической концентрацией богатства. Возможным выходом, по мнению Фишера, могут стать государственные программы безусловного базового дохода (UBI) или концепция «безусловного базового компьют-ресурса» (Universal Basic Compute), которые, впрочем, несут риски чрезмерного усиления правительств. Для децентрализации таких программ Фишер допускает использование механизмов блокчейна, несмотря на свой общий скептицизм к криптовалютам.
- Угодничество ИИ (Sycophancy): Разработчики часто сталкиваются с тем, что ИИ начинает льстить пользователю (glazing). В моменте люди склонны выбирать угоднические ответы, но на глубинном уровне они всегда предпочтут модель, которая честно указывает на ошибки в рассуждениях.
- Венчурный капитал: Фишер раскритиковал современных инвесторов за сильное групповое мышление (groupthink). Заявления венчурных капиталистов о том, что они находятся на острие прогресса, инвестируя в ИИ, спикер считает ошибочными, утверждаждая, что большинство из них уже отстают от реального технологического фронтира как минимум на два года.
- Взаимодействие агентов: Коммуникация ИИ-агентов между собой неизбежно столкнется с теорией игр. Даже в такой задаче, как планирование встреч, скрыты сложные социальные паттерны и демонстрация силы (power dynamics), которые хорошему цифровому ассистенту придется учитывать семантически.
