Мэтт Клиффорд о будущем ИИ: почему гонка вычислений замедляется, а Китай проигрывает из-за паранойи

20VC with Harry Stebbings 10,4 тыс. 1 ч 6 мин 5 мин 01.07.2024
Главное

В новом эпизоде подкаста 20VC Гарри Стеббингс обсуждает с Мэттом Клиффордом, сооснователем Entrepreneur First и экспертом по ИИ, глобальную трансформацию технологического рынка. В центре внимания — замедление закона масштабирования нейросетей, скрытые страхи китайского правительства перед ИИ, будущее автономных войн и амбициозный план по превращению Великобритании в богатейшую технологическую державу.

🚀 Эра «гонки вычислений» заканчивается: почему идеи снова важнее миллиардов 4:40

Мэтт Клиффорд считает, что последние пять лет прогресс в области ИИ определялся исключительно масштабированием: вливанием колоссальных объемов данных и вычислительных мощностей (compute) . Однако, по его мнению, сейчас мы наблюдаем «выполаживание» S-образной кривой этой технологии. Это означает, что простое добавление новых GPU и текстов больше не приносит качественного скачка в возможностях моделей .

Основные тезисы Клиффорда о текущем состоянии рынка:

Мэтт подчеркивает, что данные остаются «бутылочным горлышком», но лимит текстов в интернете практически исчерпан . Следующий рывок, по его прогнозу, произойдет за счет использования видеоданных для создания «моделей мира» и синтетических данных .

🇨🇳 Китай против США: паранойя безопасности и экспортный голод 15:52

Обсуждая геополитическую конкуренцию, Мэтт Клиффорд приводит неожиданный аргумент: Китай параноидально боится ИИ сильнее, чем любое западное правительство . По его словам, для Коммунистической партии Китая (КПК) приоритетом является стабильность, а ИИ — это фундаментально дестабилизирующая сила .

Аргументы Клиффорда по «медвежьему» и «бычьему» сценариям для Китая:

  1. Регуляторное давление (Bear Case): Китайские правила в области ИИ гораздо жестче европейских. Разработчики обязаны предоставлять государству образцы обучающих данных и гарантировать, что ответы модели не подрывают государственную идеологию . Это убивает дух предпринимательства и ограничивает свободу экспериментов, которая есть у Сэма Альтмана или Демиса Хассабиса .
  2. Дефицит чипов (Bear Case): Экспортный контроль США на полупроводники реально работает. Крупным китайским компаниям крайне сложно собрать кластеры из 100 000 современных GPU . Даже если локальные решения (например, от Huawei) достигают 70% производительности Nvidia, в масштабах обучения это создает кумулятивное отставание .
  3. Мобилизационная мощь (Bull Case): Если Китай создаст собственные литографические машины (аналоги ASML), рычаги влияния Запада исчезнут . В этот момент промышленная политика Китая позволит им «открыть кран» ресурсов на полную мощность .

Клиффорд отмечает важную асимметрию информации: на Западе мало кто читает китайские отчеты, в то время как в Китае любой значимый манифест об ИИ (например, работа Леопольда Ашенбреннера) переводится и расходится по экосистеме за три дня .

🛡️ ИИ в военном деле: почему ядерная война недооценена 39:27

Мэтт Клиффорд выражает серьезную обеспокоенность тем, что современное общество стало слишком беспечным в отношении глобальных угроз. Он называет ядерную войну «самым недооцененным риском» современности . Гость настоятельно рекомендует книгу Энни Якобсон «Ядерная война: сценарий», которая детально описывает, как случайность или техническая ошибка могут привести к коллапсу цивилизации за считанные минуты .

В контексте будущего войн собеседники обсудили роль ИИ:

🇬🇧 Амбиции Британии: может ли Лондон обойти Кремниевую долину? 31:42

Мэтт Клиффорд выступает как убежденный оптимист в отношении будущего Великобритании. Он верит, что страна может снова стать богатейшей в мире на душу населения . Однако для этого нужно решить несколько фундаментальных проблем.

Препятствия на пути британского тех-сектора:

🧠 Психология фаундеров: как найти «гения в комнате» 47:03

Как сооснователь Entrepreneur First, Мэтт Клиффорд проанализировал сотни карьерных путей. Его главный вывод: лучшее предсказание будущего поведения — это поведение в прошлом . Если человек никогда не делал ничего без указки учителя или босса до 25 лет, маловероятно, что он станет великим предпринимателем.

Ключевые инсайты о талантах:

  1. «Вынужденные предприниматели»: Согласно академическим исследованиям, люди, открывающие бизнес в кризис (когда банки, такие как Goldman Sachs, перестают нанимать), в среднем успешнее тех, кто идет в стартапы в «жирные» годы . Это доказывает, что талант и амбиции — ресурсы взаимозаменяемые .
  2. Проблема распределения талантов в Англии: Мэтт сетует, что до сих пор для лучшего выпускника Кембриджа самой престижной работой считается позиция трейдера в Jane Street с зарплатой в $1 млн в первый год . Его цель — сделать предпринимательство более привлекательным путем, чем решение «дорогостоящих кроссвордов» на финансовом рынке .
  3. Пиковая производительность vs Синергия: Клиффорд изменил свое мнение о важности команды. Теперь он считает, что успех стартапа больше зависит от «пиковой производительности» самого сильного участника, чем от средней синергии группы .

👨‍👩‍👦 Личное: отцовство и детективные игры 1:02:16

В завершение беседы Мэтт поделился личными размышлениями. Он признал, что отцовство стало для него уроком смирения: «Детям плевать, что ты основал компанию, они просто хотят розовый мяч вместо синего и могут устроить из-за этого истерику» . Он сравнивает воспитание детей с долгосрочными инвестициями — это тяжело, нелинейно, но дает колоссальный накопительный эффект доверия .

Малоизвестное хобби Мэтта — написание сценариев для иммерсивных детективных игр (murder mystery) . Он создает исторические сценарии на 12 персонажей, где исход не предопределен, и каждый участник должен преследовать свои цели. По мнению Клиффорда, это лучший способ удовлетворить человеческую потребность «пожить другой жизнью» без реальных последствий .

💬 Цитаты

«Мы наблюдаем выполаживание ценности простого добавления вычислений и данных в языковые модели.»

Мэтт Клиффорд 05:47

«Китай больше параноидально боится безопасности ИИ, чем любое другое правительство в мире.»

Мэтт Клиффорд 17:49

«Я думаю, что ядерная война на самом деле сильно недооценена как вещь, о которой стоит беспокоиться.»

Мэтт Клиффорд 40:14
👥 Спикеры
📚 Упомянутые книги
🔗 Упомянутые сайты и проекты
📖 Термины
LLM
Большие языковые модели, такие как GPT-4, обученные на огромных массивах текста.
S-кривая (S-curve)
График развития технологии, где после быстрого роста наступает период замедления и плато.
GPU
Графические процессоры (видеокарты), основной инструмент для обучения нейросетей.
NIMBY
Аббревиатура 'Not In My Back Yard' — позиция людей, которые поддерживают прогресс, но против строительства объектов (заводов, дата-центров) рядом со своим домом.
Scaling Laws
Закономерности, согласно которым производительность ИИ растет пропорционально объему данных, вычислений и параметров модели.
📊 Цифры
🗓 Хронология
  1. 10 лет назад Мэтт Клиффорд начал инвестировать в ИИ на заре первой волны глубокого обучения.
  2. 2023 год Клиффорд работал в правительстве Великобритании над организацией саммита по безопасности ИИ.
  3. Последние 5 лет Период взрывного роста ИИ, обусловленный исключительно масштабированием вычислительных мощностей.
⚖️ Другая сторона
Стартапы и бизнес Matt Clifford Entrepreneur First OpenAI GPT-5 Llama 3