Марти Чавес: «Сделать создателей LLM ответственными за действия пользователей — это как судить Microsoft за ошибки в Windows»

a16z (Andreessen Horowitz) 1,5 тыс. 36 мин 4 мин 30.04.2024
Главное

Марти Чавес, партнер Sixth Street и легендарная фигура Уолл-стрит, прошел путь от моделирования ядерных взрывов на суперкомпьютерах Cray до создания архитектуры, спасшей Goldman Sachs в 2008 году. В этом выпуске подкаста «In the Vault» от Andreessen Horowitz он объясняет, почему успех искусственного интеллекта в бизнесе зависит не от сложности моделей, а от создания «единого источника истины» для данных.

🧬 От симуляции взрывов до «цифровых двойников» биологии 2:01

Карьера Марти Чавеса началась в 1974 году в Альбукерке, когда его отец, технический иллюстратор в национальной лаборатории, предсказал, что компьютеры станут определяющей силой будущего . Уже в 16 лет Чавес работал в лаборатории ВВС США, где на ранних суперкомпьютерах Cray-1 занимался методом Монте-Карло для симуляции электромагнитных импульсов при ядерных взрывах .

Позднее, во время учебы в Гарварде в 1981 году, Чавес встретил профессора Стива Харрисона, который высказал прорывную для того времени мысль: будущее наук о жизни — за вычислениями . По словам Чавеса, это определило его подход на десятилетия вперед:

📉 SecDB: Как программный код спас Goldman Sachs 11:17

В 1993 году Чавес присоединился к Goldman Sachs как четвертый инженер в команде разработки SecDB (Securities Database) — распределенной объектно-ориентированной базы данных для валютного трейдинга . В то время отрасль полагалась на электронные таблицы Excel, что делало невозможным глобальное управление рисками.

Именно SecDB стала решающим фактором во время финансового кризиса 2008 года. Система позволила банку увидеть реальное положение дел:

⚖️ Регулирование: Уроки электронного трейдинга для эпохи ИИ 16:45

Марти Чавес считает, что регулирование — мощный драйвер изменений, если оно направлено на правильные цели. Он приводит в пример стресс-тесты (CCAR), введенные после закона Додда — Франка, которые заставили банки симулировать балансы и доходы на девять кварталов вперед . Связка этих симуляций с правом выплачивать дивиденды сделала систему значительно безопаснее .

Обсуждая текущие попытки регулирования ИИ, Чавес выдвигает несколько тезисов:

  1. Регулирование границ, а не процесса: По мнению Чавеса, невозможно понять «мысли» алгоритма (проблема остановки), но можно и нужно контролировать точки соприкосновения ИИ с реальным миром (API и интерфейсы) .
  2. Аналогия с железной дорогой: Важно следить, чтобы поезда не сталкивались на стрелках (стыках систем), а не вмешиваться в то, как поезд едет по прямому пути .
  3. Вопрос ответственности: Чавес выступает против того, чтобы делать создателей LLM (больших языковых моделей) ответственными за каждое их действие. Он считает это эквивалентом попытки сделать Microsoft ответственной за все преступления, совершенные с помощью Windows .
  4. Опасность бюрократии: Спикер утверждает, что 99% регулирования часто оказывается бесполезной «красной лентой», не делающей мир лучше .

🤖 Стратегия внедрения ИИ: Единый источник истины 25:35

Главный совет, который Марти Чавес дает руководителям компаний при внедрении генеративного ИИ — навести порядок в данных. Без «единого источника истины» (Single Source of Truth) любая ИИ-стратегия обречена на провал .

Основные технические приоритеты по версии Чавеса:

💊 Биотехнологии: Код жизни и чипы Nvidia 32:14

Марти Чавес, входящий в совет директоров Recursion Pharmaceuticals, видит колоссальный потенциал ИИ в Life Sciences. Он проводит параллель между проектированием чипов и разработкой лекарств, ссылаясь на разговор с Дженсеном Хуангом (Nvidia) :

По словам Чавеса, в мире существует около 10 000 триллионов возможных органических соединений, но одобрено всего 4 000 лекарств . ИИ — единственный инструмент, способный навигаровать в этом пространстве, хотя для полного картирования биологии может потребоваться на 10–100 порядков больше данных, чем есть сегодня .

💬 Цитаты

«Мы не предсказываем будущее. Мы — отличные предсказатели настоящего.»

Марти Чавес 07:19

«Сделать создателей LLM ответственными за все плохое, что с ними происходит — это точный эквивалент того, чтобы сделать Microsoft ответственной за все, что кто-то делает на компьютере с Windows.»

Марти Чавес 30:52
👥 Спикеры
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
SecDB
Программная система Goldman Sachs для управления рисками и оценки финансовых инструментов в реальном времени.
Цифровой двойник
Виртуальная модель реального объекта или системы, позволяющая проводить симуляции и предсказывать поведение оригинала.
RAG
Метод оптимизации вывода ИИ-модели путем обращения к внешним проверенным базам знаний.
📊 Цифры
🗓 Хронология
  1. 1974 Отец Марти Чавеса предсказывает будущее компьютеров.
  2. 1981 Чавес начинает изучать биохимию и симуляции в Гарварде.
  3. 1993 Марти Чавес присоединяется к Goldman Sachs для работы над SecDB.
  4. 2008 Система SecDB помогает Goldman Sachs избежать краха во время мирового кризиса.
⚖️ Другая сторона
Технологии и IT Марти Чавес Sixth Street Goldman Sachs SecDB Recursion Pharmaceuticals