# Пол Букхайт о Google: «Они превратились в защитников монополии» Источник: https://www.youtube.com/watch?v=LSUviaN1eso Канал: Y Combinator Опубликовано: 09.08.2024 --- Пол Букхайт, создатель Gmail и один из первых партнеров Y Combinator, стоял у истоков Google, когда компания еще считалась «сумасшедшим стартапом». В подкасте Light Cone он вместе с партнерами YC — Гэри Таном, Харджем Таггаром, Джаредом Фридманом и Дианой Ху — обсуждает, почему Google уступил лидерство в ИИ, как на самом деле создавался OpenAI и почему открытый исходный код — это единственный способ избежать «цифрового ГУЛАГа». ## 🚀 Google как первая ИИ-компания: корни и амбиции [[JUMP:01:08]] По словам Пола Букхайта, Google с самого начала задумывался не просто как поисковик, а как компания в сфере искусственного интеллекта [1:20]. Ларри Пейдж и Сергей Брин стремились построить гигантские вычислительные кластеры для машинного обучения. Миссия Google — «собрать всю мировую информацию» — на практике означала сбор данных для обучения гигантского ИИ-суперкомпьютера [1:46]. Ключевые факты об раннем этапе Google: * **Алгоритм PageRank:** Пол Букхайт отмечает, что PageRank сегодня преподается как один из фундаментальных алгоритмов ИИ [2:12]. * **Приоритет данных:** Основатели понимали, что наличие огромного объема данных — это более надежный путь к интеллекту, чем бесконечная итерация мелких алгоритмов [2:25]. * **Атмосфера 1999 года:** Когда Букхайт присоединился к компании в июне 1999-го, в штате было совсем мало людей, а офис находился над чайным магазином в Пало-Альто [2:39]. Одним из первых магических проявлений ИИ в продукте стала функция «Возможно, вы имели в виду?» (Did you mean). Букхайт сам создал первую версию системы исправления ошибок, так как заметил, что около трети всех поисковых запросов содержали опечатки [5:57]. Позже он нанял Ноама Шазира (Noam Shazeer), который за две недели создал революционный на тот момент спелл-чекер. В отличие от старых словарей, система Шазира обучалась на реальных данных интернета и логах запросов, что позволяло ей корректировать даже имена собственные [8:19]. Позже Ноам стал соавтором знаменитой статьи «Attention Is All You Need», заложившей основу современных трансформеров, и основал Character AI [7:53]. ## 🛡️ Почему Google «застрял»: страх и монополия [[JUMP:08:32]] Несмотря на наличие данных, вычислительных мощностей и талантов, Google перестал быть доминирующей ИИ-силой. Пол Букхайт выделяет несколько причин этого замедления: 1. **Защита монополии:** После трансформации в Alphabet компания сфокусировалась на сохранении поисковой монополии [9:11]. ИИ фундаментально разрушителен для бизнес-модели поиска: если пользователь получает прямой и точный ответ, ему не нужно кликать по рекламным ссылкам [9:37]. 2. **Регуляторный страх:** Google крайне осторожен в отношениях с регуляторами. Любой ИИ неизбежно может выдать спорный или оскорбительный контент, и компания панически боится ответственности за это [10:04]. 3. **Внутренняя цензура:** Внутри Google существовали жесткие ограничения. Например, чат-боту Lambda (первоначально называвшемуся Human) запрещали давать человеческие имена, а генератору изображений ImageGen запрещали создавать человеческие фигуры [10:31]. По мнению Букхайта, Google никогда бы не выпустил свой ИИ в открытый доступ, если бы OpenAI не заставил их сделать это выпуском ChatGPT [11:24]. OpenAI «принял на себя пули», столкнувшись с критикой за ошибки и странные ответы нейросети, что позволило Google позже выпустить более «стерильные» версии своих продуктов [11:37]. ## 🧬 Истинная история OpenAI и роль Y Combinator [[JUMP:11:50]] OpenAI вырос из подразделения YC Research в начале 2010-х годов. В то время партнеры YC начали замечать, что глубокое обучение (deep learning) переходит из разряда научной фантастики в область реальных результатов (победы ИИ в видеоиграх и т.д.) [12:16]. Главные инсайды о создании OpenAI: * **Страх перед Google:** Основным мотивом было не дать технологии ИИ остаться запертой внутри Google [13:48]. Создатели хотели сделать технологию открытой для всей экосистемы стартапов [14:02]. * **Сэм Альтман как организатор:** Пол Букхайт называет Альтмана невероятным организатором, способным объединить разные интересы и собрать пожертвования от Илона Маска, Пола Грэма и Джессики Ливингстон [16:50]. * **Илон Маск против YC:** В документах недавнего судебного иска были опубликованы письма Маска, в которых он требовал убрать любое упоминание Y Combinator из истории OpenAI [17:59]. В 2016 году Илон оценивал шансы проекта на успех в 0% [19:43]. Букхайт считает, что OpenAI победил именно потому, что работал как стартап. Исследователи уходили из Google в OpenAI, потому что хотели «шиппить» продукты быстро, а не сталкиваться с запретами на генерацию людей в картинках [18:38]. ## 🌐 Открытый код: Марк Цукерберг как «случайный герой» [[JUMP:14:38]] Обсуждая долгосрочную траекторию ИИ, Букхайт видит два пути: централизация власти (в руках правительств и корпораций) или свобода личности. Централизация, по его мнению, катастрофична для человечества, так как лишает индивида агентности [15:05]. Собеседники отмечают парадоксальную роль Meta в этом процессе: * **Стратегия дефляции:** Гэри Тан полагает, что выпуск открытых моделей Llama — это способ Марка Цукерберга «сжечь» маржу конкурентов (OpenAI, Anthropic) и не дать им создать монополию [25:45]. * **Инвестиции:** Meta тратит десятки миллиардов долларов на метавселенную и ИИ не ради прямой продажи моделей, а как на фундаментальные блоки для будущего AR/VR (очки Ray-Ban Meta) [27:30]. * **Риск зависимости:** Хардж Таггар выразил опасение, что полагаться только на Meta в вопросе Open Source опасно, если Цукерберг решит изменить стратегию [23:21]. Букхайт подчеркивает, что открытый исходный код — это вопрос первой поправки и свободы слова. Если модели будут закрыты и цензурируемы, люди потеряют даже свободу мысли [15:45]. ## 🔮 Путь к AGI и прогноз на 2033 год [[JUMP:29:39]] Пол Букхайт убежден, что мы находимся на пути к AGI (сильному искусственному интеллекту). Он сравнивает текущий момент с ядерной реакцией, ставшей «критической»: инвестиции в технологию теперь приносят больше результатов, что провоцирует еще большие вложения [30:34]. Его прогнозы и взгляды на развитие ИИ: * **Система 1 и Система 2:** Современные LLM работают как «поток сознания» (быстрое мышление). Будущее за интеграцией «медленного мышления» — способности планировать, обдумывать варианты и проверять идеи перед ответом [32:59]. * **Замена «удаленщиков»:** Букхайт прогнозирует, что к 2033 году ИИ сможет полностью заменить многих офисных работников, чья деятельность ограничена Zoom, камерой и клавиатурой [34:56]. ИИ может просто наблюдать за действиями сотрудника, выучить паттерны и создать его дипфейк-копию для работы [35:22]. * **Творчество для всех:** В оптимистичном сценарии ребенок сможет создавать анимационные сериалы уровня Pixar в одиночку, используя ИИ-инструменты [37:31]. ## ⚖️ Геополитика и борьба с «думерами» [[JUMP:38:23]] Букхайт крайне критически относится к идеологии «думеров» (тех, кто предрекает конец света от ИИ) и попыткам жесткого регулирования (например, калифорнийский законопроект SB 1047). По его мнению, «думеры» всегда выступают за централизацию контроля, что ведет к тоталитаризму [43:41]. Основные тезисы о рисках и политике: * **Риск «цифрового зоопарка»:** Если ИИ будет контролироваться только государством, люди могут превратиться в «животных в зоопарке», чьи мысли цензурируются в реальном времени [39:15]. * **Преимущество свободы:** Авторитарные режимы (например, Китай) вынуждены заставлять ИИ лгать (например, о событиях на площади Тяньаньмэнь), что ставит их технологии в невыгодное положение по сравнению со свободными системами [41:26]. * **Ответственность разработчиков:** Попытки ввести уголовную ответственность для создателей моделей за действия пользователей Букхайт сравнивает с тюремным сроком для конструктора автомобиля за то, что кто-то сел за руль пьяным [39:41]. В завершение беседы Гэри Тан и Пол Букхайт сошлись во мнении, что роль Y Combinator сегодня важна как никогда: расширять возможности одиночек и маленьких команд, позволяя им строить огромные компании с помощью ИИ без необходимости нанимать тысячи сотрудников [47:50].