Пол Букхайт, создатель Gmail и один из первых партнеров Y Combinator, стоял у истоков Google, когда компания еще считалась «сумасшедшим стартапом». В подкасте Light Cone он вместе с партнерами YC — Гэри Таном, Харджем Таггаром, Джаредом Фридманом и Дианой Ху — обсуждает, почему Google уступил лидерство в ИИ, как на самом деле создавался OpenAI и почему открытый исходный код — это единственный способ избежать «цифрового ГУЛАГа».
🚀 Google как первая ИИ-компания: корни и амбиции 1:08
По словам Пола Букхайта, Google с самого начала задумывался не просто как поисковик, а как компания в сфере искусственного интеллекта . Ларри Пейдж и Сергей Брин стремились построить гигантские вычислительные кластеры для машинного обучения. Миссия Google — «собрать всю мировую информацию» — на практике означала сбор данных для обучения гигантского ИИ-суперкомпьютера .
Ключевые факты об раннем этапе Google:
- Алгоритм PageRank: Пол Букхайт отмечает, что PageRank сегодня преподается как один из фундаментальных алгоритмов ИИ .
- Приоритет данных: Основатели понимали, что наличие огромного объема данных — это более надежный путь к интеллекту, чем бесконечная итерация мелких алгоритмов .
- Атмосфера 1999 года: Когда Букхайт присоединился к компании в июне 1999-го, в штате было совсем мало людей, а офис находился над чайным магазином в Пало-Альто .
Одним из первых магических проявлений ИИ в продукте стала функция «Возможно, вы имели в виду?» (Did you mean). Букхайт сам создал первую версию системы исправления ошибок, так как заметил, что около трети всех поисковых запросов содержали опечатки .
Позже он нанял Ноама Шазира (Noam Shazeer), который за две недели создал революционный на тот момент спелл-чекер. В отличие от старых словарей, система Шазира обучалась на реальных данных интернета и логах запросов, что позволяло ей корректировать даже имена собственные . Позже Ноам стал соавтором знаменитой статьи «Attention Is All You Need», заложившей основу современных трансформеров, и основал Character AI .
🛡️ Почему Google «застрял»: страх и монополия 8:32
Несмотря на наличие данных, вычислительных мощностей и талантов, Google перестал быть доминирующей ИИ-силой. Пол Букхайт выделяет несколько причин этого замедления:
- Защита монополии: После трансформации в Alphabet компания сфокусировалась на сохранении поисковой монополии . ИИ фундаментально разрушителен для бизнес-модели поиска: если пользователь получает прямой и точный ответ, ему не нужно кликать по рекламным ссылкам .
- Регуляторный страх: Google крайне осторожен в отношениях с регуляторами. Любой ИИ неизбежно может выдать спорный или оскорбительный контент, и компания панически боится ответственности за это .
- Внутренняя цензура: Внутри Google существовали жесткие ограничения. Например, чат-боту Lambda (первоначально называвшемуся Human) запрещали давать человеческие имена, а генератору изображений ImageGen запрещали создавать человеческие фигуры .
По мнению Букхайта, Google никогда бы не выпустил свой ИИ в открытый доступ, если бы OpenAI не заставил их сделать это выпуском ChatGPT . OpenAI «принял на себя пули», столкнувшись с критикой за ошибки и странные ответы нейросети, что позволило Google позже выпустить более «стерильные» версии своих продуктов .
🧬 Истинная история OpenAI и роль Y Combinator 11:50
OpenAI вырос из подразделения YC Research в начале 2010-х годов. В то время партнеры YC начали замечать, что глубокое обучение (deep learning) переходит из разряда научной фантастики в область реальных результатов (победы ИИ в видеоиграх и т.д.) .
Главные инсайды о создании OpenAI:
- Страх перед Google: Основным мотивом было не дать технологии ИИ остаться запертой внутри Google . Создатели хотели сделать технологию открытой для всей экосистемы стартапов .
- Сэм Альтман как организатор: Пол Букхайт называет Альтмана невероятным организатором, способным объединить разные интересы и собрать пожертвования от Илона Маска, Пола Грэма и Джессики Ливингстон .
- Илон Маск против YC: В документах недавнего судебного иска были опубликованы письма Маска, в которых он требовал убрать любое упоминание Y Combinator из истории OpenAI . В 2016 году Илон оценивал шансы проекта на успех в 0% .
Букхайт считает, что OpenAI победил именно потому, что работал как стартап. Исследователи уходили из Google в OpenAI, потому что хотели «шиппить» продукты быстро, а не сталкиваться с запретами на генерацию людей в картинках .
🌐 Открытый код: Марк Цукерберг как «случайный герой» 14:38
Обсуждая долгосрочную траекторию ИИ, Букхайт видит два пути: централизация власти (в руках правительств и корпораций) или свобода личности. Централизация, по его мнению, катастрофична для человечества, так как лишает индивида агентности .
Собеседники отмечают парадоксальную роль Meta в этом процессе:
- Стратегия дефляции: Гэри Тан полагает, что выпуск открытых моделей Llama — это способ Марка Цукерберга «сжечь» маржу конкурентов (OpenAI, Anthropic) и не дать им создать монополию .
- Инвестиции: Meta тратит десятки миллиардов долларов на метавселенную и ИИ не ради прямой продажи моделей, а как на фундаментальные блоки для будущего AR/VR (очки Ray-Ban Meta) .
- Риск зависимости: Хардж Таггар выразил опасение, что полагаться только на Meta в вопросе Open Source опасно, если Цукерберг решит изменить стратегию .
Букхайт подчеркивает, что открытый исходный код — это вопрос первой поправки и свободы слова. Если модели будут закрыты и цензурируемы, люди потеряют даже свободу мысли .
🔮 Путь к AGI и прогноз на 2033 год 29:39
Пол Букхайт убежден, что мы находимся на пути к AGI (сильному искусственному интеллекту). Он сравнивает текущий момент с ядерной реакцией, ставшей «критической»: инвестиции в технологию теперь приносят больше результатов, что провоцирует еще большие вложения .
Его прогнозы и взгляды на развитие ИИ:
- Система 1 и Система 2: Современные LLM работают как «поток сознания» (быстрое мышление). Будущее за интеграцией «медленного мышления» — способности планировать, обдумывать варианты и проверять идеи перед ответом .
- Замена «удаленщиков»: Букхайт прогнозирует, что к 2033 году ИИ сможет полностью заменить многих офисных работников, чья деятельность ограничена Zoom, камерой и клавиатурой . ИИ может просто наблюдать за действиями сотрудника, выучить паттерны и создать его дипфейк-копию для работы .
- Творчество для всех: В оптимистичном сценарии ребенок сможет создавать анимационные сериалы уровня Pixar в одиночку, используя ИИ-инструменты .
⚖️ Геополитика и борьба с «думерами» 38:23
Букхайт крайне критически относится к идеологии «думеров» (тех, кто предрекает конец света от ИИ) и попыткам жесткого регулирования (например, калифорнийский законопроект SB 1047). По его мнению, «думеры» всегда выступают за централизацию контроля, что ведет к тоталитаризму .
Основные тезисы о рисках и политике:
- Риск «цифрового зоопарка»: Если ИИ будет контролироваться только государством, люди могут превратиться в «животных в зоопарке», чьи мысли цензурируются в реальном времени .
- Преимущество свободы: Авторитарные режимы (например, Китай) вынуждены заставлять ИИ лгать (например, о событиях на площади Тяньаньмэнь), что ставит их технологии в невыгодное положение по сравнению со свободными системами .
- Ответственность разработчиков: Попытки ввести уголовную ответственность для создателей моделей за действия пользователей Букхайт сравнивает с тюремным сроком для конструктора автомобиля за то, что кто-то сел за руль пьяным .
В завершение беседы Гэри Тан и Пол Букхайт сошлись во мнении, что роль Y Combinator сегодня важна как никогда: расширять возможности одиночек и маленьких команд, позволяя им строить огромные компании с помощью ИИ без необходимости нанимать тысячи сотрудников .
