Генеральный директор OpenAI Сэм Альтман выступил в Стэнфордской высшей школе бизнеса (Stanford GSB) в рамках серии встреч View From The Top. В диалоге со студенткой программы MBA Клаудией Чен он рассказал о трансформации исследовательской лаборатории в глобальную продуктовую корпорацию, темпах развития общего искусственного интеллекта (AGI) и фундаментальных вопросах безопасности технологий. Особое внимание Альтман уделил экзистенциальным рискам для кибербезопасности, будущему рынку труда и необходимости сохранить контроль человечества над автономными моделями.
🎓 Отказ от Уолл-стрит и школа выживания в Y Combinator 2:04
Студенческий путь Сэма Альтмана в Стэнфорде едва не завершился карьерой в инвестиционном банкинге . По его признанию, он поддался давлению окружения: все амбициозные сокурсники стремились попасть в финансовый сектор, и он решил не отставать . Банки организовывали шикарные перелеты в Нью-Йорк и дорогие ужины, что производило колоссальное впечатление на 18-летнего юношу . Однако сразу после получения оффера Альтмана охватило нарастающее чувство тоски .
В этот же момент зарождался первый акселератор Y Combinator. Получив летний грант на проживание для работы над собственным проектом с друзьями — сервисом геопозиционирования Loopt, — Альтман отчислился из университета . Позже, возглавив Y Combinator в качестве президента, он обнаружил кардинальную разницу между управлением конкретным стартапом и экосистемой:
- Стартап обеспечивает экстремальную скорость обучения: по известной фразе Пола Грэма, месяц создания компании дает больше практических знаний о бизнесе, продажах и клиентах, чем полноценный курс MBA .
- Руководство акселератором напоминало Альтману государственную службу, где влияние строится не на прямом контроле над компаниями, а на создании здорового сообщества и среды для процветания других людей .
- Любые уникальные руководящие задачи невозможно освоить по учебникам — навыки формируются исключительно через метод проб и ошибок в режиме осознанной практики .
🧠 Экспоненциальный масштаб: истоки OpenAI и крах скептицизма 7:05
Когда в 2015 году создавалась OpenAI, идея достижения сильного искусственного интеллекта считалась в академической среде маргинальной . Альтман вспоминает, как еще в 2005 году во время его работы в лаборатории искусственного интеллекта Стэнфорда профессор уверял его, что глубокое обучение не заработает никогда, а до создания развитого ИИ потребуется минимум столетие .
Ситуацию переломил успех сверточной нейросети AlexNet в 2012 году, а к 2014 году стало очевидно, что качество работы глубоких сетей напрямую растет по мере масштабирования вычислительных ресурсов и данных . Главным профессиональным озарением своей жизни Альтман называет веру в отдачу от масштаба (scaling laws): человеческая интуиция плохо справляется с экспоненциальными процессами, но если экспонента работает, ставку необходимо повышать .
Изначально OpenAI планировалась как некоммерческая исследовательская лаборатория наподобие легендарных Xerox PARC или Bell Labs . По признанию Альтмана, он рассматривал лабораторию как «проект для ухода на пенсию» . Основатели всерьез рассчитывали, что смогут решить задачу сверхинтеллекта исключительно силами фундаментальной науки, не создавая продуктовой компании .
Однако технологический прорыв показал, что ИИ функционирует как базовая экономическая сила масштаба электричества или полупроводников . Для предоставления обществу пользы потребовалась колоссальная вычислительная инфраструктура и готовые продукты, что к рубежу конца 2020 — начала 2021 годов сделало неизбежным превращение OpenAI в коммерческого гиганта . Запуск ChatGPT в конце 2022 года закрепил этот переход на практике .
⚖️ Прагматичный центризм, лимиты скорости и узкий сверхинтеллект 13:22
Сложнейшим вызовом на посту руководителя компании Альтман называет балансирование скорости внедрения ИИ, которое часто называют пейсингом (pacing) или установлением «скоростных лимитов интеллекта» . Его мировоззренческая позиция опирается на два принципа:
- Люди должны сохранять необратимый контроль над будущим без добровольной передачи власти машинам .
- Концентрация силы должна быть распределенной: недопустимо появление сущности с «IQ в 10 миллиардов» либо сосредоточение всех рычагов в руках узкой группы лиц, диктующей волю остальному миру .
Альтман причисляет себя к «прагматичным центристам» и отвергает крайности: как призывы к тотальному дерегулированию, так и требования немедленно заморозить все исследования . Однако технологический скачок последних шести месяцев заставил его усомниться в стабильности текущей траектории .
По оценке Альтмана, в узких дисциплинах, таких как математическое мышление и решение сложных задач, сверхинтеллект уже достигнут . Спикер полагает, что если текущий темп сохранится еще год или два без фундаментальной перестройки механизмов согласования между корпорациями и государствами, человечество не удержит контроль над происходящим .
🛡️ Черная дыра кибербезопасности и угрозы открытых моделей 19:05
Главным недооцененным вызовом Альтман считает кибербезопасность . Эксперты и корпоративные лидеры упустили экспоненту: многие решили, что раз современные модели нашли часть багов в коде, эти уязвимости можно просто пропатчить .
На самом деле, как подчеркивает Альтман, дальнейший рост интеллектуальных способностей моделей позволяет им находить нестандартные уязвимости на аппаратном уровне, выходящие за рамки классических представлений об угрозах . Простая установка обновлений программного обеспечения перестает работать — миру срочно требуется создание адаптивного «оборонного щита» на базе того же ИИ .
Отдельно глава OpenAI прояснил свои спорные слова из подкаста Decoded о том, что обществу придется смириться с рядом негативных явлений ради преимуществ технологии :
- Допустимый ущерб: неизбежный рост интернет-троллинга, фейков, телефонного мошенничества и генерации агрессивных текстов локальными нейросетями . Попытка полностью исключить мелкий криминал привела бы к драконовскому запрету открытых моделей, что нанесло бы непоправимый удар по свободе и инновациям .
- Недопустимый ущерб: Альтман категорически исключает компромиссы в вопросах создания сценариев биотерроризма, отключения глобальной сети Интернет или нанесения прямого физического вреда гражданам .
Именно поэтому OpenAI отказывается открывать веса своих наиболее совершенных внутренних систем: мир еще не создал защитные механизмы в кибернетической и биологической сферах, а отставание других лабораторий от флагманских закрытых решений Альтман оценивает как несущественное .
💼 Рынок труда: уроки математиков и природа человеческих смыслов 21:41
Альтман категорически не согласен с паническими прогнозами о тотальной потере рабочих мест («job apocalypse») . В качестве примера он привел реакцию математического сообщества на недавние релизы моделей: от паники в первый день («наша область уничтожена») до осознания к пятому дню, что львиная доля профессии состоит не в механическом решении уравнений Тысячелетия, а в коммуникации, интерпретации знаний и поиске новых направлений мысли .
Аналогичный цикл, по его словам, прошли программисты (спрос на которых и заработные платы продолжают держаться на высоком уровне) и консультанты, чьи услуги клиенты ценят в первую очередь за межличностный контакт, а не за презентации в PowerPoint . Студентам Альтман советует не воспроизводить тренды пятилетней давности, а создавать стартапы поверх инфраструктуры OpenAI, способные превзойти саму компанию по значимости .
Отвечая на вопрос, какие навыки останутся актуальными, Альтман сравнил обучение письму и чистописанию:
- Умение писать прописью (курсивом) он назвал устаревшим механическим навыком, который школа навязывала зря .
- Навык изложения мыслей на бумаге и структурирования текста остается незаменимым тренажером для развития человеческого мышления в любую эпоху .
По мнению Альтмана, человеческий труд сохранит ценность в силу врожденного антропоцентризма людей: обществу безразличны успехи машин, если за ними не стоит личность . Он призвал стремиться к технологическому «Ренессансу» — эпохе творчества и расширения свобод, предостерегая от скатывания в новую «промышленную революцию», превращающую людей в безликие винтики в угоду безжалостной эффективности .
⚙️ Физическая инфраструктура: чип Jalapeño, робототехника и фабрики 33:02
Отвечая на вопросы студентов, Альтман выделил три стратегических столпа инфраструктуры, в которые инвестирует OpenAI:
- Робототехника и самовоспроизводство: Альтман связывает большие надежды с физической петлей рекурсивного улучшения, когда автоматизированные системы и роботы строят дата-центры, управляют полупроводниковыми фабриками и возводят электростанции для генерации энергии .
- Собственные чипы: компания разработала проприетарный процессор под кодовым названием Jalapeño и готовит его следующее поколение, демонстрирующее рекордную энергоэффективность в метриках интеллекта на ватт .
- Сквозная цепочка поставок: OpenAI активно заходит в инвестиции в энергосети, оборудование дата-центров и производственные мощности (фабы) .
🔮 Пределы согласования и структуры будущего 35:21
Говоря о прошлых заблуждениях, Альтман признал, что в 2020 году переоценил сложность проблемы выравнивания (alignment) ИИ: базовые алгоритмы контроля и согласования на текущем этапе сработали неожиданно легко, позволив безопасно запускать даже супермодели .
Однако оптимизм многих коллег по цеху он считает опасным. По мере приближения к общему сверхинтеллекту «песочницы» (sandboxes) и инструменты внешнего мониторинга перестанут справляться, и нерешенность задачи внутреннего выравнивания создаст гигантские риски .
Размышляя об управлении организациями, Альтман провел историческую параллель: современный корпоративный менеджмент унаследовал жесткую командную иерархию от армейских структур прошлого . В качестве альтернативы он привел недавний научный прецедент, когда 10 000 ИИ-агентов коллективно решали комплекс уравнений Навье — Стокса без формального начальника, внутренних споров за авторство или борьбы за власть . Альтман уверен, что будущие лидеры смогут полностью переосмыслить структуру человеческих компаний, объединяя компактные творческие команды людей с масштабируемыми мультиагентными системами .
