Генеральный директор OpenAI Сэм Альтман принял участие в саммите AI for Good Global Summit, где в формате дистанционного интервью обсудил текущее состояние и ближайшее будущее технологий искусственного интеллекта. В ходе беседы он затронул темы обучения моделей следующего поколения, проблему «черного ящика», а также социальные и философские последствия доминирования ИИ в повседневной жизни.
🚀 Следующий этап: обучение Frontier Model и рост продуктивности 0:00
На данный момент OpenAI активно занимается обучением своей следующей «флагманской» модели (Frontier Model) . Несмотря на слухи, в компании пока не закрепили за ней название GPT-5, предпочитая отойти от привычной нумерации. Ожидается, что новая модель будет представлена уже в этом году .
По мнению Альтмана, главным ощутимым эффектом от внедрения ИИ уже сегодня является резкий скачок продуктивности . В качестве основного примера он приводит разработчиков программного обеспечения, для которых ИИ стал неотъемлемой частью рабочего процесса. Альтман полагает, что вскоре станет трудно представить профессиональную деятельность без этих инструментов, так как они позволяют делегировать рутинные задачи и фокусироваться на творческой составляющей .
Среди областей, которые первыми почувствуют на себе позитивное влияние ИИ, глава OpenAI выделяет:
В то же время Альтман выражает обеспокоенность рисками кибербезопасности, считая это одной из первых серьезных проблем, которую может усугубить развитие технологий .
📈 Пределы прогресса: увидим ли мы «потолок»? 2:44
В индустрии ведутся споры о том, замедлится ли прогресс ИИ (так называемое асимптотическое приближение к пределу) или нас ждет экспоненциальный взлет. Сэм Альтман утверждает, что OpenAI не видит признаков замедления . По его словам, компания придерживается принципа «показывай, а не рассказывай», предпочитая демонстрировать результаты исследований через релизы продуктов.
Альтман прогнозирует, что новые модели будут «колоссально лучше» в одних аспектах и лишь незначительно лучше в других, что характерно для каждого перехода между поколениями (например, от GPT-3 к GPT-4) . Он ожидает прогресса в тех областях, которые ранее считались невозможными для ИИ.
🧬 Синтетические данные и эффективность обучения 4:10
Одной из самых обсуждаемых тем стало использование синтетических данных — контента, созданного самим ИИ, для обучения новых моделей. Существует опасение, что «самопоедание» данных приведет к деградации и коррупции системы .
Альтман считает, что ключевое значение имеет не происхождение данных, а их качество. По его словам:
- Низкокачественные человеческие данные так же вредны, как и плохие синтетические данные .
- OpenAI проводит множество экспериментов с генерацией синтетических данных .
- Цель текущих исследований — научить модели учиться большему на меньших объемах данных (data efficiency) .
Глава OpenAI выразил надежду, что обучение не превратится в простое скармливание модели «квадриллионов синтетических токенов», а станет более интеллектуальным и эффективным процессом .
🧠 Проблема «черного ящика» и интерпретируемость 7:20
Вопрос о том, понимаем ли мы, что происходит внутри нейронных сетей на уровне отдельных «нейронов», остается открытым. Сэм Альтман признает, что проблема интерпретируемости (interpretability) до сих пор не решена . Однако он не считает это аргументом против выпуска новых моделей.
Аргументация Альтмана строится на аналогии с человеческим мозгом:
- Мы не понимаем работу мозга на уровне каждого конкретного нейрона, но можем доверять человеку, если он следует правилам и может объяснить логику своих действий .
- Поведение ИИ-систем уже сейчас поддается очень точной характеристике и проверке .
- Разработчикам удалось добиться того, чтобы системы считались безопасными и надежными в масштабах, которые удивляют даже экспертов .
Тем не менее, Альтман подтверждает, что глубокое понимание внутренних процессов ИИ должно стать частью комплексного пакета мер по обеспечению безопасности технологий .
⚖️ Неравенство и социальный контракт 10:05
Вопреки опасениям, что ИИ увеличит разрыв между богатыми и бедными, Альтман ссылается на данные (упоминаемые также исследователем Итаном Молликом), согласно которым ИИ больше помогает менее квалифицированным сотрудникам, подтягивая их уровень к топам .
Для поддержки этого направления OpenAI запустила инициативу «OpenAI для некоммерческих организаций» . В качестве примера Альтман привел Международный комитет спасения (IRC), использующий ИИ для поддержки учителей и учеников в зонах кризиса .
Главные тезисы Альтмана о социальной структуре:
- ИИ сделает «интеллект» широкодоступным ресурсом, что поможет беднейшим слоям населения больше, чем богатым .
- В долгосрочной перспективе потребуется пересмотр «социального контракта», так как структура экономики изменится .
- Альтман не верит в исчезновение работы как таковой — люди всегда находят новые занятия, — но ожидает дискуссий о перераспределении благ, включая идеи безусловного базового дохода (UBI) .
🌐 Будущее интернета: живой рендеринг вместо спама 14:26
Интервьюер выразил опасение, что интернет станет «непостижимым» из-за засилья ИИ-контента и спама . Альтман не разделяет этого страха. По его мнению, формат взаимодействия с сетью изменится:
- ИИ станет интерфейсом, который «приносит интернет к вам», вместо того чтобы заставлять пользователя кликать по ссылкам .
- В будущем ИИ сможет «на лету» собирать и рендерить идеальную веб-страницу под конкретный запрос пользователя в реальном времени .
- Модель, в которой интернет схлопывается до 10–20 крупных языковых моделей, кажется Альтману маловероятной .
🏛️ Управление и конфликты в OpenAI 16:43
Альтман подтвердил, что все еще считает правильной идею демократического управления ИИ, при которой широкие слои населения могли бы выбирать представителей в совет управляющих компании . Однако он отказался раскрывать детали текущих планов в этом направлении.
Касаясь недавней критики со стороны бывших членов совета директоров (в частности, Хелен Тонер), Альтман заявил о «существенном несогласии» с ее версией событий . Тонер утверждала, что совет узнал о запуске ChatGPT из социальной сети X (ранее Twitter). Альтман парировал это тем, что:
- ChatGPT на момент запуска называли «низкопрофильным исследовательским превью» (low-key research preview) .
- План выпуска обсуждался с советом заранее .
- Модель GPT-3.5, на которой базировался чат-бот, была доступна уже около 8 месяцев на момент релиза .
🌌 Философия: ИИ как урок смирения 20:13
В завершение беседы Альтман затронул философский аспект: станет ли человечество более эгоцентричным или, наоборот, более скромным после создания чего-то более мощного, чем человек?
По мнению Сэма Альтмана, ИИ станет очередным этапом в истории науки, который лишает человека статуса «центра Вселенной» . Он проводит аналогию с гелиоцентрической системой Коперника: сначала мы думали, что Солнце вращается вокруг Земли, затем осознали масштаб Галактики, а теперь сталкиваемся с возможностью существования Мультивселенной . Альтман считает, что осознание этого факта через ИИ принесет человечеству чувство благоговения и здорового смирения перед сложностью мироздания .
