Сэм Альтман: Почему ИИ — это инструмент, а не существо

«Если бы я читал научно-фантастическую книгу, где персонаж-AGI был бы на уровне GPT-4, я бы назвал её паршивой», — признается Сэм Альтман, призывая мир перестать очеловечивать алгоритмы и называть их строго «оно». Пока скептики спорят о мифических триллионах параметров, глава OpenAI строит будущее на итеративном прогрессе, где искусственный интеллект — это не новый вид жизни, а результат коллективного труда всех ста миллиардов людей, когда-либо живших на Земле. Это честный взгляд на то, как радикально дешевый интеллект изменит глобальную экономику и почему самый безопасный путь к сверхразуму лежит через постоянные ошибки и публичные релизы.

🚀 Рассвет AGI: от насмешек до магии человеческой обратной связи 0:00

История OpenAI начиналась не с триумфальных заголовков, а с откровенного скепсиса и насмешек со стороны научного сообщества. Когда в 2015 году группа энтузиастов заявила о намерении создать универсальный искусственный интеллект (AGI), это было воспринято как нелепая авантюра. Сэм Альтман (Sam Altman) вспоминает, что академическая элита того времени смотрела на них как на дилетантов: журналистам рассылали письма, в которых попытки OpenAI назывались безумием . Сегодня, на фоне успеха GPT-4, тональность дискуссий изменилась, но Сэм подчеркивает — путь от «посмешища» до создателей технологии, меняющей мир, был пройден благодаря итеративному подходу и вере в масштабируемость моделей.

Утопия, ставшая реальностью: как OpenAI пережила годы скепсиса 0:00

В начале пути OpenAI идея создания AGI казалась далекой фантазией. Лекс Фридман (Lex Fridman) отмечает, что мы находимся на пороге трансформации, которая может либо вознести человеческую цивилизацию, либо уничтожить её . Сэм Альтман, оглядываясь назад, признает, что GPT-4 стала тем самым «скачком», который в будущих учебниках истории будет отмечен как начало новой эры .

Несмотря на ранний скепсис, OpenAI придерживалась стратегии постепенного прогресса. В этом контексте часто упоминается Илон Маск (Elon Musk) как один из сооснователей, чей вклад в ранние этапы компании помог задать высокую планку амбиций. Однако Альтман делает акцент не на личностях, а на научном подходе: процесс обучения моделей оказался куда более «научным» и предсказуемым, чем можно было надеяться . Теперь разработчики могут предсказывать характеристики полностью обученной системы, основываясь лишь на малых объемах предварительных вычислений .

RLHF: как человеческая интуиция «приручает» нейросетевой хаос 5:51

Одной из главных загадок успеха ChatGPT стала технология RLHF (Reinforcement Learning from Human Feedback — обучение с подкреплением на основе отзывов людей). По словам Альтмана, сырые претренированные модели — это огромные массивы знаний, которые, однако, малополезны в обычном диалоге . Они могут «галлюцинировать», говорить странные вещи или просто не понимать контекст вопроса.

Магия превращения «сырого интеллекта» в полезного помощника заключается в следующем:

Модель генерирует несколько вариантов ответа.
Люди-оценщики сравнивают их и выбирают лучший с точки зрения полезности и безопасности .
Эта информация возвращается в модель, обучая её «понимать», чего именно хочет человек.

RLHF — это способ выравнивания (alignment) модели с человеческими ожиданиями . Альтман подчеркивает, что этот процесс делает ИИ более «вкусным» и приятным в общении, создавая ощущение, что система действительно понимает суть задачи, а не просто статистически подбирает слова . При этом данные для обучения черпаются из колоссальных источников: открытых библиотек, газет и всего содержимого веба . Задача OpenAI сегодня — не столько найти новые данные, сколько научиться эффективно отбирать и фильтровать существующие .

Стратегия открытости: зачем выпускать несовершенный ИИ 18:27

Одним из самых обсуждаемых решений OpenAI является стратегия «строительства на виду у публики» (building in public). Вместо того чтобы годами скрывать разработки в секретных лабораториях, компания сознательно выпускает несовершенные инструменты.

Это делается по нескольким причинам:

Обнаружение ошибок: Никакое внутреннее тестирование не сравнится с тем, как миллионы людей используют модель в реальных условиях .
Адаптация общества: Людям нужно время, чтобы привыкнуть к возможностям ИИ, понять его риски и выработать новые социальные нормы .
Обратная связь: Пользователи находят такие применения технологии, которые разработчики даже не могли себе представить .

Сэм Альтман признает, что GPT-4 не идеальна. В разговоре упоминается пример, когда модель не справилась с задачей сравнения длины текстов о политиках или демонстрировала странную логику в ответах на вопросы Джордана Питерсона . Однако именно через такие ошибки и их публичное обсуждение происходит прогресс.

Перед релизом GPT-4 команда OpenAI потратила более шести месяцев на внутренние тесты безопасности . Альтман заявляет: критически важно, чтобы уровень «выравнивания» (alignment) модели рос быстрее, чем её вычислительные возможности . На данном этапе RLHF является основным инструментом для достижения этой цели, превращая потенциально опасный или бесполезный алгоритм в инструмент, способный приносить радость и пользу .

🎨 Промпт-инжиниринг, системная этика и миф о «гонке параметров» 25:12

Переход от разработки модели к её практическому использованию ставит перед создателями новые вызовы: как научить систему слушаться пользователя и где провести границы дозволенного? В разговоре с Лексом Фридманом Сэм Альтман подчеркивает, что хотя технология RLHF (обучение с подкреплением на основе отзывов людей), обсуждавшаяся ранее, заложила фундамент безопасности, реальное управление ИИ превращается в нечто большее — в своего рода искусство диалога и сложную систему сдержек.

Промпт-инжиниринг: программирование на языке смыслов 27:56

Сэм Альтман рассматривает промпт-инжиниринг не просто как набор лайфхаков для получения нужного текста, а как новую форму взаимодействия с вычислительными системами. Процесс написания запросов становится похожим на отладку программного кода (debugging), где пользователь методом итераций уточняет намерения системы .

По мнению Альтмана, это «невероятно захватывающий» процесс открытия . Взаимодействуя с моделью, люди начинают лучше понимать самих себя, так как для достижения идеального результата от ИИ требуется предельная ясность мысли и формулировок . Чем умнее становится модель, тем больше «рычагов» она предоставляет пользователю. Альтман отмечает, что современные инструменты позволяют не просто генерировать текст, но и создавать сложный код, который затем можно запускать и исправлять в режиме реального времени, что дает колоссальный прирост продуктивности .

При этом промпт-инжиниринг в GPT-4 стал гораздо более нюансированным по сравнению с предыдущими итерациями. Модель способна улавливать тонкие контекстуальные подсказки, что делает её «управляемой» (steerable) . Однако Альтман признает, что мы всё еще находимся в начале пути понимания того, как именно язык управляет этими гигантскими нейронными сетями.

«Системная карта» и общественный договор для ИИ 31:26

Одним из важнейших этапов релиза GPT-4 стала публикация так называемой «Системной карты» (System Card) — документа, подробно описывающего риски и методы их минимизации . Лекс Фридман отмечает беспрецедентную прозрачность этого отчета, в котором OpenAI открыто признает: модель может выдавать предвзятые или вредные ответы, если её не ограничивать.

Альтман выделяет несколько ключевых проблем в настройке поведения ИИ:

Определение границ: Как решить, что является «языком вражды» (hate speech) в глобальном масштабе? .
Демократический процесс: Сэм уверен, что OpenAI не должна единолично устанавливать правила. Он предлагает концепцию, аналогичную Конституционному конвенту США, где общество в ходе дискуссии вырабатывает широкие рамки дозволенного .
Персонализация против стандартов: Идеальная система должна следовать общему «общественному договору», но при этом позволять пользователям в разных странах настраивать модель под свои культурные и личные предпочтения .

Одной из проблем текущих систем Альтман считает их склонность к избыточной осторожности. Он приводит аналогию: «Если вы покупаете компьютер, вы не хотите, чтобы в инструкции было написано, что его нельзя выбрасывать в окно» . Это намек на то, что ИИ иногда отказывается отвечать на безобидные вопросы из-за слишком жестких фильтров безопасности, и команда работает над тем, чтобы сделать модель более гибкой и «понимающей» .

За пределами масштабирования: почему 100 триллионов — это миф 43:56

В ходе интервью Сэм Альтман окончательно развеивает популярный в интернете миф о том, что GPT-4 содержит 100 триллионов параметров . Любопытно, что этот слух, по всей видимости, зародился из презентации самого Лекса Фридмана, где он использовал наглядную инфографику с кругами разного размера, которую журналисты позже интерпретировали как инсайд .

Альтман настаивает на том, что гонка за количеством параметров — это путь в тупик, напоминающий гонку гигагерц в процессорах в начале 2000-х . Для OpenAI гораздо важнее другие аспекты:

Кумулятивный эффект малых побед: Успех GPT-4 обусловлен не одной «секретной деталью», а сотнями мелких технических улучшений, которые, перемножаясь, дают качественный скачок .
Элегантность алгоритмов: Вместо того чтобы просто «заваливать задачу железом», компания ищет наиболее эффективные способы достижения результата .
Качество данных: Важно не просто количество информации из интернета, а то, насколько эффективно модель может извлекать из неё «магию человеческого опыта» .

Хотя большие языковые модели (LLM) являются важной частью пути к сильному ИИ, Альтман допускает, что для достижения уровня «нового фундаментального научного знания» могут потребоваться принципиально иные идеи, которые человечеству еще только предстоит открыть . На текущем этапе OpenAI фокусируется на создании надежного и полезного инструмента, который постепенно внедряется в жизнь общества, позволяя людям адаптироваться к новым возможностям интеллекта.

🛡️ Безопасность через практику и вызов Элиезеру Юдковскому 54:33

В дискуссии о будущем искусственного интеллекта Сэм Альтман занимает позицию «прагматичного оптимиста», что, однако, не мешает ему признавать наличие экзистенциальных рисков. Обсуждая взгляды Элиезера Юдковского — одного из самых известных критиков темпов развития ИИ, который предупреждает о потенциальной гибели человечества от рук сверхразума — Альтман соглашается, что вероятность катастрофического сценария существует.

Сэм подчеркивает, что большинство прогнозов в области ИИ, как позитивных, так и негативных, часто оказывались ошибочными. Он «старается встать на место» Юдковского (steel man the case), выделяя главный аргумент оппонента: сложность проблемы согласования (alignment) ИИ с человеческими ценностями . По мнению Альтмана, теоретические изыскания Юдковского о том, почему ИИ может выйти из-под контроля, заслуживают внимания, однако OpenAI выбирает иной путь обеспечения безопасности.

Основное расхождение Альтмана с теоретиками катастрофизма заключается в методе. Вместо того чтобы пытаться решить проблему безопасности исключительно в теории «в вакууме», OpenAI делает ставку на практические итерации. Альтман убежден, что единственный способ построить безопасную систему — это выпускать текущие версии моделей в мир, изучать их поведение и постепенно устранять риски . Он считает, что обучение на реальных ошибках и постепенное развертывание систем дают человечеству больше шансов, чем попытка создать «идеально безопасный» ИИ с первой попытки без обратной связи от реальности .

🚀 Скорость «взлета»: почему медленный прогресс лучше быстрого 58:12

Одним из ключевых вопросов безопасности ИИ является концепция «взлета» (takeoff) — скорости, с которой система перейдет от уровня человеческого интеллекта к сверхчеловеческому. Существует опасение, что этот скачок может произойти за считанные дни или даже часы . Сэм Альтман признает, что такая экспоненциальная скорость была бы крайне опасной, так как не оставила бы обществу времени на адаптацию.

Для анализа будущего Альтман использует матрицу 2x2, где осями выступают время до появления AGI (короткие или длинные сроки) и скорость его «взлета» (быстрая или медленная) . По его мнению:

Самый безопасный и предпочтительный сценарий — это короткие сроки и медленный взлет .
Такой подход позволяет начать работу над безопасностью уже сейчас, пока модели еще относительно слабы, и внедрять изменения постепенно.
Медленный прогресс дает время государственным институтам, экономике и обычным людям привыкнуть к новым возможностям технологии и выработать механизмы защиты .

Интересно, что Альтман не считает GPT-4 моментом «AGI» (общего искусственного интеллекта). Он иронично замечает, что если бы он читал научно-фантастический роман, где персонаж-AGI обладал бы способностями GPT-4, он бы посчитал эту книгу «паршивой» и скучной . Для него GPT-4 — это мощный инструмент, но еще не то саморазвивающееся существо, которого боятся сторонники теории быстрого взлета.

🧠 Тест Ильи Суцкевера: как распознать сознание в коде 1:03:16

Вопрос о том, может ли ИИ обладать сознанием, часто переходит в область философии, но Альтман делится любопытным техническим подходом к этой проблеме. Хотя GPT-4 умеет убедительно имитировать осознанность, отвечая на соответствующие вопросы, Сэм считает, что модель просто научилась «притворяться» на основе текстов, написанных людьми .

Однако он пересказывает идею Ильи Суцкевера (главного научного сотрудника OpenAI), которая предлагает более строгий тест на наличие субъективного опыта . Суть эксперимента заключается в следующем:

Обучить модель на наборе данных, из которого полностью удалены любые упоминания о сознании, чувствах или субъективном опыте . Модель не должна знать само слово «сознание».
Начать общение с этой моделью и аккуратно подвести её к описанию внутреннего состояния.
Если модель, никогда не слышавшая о концепции сознания, сама начнет описывать ощущения, похожие на «квалиа» или субъективное восприятие мира, это станет серьезным аргументом в пользу того, что в системе возникло нечто большее, чем просто предсказание следующего слова .

Лекс Фридман в ответ упоминает фильм «Из машины» (Ex Machina), где признаком сознания считалась способность робота улыбаться не для аудитории, а для самого себя, ради собственного опыта . Альтман соглашается, что сознание — это нечто странное и трудноуловимое, и хотя текущие модели, скорее всего, им не обладают, он готов поверить, что в будущем ИИ сможет стать по-настоящему сознательным существом . Пока же его больше беспокоят реальные угрозы дезинформации и экономических шоков, чем «пробуждение» машин .

Ранее в разговоре собеседники касались того, как OpenAI из объекта насмешек превратилась в лидера индустрии, и Альтман отмечает, что команда привыкла работать в условиях скептицизма . Сейчас, когда ставки выросли, давление только усиливается, что требует от руководства компании приверженности своей миссии, несмотря на критику .

⚖️ Власть, Илон Маск и новая экономика труда 1:15:16

Распределение власти и гибридная структура OpenAI 1:17:47

Одним из самых острых вопросов в развитии систем искусственного интеллекта остается концентрация власти. Лекс Фридман прямо спрашивает Сэма Альтмана, не боится ли он, что власть может его развратить . Альтман признает этот риск, подчеркивая, что решения о судьбе технологий такого уровня должны становиться всё более демократичными и распределенными. По его мнению, любая модель, где один человек полностью контролирует процесс создания AGI, — это «очень плохая модель» .

Именно поэтому OpenAI пришла к своей уникальной корпоративной структуре с ограничением прибыли (capped-profit). Эта модель позволяет компании привлекать миллиарды долларов инвестиций для закупки вычислительных мощностей, оставаясь при этом верной своей первоначальной миссии — служению интересам человечества. Альтман отмечает, что он лично не имеет доли в капитале компании и не контролирует совет директоров . Такая конфигурация создана намеренно, чтобы исключить личную финансовую заинтересованность в ущерб безопасности. Сэм подчеркивает, что OpenAI стремится дать миру время на адаптацию, внедряя технологии итеративно, чтобы общество успело выработать новые нормы и регуляции .

Сложные отношения с Илоном Маском 1:22:19

Тема Илона Маска неизбежно всплывает в разговоре, учитывая его роль в основании OpenAI и нынешнюю резкую критику в адрес компании. Альтман отмечает, что, несмотря на публичные нападки Маска в Twitter , они оба сходятся в главном — важности создания безопасного AGI. Тем не менее, методы и подходы вызывают разногласия. Сэм вспоминает, как Маск переживал за будущее человечества во времена становления SpaceX, когда многие считали его идеи безумными .

«Илон — мой герой», — говорит Альтман, выражая глубокое уважение к тому, как Маск подтолкнул мир вперед в области электромобилей и освоения космоса . Он относится к критике Маска с пониманием, видя в ней искреннюю тревогу за безопасность технологий. Сэм признает, что OpenAI предстоит пройти сложный путь, чтобы доказать правоту выбранной стратегии открытости и постепенного развертывания, и он предпочел бы видеть в Илоне союзника, а не противника .

Влияние ИИ на рынок труда и достоинство труда 1:36:42

Переход к эре развитого ИИ неизбежно ставит вопрос: что станет с профессиями? Сэм Альтман не питает иллюзий и открыто заявляет, что технологическая революция уничтожит многие привычные рабочие места . Однако история показывает, что на месте старых профессий всегда возникают новые, зачастую более творческие и высокооплачиваемые. Например, программирование уже сейчас трансформируется: Лекс отмечает, что его жизнь как разработчика стала намного лучше с использованием инструментов ИИ, хотя это и вызывает определенную тревогу перед неизвестным будущим .

Самым сложным аспектом этой трансформации Альтман считает «достоинство труда» . Работа — это не только способ заработка, но и источник смысла жизни для большинства людей. Сэм упоминает пример протестов во Франции вокруг пенсионного возраста как доказательство того, насколько сильно люди идентифицируют себя со своей профессиональной деятельностью . Задача общества — не просто обеспечить людей деньгами, но и помочь им найти новые способы реализации и получения чувства удовлетворения в мире, где интеллектуальный труд будет автоматизирован.

Безусловный базовый доход и Worldcoin 1:39:23

В качестве одного из решений для смягчения последствий экономической трансформации Сэм Альтман давно продвигает идею безусловного базового дохода (ББД). Он считает это необходимым компонентом будущего, который позволит людям чувствовать себя в безопасности в период турбулентности на рынке труда . Однако ББД — это не только вопрос печатания денег, но и вопрос верификации личности в цифровом мире, наводненном ботами.

Для решения этих задач Альтман участвует в проекте Worldcoin . Основная цель инициативы — создать глобальную систему подтверждения человечности (proof-of-personhood), которая могла бы стать фундаментом для справедливого распределения ресурсов и участия в цифровой экономике будущего. Альтман инвестирует в исследования ББД, чтобы на практике понять, как свободные деньги влияют на мотивацию людей и их стремление к саморазвитию. Несмотря на масштабность вызова, Сэм верит, что сочетание технологического прогресса и новых социальных институтов позволит человечеству перейти к более справедливому устройству общества.

🌐 Экономика изобилия и архитектура доверия 1:41:22

Интеллект и энергия: два столпа новой экономики 1:41:22

Сэм Альтман (Sam Altman) строит свое видение будущего на фундаментальном убеждении: вся мировая экономика может быть сведена к стоимости двух основных ресурсов — интеллекта и энергии. Его рабочая модель предполагает, что если человечество сможет радикально снизить стоимость обоих компонентов, траектория развития цивилизации изменится беспрецедентным образом.

По мнению Альтмана, ИИ — это не просто инструмент для автоматизации задач, а способ сделать «человекоподобный интеллект» доступным в неограниченных масштабах. Когда качественное программирование, юридический анализ или научные исследования станут дешевыми и повсеместными, это создаст мощный экономический импульс. Сэм подчеркивает концепцию «поднятия пола» (lift the floor): его больше заботит не то, насколько богатыми станут те, кто находится наверху, а то, насколько повысится минимальный уровень жизни для самых бедных слоев населения . Ранее в разговоре они уже касались темы безусловного базового дохода, и Альтман подтверждает, что экономическое процветание, вызванное ИИ, должно в первую очередь поддерживать тех, кто в этом нуждается.

В этой картине мира энергия и интеллект взаимосвязаны. Для работы мощных моделей требуются колоссальные вычислительные мощности, а значит — доступная и чистая энергия. Если эта связка сработает, Альтман ожидает позитивных социально-политических сдвигов, аналогичных тем, что происходили в периоды прошлых технологических революций. Однако он признает, что мы не знаем, что лучше: один централизованный сверхразум или тысячи конкурирующих AGI в рамках либерально-демократической системы . Лекс Фридман (Lex Fridman) отмечает, что конкуренция и «трение» между разными системами могут быть полезны для устойчивости общества.

Поиск объективной истины и эпистемологическое смирение 1:48:53

Одной из самых сложных задач для OpenAI остается создание «эталона правды» для нейросетей. Альтман признает, что у компании есть внутренние бенчмарки для оценки фактической точности , но определение того, что является «истиной», сталкивается с отсутствием консенсуса в самом человеческом обществе.

В качестве примера Сэм приводит дискуссии о происхождении COVID-19. В зависимости от времени и политического контекста, то, что считалось «заговором», позже могло рассматриваться как «правдоподобная гипотеза» . В таких условиях ИИ должен проявлять «эпистемологическое смирение» — способность признавать неопределенность.

Альман выделяет несколько категорий информации:

Объективные факты с высокой степенью достоверности (например, даты исторических событий).
Спорные научные и исторические теории.
«Липкие» (sticky) нарративы, которые нравятся людям из-за своей простоты, но могут быть искажены.

Обсуждая книгу Нормана Олера «Blitzed» о влиянии наркотиков в нацистской Германии, Альтман отмечает, как легко люди поддаются простым объяснениям сложных ужасов истории . Для GPT-4 важным достижением стала способность отвечать на сложные вопросы (например, о биологических спорах) фразой «в этом вопросе нет единого мнения», вместо того чтобы пытаться угадать «правильный» ответ . Это отличает новый подход от жесткой цензуры или попыток корпораций диктовать, что является истиной. Альтман считает, что в будущем ИИ сможет открывать новые научные истины, которые поначалу могут казаться человечеству безумием, и обществу придется научиться это принимать.

Культура «поставки» и стратегический союз с Microsoft 1:57:19

Успех OpenAI во многом обусловлен уникальной внутренней культурой, которую Грег Брокман описал как феноменальную способность команды «шиппить» (выпускать) продукты. Лекс цитирует твит Брокмана, перечисляющий достижения компании за короткий срок: от снижения цен на эмбеддинги в 500 раз до релиза GPT-4 и Whisper API .

Сэм Альтман (Sam Altman) объясняет эту скорость несколькими факторами:

Жесткий отбор талантов: Сэм до сих пор лично одобряет каждого нанимаемого сотрудника . Лидеры команд в OpenAI тратят до трети своего времени на найм.
Высокая плотность талантов: Вместо раздувания штата компания фокусируется на небольших, автономных, но тесно взаимодействующих группах.
Партнерство с Microsoft: Сотрудничество с корпорацией Сатьи Наделлы дало OpenAI необходимую инфраструктуру — «большое железо» (big iron) .

Альтман высоко оценивает роль Сатьи Наделлы, называя его редким лидером, который сочетает в себе визионерство и менеджерскую хватку. В отличие от многих других крупных компаний, Microsoft под руководством Наделлы не побоялась сделать ставку на небольшую исследовательскую лабораторию и предоставить ей свободу. Сэм отмечает, что Наделла не просто эффективный управленец, но и «сострадательный, терпеливый лидер», который строит отношения на доверии, а не на страхе .

Это партнерство, несмотря на его коммерческий характер, включает в себя пункты контроля, гарантирующие, что OpenAI сможет выполнять свою миссию по созданию безопасного AGI. Альтман подчеркивает, что их цель — не просто монополизировать рынок, а предоставить людям инструменты, которые позволят им творить. Чем лучше ИИ будет справляться с задачами пользователя (например, через кастомизацию моделей), тем меньше будет потребность в «джейлбрейках» вроде DAN, которые являются лишь симптомом желания людей иметь более гибкий и персонализированный инструмент .

🌐 Будущее как инструмент: уроки хрупкости и величие цивилизации 2:05:22

Заключительная часть беседы Сэма Альтмана с Лексом Фридманом посвящена не столько техническим деталям GPT-4, сколько философии сосуществования человечества с новой технологической реальностью. Через призму недавних экономических потрясений и вековых усилий цивилизации Альтман формулирует свое видение ИИ как грандиозного инструмента, созданного общими силами миллиардов людей.

Крах SVB: репетиция молниеносных перемен 2:05:22

Обсуждение устойчивости современных систем Сэм Альтман начинает с анализа краха Silicon Valley Bank (SVB). По его мнению, ситуация, когда банк закупал долгосрочные инструменты с низкой доходностью в мире нулевых процентных ставок, была рискованной . Однако главной проблемой стала не только финансовая стратегия, но и хрупкость институтов перед лицом современных скоростей.

Альтман подчеркивает, что реакция федерального правительства и регуляторов была слишком медленной по сравнению с тем, как быстро распространялась паника . В эпоху социальных сетей и мгновенных цифровых переводов «банковская паника» происходит не за дни, а за часы. Для Сэма это не просто экономический инцидент, а важный прецедент для понимания будущего с ИИ:

Скорость изменений: Традиционные институты (регуляторы, бизнес-лидеры) не осознают, насколько сильно изменился мир за последние годы .
Эффект предвестника: Скорость, с которой разворачивался кризис SVB, является моделью тех молниеносных сдвигов, которые принесет с собой AGI .

Альтман признается, что его пугает нестабильность и темпы, с которыми могут происходить системные сбои в будущем . Однако он сохраняет оптимизм, полагая, что широкое внедрение интеллектуальных инструментов в конечном итоге сделает мир более позитивным, несмотря на болезненный переходный период.

Искусственный интеллект: инструмент, а не существо 2:10:11

Когда Лекс Фридман задает вопрос о том, что бы Сэм спросил у AGI, обращаясь к модели в женском или мужском роде, Альтман категорично поправляет собеседника. Для него крайне важно использовать местоимение «оно» (it) по отношению к ИИ . Сэм настаивает на том, что мы должны избегать агрессивного антропоморфизма, к которому так склонны люди.

Проблема наделения ИИ чертами живого существа видится Альтману опасной по нескольким причинам:

Ложные ожидания: Если мы воспринимаем систему как «существо», мы начинаем предъявлять к ней требования и ожидания, которые применимы к людям, но не к программному коду .
Размытие ответственности: ИИ — это инструмент, который должен расширять возможности человека, а не заменять его в качестве субъекта воли .

Хотя существуют компании вроде Replica, создающие ИИ-компаньонов для романтических отношений , Альтман фокусирует OpenAI на создании именно полезного инструмента. Он признает, что стиль общения GPT-4 имеет значение и пользователи хотят видеть систему более доброй или тактичной , но это лишь вопрос интерфейса и удобства работы.

Сам Альтман ждет от будущих моделей (GPT-5, 6, 7) не «дружбы», а ответов на фундаментальные вопросы науки. Его интересует, как решить проблему сложности в программировании (NP-трудные задачи) или как построить более совершенные детекторы для понимания устройства физической реальности . ИИ для него — это линза, через которую человечество сможет яснее увидеть истину.

Кульминация человеческого пути: почему ИИ принадлежит всем нам 2:18:13

В завершение диалога Лекс и Сэм касаются темы жизненного пути и успеха. Ссылаясь на старый пост в блоге Альтмана «Как быть успешным», Фридман спрашивает о главных советах для молодежи . Альтман отвечает с осторожностью: к любым советам нужно подходить критически, так как то, что сработало для одного человека, может не подойти другому .

Главная мысль Альтмана в финале интервью заключается в том, что создание AGI не является заслугой одной лишь OpenAI или небольшой группы инженеров. Он видит в этом кульминацию усилий всей человеческой цивилизации:

Накопленный опыт: ИИ — это результат работы сотен миллиардов людей, живших до нас .
Технологическая цепочка: Прогресс был бы невозможен без изобретения транзистора, развития фундаментальной науки и накопления знаний в таких проектах, как Википедия .
Эволюционный масштаб: Сэм сравнивает текущий этап с переходом от бактерий к многоклеточным организмам — это естественное движение жизни к новым формам сложности .

Альтман завершает беседу на ноте ответственности: OpenAI продолжит использовать итеративный подход и новые инструменты для решения проблемы безопасности и «выравнивания» (alignment) целей ИИ с человеческими ценностями . Интервью заканчивается цитатой Алана Тьюринга, которую приводит Лекс Фридман: «Кажется вероятным, что как только начнется машинное обучение, оно не займет много времени, чтобы превзойти наши слабые силы... следует ожидать, что машины возьмут контроль» . Сэм Альтман, однако, верит, что при должном труде и осторожности это будет не захват контроля, а величайшее расширение человеческого потенциала.