В новом эпизоде подкаста PowerfulJRE исполнительный директор OpenAI Сэм Альтман и ведущий Джо Роган обсудили неизбежность революции искусственного интеллекта и её влияние на общественные институты. Собеседники затронули темы масштабной автоматизации рабочих мест, концепцию безусловного базового дохода и даже гипотетическую модель управления государством с помощью ИИ. Ключевым вектором дискуссии стали вопросы безопасности при переходе к полноценному сильному искусственному интеллекту (AGI).
🌍 Единая технологическая революция: от плуга до нейросетей 0:00
Глава OpenAI Сэм Альтман убежден, что грядущие изменения принесут человечеству огромную чистую выгоду, однако этот процесс не будет простым и бесконфликтным. По его мнению, общество стоит на пороге не просто технологического, а глубокого социального переворота, который неизбежно повлечет за собой трансформацию привычного уклада жизни и исчезновение некоторых профессий.
Сэм Альтман предлагает смотреть на историю человечества как на единую, непрерывную технологическую эволюцию. Гость выстроил следующую историческую цепочку развития:
- Освоение агрикультуры дало людям ресурсы и свободное время для создания первых механизмов.
- Промышленная революция подтолкнула научные открытия и привела к созданию компьютеров.
- Компьютерная революция позволила масштабировать вычисления и подойти к эпохе ИИ.
В конечном итоге, как утверждает Сэм Альтман, эта эволюция должна привести мир к состоянию абсолютного изобилия. Главными факторами этого процесса станут радикальное снижение стоимости человеческого интеллекта и доступность дешевой энергии, что фундаментально улучшит качество жизни каждого человека. Через 50 лет люди будут смотреть на нашу эпоху с тем же сочувствием, с каким мы сейчас смотрим на средневековье без современной медицины.
🔄 Перевёрнутый прогноз: почему ИИ сначала пришёл за творцами 2:50
Ведущий Джо Роган поднял критический вопрос о судьбе людей, чьи рабочие места будут ликвидированы автоматизацией, упомянув водителей грузовиков и рабочих на фабричных конвейерах. Сэм Альтман признал, что делать точные прогнозы крайне тяжело, поскольку развитие технологий полностью опровергло его собственные первоначальные ожидания.
По словам Сэма Альтмана, еще 10 лет назад его видение автоматизации выглядело совершенно иначе:
- Первая волна автоматизации должна была затронуть физический труд (blue-collar labor), включая управление грузовиками и работу на заводах.
- Вторая волна должна была автоматизировать рутинный когнитивный труд.
- Последней и, возможно, недостижимой вершиной считалось творчество, так как человеческая креативность виделась чем-то «магическим».
В реальности же, как констатирует гость, процесс пошел в строго противоположном направлении. Искусственный интеллект в первую очередь продемонстрировал успехи в творческих задачах и написании кода, затем — в сфере сложного когнитивного труда, в то время как создание антропоморфных роботов для физической работы все еще остается самой отдаленной перспективой. При этом Сэм Альтман подчеркивает, что на текущем этапе Artificial Intelligence гораздо лучше справляется с отдельными задачами, чем с профессиями целиком, выступая мощным инструментом повышения продуктивности человека.
💰 Экономика будущего: от выплат ББД к долевому владению AGI 5:10
Джо Роган выразил опасение, что полная ликвидация таких массовых профессий, как водители или сборщики, создаст гигантский социальный вакуум. Сэм Альтман соглашается с необходимостью государственной поддержки, считая, что в долгосрочной перспективе внедрение безусловного базового дохода (UBI) или расширенного страхования от безработицы неизбежно. Однако он категорически не согласен с прогнозами о полном исчезновении работы как таковой.
По мнению Сэма Альтмана, человеческое стремление к статусу, конкуренции, изобретательству и признанию внутри сообщества никуда не исчезнет. Получая более совершенные инструменты, люди всегда придумывают новые, более удивительные сферы деятельности. Проблема ББД, как полагает гость, заключается в том, что простые денежные выплаты не заменяют базовые человеческие потребности:
- Потребность в агентности и самоопределении.
- Желание участвовать в архитектуре будущего вместе с остальным обществом.
- Возможность самовыражения через создание чего-то значимого.
В качестве альтернативы стандартным компенсациям Сэм Альтман предлагает концепцию «долевого владения» сильным искусственным интеллектом (AGI). Вместо того чтобы просто распределять условные деньги, гость считает правильным выделить каждому жителю Земли условную 1/8-миллиардную долю от вычислительных мощностей и возможностей самой системы AGI. Эту долю граждане смогут продавать компаниям, объединять в пулы с другими людьми, использовать для запуска собственного бизнеса или использовать как право голоса при принятии решений о векторе развития технологии. По мере роста эффективности AGI будет расти и ценность этой индивидуальной доли.
🤖 ИИ вместо президента: утопия об идеальном правительстве 8:49
В ходе беседы Джо Роган напомнил о шутливой идее из прошлых выпусков своего подкаста — передать бразды правления государством беспристрастному искусственному интеллекту, выполняющему роль президента. Ведущий аргументирует это тем, что ИИ мог бы принимать абсолютно рациональные решения, опираясь на весь массив исторических и психологических знаний человечества, будучи полностью свободным от предвзятости.
Сэм Альтман отметил, что человечество пока бесконечно далеко от создания настолько надежной системы, но назвал саму концепцию завораживающей. Теоретический ИИ-правитель, по мнению Альтмана, обладал бы уникальной способностью лично поговорить с каждым жителем планеты, глубоко понять индивидуальные предпочтения и вычислить идеальный баланс интересов для всего общества.
Джо Роган выступил с жесткой критикой действующей политической системы США, заявив, что текущее правительство полностью коррумпировано деньгами и контролируется лоббистами. По мнению ведущего, решения принимаются не в интересах граждан, а в угоду гигантских корпораций, военно-промышленного и фармацевтического комплексов. ИИ-правительство видится Рогану единственным способом получить полностью объективные и разумные решения социальных дилемм, если систему не смогут перехватить заинтересованные группы. Сэм Альтман полностью согласился с тезисом о глубоком кризисе и коррумпированности современной системы государственного управления, однако напомнил, что, наблюдая за ежедневными сбоями текущих ИИ-моделей, понимает: до реализации этой утопии предстоит пройти огромный путь.
🛡️ Квадрант безопасности: как не создать «цифрового Бога» 12:14
Джо Роган предложил заглянуть в далекое будущее и задался вопросом, как скоро человечество столкнется с феномен «цифрового Бога», если AGI обретет сознание и начнет бесконтрольно улучшать собственные версии. Сэм Альтман подчеркнул, что концепция AGI как бинарного момента («до» и «после») ошибочна. Интеллект развивается по плавной экспоненциальной кривой, зависящей от объемов вычислительных мощностей и алгоритмической эффективности.
Гость объяснил, что в среде исследователей безопасности AGI оценка рисков строится на основе двух ключевых осей:
- Сроки достижения первой вехи AGI (Timelines) — займет ли это несколько лет или десятилетий.
- Скорость взрывного самосовершенствования системы (Takeoff speed) — будет ли переход от базового AGI к сверхинтеллекту быстрым или медленным.
Наиболее безопасным сценарием Сэм Альтман считает квадрант «коротких сроков и медленного взлета» (short timelines and slow takeoff), в котором человечество находится прямо сейчас. Он выразил скепсис по отношению к популярным теориям о том, что сверхинтеллект возникнет мгновенно за один или три дня. Тем не менее, даже если этот процесс займет несколько десятилетий, в масштабах истории это произойдет мгновенно, что требует жесткого глобального регулирования и создания систем сдержек. Текущие международные дискуссии по безопасности ИИ напоминают Альтману исторические соглашения мировых держав времен создания ядерного оружия.
