Эпоха AGI: Шейн Легг о будущем, разуме и трансформации общества 0:00
Человеческий интеллект больше не является верхним пределом возможностей, и мир стоит на пороге масштабной трансформации, вызванной появлением искусственного общего интеллекта (AGI). В откровенном интервью подкасту Google DeepMind профессор Ханна Фрай обсудила с сооснователем Google DeepMind Шейном Леггом, что ждет общество в ближайшее десятилетие, как будут развиваться технологии и почему экспертное сообщество зачастую отстает от реальности в своих прогнозах.
🧠 Что такое AGI и где мы находимся сейчас 1:41
Шейн Легг, который популяризировал термин AGI, рассматривает интеллект не как дискретную точку, а как спектр возможностей. По его мнению, современный уровень развития ИИ — это уже гораздо больше, чем просто «искры» интеллекта.
- Минимальный AGI: это искусственный агент, способный выполнять когнитивные задачи на уровне типичного человека. Легг полагает, что мы достигнем этого уровня примерно через два года.
- Текущее состояние: системы демонстрируют феноменальные успехи в языках, общем знании и кодинге, однако все еще уязвимы в задачах, требующих непрерывного обучения (continual learning) и сложного визуального или логического рассуждения.
- Путь к совершенству: устранение текущих пробелов требует не только увеличения масштабов моделей или объема данных, но и архитектурных изменений, включая внедрение систем «эпизодической памяти» и алгоритмов для долгосрочного накопления навыков.
Легг предлагает операционализировать проверку AGI через серию стандартных тестов, за которыми последует «адверсариальный» этап: если команда экспертов в течение нескольких месяцев не сможет найти когнитивную задачу, доступную обычному человеку, но недоступную ИИ, систему можно считать достигшей уровня AGI.
🛡️ Этическое измерение и «System 2 Safety» 20:01
Одной из центральных тем дискуссии стала способность ИИ к этическому анализу. Легг продвигает концепцию «System 2 Safety», вдохновленную работой Даниэля Канемана.
- Механизм: вместо полагания на «инстинкты» (System 1), ИИ должен использовать цепочку рассуждений (chain of thought), анализируя нюансы ситуации и возможные последствия действий перед принятием решения.
- Преимущество: в принципе, ИИ может стать более этичным, чем люди, так как он способен последовательно применять моральные нормы и логический анализ, избегая импульсивных ошибок.
- Безопасность: 100% надежность недостижима, как и в медицине, но строгое тестирование и инструменты интерпретируемости позволяют видеть, почему система приняла то или иное решение, что критически важно для контроля намерений машины.
🚀 К суперразуму и «постагэайной» экономике 30:41
Шейн Легг уверен, что человечество неизбежно движется к искусственному суперразуму (ASI), который значительно превзойдет человека во многих доменах.
- Физические ограничения: биологический мозг — это мобильный процессор, ограниченный 20 Ваттами и скоростью сигнала 30 м/с, в то время как дата-центры оперируют на других порядках энергопотребления и скоростей передачи данных.
- Экономические последствия: нынешняя модель экономики, основанная на обмене ментального и физического труда на доступ к ресурсам, может перестать работать. По мнению Легга, обществу необходимо заранее разработать механизмы распределения богатства, чтобы переход к «золотому веку» (где машины производят все необходимое) не привел к катастрофическому неравенству.
🔮 Прогнозы и призыв к действию 49:26
Шейн Легг подтвердил свой давний прогноз: вероятность появления минимального AGI к 2028 году составляет 50/50. Полноценный AGI, по его оценкам, появится в течение десятилетия.
Он подчеркивает, что эксперты в различных областях — от юриспруденции до градостроительства — должны уже сейчас осознать грядущие изменения. Ирония ситуации, как замечает Шейн Легг, заключается в том, что обычные люди зачастую лучше понимают масштаб происходящего, чем узкие специалисты, склонные недооценивать возможности технологий, с которыми они не работают напрямую.
