В центре философской дискуссии «ИИ обладает сознанием. Мы в симуляции. И мы не можем победить» ведущий Курт Джеймунгал и исследователь Роман Ямпольский обсуждают фундаментальные вопросы будущего человечества, природы реальности и рисков, связанных с искусственным интеллектом .
🧠 Природа ИИ и сознания 1:04
По определению Романа Ямпольского, интеллект — это способность побеждать в любой заданной области. Он убежден, что не существует теоретических «пределов» интеллекта, и если ИИ способен решать сложные математические задачи, его возможности могут расширяться бесконечно.
Вопрос самоидентичности ИИ 3:11
В ходе беседы участники затронули проблему самосознания ИИ:
- Ямпольский полагает, что современные большие языковые модели (LLM) обладают «рудиментарным» уровнем сознания.
- По его мнению, самосознание может быть «неотъемлемой частью» высокоразвитого интеллекта, своего рода «побочным эффектом» его развития.
- Курт Джеймунгал задается вопросом, можно ли считать «Я» модели совокупностью весов и данных, или же это лишь текущая итерация в бесконечной цепочке токенов.
Ямпольский отмечает, что в вопросах безопасности ИИ исследователи обычно придерживаются «поведенческого подхода», игнорируя внутренние состояния, однако сам он начинает склоняться к мысли, что отделить сознание от передового интеллекта невозможно.
🎮 Гипотеза симуляции 12:54
Ямпольский открыто отстаивает идею о том, что мы живем в симуляции. Его аргументация строится на статистической вероятности:
- Человечество уже находится на пороге создания технологий, позволяющих моделировать миры с интеллектуальными агентами.
- Если допустить возможность создания вложенных симуляций, то «оригинальных» реальных вселенных крайне мало по сравнению с виртуальными.
- Ученый подчеркивает: для него стремление «сбежать» из симуляции — это чистый научный эксперимент, попытка получить доступ к более достоверной информации о природе реальности.
⚠️ Экзистенциальный риск и контроль 43:55
Ключевой тезой Ямпольского, сделавшей его известным в среде экспертов по безопасности, является постулат: «Вы не можете бесконечно контролировать нечто, что умнее вас».
Аргументы против управляемости ИИ:
- Отсутствие рычагов: Ямпольский утверждает, что все «красные линии», установленные годами ранее (не подключать к интернету, не давать доступ к манипуляции кодом), уже нарушены.
- Иллюзия безопасности: По мнению гостя, техническое решение проблемы «согласования» (alignment) ИИ невозможно, так как сама задача плохо определена и меняется вместе с человеческими ценностями.
- Конкуренция: Даже если один разработчик прекратит гонку, это сделает кто-то другой, так как ситуация носит характер «Дарвиновского процесса».
Ямпольский подчеркивает: он не предлагает «отключить» ИИ, но призывает замедлить прогресс в создании общего суперразума (AGI), вместо этого сосредоточившись на узкоспециализированных полезных инструментах, которые остаются под контролем человека.
🕊️ Мораль и рациональность 11:06
Участники обсудили тезис Иммануила Канта о том, что самый рациональный агент должен быть и самым моральным. Ямпольский категорически не согласен с этим:
- «Рациональность — это победа, а не мораль».
- Согласно «тезису об ортогональности» Ника Бострома, можно обладать любым уровнем интеллекта при любом уровне морали — это не является противоречием.
- Мораль он определяет через минимизацию страданий, считая, что только субъективное состояние «боли» является объективным критерием для оценки действий ИИ.
