# Ирина Риш: «Нужно ли нам align-ить людей под AGI?»

Источник: https://www.youtube.com/watch?v=8-ilcF0R7mI
Канал: Machine Learning Street Talk
Опубликовано: 26.12.2022

---

## Путь к «Аугментированному интеллекту»: Ирина Риш о будущем AGI и динамических системах
[[JUMP:0:00]]

Профессор Монреальского университета Ирина Риш — эксперт по искусственному интеллекту, чьи исследования лежат на стыке нейробиологии, теории динамических систем и машинного обучения. В беседе для канала Machine Learning Street Talk она поделилась своим видением «Святого Грааля» искусственного общего интеллекта (AGI), предложив взглянуть на развитие технологий не как на создание автономной «сущности», а как на способ расширения человеческих возможностей через «аугментированный» интеллект.

### 🤖 Аги против «Аугментированного интеллекта»
[[JUMP:8:16]]

Основной тезис Риш заключается в смене фокуса с создания независимого «искусственного» агента на развитие «аугментированного» интеллекта (AI — где «A» означает Augmented, а не Artificial). Она утверждает, что мотивация создания автономного сверхразума часто носит абстрактный характер, в то время как цель помощи людям стать более счастливыми и эффективными выглядит для неё как более личная и понятная задача.

*   **Расширение способностей:** Подобно тому, как человечество изобрело очки, слуховые аппараты и компьютеры для преодоления биологических ограничений, новые системы ИИ должны служить «цифровым продолжением» нашего сознания.
*   **Симбиоз:** Будущее, по мнению профессора, лежит в симбиотических отношениях между человеком и технологией, где ИИ выступает в роли «ангела-хранителя».
*   **Критика антропоцентризма:** Она скептически относится к идее создания AGI как «отдельного существа», считая, что существующий подход во многом вдохновлен научно-фантастическими клише, а не реальными потребностями человечества.

### 🧠 ИИ как сложная динамическая система
[[JUMP:22:33]]

Ирина Риш подчеркивает фундаментальное различие между современными нейронными сетями и человеческим мозгом. Если текущие модели ИИ являются детерминированными функциями, ожидающими ввода данных для получения вывода, то мозг функционирует как непрерывная «сложная динамическая система», активная даже в отсутствие внешних стимулов.

*   **Проблема «внутри-наружу»:** Ученый критикует экспериментальный подход в нейронауке, который фокусируется только на реакции на стимулы. Риш ссылается на работы Дзюнки Будзаки (*The Brain Inside Out*), аргументируя, что результат обработки данных в мозге в значительной степени определяется его скрытым состоянием.
*   **Отказ от классического бэкпропа:** Риш отмечает, что популярность алгоритма обратного распространения ошибки (*backpropagation*) во многом объясняется «аппаратной лотереей» и удобством реализации, а не тем, что это единственно верный путь. Существуют недооцененные альтернативные подходы, которые могли бы быть более эффективными для масштабирования больших моделей.

### 🧬 Биология, «Злые раковые клетки» и буддизм
[[JUMP:32:03]]

В дискуссии с Майклом Левиным Риш обсуждает концепцию самоорганизации живых систем. Она проводит интересную параллель между онкологией и проблемами согласования интересов в обществе.

*   **Раковые клетки как ошибка масштабирования:** По словам Риш, раковая клетка — это клетка, которая «забыла» о своей принадлежности к организму и вернулась к примитивному состоянию выживания как единичного агента.
*   **Буддийский взгляд на ИИ:** Она предлагает интерпретировать «правильное поведение» через призму изменения временного и пространственного масштаба целевой функции. Если смотреть на развитие системы на бесконечном временном отрезке, то «альтруизм» становится рациональным выбором для выживания внутри группы, что, по мнению Риш, фундаментально созвучно с этикой буддизма.

По мнению эксперта, именно осознание того, что мы являемся лишь частицами в иерархии более крупных динамических систем, может помочь в решении сложных этических дилемм, с которыми столкнется человечество при развитии ИИ.