Путь к «Аугментированному интеллекту»: Ирина Риш о будущем AGI и динамических системах 0:00
Профессор Монреальского университета Ирина Риш — эксперт по искусственному интеллекту, чьи исследования лежат на стыке нейробиологии, теории динамических систем и машинного обучения. В беседе для канала Machine Learning Street Talk она поделилась своим видением «Святого Грааля» искусственного общего интеллекта (AGI), предложив взглянуть на развитие технологий не как на создание автономной «сущности», а как на способ расширения человеческих возможностей через «аугментированный» интеллект.
🤖 Аги против «Аугментированного интеллекта» 8:16
Основной тезис Риш заключается в смене фокуса с создания независимого «искусственного» агента на развитие «аугментированного» интеллекта (AI — где «A» означает Augmented, а не Artificial). Она утверждает, что мотивация создания автономного сверхразума часто носит абстрактный характер, в то время как цель помощи людям стать более счастливыми и эффективными выглядит для неё как более личная и понятная задача.
- Расширение способностей: Подобно тому, как человечество изобрело очки, слуховые аппараты и компьютеры для преодоления биологических ограничений, новые системы ИИ должны служить «цифровым продолжением» нашего сознания.
- Симбиоз: Будущее, по мнению профессора, лежит в симбиотических отношениях между человеком и технологией, где ИИ выступает в роли «ангела-хранителя».
- Критика антропоцентризма: Она скептически относится к идее создания AGI как «отдельного существа», считая, что существующий подход во многом вдохновлен научно-фантастическими клише, а не реальными потребностями человечества.
🧠 ИИ как сложная динамическая система 22:33
Ирина Риш подчеркивает фундаментальное различие между современными нейронными сетями и человеческим мозгом. Если текущие модели ИИ являются детерминированными функциями, ожидающими ввода данных для получения вывода, то мозг функционирует как непрерывная «сложная динамическая система», активная даже в отсутствие внешних стимулов.
- Проблема «внутри-наружу»: Ученый критикует экспериментальный подход в нейронауке, который фокусируется только на реакции на стимулы. Риш ссылается на работы Дзюнки Будзаки (The Brain Inside Out), аргументируя, что результат обработки данных в мозге в значительной степени определяется его скрытым состоянием.
- Отказ от классического бэкпропа: Риш отмечает, что популярность алгоритма обратного распространения ошибки (backpropagation) во многом объясняется «аппаратной лотереей» и удобством реализации, а не тем, что это единственно верный путь. Существуют недооцененные альтернативные подходы, которые могли бы быть более эффективными для масштабирования больших моделей.
🧬 Биология, «Злые раковые клетки» и буддизм 32:03
В дискуссии с Майклом Левиным Риш обсуждает концепцию самоорганизации живых систем. Она проводит интересную параллель между онкологией и проблемами согласования интересов в обществе.
- Раковые клетки как ошибка масштабирования: По словам Риш, раковая клетка — это клетка, которая «забыла» о своей принадлежности к организму и вернулась к примитивному состоянию выживания как единичного агента.
- Буддийский взгляд на ИИ: Она предлагает интерпретировать «правильное поведение» через призму изменения временного и пространственного масштаба целевой функции. Если смотреть на развитие системы на бесконечном временном отрезке, то «альтруизм» становится рациональным выбором для выживания внутри группы, что, по мнению Риш, фундаментально созвучно с этикой буддизма.
По мнению эксперта, именно осознание того, что мы являемся лишь частицами в иерархии более крупных динамических систем, может помочь в решении сложных этических дилемм, с которыми столкнется человечество при развитии ИИ.
