# Эксперты о ИИ: «Мы должны выиграть гонку мудрости» Источник: https://www.youtube.com/watch?v=vQ2klZggh90 Канал: World Science Festival Опубликовано: 23.11.2019 --- ## Роботы, ИИ и будущее человечества: дискуссия о грани возможного [[JUMP:1:21]] Стремительное развитие искусственного интеллекта и робототехники ставит перед человечеством фундаментальные вопросы: где проходит граница между биологическим и синтетическим, что ждёт нас в эпоху «сверхразума» и способны ли мы сохранить человечность в мире, где технологии становятся частью нашей природы? На эти темы рассуждали эксперты в рамках дискуссии World Science Festival «Быть или не быть бионическим: бессмертие и сверхчеловечество». Участниками беседы стали профессор Колумбийского университета Ход Липсон, эксперт по взаимодействию человека и робота Венди Сю, философ и биоэтик Мэтью Ляо, режиссер виртуальной реальности Джессика Бриллхарт и физик Макс Тегмарк. ## 🤖 ИИ и физический мир: где мы находимся сейчас? [[JUMP:4:00]] Макс Тегмарк отметил, что за последние десятилетия человечество совершило огромный скачок в понимании работы мозга, что позволило создать мощные системы ИИ. * **Текущий статус:** Мы находимся на этапе «узкого ИИ», который превосходит людей в конкретных задачах: расчетах, играх и анализе баз данных. * **Прогноз:** По мнению большинства исследователей, создание «искусственного общего интеллекта» (AGI) — систем, способных выполнять любую интеллектуальную задачу на уровне человека, — вопрос нескольких десятилетий. Ход Липсон подчеркнул, что ключевым барьером для ИИ остается физический мир. Пока программное обеспечение развивается экспоненциально, робототехника и материаловедение отстают. По словам Липсона, если компьютер может быть «разумным», то робот, который физически взаимодействует с реальностью (ремонтирует технику, работает в сложных условиях), остается более сложной задачей. ## 🧠 Слияние человека и технологий: бионика и дополнения [[JUMP:11:04]] Мэтью Ляо выделил стремительное развитие технологий интерфейса «мозг-компьютер», таких как глубокая стимуляция мозга (DBS), которая уже используется для лечения болезни Паркинсона, эпилепсии и депрессии. * **Риски и этика:** Ляо предупреждает о серьезных этических проблемах. Например, как программировать моральный выбор в беспилотные автомобили в ситуациях, когда авария неизбежна? * **Проблема данных:** ИИ подвержен предвзятости; если обучать его на «грязных» данных, результаты (например, в судебных приговорах) будут дискриминационными. ## 🎭 Искусство, креативность и «эффект жуткой долины» [[JUMP:7:05]] Джессика Бриллхарт убеждена, что творчество больше не является эксклюзивной прерогативой человека. В своей работе с виртуальной реальностью она видит, как нейросети помогают переосмыслить восприятие реальности. Ход Липсон добавляет, что роботы уже способны создавать искусство — писать картины или придумывать новые формы цветов. Самым интересным для него является то, что ИИ способен «видеть» мир через спектры, недоступные человеческому глазу, что может привести к появлению принципиально нового типа «инопланетного» искусства. Однако, как отмечает Венди Сю, при попытке сделать роботов слишком похожими на людей мы сталкиваемся с феноменом «эффекта жуткой долины» (uncanny valley), вызывающим у людей отторжение и страх. ## ⚖️ Вопрос мудрости: победим ли мы в гонке технологий? [[JUMP:16:34]] Одной из главных тем стал вопрос контроля над потенциально опасным или «злым» ИИ. * **Позиция Макса Тегмарка:** Он считает, что мы должны выиграть «гонку мудрости» — скорость развития нашего понимания безопасности должна превышать скорость создания самой технологии. Тегмарк оптимистичен: он приводит в пример биологию, где ученые смогли договориться о запрете биологического оружия, сделав отрасль преимущественно созидательной. * **Стратегия безопасности:** Ход Липсон и Венди Сю указывают на важность «безопасного инжиниринга» — моделирования негативных сценариев и тестирования систем в игровых, контролируемых средах, чтобы предусмотреть последствия до их реального воплощения. ## ⏳ Бессмертие и цифровое копирование сознания [[JUMP:47:41]] Обсуждая продление жизни и потенциальную «загрузку» сознания, участники разделились в оценках. * **Техническая возможность:** Макс Тегмарк предполагает, что если мы поймем принципы обработки информации в мозге, создание цифровой копии станет вопросом времени. * **Философские сомнения:** Мэтью Ляо ставит вопрос: останется ли эта копия «вами» или это будет лишь ваша цифровая имитация, своего рода «зомби»? Он также задается вопросом, не лишит ли бессмертие человеческую жизнь необходимого драйва, который задают дедлайны и конечность времени. В финале дискуссии эксперты сошлись на том, что, несмотря на все риски и неравенство в доступе к технологиям, ИИ в долгосрочной перспективе может стать мощным инструментом демократизации возможностей, помогая людям во всем мире получать качественную диагностику здоровья и новые способы самореализации.