Кейт Дарлинг: Этика отношений человека и робота

0:00

Робототехника сегодня перестает быть чисто инженерной дисциплиной и становится зеркалом человеческой натуры. Кейт Дарлинг, исследовательница из MIT, занимающаяся вопросами социальной робототехники, обсуждает с Лексом Фридманом, как люди проектируют свои чувства на неодушевленные машины, почему мы склонны к антропоморфизму и какие этические дилеммы возникают при взаимодействии с технологиями в повседневной жизни.

🤖 Роботы и наше восприятие 3:28

Исследования Дарлинг показывают, что люди склонны подсознательно относиться к роботам как к живым существам, даже прекрасно понимая их механическую природу. По мнению Дарлинг, текущая дискуссия об этике робототехники часто страдает от «fallacy» (ошибочного суждения): мы постоянно пытаемся сравнивать роботов с людьми, рассматривая их как прямую замену человеческому труду.

• Оценка уровня технологий: Дарлинг подчеркивает, что современные роботы не обладают интеллектом даже на уровне насекомых, поэтому опасения по поводу их «злых намерений» преждевременны.
• Антропоморфизм как инструмент: Это врожденная человеческая склонность приписывать неодушевленным объектам человеческие черты. Дарлинг отмечает, что более 85% владельцев роботов-пылесосов Roomba дают им имена, что говорит о глубокой эмоциональной связи.

🧠 Практика эмпатии и темная сторона взаимодействия 6:31

Один из главных философских вопросов подкаста — может ли насилие по отношению к роботу свидетельствовать о «зле» внутри самого человека?

• Тренировка эмпатии: Дарлинг считает эмпатию своего рода «мышцей», которую можно тренировать, в том числе через взаимодействие с роботами, не наделенными сознанием.
• Риски desensitization: Существует гипотеза, что жестокое обращение с роботами может притуплять чувствительность человека к насилию в реальной жизни, подобно опасениям вокруг жестоких видеоигр, хотя научные данные здесь пока неоднозначны.
• Дилемма «выплеска»: Лекс Фридман выдвигает контраргумент: возможно, иметь робота, на которого можно «выпустить пар», полезно, чтобы не переносить агрессию на живых людей.

🐾 Роботы как дополнение, а не замена 10:06

Дарлинг проводит интересные параллели с историей одомашнивания животных. Она считает, что опыт защиты прав животных — отличный прогноз того, как общество будет выстраивать отношения с роботами в будущем.

• Ожидания от роботов: Проблема заключается в том, что поп-культура и научная фантастика завышают ожидания пользователей. Люди хотят видеть «Рози из Джетсонов», а получают ограниченные технологические инструменты.
• Одиночество и связь: Оба собеседника сошлись во мнении, что люди глубоко одиноки, и роботы могут занять нишу, которую не способны заполнить другие люди или домашние питомцы. Роботы способны стать частью нашей жизни, не заменяя, а дополняя спектр человеческих отношений.

⚖️ Этический тупик и «Дилемма вагонетки» 24:43

При обсуждении автономного транспорта и «дилеммы вагонетки» Дарлинг замечает, что этот мысленный эксперимент часто интерпретируют неверно. Истинная его суть в том, что однозначного «правильного» решения не существует.

• Проблема алгоритмизации: Компании стараются избежать ответственности, и, по прогнозу Дарлинг, алгоритмы в автомобилях будут всегда программироваться так, чтобы максимально защищать владельца, так как никто не купит машину, запрограммированную пожертвовать им в критической ситуации.
• Прозрачность данных: С точки зрения права, Дарлинг видит систему интеллектуальной собственности (IP) в IT как «тупой инструмент», не приспособленный для программного обеспечения. Она поддерживает открытый исходный код (open source) как способ для разработчиков получить признание и ускорить прогресс.