# Автор Veritasium: «Этическая дилемма беспилотников — это отвлечение внимания»

Источник: https://www.youtube.com/watch?v=WBjY3QGNdAw
Канал: Veritasium
Опубликовано: 19.01.2017

---

На международной выставке потребительской электроники CES в Лас-Вегасе компания BMW продемонстрировала концепт-кар будущего, заставивший экспертов вновь задуматься о безопасности беспилотного транспорта. Ведущий популярного научно-популярного канала Veritasium лично протестировал инновационные технологии автономного управления и поднял глубокий философский вопрос о доверии к роботам на дороге. По его мнению, привычное обсуждение гипотетических аварийных сценариев лишь отвлекает общество от по-настоящему важного этического выбора, измеряемого тысячами спасенных жизней.

## 🚗 Технологии будущего на выставке CES
[[JUMP:0:00]]

Развитие технологий автономного вождения стремительно меняет привычные представления о взаимодействии человека и автомобиля. На выставке Consumer Electronic Show (CES) в Лас-Вегасе немецкий автопроизводитель BMW представил свой новый концепт-кар, предлагающий водителю уникальный опыт полностью бесконтактного управления. Внутри этого технологичного автомобиля вместо стандартной приборной панели реализована футуристическая голографическая система меню.

Принцип работы интерфейса устроен следующим образом:

* Проекционная система создает объемное изображение меню непосредственно в воздухе над центральной панелью.
* Специальная камера, встроенная в рулевую колонку, непрерывно отслеживает движения рук и с высокой точностью определяет положение пальцев пользователя.
* Интегрированные ультразвуковые динамики обеспечивают направленную тактильную обратную связь.

Когда электроника фиксирует, что палец человека находится в правильной точке виртуального меню, динамики посылают сфокусированный ультразвуковой импульс. В результате пользователь физически ощущает легкое жужжание в подушечке пальца, которое детально имитирует нажатие реальной физической кнопки.

## ⚖️ Дилемма вагонетки на дороге: этическое программирование
[[JUMP:0:53]]

Главный вопрос, который неизбежно возникает при тестировании подобных систем, заключается в том, в какой степени человек готов доверять искусственному интеллекту, управляющему транспортным средством. На текущем этапе технологического развития, когда машина движется самостоятельно, водитель все равно обязан непрерывно контролировать дорожную обстановку и оставаться готовым перехватить руль в любой момент. С юридической точки зрения, вся полнота ответственности за происходящее с автомобилем по-прежнему лежит исключительно на человеке.

Однако в ближайшие годы ситуация начнет коренным образом меняться: беспилотные системы будут брать на себя все больше функций и ответственности за обеспечение безопасности. Это заставляет инженеров и исследователей искать этические рамки для программирования алгоритмов беспилотников. Классическим примером в дискуссиях стал дорожный аналог «дилеммы вагонетки», когда искусственному интеллекту в критической ситуации приходится делать выбор между двумя плохими сценариями. Например, система должна мгновенно решить: совершить ли резкий маневр влево, протаранив внедорожник, или же уйти вправо, совершив наезд на мотоциклиста.

## 📊 Настоящая цена промедления: статистика аварийности
[[JUMP:1:34]]

Хотя человеческое воображение часто рисует сложные и маловероятные этические головоломки, реальная моральная проблема автономного транспорта лежит в плоскости пугающей статистики смертности на дорогах. По общедоступным данным, только в США ежегодно в дорожно-транспортных происшествиях погибает более 30 000 человек, а еще более 2 миллионов получают травмы различной степени тяжести. При этом в 94% всех столкновений первопричиной становится пресловутый человеческий фактор — ошибки водителей.

Согласно статистике за 2015 год, ровно половина всех смертельных исходов на дорогах была зафиксирована на скоростных автомагистралях. Из этого ведущий Veritasium делает вывод, что даже частичное внедрение беспилотных технологий (например, использование автопилота исключительно на шоссе) способно спасти тысячи человеческих жизней уже сегодня.

Ситуация усугубляется тем, что современные водители все чаще пренебрегают своими обязанностями, отвлекаясь от управления ради мобильных телефонов. Масштаб этой проблемы подтверждают официальные цифры:

* В 2014 году невнимательность за рулем привела как минимум к 3 000 погибших на дорогах США.
* За тот же период травмы из-за отвлеченного вождения получили более 430 000 человек.

По мнению автора канала, эта тенденция будет только ухудшаться, если человечество не передаст контроль автоматизированным системам.

## 🏢 Исторические параллели: от беспилотных лифтов до авиации
[[JUMP:2:26]]

Общественное недоверие к автоматизации и роботам не является чем-то уникальным для нашего времени. Ведущий Veritasium напоминает об историческом примере, когда аналогичное сопротивление вызывало появление автоматических лифтов, способных работать без участия лифтеров. В тот период пассажиры испытывали серьезный психологический дискомфорт, оставаясь в закрытой кабине без оператора-человека.

Чтобы успокоить публику и сделать процесс адаптации более комфортным, создателям автоматических лифтов пришлось пойти на определенные компромиссы:

* В кабинах начали устанавливать массивные красные кнопки экстренной остановки, возвращающие пассажирам чувство контроля.
* Лифты оснастили системой голосового оповещения, приятным и успокаивающим тоном уточняющей, на какой этаж желает проехать пассажир.

Несмотря на то, что автомобиль имеет значительно больше степеней свободы, чем лифт, движущийся по фиксированной вертикальной шахте, психологические параллели очевидны. Еще более убедительным примером автор считает современную авиацию. Исследования наглядно показывают, что самолеты, летящие в полностью автономном режиме под управлением автопилота, статистически гораздо безопаснее, чем в моменты, когда пилоты-люди берут штурвал в свои руки.

## 🛑 Ложная дискуссия: в чём главный моральный выбор?
[[JUMP:3:04]]

На основе приведенных фактов и исторических данных ведущий Veritasium формулирует свой главный тезис: споры об этическом поведении беспилотников в ничтожно малом проценте критических ситуаций — это опасное отвлечение внимания от фундаментальной проблемы. Общество тратит годы на обсуждение редких гипотетических сценариев, пока на дорогах каждый день продолжают гибнуть люди из-за глупых человеческих ошибок.

По убеждению автора видео, истинный моральный вызов заключается в следующем: чем дольше человечество откладывает массовый запуск автономных транспортных средств на дороги общего пользования, тем больше людей погибнет в предотвратимых авариях. Настоящий этический вопрос, который мы должны себе задать, звучит просто: почему мы не внедряем беспилотные автомобили быстрее? Завершая свой тест-драйв на выставке CES, блогер выражает надежду, что технологии автоматизации займут свое законное место на дорогах в самое ближайшее время.