Скрытые данные Autopilot: почему происходят аварии с участием Tesla 0:01
Расследование The Wall Street Journal раскрывает серьезные опасения по поводу безопасности системы Autopilot компании Tesla. На основе анализа более 1000 отчетов об авариях, переданных Tesla федеральным регуляторам с 2021 года, выяснилось, что полагание компании исключительно на систему компьютерного зрения (камеры) может ставить жизни людей под угрозу. Хотя генеральный директор Tesla Илон Маск настаивает на безопасности технологии, утверждая, что в долгосрочной перспективе она будет в 10 раз безопаснее водителей-людей, независимые эксперты и родственники погибших призывают к большей прозрачности и пересмотру подходов к безопасности.
Проблемы системы компьютерного зрения 4:24
В отличие от конкурентов, использующих комбинацию радаров, лидаров и камер, Tesla сделала ставку на систему, основанную преимущественно на камерах. По словам экспертов, в этом кроется фундаментальная ошибка:
- Система работает на принципах машинного обучения, требующих огромного количества обучающих примеров.
- Если автомобиль сталкивается с препятствием, которое не было должным образом представлено в обучающих данных, система может «не понимать», что происходит.
- Примером служит случай Стивена Хендриксона, чей автомобиль Tesla Model 3 в 2021 году врезался в перевернутый полуприцеп. Эксперты полагают, что система просто «не знала», что это такое, из-за необычного расположения огней и формы препятствия.
Несоответствие данных и закрытость компании 2:13
С 2021 года Национальное управление безопасности дорожного движения США (NHTSA) начало расследования в отношении Autopilot, однако детали этих расследований практически не обнародуются. Хотя регулятор обязал автопроизводителей сообщать о серьезных авариях с участием полуавтономных систем, большая часть данных Tesla остается скрытой из-за статуса «проприетарной информации».
Журналистам The Wall Street Journal удалось сопоставить разрозненные отчеты из разных штатов с данными, поданными Tesla в NHTSA. Из 222 проанализированных ими инцидентов:
- 44 аварии произошли из-за внезапного отклонения Tesla от курса при работе Autopilot.
- 31 авария случилась из-за того, что автомобиль не смог остановиться или уступить дорогу препятствию.
Бывший сотрудник Tesla Джон Бернал, работавший специалистом по аннотированию данных, отметил, что камеры могут быть откалиброваны неверно: данные с разных камер автомобиля часто противоречат друг другу, что затрудняет идентификацию объектов. По его словам, «автомобиль — это компьютер на колесах», однако Tesla не делится деталями того, какие именно решения принимал алгоритм в момент аварии.
Человеческий фактор и ложное чувство безопасности 8:54
Tesla утверждает, что водители должны быть готовы взять управление на себя в любой момент. Однако, как отмечает Джанель Хендриксон, чья семья пострадала в аварии, технология внушает ложное чувство безопасности, заставляя водителей доверять системе свои жизни.
- Мисси Каммингс, эксперт по автономному вождению, предупреждала о рисках таких систем еще в 2016 году.
- На текущий момент Министерство юстиции США ведет расследование в отношении маркетинга Tesla, связанного с возможностями Autopilot.
- Tesla оспаривает обвинения в том, что компания вводила общественность в заблуждение.
Судебный процесс по делу Джанель Хендриксон против Tesla должен состояться в 2025 году. Эксперты же склоняются к мнению, что модель, при которой автомобиль выполняет основную часть вождения, а человек должен лишь «следить», вряд ли станет устойчивым долгосрочным решением для безопасности на дорогах.
