# Tesla: почему данные Autopilot вызывают вопросы о безопасности

Источник: https://www.youtube.com/watch?v=mPUGh0qAqWA
Канал: The Wall Street Journal
Опубликовано: 13.12.2024

---

## Скрытые данные Autopilot: почему происходят аварии с участием Tesla
[[JUMP:00:01]]

Расследование The Wall Street Journal раскрывает серьезные опасения по поводу безопасности системы Autopilot компании Tesla. На основе анализа более 1000 отчетов об авариях, переданных Tesla федеральным регуляторам с 2021 года, выяснилось, что полагание компании исключительно на систему компьютерного зрения (камеры) может ставить жизни людей под угрозу. Хотя генеральный директор Tesla Илон Маск настаивает на безопасности технологии, утверждая, что в долгосрочной перспективе она будет в 10 раз безопаснее водителей-людей, независимые эксперты и родственники погибших призывают к большей прозрачности и пересмотру подходов к безопасности.

### Проблемы системы компьютерного зрения
[[JUMP:04:24]]

В отличие от конкурентов, использующих комбинацию радаров, лидаров и камер, Tesla сделала ставку на систему, основанную преимущественно на камерах. По словам экспертов, в этом кроется фундаментальная ошибка:

* Система работает на принципах машинного обучения, требующих огромного количества обучающих примеров.
* Если автомобиль сталкивается с препятствием, которое не было должным образом представлено в обучающих данных, система может «не понимать», что происходит.
* Примером служит случай Стивена Хендриксона, чей автомобиль Tesla Model 3 в 2021 году врезался в перевернутый полуприцеп. Эксперты полагают, что система просто «не знала», что это такое, из-за необычного расположения огней и формы препятствия.

### Несоответствие данных и закрытость компании
[[JUMP:02:13]]

С 2021 года Национальное управление безопасности дорожного движения США (NHTSA) начало расследования в отношении Autopilot, однако детали этих расследований практически не обнародуются. Хотя регулятор обязал автопроизводителей сообщать о серьезных авариях с участием полуавтономных систем, большая часть данных Tesla остается скрытой из-за статуса «проприетарной информации».

Журналистам The Wall Street Journal удалось сопоставить разрозненные отчеты из разных штатов с данными, поданными Tesla в NHTSA. Из 222 проанализированных ими инцидентов:

* 44 аварии произошли из-за внезапного отклонения Tesla от курса при работе Autopilot.
* 31 авария случилась из-за того, что автомобиль не смог остановиться или уступить дорогу препятствию.

Бывший сотрудник Tesla Джон Бернал, работавший специалистом по аннотированию данных, отметил, что камеры могут быть откалиброваны неверно: данные с разных камер автомобиля часто противоречат друг другу, что затрудняет идентификацию объектов. По его словам, «автомобиль — это компьютер на колесах», однако Tesla не делится деталями того, какие именно решения принимал алгоритм в момент аварии.

### Человеческий фактор и ложное чувство безопасности
[[JUMP:08:54]]

Tesla утверждает, что водители должны быть готовы взять управление на себя в любой момент. Однако, как отмечает Джанель Хендриксон, чья семья пострадала в аварии, технология внушает ложное чувство безопасности, заставляя водителей доверять системе свои жизни.

* Мисси Каммингс, эксперт по автономному вождению, предупреждала о рисках таких систем еще в 2016 году.
* На текущий момент Министерство юстиции США ведет расследование в отношении маркетинга Tesla, связанного с возможностями Autopilot.
* Tesla оспаривает обвинения в том, что компания вводила общественность в заблуждение.

Судебный процесс по делу Джанель Хендриксон против Tesla должен состояться в 2025 году. Эксперты же склоняются к мнению, что модель, при которой автомобиль выполняет основную часть вождения, а человек должен лишь «следить», вряд ли станет устойчивым долгосрочным решением для безопасности на дорогах.