Утром 5 мая 2021 года Стивен Хендриксон направлялся на работу на своем автомобиле Tesla Model 3, двигаясь по шоссе в городе Фонтана, штат Калифорния, в режиме автопилота. Около 2:30 ночи машина на полной скорости врезалась в перевернувшийся на дороге грузовик с полуприцепом, в результате чего 35-летний мужчина погиб. Данный инцидент стал частью масштабного расследования, проведенного изданием The Wall Street Journal на основе скрытых от общественности данных, которые указывают на системные проблемы в технологиях автономного вождения Tesla.
📊 Скрытая статистика: масштабы аварий Tesla 2:13
Авария Стивена Хендриксона — лишь один из более чем тысячи случаев, о которых компания Tesla отчиталась перед федеральными регуляторами из Национального управления безопасностью движения на трассах США (NHTSA) с 2021 года. Долгое время эти данные оставались недоступными для широкой публики, поскольку Tesla заявляла об их конфиденциальности и защите коммерческой тайны. Чтобы обойти это ограничение, журналисты The Wall Street Journal собрали отчеты об авариях на уровне отдельных штатов и сопоставили их с федеральной базой данных NHTSA.
Из более чем 1000 инцидентов журналистам удалось детально проанализировать 222 аварии. Анализ выявил две основные закономерности в поведении автопилота:
- В 44 случаях автомобили Tesla под управлением автопилота совершали внезапный и резкий уход с траектории движения.
- В 31 случае система не смогла затормозить или уступить дорогу препятствию, находившемуся прямо перед автомобилем.
Примеры таких сбоев зафиксированы по всей стране. Так, в Орландо, штат Флорида, Model 3 врезалась в припаркованный полицейский автомобиль, оформлявший другое ДТП. В округе Гуадалупе, штат Техас, машина на автопилоте пролетела через перекресток и вылетела с дороги. Как отмечает издание, именно аварии, связанные с отказом системы затормозить перед препятствием, приводят к наиболее тяжелым травмам и смертельным исходам.
В ответ на обвинения представители Tesla заявляют, что водители обязаны постоянно контролировать ситуацию и быть готовыми перехватить управление. По утверждению компании, в случае с Хендриксоном система 19 times предупреждала водителя о необходимости держать руки на руле, а перед самым ударом автомобиль все же активировал торможение.
👁️ Проблема «чистого зрения»: почему камеры дают сбой 4:11
Главный исполнительный директор Tesla Илон Маск на протяжении многих лет публично защищает безопасность технологии. По его мнению, в долгосрочной перспективе автопилот способен снизить аварийность в 10 раз и спасти миллионы жизней. Маск неоднократно заявлял, что безопасность на милю пути у Tesla значительно выше, чем при обычном управлении человеком.
Однако независимые эксперты видят фундаментальную ошибку в самой концепции построения системы. Tesla полагается исключительно на оптические камеры (компьютерное зрение), используя радар лишь в качестве вспомогательного элемента на некоторых моделях. Большинство конкурентов в индустрии беспилотного транспорта используют комбинацию из камер, радаров и лидаров (лазерных дальномеров). Илон Маск публично критиковал такой подход, назвав лидары «дорогими и ненужными датчиками», сравнив их с аппендиксом.
Привлеченные эксперты, проанализировавшие видеозапись аварии Хендриксона, указывают на уязвимость компьютерного зрения. Система Tesla не была обучена распознавать перевернутый двойной прицеп в ночных условиях. Габаритные огни грузовика находились в нетипичном положении, и алгоритм машинного обучения просто не понял, что перед ним находится объект. По словам специалистов, компьютерное зрение обучается на фиксированном наборе примеров, и если реальная ситуация выходит за рамки обучающей выборки, система теряется. Более того, вопреки расхожему мнению, автомобили Tesla не обучаются прямо во время езды — алгоритмы обновляются только тогда, когда сама компания решает выпустить переобученную версию нейросети.
🛠️ Ошибки разметки и раскалибровка датчиков 5:22
Специфику внутренней кухни Tesla раскрыл Джон Бернал, бывший специалист по аннотированию данных, уволенный из компании в 2022 году после публикации роликов со сбоями автопилота. В его обязанности входила ручная разметка видеопотока с камер: разметчики вручную указывали системе, где находится пешеход, машина, полоса движения или сигнал светофора, чтобы обучить нейросеть.
Автомобили Tesla оборудованы 8 камерами, три из которых смотрят вперед. Джон Бернал утверждает, что в процессе работы регулярно сталкивался с проблемой плохой калибровки оборудования:
- При прохождении объекта (например, грузовика) через сектора обзора разных камер его пространственное положение искажалось.
- На одной камере объект отображался корректно на земле, а на соседней — смещался на пару метров вперед-назад или вовсе «парил в воздухе».
По мнению Бернала, если камеры «видят» разные плоскости и не синхронизированы идеально, система сталкивается с критическими трудностями при идентификации препятствий.
Это подтверждают и технические данные. Журналистам удалось получить сырые логи бортового компьютера Tesla, попавшей в аналогичную аварию под Лос-Анджелесом в 2021 году. Логи показали, что при приближении к поврежденному пикапу одна из фронтальных камер зафиксировала препятствие, тогда как вторая его не распознала. В результате несогласованности данных автопилот не идентифицировал угрозу и въехал в пикап на полной скорости.
🔒 Закрытая экосистема данных и судебные перспективы 8:28
Для рядового владельца Tesla получить детальную информацию о причинах аварии практически невозможно. Компания декларирует, что предоставляет пользователям поминутную выписку данных в удобном формате, однако эти отчеты не содержат информации о том, какие именно решения принимал автопилот в критический момент. Как объясняет Сальвадор Диас, занимающийся восстановлением аварийных машин, полные логи хранятся в недрах бортового компьютера, и для их извлечения приходится прибегать к помощи специализированных хакеров.
Вдова погибшего водителя Джанель Хендриксон отмечает, что ее юристы больше года пытаются добиться от Tesla предоставления записей с камер и технических логов автомобиля, но компания затягивает процесс, ссылаясь на стадию сбора информации. При этом она подчеркивает, что ее муж абсолютно доверял автопилоту, считая, что технология позволяет ему меньше напрягаться во время ежедневных трехчасовых поездок на работу.
Ведущий эксперт по автономному вождению и бывший советник по безопасности NHTSA Мисси Каммингс заявляет, что к ней регулярно обращаются семьи погибших в автомобилях Tesla. По мнению Каммингс, у пользователей развивается ложное чувство безопасности и избыточное доверие к системе, которое подпитывается заявлениями руководства компании. Она убеждена, что концепция, при которой машина выполняет большую часть работы, но требует от водителя ежесекундной концентрации для предотвращения катастрофы, не имеет долгосрочной перспективы в автопроме.
Министерство юстиции США (DOJ) уже ведет расследование в отношении Tesla на предмет возможного введения потребителей в заблуждение посредством маркетинга автопилота. Tesla все обвинения отрицает. Судебный процесс по иску Джанель Хендриксон против автопроизводителя должен был начаться в 2025 году.
