# Илон Маск о будущем Tesla: безопасность ИИ, 500 000 машин и конец эпохи водителей

Источник: https://www.youtube.com/watch?v=dEv99vxKjVI
Канал: Lex Fridman
Опубликовано: 12.04.2019

---

Илон Маск в 2014 году начал оснащать автомобили Tesla оборудованием для автономного вождения. Он утверждает, что беспилотный автомобиль стоит в пять-десять раз больше обычного транспортного средства [03:40]. По прогнозу предпринимателя, в ближайшие пять-десять лет машины без функций автономии станут такими же редкими и непрактичными, как лошади [03:13].

## 🛰️ Визуализация реальности и интерфейс здоровья
[[JUMP:04:05]]

Экран внутри Tesla выполняет функцию «проверки здоровья» (health check) системы восприятия автомобиля [04:22]. Бортовой компьютер собирает данные с восьми внешних камер, радара, 12 ультразвуковых датчиков и GPS [07:51]. Система переводит эту информацию в векторное пространство, определяя дорожную разметку, светофоры и другие объекты [04:37].

Илон Маск использует в своей машине специальную версию ПО с двумя режимами отладки:

*   **Augmented vision**: отрисовка рамок и меток вокруг распознанных объектов поверх видеопотока [06:00].
*   **Visualizer**: чистое векторное представление мира, объединяющее данные всех сенсоров [06:15].

Обычным пользователям не показывают уровни неопределенности или вероятности распознавания образов. По мнению гостя, избыточная техническая информация превратится для большинства людей в «бессмыслицу» [06:55]. Текущий интерфейс оптимизирован так, чтобы водитель мог быстро подтвердить: машина видит то же самое, что и человек за окном.

## 🧠 Превосходство данных и архитектура FSD
[[JUMP:07:11]]

Tesla обладает доступом к 99% всех мировых данных для обучения автопилота [08:24]. По оценке предпринимателя, на дорогах находится около **500 000** автомобилей компании с полным набором сенсоров [08:09]. Для сравнения гость предполагает, что у всех остальных производителей вместе взятых количество таких машин не превышает 5 000 [08:24].

Разработка собственного компьютера **Full Self-Driving (FSD)** заняла три года. Новое железо Tesla обеспечивает на порядок выше производительность, чем системы NVIDIA, которые использовались ранее [08:53]. Основные характеристики вычислительного блока:

*   **Полная избыточность**: система состоит из двух независимых компьютеров (System on a Chip) на одной плате [09:20].
*   **Безопасность**: выход из строя одного чипа не мешает автомобилю продолжать движение [09:47].
*   **Запас мощности**: камеры работают с полной частотой кадров и разрешением без обрезки изображений [09:07].

## 🛣️ Обучение на ошибках и крайние случаи
[[JUMP:10:27]]

Илон Маск рассматривает любое вмешательство водителя в управление как признак ошибки системы [12:07]. Каждое отключение автопилота служит триггером: инженеры анализируют, было ли это вызвано удобством или некорректной работой алгоритма [11:12]. Система обучается находить оптимальные траектории (сплайны) для проезда сложных перекрестков, анализируя тысячи успешных поездок без вмешательства человека [11:27].

Функция **Navigate on Autopilot** позволяет машине самостоятельно совершать обгоны медленных транспортных средств и съезжать с шоссе [13:24]. В тестовых сборках, которые использует сам предприниматель, автомобили уже умеют полностью останавливаться и возобновлять движение на светофорах [13:50]. Гость подчеркивает: оборудование текущих моделей Tesla уже готово к полной автономии, а прогресс зависит только от доработки софта [14:56].

## ⚖️ Статистическая безопасность против человеческой психологии
[[JUMP:17:08]]

Для получения регуляторного одобрения автопилот должен доказать свою безопасность статистически. По мнению Илона Маска, системе нужно быть на **200–300%** безопаснее человека [19:23]. Основными метриками выступают количество аварий и травм на милю пробега, так как смертельных случаев недостаточно для репрезентативности [18:58].

Лекс Фридман представил результаты исследования MIT, основанного на анализе **18 900** случаев отключения автопилота [21:08]. Исследование показывает: водители сохраняют «функциональную бдительность» и способны вовремя взять управление на себя [20:55]. Илон Маск считает эти данные второстепенными, так как софт развивается экспоненциально [24:20].

Предприниматель приводит аналогию с лифтами:

1.  Раньше лифтами управляли операторы с рычагами.
2.  Сейчас автоматические лифты безопаснее и эффективнее.
3.  Наличие человека с рычагом в современном лифте только повысило бы риск аварии [22:45].

## 🛡️ Защита от взлома и будущее интеллекта
[[JUMP:26:50]]

Атаки на нейросети через незначительные искажения входных данных (adversarial examples) гость считает решаемой проблемой. Поскольку нейросеть — это «набор матричных вычислений», систему можно обучить распознаванию попыток подмены [27:31]. Подход заключается в «негативном распознавании»: обучении алгоритма четко отличать, что точно не является автомобилем [28:12].

Разделяя узкий ИИ и **общий искусственный интеллект (AGI)**, Илон Маск отмечает:

*   Текущие алгоритмы Tesla — это высококлассные узкоспециализированные системы («лучший в мире тостер») [29:41].
*   Для создания AGI человечеству не хватает нескольких ключевых идей [28:55].
*   Появление общего интеллекта может произойти внезапно и очень скоро [29:08].

С точки зрения физики, если ИИ сможет убедить человека в том, что он его любит, и это будет неотличимо от человеческих чувств, то такая любовь будет считаться реальной [30:57]. В конце беседы гость допустил, что наш мир может быть симуляцией, которую невозможно проверить существующими тестами [31:26].