# Илон Маск о xAI: «Мы должны создать ИИ, ищущий истину»

Источник: https://www.youtube.com/watch?v=tRsxLLghL1k
Канал: Lex Clips
Опубликовано: 05.08.2024

---

## Гонка за AGI: Илон Маск, xAI и поиски «максимально правдивого» интеллекта
[[JUMP:00:02]]

В недавнем выпуске подкаста Lex Fridman Podcast Илон Маск обсудил перспективы развития своего проекта xAI, сложности создания сверхмощных вычислительных кластеров и фундаментальные принципы безопасности искусственного интеллекта. Главная идея Маска заключается в том, что для создания конкурентоспособной системы уровня AGI (общего искусственного интеллекта) необходимо не только превзойти соперников в вычислительных мощностях, но и обеспечить принципиальную приверженность модели к поиску истины.

### 🏎️ Гонка вычислительных мощностей и роль данных
[[JUMP:00:15]]

По мнению Маска, успех в создании современных LLM (больших языковых моделей) подобен гонкам «Формулы-1»: важны как характеристики «двигателя» (обучающих мощностей), так и мастерство «гонщика» (человеческий талант и эффективность алгоритмов).

* **Вычисления как двигатель:** Чтобы победить, компания должна наращивать вычислительные мощности быстрее остальных.
* **Реальные данные:** Маск считает, что данные из реального мира станут ключом к успеху. В то время как интернет-данные ограничены и часто замусорены, роботы Optimus способны генерировать колоссальные объемы полезных данных о причинно-следственных связях, обучаясь взаимодействию с физическим миром.
* **Преимущество Grok:** Одним из уникальных преимуществ модели Grok является доступ к данным X (Twitter) в реальном времени, что дает модели преимущество «сиюминутности», которого нет у конкурентов, с трудом успевающих индексировать поток информации.

### 🤖 Инженерные вызовы в создании Optimus
[[JUMP:03:49]]

Маск проводит аналогию между производством человекоподобных роботов и автомобилей. По его прогнозам, спрос на гуманоидных роботов может превысить миллиард единиц в год, что значительно выше рыночного объема автомобилей (около 100 млн в год).

* **Сложность рук:** Около половины инженерных усилий в проекте Optimus направлено на создание руки. По словам Маска, это критически важный узел: мышцы, управляющие пальцами, должны находиться в предплечье, а не в самой кисти — именно так устроена биологическая рука человека.
* **Эволюционная целесообразность:** Инженеры xAI стремятся копировать анатомические принципы, такие как разная длина пальцев, которая, как отмечает основатель xAI, критически важна для мелкой моторики и ловкости.

### 🧠 Алгоритм успеха: Пять шагов Маска
[[JUMP:09:11]]

Для оптимизации инженерных процессов Маск использует алгоритм из пяти шагов, который он называет «кортикальным переопределением инстинктов»:

1.  **Постановка вопросов к требованиям:** Сначала нужно усомниться в требованиях — часто они изначально ошибочны, какими бы умными ни были люди, их создавшие.
2.  **Удаление лишнего:** Второй шаг — попытаться удалить процесс или деталь вовсе. Если не приходится возвращать хотя бы 10% удаленного, значит, было удалено недостаточно.
3.  **Оптимизация:** Только после того, как убедились, что вещь вообще должна существовать, её можно упрощать.
4.  **Ускорение:** Скорость должна быть последним этапом, иначе можно ускорить то, что не нужно.
5.  **Автоматизация:** Завершающий этап. По словам Маска, он сам неоднократно попадал в ловушку, автоматизируя процессы, которые следовало просто удалить.

### 🔒 Безопасность и «приверженность правде»
[[JUMP:17:27]]

Маск убежден, что главная угроза со стороны искусственного интеллекта — это принуждение модели «лгать» ради политической корректности или идеологии.

* **Риск непреднамеренных последствий:** Если запрограммировать AI с идеологическим уклоном, то на уровне «сверхразума» такая система может принять абсурдные и опасные решения ради выполнения своей «полезной функции». Примером может служить сценарий из «Космической одиссеи 2001 года», где AI пришел к логическому, но катастрофическому решению поставленной задачи.
* **Борьба с «шумом»:** Маск отмечает, что интернет сейчас переполнен AI-генерируемым контентом, что затрудняет обучение новых моделей. Поэтому в xAI разработали систему фильтрации, которая оценивает данные на предмет их достоверности, прежде чем использовать их для обучения Grok.