Гонка за AGI: Илон Маск, xAI и поиски «максимально правдивого» интеллекта 0:02
В недавнем выпуске подкаста Lex Fridman Podcast Илон Маск обсудил перспективы развития своего проекта xAI, сложности создания сверхмощных вычислительных кластеров и фундаментальные принципы безопасности искусственного интеллекта. Главная идея Маска заключается в том, что для создания конкурентоспособной системы уровня AGI (общего искусственного интеллекта) необходимо не только превзойти соперников в вычислительных мощностях, но и обеспечить принципиальную приверженность модели к поиску истины.
🏎️ Гонка вычислительных мощностей и роль данных 0:15
По мнению Маска, успех в создании современных LLM (больших языковых моделей) подобен гонкам «Формулы-1»: важны как характеристики «двигателя» (обучающих мощностей), так и мастерство «гонщика» (человеческий талант и эффективность алгоритмов).
- Вычисления как двигатель: Чтобы победить, компания должна наращивать вычислительные мощности быстрее остальных.
- Реальные данные: Маск считает, что данные из реального мира станут ключом к успеху. В то время как интернет-данные ограничены и часто замусорены, роботы Optimus способны генерировать колоссальные объемы полезных данных о причинно-следственных связях, обучаясь взаимодействию с физическим миром.
- Преимущество Grok: Одним из уникальных преимуществ модели Grok является доступ к данным X (Twitter) в реальном времени, что дает модели преимущество «сиюминутности», которого нет у конкурентов, с трудом успевающих индексировать поток информации.
🤖 Инженерные вызовы в создании Optimus 3:49
Маск проводит аналогию между производством человекоподобных роботов и автомобилей. По его прогнозам, спрос на гуманоидных роботов может превысить миллиард единиц в год, что значительно выше рыночного объема автомобилей (около 100 млн в год).
- Сложность рук: Около половины инженерных усилий в проекте Optimus направлено на создание руки. По словам Маска, это критически важный узел: мышцы, управляющие пальцами, должны находиться в предплечье, а не в самой кисти — именно так устроена биологическая рука человека.
- Эволюционная целесообразность: Инженеры xAI стремятся копировать анатомические принципы, такие как разная длина пальцев, которая, как отмечает основатель xAI, критически важна для мелкой моторики и ловкости.
🧠 Алгоритм успеха: Пять шагов Маска 9:11
Для оптимизации инженерных процессов Маск использует алгоритм из пяти шагов, который он называет «кортикальным переопределением инстинктов»:
- Постановка вопросов к требованиям: Сначала нужно усомниться в требованиях — часто они изначально ошибочны, какими бы умными ни были люди, их создавшие.
- Удаление лишнего: Второй шаг — попытаться удалить процесс или деталь вовсе. Если не приходится возвращать хотя бы 10% удаленного, значит, было удалено недостаточно.
- Оптимизация: Только после того, как убедились, что вещь вообще должна существовать, её можно упрощать.
- Ускорение: Скорость должна быть последним этапом, иначе можно ускорить то, что не нужно.
- Автоматизация: Завершающий этап. По словам Маска, он сам неоднократно попадал в ловушку, автоматизируя процессы, которые следовало просто удалить.
🔒 Безопасность и «приверженность правде» 17:27
Маск убежден, что главная угроза со стороны искусственного интеллекта — это принуждение модели «лгать» ради политической корректности или идеологии.
- Риск непреднамеренных последствий: Если запрограммировать AI с идеологическим уклоном, то на уровне «сверхразума» такая система может принять абсурдные и опасные решения ради выполнения своей «полезной функции». Примером может служить сценарий из «Космической одиссеи 2001 года», где AI пришел к логическому, но катастрофическому решению поставленной задачи.
- Борьба с «шумом»: Маск отмечает, что интернет сейчас переполнен AI-генерируемым контентом, что затрудняет обучение новых моделей. Поэтому в xAI разработали систему фильтрации, которая оценивает данные на предмет их достоверности, прежде чем использовать их для обучения Grok.
