# Стивен Вольфрам: «Нейросети должны опираться на код цивилизации»

Источник: https://www.youtube.com/watch?v=L7MiE1zO5PI
Канал: Lex Fridman
Опубликовано: 21.04.2020

---

В беседе с популяризатором науки Лексом Фридманом выдающийся физик и математик Стивен Вольфрам раскрывает фундаментальную философию и архитектурные принципы созданной им экосистемы Wolfram Language. В отличие от традиционных языков программирования, нацеленных на управление машинными инструкциями, подход Вольфрама стремится перевести все накопленные знания человеческой цивилизации в строго вычислимую форму. Этот диалог превращается в глубокое философское исследование природы интеллекта, этики ИИ, вычислительных контрактов и долгосрочной эволюции компьютерных абстракций.

## 🔮 Символьный подход: В чём коренное отличие Wolfram Language от традиционного программирования
[[JUMP:0:01]]

В традиционном понимании программирование представляет собой набор низкоуровневых или высокоуровневых инструкций, жестко привязанных к внутренним операциям компьютера. Как объясняет Стивен Вольфрам, такие популярные языки, как Python, оперируют структурами данных, которые изначально понятны процессору. Однако Wolfram Language строится на принципиально иной концепции — это символьный язык абстракций, способный описывать объекты реального мира или умозрительные конструкции без обязательного предварительного объявления переменных.

В экосистеме Wolfram Language переменная $X$ не вызывает ошибку неопределенности; она остается самостоятельным символом, который в процессе трансформации может быть ассоциирован с городом Бостоном или траекторией космического аппарата. Корни этого подхода лежат в физическом бэкграунде ученого. Разрабатывая в конце 1970-х годов систему SMP (предшественницу Wolfram Language), Стивен Вольфрам опирался на методы теоретической физики, стремясь найти фундаментальные компоненты вычислений. В итоге он пришел к идее, что базовым элементом программирования должны стать правила преобразования (transformation rules) символьных выражений. На основе этой парадигмы в 1988 году была выпущена система Mathematica, ставшая первым масштабным практическим воплощением Wolfram Language для сложных технических расчетов.

## 🛠️ Анатомия системы: 6000 функций и интеграция машинного обучения
[[JUMP:3:11]]

На сегодняшний день Wolfram Language является, по утверждению его создателя, самым высокоуровневым языком программирования в мире. Его ядро содержит около 6000 примитивных функций, покрывающих колоссальный спектр областей знания — от дискретных вейвлетов до визуального интерфейса. В процессе интервью Стивен Вольфрам демонстрирует Лексу Фридману работу системы в реальном времени, выбирая случайные примеры функций, такие как `BooleanConvert`, `DiscreteWaveletData` или системный элемент `DollarRequest`.

Особое место в современной архитектуре языка занимает гибридный подход, совмещающий строгие алгоритмы со статистическим машинным обучением. Встроенная функция `ImageIdentify` позволяет мгновенно распознавать объекты через веб-камеру. Во время шуточного теста алгоритм сначала выдает неожиданные результаты, оценивая вероятность того, что в кадре находится примат (гоминид), всего в 8%, а вероятность сантехнического плунжера — в 7%. Однако при смене ракурса нейросеть безошибочно определяет человека с вероятностью 89%.

Помимо обработки изображений, язык содержит встроенные геопространственные базы данных. С помощью связки функций `GeoNearest` и `GeoListPlot` Вольфрам за несколько секунд находит и отображает на карте 10 ближайших к текущей геолокации вулканов. Подобная интеграция мировых данных непосредственно в код, по словам создателя, радикально меняет само представление о возможностях языка программирования.

## 🧠 Эволюция искусственного интеллекта: Почему экспертные системы прошлого уступили место вычислениям знания
[[JUMP:7:50]]

Обсуждая историю развития искусственного интеллекта, Лекс Фридман отмечает, что в 1980-е и 1990-е годы индустрия возлагала большие надежды на так называемые «экспертные системы», которые в итоге не оправдали себя. Стивен Вольфрам полагает, что те попытки были слишком скромными и узкоспециализированными. По его мнению, невозможно построить качественное понимание естественного языка (Natural Language Understanding, NLU) в изолированной предметной области, например, в рамках простейшего «мира кубиков». Парадоксально, но задачу понимания языка проще решить целиком, предоставив системе доступ ко всем широким знаниям о мире, чем пытаться автоматизировать отдельный фрагмент.

Вольфрам проводит историческую аналогию с развитием человеческой цивилизации. Триста лет назад считалось, что познать мир можно исключительно чистым разумом. Затем появилась математическая наука, позволившая описывать процессы уравнениями, а сегодня человечество использует вычисления. Современный тренд на глубокое машинное обучение (Deep Learning) пытается заставить нейросети учить всё с нуля, игнорируя накопленные цивилизацией алгоритмы и каталогизированные факты. Подход Wolfram Language принципиально иной:

* Сохранить и закодировать в вычислимой форме уже верифицированные знания человечества (географические атласы, физические законы, биологическую систематику).
* Использовать статистическое машинное обучение (модели вроде BERT и современные трансформеры) как вспомогательный инструмент там, где символьная логика неэффективна (например, при первичном распознавании образов).

В экосистеме четко разделяются два процесса:

1.  Natural Language Processing (NLP) — извлечение сущностей (например, названий городов) из неструктурированного текста с помощью нейросетевых моделей.
2.  Natural Language Understanding (NLU) — перевод пользовательского запроса в точную вычислимую форму Wolfram Language.

Этот непрерывный цикл взаимодействия между машинным обучением и строгими символьными вычислениями позволяет постоянно улучшать обе системы.

## 🏛️ Парадокс распространения идей: Когерентное лидерство против открытого кода
[[JUMP:14:05]]

Лекс Фридман выражает удивление тем фактом, что Wolfram Language, обладая столь мощным гибридным потенциалом, до сих пор не стал повсеместным стандартом в индустрии разработки. Стивен Вольфрам связывает это со сложной динамикой поглощения новых идей человеческим обществом, на которую влияют социальные сети, эго ученых и личные особенности создателей. На самом высоком уровне научно-исследовательских разработок (R&D) доля использования Wolfram Language колоссальна, однако она медленно проникает в среду рядовых программистов, привыкших к рутинному написанию шаблонного кода.

Вольфрам признает долю личной ответственности за этот разрыв: его частная компания всегда фокусировалась на создании безупречной «технической башни» и совершенствовании продукта, а не на агрессивном коммерческом маркетинге. Отвечая на вопрос о возможности перехода на популярную модель Open Source (по аналогии с GitHub), гость подчеркивает, что для его проекта это неприменимо:

* Создание монолитной, внутренне согласованной базы знаний требует жесткого централизованного руководства (leadership) и долгосрочного сохранения единого видения.
* Распределенное сообщество волонтеров способно создавать разрозненные библиотеки, но не способно поддерживать целостность и высочайшее качество огромной взаимосвязанной системы знаний.

Тем не менее компания предпринимает шаги для демократизации доступа: создана бесплатная версия Wolfram Engine для разработчиков, а академические лицензии делают систему фактически бесплатной для студентов и сотрудников большинства крупнейших университетов США.

## 📚 Оцифровка цивилизации: Как создавалась Wolfram Knowledgebase
[[JUMP:18:35]]

Публичным фасадом экосистемы стал бесплатный веб-сервис Wolfram Alpha, предназначенный для ответов на вопросы на естественном языке путем генерации структурированных отчетов. Система преобразует пользовательский запрос в код Wolfram Language и обращается к гигантской базе знаний — Wolfram Knowledgebase, куда ежесекундно поступают новые данные со всего мира.

Идея оцифровки всех знаний человечества зародилась у Вольфрама еще в детстве, но долгое время казалась невыполнимой инженерной задачей. Он полагал, что для этого потребуется сначала решить фундаментальную проблему общего искусственного интеллекта (AGI). Переломным моментом стало создание его масштабного научного труда *A New Kind of Science* («Новый вид науки») и формулирование Принципа вычислительной эквивалентности. Этот принцип постулирует отсутствие четкой границы между сложным человеческим интеллектом и базовыми вычислениями, что дало ученому интеллектуальную смелость начать проект.

На старте Вольфрам привел команду в огромную справочную библиотеку и поставил задачу: впитать всё, что здесь находится, за пару лет. Несмотря на утопичность формулировки, проект удался благодаря осознанию того, что накопленные знания человечества конечны. Методология строилась не на поиске абстрактной метатеории, а на последовательной интеграции сотен отдельных предметных областей при поддержке ведущих экспертов.

Историческим анекдотом стала демонстрация Wolfram Alpha одному из отцов-основателей ИИ Марвину Минскому за несколько недель до официального релиза. Изначально настроенный скептически, Минский тестировал систему случайными запросами из области медицины, химии и астрономии, после чего, по словам Вольфрама, признал: «О боже, это действительно работает». Вольфрам отмечает, что преодолевать кажущиеся невозможными барьеры ему помогает предельный оптимизм, в чем он видит свое сходство с Илоном Маском. При этом он признает личный вызов — не утонуть в поддержке старых масштабных проектов, учитывая, что сейчас он параллельно увлекся разработкой фундаментальной теории физики.

## 📜 Вычислительные контракты и этические модули: Программирование общества будущего
[[JUMP:27:29]]

Сравнивая свою стратегию с философией Google, Стивен Вольфрам указывает на принципиальное различие: Google стремится сделать информацию доступной и находимой, но не ставит целью ее глубинное понимание. Одним из наиболее перспективных направлений развития Wolfram Language сегодня является создание вычислительных контрактов (computational contracts). Речь идет о переводе сложного юридического языка (legalese) в точный машинный код, способный автоматически исполняться без участия адвокатов и судов. Например, такие контракты могут жестко кодировать инструкции для беспилотных автомобилей при возникновении этических дилемм на дороге на основе биологической классификации объектов.

Вольфрам активно привлекается к анализу алгоритмов автоматического отбора контента в крупнейших социальных сетях (Facebook, Twitter, Google). По его мнению, создание единого, тоталитарного «этического модуля ИИ» для всего человечества стало бы катастрофой для нашего вида. Вместо этого Вольфрам предлагает рыночную модель этических систем ИИ:

* Пользователи должны иметь возможность самостоятельно выбирать ИИ-платформы с определенным «этическим брендом» (например, консервативным, либеральным, либертарианским или объективистским).
* Индивидуальный выбор этического фильтра для личного контента не нарушает общественные границы и позволяет избежать цифрового тоталитаризма.

Концепция вычислительных контрактов тесно переплетается с развитием блокчейна и смарт-контрактов в криптовалютах. Примечательно, что еще в XVII веке немецкий мыслитель Готфрид Лейбниц мечтал о создании универсального языка, способного разрешать любые человеческие споры путем вычислений. Однако его технологический предел — медный механический калькулятор — не позволил реализовать задуманное. Спустя более чем 300 лет Стивен Вольфрам считает эту задачу вполне реализуемой в рамках разработанного им языка символьного дискурса.

## 🌌 Язык символьного дискурса: На пути к истинному тесту Тьюринга
[[JUMP:36:05]]

Язык символьного дискурса (symbolic discourse language) призван формализовать не только строгие научные факты или законы, но и базовые проявления человеческого бытия и здравого смысла. Обыденная фраза «я проголодался и хочу поесть ягод» пока не имеет полноценного отражения в Wolfram Language. И хотя система знает всё о калорийности и ботанической классификации черники или малины, сам концепт интенции (желания) человека еще предстоит закодировать для ведения полноценного диалога.

В завершение беседы Лекс Фридман задает вопрос, является ли такой подход ключом к прохождению знаменитого теста Тьюринга. По мнению Вольфрама, стандартный тест Тьюринга оценивает лишь способность машины имитировать поверхностное человеческое поведение. API Wolfram Alpha, подключенный к чат-ботам, мгновенно выдает их нечеловеческую природу, поскольку безошибочно отвечает на глубокие энциклопедические вопросы, что не свойственно обычному человеку. Тем не менее экосистема Wolfram Language реализует подлинную, глубинную интенцию Алана Тьюринга. Перед смертью Тьюринг размышлял над возможностью перевода Британской энциклопедии в вычислимую форму, но переоценил техническую сложность этой задачи из-за отсутствия современных слоев абстракции, которые команде Вольфрама удалось успешно выстроить.