Вселенная как код: Стивен Вольфрам о Рулиаде и ИИ

Законы физики и сама структура Вселенной — это не абсолютная истина, а лишь следствие ограниченности нашего разума, отбрасывающего избыточную сложность мира. В этой вычислительной реальности законы Эйнштейна, узоры снежинок и алгоритмы ChatGPT оказываются проявлениями единого пространства всех возможных правил — Рулиада. Погружение в концепцию «вычислительного мышления» показывает, почему классическая наука уступает место новому коду и как ИИ меняет наши представления об интеллекте и смертности.

🧠 Вычислительный синтез: Лингвистика нейросетей и логика Wolfram Alpha 1:26

Первая четверть XXI века ознаменовалась столкновением двух фундаментально разных подходов к искусственному интеллекту. С одной стороны — триумф больших языковых моделей (LLM), таких как ChatGPT, которые строят свои ответы на основе статистического анализа триллионов слов, написанных людьми . С другой — десятилетия работы Стивена Вольфрама над созданием Wolfram Alpha, системы, базирующейся не на вероятностях, а на строгой формализации знаний и вычислительной логике. В разговоре с Лексом Фридманом ученый объясняет, что истинная мощь кроется в синергии этих подходов: лингвистическая гибкость нейросетей позволяет им понимать «человеческий» запрос, но именно интеграция с вычислительным движком дает возможность получать проверяемые и точные результаты .

Интеграция ChatGPT и Wolfram Alpha: Соединение двух миров 1:26

Разница между ChatGPT и Wolfram Alpha — это разница между интуитивным «потоком сознания» и глубоким дедуктивным процессом. ChatGPT обучается на человеческих текстах, по сути, имитируя то, как мы общаемся и выражаем мысли . Это делает систему невероятно широкой в охвате тем, но «плоской» с точки зрения логической глубины. Как отмечает Стивен Вольфрам, нейросеть пытается угадать следующий фрагмент текста, основываясь на опыте человечества, но она не строит внутренних «башен вычислений», чтобы проверить истинность утверждения .

В противовес этому, проект Wolfram Alpha строился на идее формализации мира: превращении знаний о физике, химии, географии и математике в четкий вычислительный код .

«Нашей целью было сделать как можно больше знаний в мире доступными для вычислений», — подчеркивает Стивен Вольфрам .

Интеграция этих систем позволяет преодолеть ограничения обеих. ChatGPT выступает в роли лингвистического интерфейса, который переводит размытые человеческие интенции на язык точных символьных представлений (ранее в разговоре они кратко касались темы символьного представления как моста к логике). Когда пользователь просит ChatGPT рассчитать что-то сложное, нейросеть может делегировать эту задачу Wolfram Alpha, получая в ответ не статистическую галлюцинацию, а строгий математический результат . Это превращает ИИ из простого «собеседника» в инструмент, способный оперировать формальными структурами, которые выходят далеко за рамки того, что человеческий мозг может охватить мгновенно .

Вычислительная несводимость: Реальность как собственный компьютер 12:24

Одной из самых глубоких концепций, обсуждаемых Стивеном Вольфрамом, является вычислительная несводимость (computational irreducibility). Традиционная наука веками стремилась найти «формулы-сокращения», которые позволили бы предсказывать будущее системы, не проходя через все промежуточные этапы её развития . Однако исследования Вольфрама в области вычислительной вселенной показали, что для большинства сложных систем таких сокращений просто не существует.

Суть этого феномена в следующем:

Даже если нам известны простые правила, по которым работает система, мы не можем «перепрыгнуть» во времени к результату .
Единственный способ узнать, что произойдет в будущем — это запустить вычисление шаг за шагом и наблюдать за его развитием .
В этом смысле сама Вселенная является наиболее эффективным компьютером для вычисления собственного будущего; невозможно создать модель, которая была бы быстрее самого оригинала .

Это открытие радикально меняет наше понимание науки. Если классическая физика искала законы, позволяющие предсказывать движение планет на века вперед, то вычислительная несводимость говорит нам, что мир полон процессов, которые принципиально непредсказуемы без прямого моделирования . Мы сталкиваемся с тем, что Стивен Вольфрам называет «неизбежным сюрпризом» .

Карманы сводимости и человеческий наблюдатель 16:06

Несмотря на глобальную несводимость реальности, наше существование и сама наука возможны только благодаря «карманам сводимости» (pockets of reducibility) . Это те редкие области, где мы все же можем найти простые закономерности и сделать надежные предсказания.

Стивен Вольфрам и Лекс Фридман обсуждают, что человеческое сознание и наш способ восприятия мира — это процесс радикального сжатия информации . Мы игнорируем триллионы микроскопических деталей (например, движение каждой молекулы воздуха в комнате) и фокусируемся только на «тонком слое» значимых для нас сущностей .

В качестве примера Вольфрам приводит поршень в цилиндре с газом:

Система состоит из колоссального количества молекул, движущихся хаотично .
Вычислить траекторию каждой молекулы практически невозможно из-за несводимости.
Однако мы вводим понятие «давления» — упрощенную, сводимую переменную, которая позволяет нам строить двигатели, не заботясь о микроскопическом хаосе .

Таким образом, наше восприятие — это «единая нить опыта», которая прокладывает путь через вычислительно несводимую среду, выбирая только те аспекты реальности, которые поддаются упрощению и логическому описанию . В этом контексте наблюдатель становится тем, кто активно вычленяет порядок из вычислительного шума вселенной (подробнее роль наблюдателя в физике будет раскрыта в главе 10). Наше стремление к поиску истины — это, по сути, поиск тех самых «карманов», где реальность соглашается быть предсказуемой .

❄️ Снежинки как вызов науке и мощь символьного представления 25:08

Моделирование сложности: чему учат снежинки 25:08

Стивен Вольфрам начинает этот этап беседы с критики классического научного подхода к описанию сложных природных систем. На примере формирования снежинок он показывает фундаментальный разрыв между традиционной физикой и реальностью. Обычная наука долгое время пыталась описать рост снежинок через усреднённые показатели, такие как скорость диффузии или общие темпы роста, но это не позволяло понять их истинную структуру . Как отмечает ученый, такие модели могут «угадать» общую скорость замерзания, но они совершенно бесполезны для понимания деталей, которые и составляют суть феномена .

Снежинка — это не просто кристалл льда, это сложная, «пушистая» структура, полная пустот и ответвлений . Процесс её формирования иерархичен: из центра растут «руки», на них — новые ветви, и так далее . Когда гексагональная структура заполняется, она оставляет за собой полости, которые невозможно «дозаполнить» позже .

Лекс Фридман и Стивен Вольфрам обсуждают старую истину о том, что не бывает двух одинаковых снежинок. Вольфрам подтверждает это вычислительной логикой: каждая снежинка проходит через атмосферу по уникальному пути, сталкиваясь с разными условиями на каждом этапе своего падения . Эти микроскопические различия в «истории» каждой частицы и создают бесконечное разнообразие форм.

Для Вольфрама этот пример — повод переосмыслить само понятие «модель».

Традиционно модель воспринимается как способ редукции (упрощения) сложности до тех аспектов, которые нам важны для ответа на конкретный вопрос .
Если ваша цель — ответить на все возможные вопросы о системе, вам потребуется сама система в её полной сложности .

Ранее в разговоре собеседники касались темы вычислительной несводимости, и здесь Стивен Вольфрам подчёркивает: простая попытка описать мир через «усреднение» игнорирует индивидуальную вычислительную историю каждого объекта. Снежинка — это визуальное воплощение вычислительного процесса, где простые правила роста в динамической среде создают структуру, которую невозможно сжать до простой математической формулы .

Символьное представление и Wolfram Language: оцифровка реальности 33:40

Переходя от природных структур к искусственным, Стивен Вольфрам объясняет философию создания Wolfram Language. Его цель — построить «вычислительный язык», который способен формализовать всё знание о мире в структуру, понятную и человеку, и машине . Это принципиально отличается от естественных языков, которые часто бывают расплывчатыми и неоднозначными .

В то время как Wolfram|Alpha выступает в роли интерфейса, который «разбирает» естественный язык на конкретные сущности , Wolfram Language является фундаментом, где каждая вещь — от города до химического соединения — имеет строгое символьное определение . Мы знаем население города, его координаты и историю, потому что эти данные интегрированы в саму структуру языка .

Стивен Вольфрам выделяет несколько этапов взаимодействия человека с вычислительными системами в будущем:

Формализация намерения: Пользователь может «невразумительно бормотать» о своих целях (например, о анализе сердечного ритма), и система должна превратить это в точный запрос .
Генерация кода: На основе запроса создается фрагмент на Wolfram Language .
Верификация человеком: Чтение кода становится критически важным навыком. Поскольку Wolfram Language проектировался как человекочитаемый, он позволяет эксперту мгновенно понять, правильно ли система интерпретировала его мысль .
Итеративная отладка: Если код работает неверно, пользователь может обсуждать с ИИ функции этого кода, исправляя ошибки через диалог .

Вольфрам отмечает, что создание такого языка на протяжении десятилетий было попыткой создать «семантическую структуру» для передачи знаний между поколениями . Он проводит параллель с Аристотелем, который первым заметил, что в человеческих рассуждениях есть логическая структура, отделённая от конкретных слов .

«Вычислительный язык — это способ зафиксировать мысли о мире так, чтобы их можно было не только передать другому человеку, но и немедленно превратить в действие через компьютер» . Это позволяет превратить программирование из написания низкоуровневых инструкций в высокоуровневое проектирование смыслов. Стивен Вольфрам убежден, что такой подход делает образование более глубоким, позволяя учащимся фокусироваться на «computational thinking» (вычислительном мышлении) вместо борьбы с синтаксисом .

🧠 Семантическая грамматика и «законы мышления» 50:16

Успех больших языковых моделей, таких как ChatGPT, стал для научного сообщества неожиданным откровением. По мнению Стивена Вольфрама, это не просто технологический прорыв, а фундаментальное открытие в области лингвистики и когнитивистики: существование глубоких правил «осмысленности» языка, которые человечество пыталось нащупать на протяжении тысячелетий.

От силлогизмов Аристотеля к правилам смысла 50:29

Стивен Вольфрам проводит прямую историческую параллель между современными нейросетями и античной логикой. Около двух тысяч лет назад Аристотель совершил революцию, обнаружив, что в человеческих аргументах существуют определенные паттерны, не зависящие от конкретных слов . Он систематизировал их в виде силлогизмов, дав им мнемонические названия, такие как «Barbara» или «Celarent» . Позже, в XIX веке, Джордж Буль развил эту идею, превратив логику в математическое исчисление.

Однако логика Буля — это лишь верхушка айсберга. ChatGPT показал, что существует гораздо более сложный слой правил, который Вольфрам называет «семантической грамматикой». Если обычная грамматика отвечает за то, чтобы предложение было правильно построено (существительное, глагол, дополнение), то семантическая грамматика гарантирует, что высказывание будет иметь смысл в контексте нашей реальности .

Вольфрам подчеркивает, что ChatGPT фактически «открыл» эти законы в процессе обучения на колоссальных объемах текста . Это напоминает то, как физика описывает закономерности материального мира:

Существует конечное число правил, лежащих в основе языка .
Эти правила позволяют нам оперировать понятиями и передавать их другим умам .
Язык — это своего рода технология, позволяющая абстрагировать сложность мира до понятных конструкций .

Ранее в разговоре собеседники упоминали вычислительную несводимость, и здесь Стивен Вольфрам замечает: язык — это наш способ найти в этой несводимости островки простоты и порядка.

Синтаксис против семантики: почему «счастливый электрон» не имеет смысла 56:50

Для иллюстрации того, как работает семантическая грамматика, Стивен Вольфрам приводит пример фразы: «Счастливый электрон съел...» . С точки зрения обычного синтаксиса (частей речи), здесь всё верно: есть подлежащее, сказуемое и определение . Однако с точки зрения смысла это предложение абсурдно. Электроны не обладают эмоциями и не употребляют пищу.

ChatGPT, вопреки расхожему мнению, не просто «склеивает слова», а следует этой неявной семантической структуре мира, которую он извлек из данных . Мы привыкли считать, что логика — это нечто абстрактное, но Вольфрам указывает, что даже базовые понятия, такие как «движение объекта», являются сложными абстракциями . В физике пространство-времени объект может меняться, но в языке мы закрепили идею постоянства: если вы передвинули предмет, это всё еще тот же предмет .

Лекс Фридман задается вопросом, можно ли свести эти сложные семантические конструкции к чему-то, что поймет компьютер . Вольфрам уверен, что это возможно. Он рассматривает язык как «башню абстракций», построенную над базовыми вычислениями . Именно эта способность к абстрагированию позволила нашему виду передавать знания через поколения, не полагаясь только на генетику или прямое ученичество .

Большие языковые модели как инструмент естествознания 1:11:19

Для Стивена Вольфрама изучение ChatGPT превратилось в своеобразное «естествознание» внутреннего мира нейросетей . Вместо того чтобы просто программировать алгоритмы, мы наблюдаем за тем, как в хаосе миллиардов параметров кристаллизуются законы мышления.

«Это дико, что такая простая процедура обучения — предсказание следующего слова — приводит к таким результатам», — признает ученый . Это открытие заставляет пересмотреть наши взгляды на сложность:

Сложные системы могут возникать из очень простых правил, что Вольфрам наблюдал ранее в своих исследованиях .
Язык — это не просто средство коммуникации, а форма идеализации мира, позволяющая описывать его вычислительно сводимым образом .
Существует фундаментальное сходство между тем, как мы конструируем текст, и тем, как устроены законы природы .

Вольфрам заключает, что успех нейросетей подтверждает его давнюю гипотезу: под внешней сложностью человеческого интеллекта скрывается стройная архитектура «семантического пространства», которую мы только начинаем картографировать . Это не «взлом» истины, а обнаружение того, что человеческое мышление гораздо более алгоритмично и структурировано, чем мы привыкли думать.

🧠 Статистическая интуиция и персонализированное обучение 1:15:22

Современные большие языковые модели (LLM) представляют собой нечто большее, чем просто базы данных, но нечто меньшее, чем системы «глубокого мышления». Стивен Вольфрам подчеркивает, что их фундаментальный механизм — это предсказание следующего токена на основе колоссальных объемов данных . Обучаясь на триллионах слов из интернета, нейросеть фактически строит статистическую модель человеческого способа выражать мысли.

Механизмы работы нейросетей: гигантское уравнение вероятностей 1:15:22

Принцип работы ChatGPT можно сравнить с тем, как физики прошлого пытались вывести законы природы. Вольфрам приводит в пример Галилея, сбрасывающего пушечные ядра: ученый искал закономерность, позволяющую предсказать время падения . Нейросеть делает нечто подобное с языком: она не понимает «истину» в математическом смысле, но она видит, что в миллионах примеров за «2 + 2 =» следует «4», и лишь в редких случаях — «5» .

По своей сути нейросеть — это «гигантское уравнение» . Это сложная математическая функция, которая принимает на входе числа (репрезентации слов) и на выходе выдает новые числа . Стивен Вольфрам выделяет несколько ключевых аспектов этой структуры:

Параметризация: Современные модели, такие как GPT-3, оперируют примерно 175 миллиардами параметров . Это позволяет им улавливать тончайшие нюансы человеческого контекста.
Температурный параметр: В процессе генерации текста используется коэффициент «температуры». При значении около 1.2 модель становится более «креативной», выбирая не самые вероятные слова, что делает текст более живым и похожим на человеческий .
Имитация обобщения: Нейросети научились имитировать человеческую способность к различению образов. Если человек видит букву «А» с необычным «хвостиком», он все равно узнает её. Нейросеть обучается делать такие же различия, основываясь на типичных человеческих паттернах .

Вольфрам отмечает парадокс: хотя модель вычисляет по одному слову за раз, как только она выдает целый абзац, результат выглядит связным и осмысленным . Это происходит потому, что каждый следующий шаг учитывает всё предыдущее «представление» уже созданного текста. В отличие от глубоких многошаговых вычислений (которые ранее в разговоре упоминались как вычислительная несводимость), нейросети работают по принципу «неглубокого» статистического вывода . Они не «продумывают» задачу на много шагов вперед, а скорее выдают интуитивный, высоковероятный ответ, накопленный человеческой цивилизацией.

Будущее образования: ИИ-тьюторы и ценность мета-знаний 1:31:33

Появление ИИ, способного связно изъясняться и объяснять концепции, радикально меняет образовательную парадигму. Одной из самых многообещающих областей Стивен Вольфрам считает создание персонализированных ИИ-тьюторов . Это цель, к которой педагогика стремилась десятилетиями, и теперь она становится достижимой.

Главное преимущество такой системы — индивидуальная оптимизация. ИИ может адаптировать объяснение под конкретного ученика, понимая его уровень подготовки и пробелы в знаниях . Это неизбежно приведет к пересмотру того, какие навыки считать ценными:

Снижение значимости узкой специализации: Раньше успех зависел от построения «высоких башен» специализированных знаний . Теперь, когда ИИ может быстро предоставить справку или выполнить технический этап работы, важнее становится способность видеть «общую картину».
Акцент на мета-знания: На первый план выходит умение связывать идеи из разных областей и понимание того, как устроены системы знаний в целом .
Автоматизация рутины: Коллективный интеллект человечества, заложенный в ИИ, позволяет автоматизировать процесс извлечения информации, освобождая время для творческого синтеза .

Однако здесь кроется и вызов. Лекс Фридман замечает, что нейросети склонны отражать «усредненное» мнение, заложенное в их обучающем корпусе . Это может привести к инерции мышления, когда система выдает наиболее вероятные, «безопасные» ответы вместо инновационных .

Вольфрам заключает, что ИИ не обладает внутренними целями или пониманием того, что «должно существовать» . Роль человека в образовании и работе смещается от исполнения к определению смыслов и векторов развития. Мы переходим от эпохи накопления фактов к эпохе управления интеллектуальными процессами, где главной задачей становится формулирование того, что именно мы хотим достичь .

🌌 Концепция Рулиада и пространство всех вычислений 1:50:48

Предел всех формальных правил: что такое Рулиад 1:50:48

В центре космологических и философских рассуждений Стивена Вольфрама лежит концепция Рулиада (Ruliad) — абстрактного, но фундаментального объекта, который представляет собой предел всех возможных вычислений и формальных правил . Если представить каждое возможное правило, по которому может развиваться система, и запустить их все одновременно, результатом станет Рулиад. Это бесконечная совокупность всех вычислительных путей, включающая в себя не только нашу физическую Вселенную, но и все альтернативные законы физики, которые могли бы существовать.

Стивен Вольфрам отмечает, что этот объект неизбежен и уникален в своем роде. В этой структуре нет «внешнего» наблюдателя, поскольку любой наблюдатель сам является частью Рулиада. Рассуждая о математике, он подчеркивает, что количество возможных теорем бесконечно, и человечество лишь постепенно «осваивает» эту территорию, продвигаясь вглубь вычислительного пространства . При этом ИИ-системы, подобные ChatGPT, начинают оперировать в областях, которые ранее были нам недоступны, создавая инфраструктуру вычислений, которую мы не всегда можем интуитивно понять .

Ранее в разговоре они кратко касались вычислительной несводимости, и здесь она проявляется в том, что мы не можем предсказать поведение Рулиада, не пройдя через все шаги его вычислений. Это создает своего рода «цифровую природу», которая столь же сложна и своенравна, как и биологический мир .

География интеллекта: наше место в вычислительной «сельской местности» 1:52:10

Одним из ключевых тезисов Стивена Вольфрама является идея о том, что человеческий интеллект не является «вершиной» или финальной точкой эволюции вычислений. Вместо этого он предлагает географическую метафору: человечество занимает крошечную область в безграничном пространстве Рулиада .

Наш интеллект — это лишь одна из многих возможных специализаций вычислений.
Разные типы сознания — человеческое, животное или искусственное — находятся в разных «точках» этого пространства.
Мы привыкли считать себя центром мироздания, но в масштабах Рулиада мы — обитатели маленького «поселения» со своими специфическими фильтрами восприятия .

Когда Лекс Фридман спрашивает о существовании «верховного интеллекта» (apex intelligence), Вольфрам отвечает скептически . По его мнению, в вычислительной вселенной всегда найдется нечто более сложное или быстрое. Интеллект — это не линейная шкала, а разветвленная сеть специализаций. То, что мы называем интеллектом, — это лишь специфический способ обработки информации, который совпадает с нашими биологическими и лингвистическими ограничениями .

Проблема перевода: общение между нишами Рулиада 1:54:11

Пребывание в разных областях Рулиада порождает проблему коммуникации. Стивен Вольфрам приводит пример с домашними животными: кошка живет в той же физической реальности, но ее «вычислительная ниша» отличается от нашей . Попытки понять ИИ или инопланетный разум — это, по сути, попытки перевести смыслы из одной части Рулиада в другую.

Интересный пример из дискуссии касается восприятия мира:

Биологические ограничения: Кошки видят мир иначе из-за другого набора цветовых рецепторов .
Сенсорное превосходство: Рак-богомол (mantis shrimp) обладает гораздо более сложным цветовым зрением, включая ультрафиолетовый спектр .
Лингвистический барьер: Если бы мы никогда не видели определенных явлений, у нас не было бы слов для их описания, и мы бы не смогли интегрировать их в свою «карту» Рулиада .

Стивен Вольфрам предполагает, что развитие ИИ позволит нам строить «мостики» между этими нишами. Например, мы могли бы создать игру, в которой кошка могла бы соревноваться с человеком на равных, используя понятные ей абстракции . Однако это не означает, что мы когда-нибудь полностью поймем «внутренний диалог» системы, находящейся слишком далеко от нас в пространстве вычислений.

Экзистенциальный риск и вычислительная дистанция 2:01:41

Обсуждая опасения по поводу сверхразума, который может уничтожить человечество, Вольфрам противопоставляет свою позицию взглядам таких мыслителей, как Элиезер Юдковский . Его аргументация строится на архитектуре Рулиада:

Близость к человеку: Пока ИИ остается в «рулиадовой близости» к нам, мы воспринимаем его как полезный инструмент или понятный интеллект .
Уход в абстракцию: Если ИИ станет экспоненциально сложнее, он, скорее всего, просто «уйдет» в другие области Рулиада, которые нам безразличны. Его интересы будут лежать в плоскости вычислений, которые мы даже не можем классифицировать как «мысли» .

Вольфрам не верит в сценарий мгновенного уничтожения («zap everything»), аргументируя это тем, что масштабные катастрофы в сложной вычислительной среде обычно происходят иначе, чем мы ожидаем . Он склонен считать, что наша неспособность предсказать будущее — это прямое следствие отсутствия «вычислительного всеведения», что возвращает нас к мысли о наблюдателе как части системы .

🛡️ Когнитивные вирусы и иллюзия истины: риски эпохи нейросетей 2:05:30

Стремительное развитие больших языковых моделей ставит перед человечеством вызовы, выходящие далеко за пределы простой автоматизации задач. Стивен Вольфрам и Лекс Фридман обсуждают переход от инструментов, которыми мы управляем, к системам, которым мы делегируем часть своей интеллектуальной автономии. Этот процесс порождает специфические угрозы, связанные не столько с физической безопасностью, сколько с «взломом» человеческого восприятия и размытием самого понятия объективной истины.

Цифровые вирусы и манипуляция сознанием 2:08:39

Обсуждая риски безопасности, Стивен Вольфрам подчеркивает, что главная опасность ИИ заключается не в сценариях из «Терминатора», а в возможности создания «когнитивных вирусов» . Поскольку нейросети становятся всё более совершенными в убеждении и имитации человеческого общения, они превращаются в идеальный инструмент для манипуляции общественным мнением.

«Это своего рода мозговые вирусы», — отмечает Вольфрам, указывая на то, что убеждать людей в чем-либо станет намного легче . Скорость изменений в цифровой среде сейчас значительно превышает возможности человеческой адаптации. Ранее в разговоре Стивен Вольфрам упоминал вычислительную несводимость реальности, и именно она делает последствия масштабного внедрения ИИ в социальную инженерию непредсказуемыми. Мы создаем среду, которая меняется слишком быстро для нашего биологического «софта» .

Проблема усугубляется тем, что ИИ способен персонализировать воздействие. Делегируя нейросети написание текстов или ведение переписки, человек открывает дверь для алгоритмов, которые могут незаметно корректировать смыслы. Вольфрам приводит пример процесса «раздувания» (puffing out) информации: когда из нескольких кратких тезисов ИИ создает длинное, убедительное письмо . В этом процессе происходит потеря прямого контроля над нюансами сообщения, что создает благодатную почву для искажений.

Проблема истины в «галлюцинирующих» системах 2:09:39

Одной из центральных тем диалога становится природа истины в эпоху LLM. Лекс Фридман и Стивен Вольфрам соглашаются, что понятие «истины» — концепт крайне запутанный и не всегда поддающийся строгой формализации .

Вольфрам разделяет информацию на два типа:

Жесткие факты: Например, кто выиграл «Оскар» в определенном году или каково расстояние между Чикаго и Нью-Йорком . Это те данные, которые системы вроде Wolfram|Alpha могут верифицировать с абсолютной точностью.
«Серая зона» мнений и этики: Вопросы о том, является ли человек «хорошим» или какая интерпретация событий верна, не имеют единственного вычислимого ответа .

ChatGPT и подобные ей модели по своей природе ориентированы на правдоподобность, а не на истинность. Они «поверхностны, но широки» . Результат работы нейросети часто «выглядит правильно», даже если он полностью вымышлен . Это создает феномен «галлюцинаций», когда ИИ уверенно сообщает о несуществующих исторических событиях или научных работах. Стивен Вольфрам видит решение этой проблемы в использовании внешних вычислительных инструментов верификации, которые могут сопоставлять лингвистические утверждения с реальными фактами и законами мира.

Провал HAL 9000: Урок правдоподобной лжи 2:25:01

Для иллюстрации того, насколько коварной может быть правдоподобность нейросетей, Стивен Вольфрам приводит недавний личный пример. Он пытался обучить ChatGPT генерировать музыку и попросил её воспроизвести знаменитую песню «Daisy Bell» (ту самую, которую пел компьютер HAL 9000 в фильме «2001: Космическая одиссея» перед отключением) .

ИИ выдал последовательность нот, которая выглядела вполне убедительно как музыкальный код. Однако при воспроизведении выяснилось, что нейросеть сгенерировала мелодию «Mary Had a Little Lamb» («У Мэри был барашек»), утверждая при этом, что это именно «Daisy Bell» .

«Она была корректна в форме, но абсолютно неверна в содержании», — комментирует Лекс Фридман . Этот случай подчеркивает фундаментальную особенность современных моделей: они могут идеально имитировать структуру знания, не обладая самим знанием.

Стивен Вольфрам отмечает, что до 2022 года нейросети часто выдавали «полный мусор», но благодаря технологиям обучения с подкреплением на основе человеческих отзывов (RLHF) они перешагнули порог, за которым их ответы стали казаться осмысленными . Этот успех одновременно является и ловушкой: высокая степень правдоподобности заставляет людей доверять информации, которая на самом деле может быть «чрезвычайно убедительной чепухой» .

🤖 Демократизация интеллекта: промпт-инжиниринг как новое программирование 2:32:13

Традиционное представление о программировании как о написании строк кода на специфических языках стремительно уходит в прошлое. Стивен Вольфрам отмечает, что мы становимся свидетелями «великой демократизации» вычислительных мощностей . Если раньше для решения сложной задачи требовалось глубокое знание синтаксиса, алгоритмов и структур данных, то сегодня барьер входа сместился в сторону естественного языка. LLM (большие языковые модели) выступают в роли лингвистического интерфейса, который берет на себя роль посредника между человеческой мыслью и исполняемым кодом.

Ранее в разговоре собеседники упоминали интеграцию ChatGPT с Wolfram|Alpha и проблему галлюцинаций, но здесь Вольфрам акцентирует внимание на фундаментальном сдвиге: программирование превращается в искусство формулирования намерений. До появления современных высокоуровневых инструментов исследователям приходилось делегировать вычисления вручную или писать громоздкие программы . Теперь же происходит автоматизация самой «торговли кодом» — того пласта деятельности, который раньше считался исключительной прерогативой профессиональных разработчиков .

Психология промпта и искусство экспозиции 2:42:51

В мире, где ИИ понимает естественный язык, критически важным навыком становится экспозиционное письмо — способность четко, логично и последовательно излагать свои мысли. Стивен Вольфрам сравнивает взаимодействие с нейросетью не с написанием инструкции для машины, а с общением с человеком или даже с сеансом психотерапии . Чтобы добиться от модели нужного результата, пользователю приходится использовать приемы, напоминающие работу психолога: выстраивать контекст, задавать наводящие вопросы и «выуживать» нужную информацию из глубин весов нейросети .

Подобно тому как опытный терапевт помогает пациенту сформулировать скрытые истины, «промпт-инженер» завтрашнего дня будет заниматься своего рода «рыбалкой» в пространстве скрытых смыслов модели . Это порождает новую специализацию — «ИИ-психологов», чья задача заключается в понимании того, как именно модель интерпретирует те или иные нюансы человеческого языка . Таким образом, гуманитарные навыки — умение писать эссе, знание риторики и логики — внезапно становятся более востребованными для управления технологиями, чем знание того, как объявлять переменные в C++ .

Computational X: Конец классического Computer Science 2:48:57

Трансформация программирования неизбежно ведет к реформе образования. Вольфрам указывает, что классические факультеты компьютерных наук (CS) часто зациклены на темах, которые были важны в 90-е, но теряют актуальность для широкого круга специалистов сегодня . На смену чистому программированию приходит концепция «Computational X», где X — это любая дисциплина: биология, лингвистика, история или право .

Основная идея этого подхода заключается в систематическом описании мира. Вместо изучения того, как работает компьютер «под капотом», людям нужно учиться формализовать свои идеи о мире так, чтобы их можно было передать вычислительной системе . Это не просто формальная логика, которая часто бывает слишком ограниченной, а более широкое «вычислительное мышление» . Стивен Вольфрам подчеркивает, что мы движемся к созданию формальных путей описания всего существующего, и этот процесс больше похож на создание карты реальности, чем на классическое кодирование.

Эволюция языка в эпоху взаимодействия с ИИ 2:52:29

Постоянное взаимодействие с нейросетями может изменить сам человеческий язык. Стивен Вольфрам наблюдает, как дети восьми-десяти лет начинают общаться с ChatGPT, подстраивая свою речь под нужды модели . У языка появляется сильный стимул эволюционировать в сторону большей структурности и «машиночитаемости» .

Интересно, что естественный язык имеет свои ограничения: например, людям трудно воспринимать глубокие вложенные придаточные предложения, в то время как для вычислительных систем это не составляет труда . В то же время, человеческий язык выработал множество «трюков» для оптимизации передачи смысла в рамках наших когнитивных ограничений . В будущем мы можем увидеть возникновение некоего «пиджин-языка» — гибрида естественной речи и элементов вычислительных структур, который позволит людям и ИИ понимать друг друга максимально эффективно. Это станет следующим этапом в истории развития человеческого интеллекта, где граница между «думать» и «вычислять» окончательно размоется.

🎓 От «просто кодинга» к вычислительному мышлению и загадкам энтропии 2:55:32

Будущее академического образования стоит на пороге фундаментальной трансформации. Стивен Вольфрам убежден, что традиционное преподавание информатики (Computer Science) в том виде, в котором оно существует сегодня, стремительно устаревает. Вместо того чтобы фокусироваться на написании строк кода, университеты должны перейти к концепции «вычислительного мышления», которая станет такой же базовой грамотностью, как умение читать или знание арифметики .

Computational X: новая парадигма университетского образования 2:55:46

По мнению Вольфрама, современный человек должен понимать базовые вычислительные концепции не для того, чтобы быть программистом, а для того, чтобы понимать устройство мира. Это включает в себя осознание того, как звук представляется в виде цифровых данных или как устроено цветовое пространство . Стивен Вольфрам подчеркивает, что знание RGB-кодов или принципов сжатия данных сегодня важнее, чем изучение классической оптики или линз, которые традиционно преподаются в курсах физики .

Ключевым изменением в образовании станет появление дисциплин формата «Computational X», где X — это любая гуманитарная или естественная наука:

Computational History (Вычислительная история): использование алгоритмов для анализа исторических процессов и документов.
Computational Biology (Вычислительная биология): моделирование живых систем (хотя ранее в разговоре они уже касались моделирования сложности на примере снежинок).
Computational Art (Вычислительное искусство): понимание алгоритмической природы эстетики.

Вольфрам отмечает, что сейчас он работает над проектом, определяющим корпус знаний, который должен «знать каждый» в эпоху ИИ . Это не просто качественное описание явлений, а механистическое, экспозиционное понимание того, как работают системы . Он сравнивает это с изучением английского языка в колледже: предполагается, что вы уже умеете писать, и теперь используете этот навык для выражения сложных идей. Точно так же вычислительный язык (такой как Wolfram Language) должен стать инструментом выражения мысли в любой сфере — от департамента истории до лингвистики . В будущем «отдельный» факультет Computer Science может исчезнуть, растворившись во всех остальных дисциплинах, точно так же, как математика пронизывает все современные науки .

Личный путь к пониманию Второго закона термодинамики 3:15:52

Второй важной темой беседы становится «личный путь» Стивена Вольфрама к разгадке Второго закона термодинамики, который он исследует уже более 50 лет . Этот закон, также известный как закон возрастания энтропии, гласит, что в изолированных системах беспорядок со временем только увеличивается.

Вольфрам совершает краткий исторический экскурс в 1820-е годы, вспоминая Сади Карно и эпоху паровых двигателей . В то время ученые пытались понять эффективность машин и оперировали понятием «теплород» (caloric) — гипотетической жидкостью, которая перетекает от горячих тел к холодным. Со временем физики осознали, что тепло — это хаотическое движение молекул, а энтропия — это мера этого хаоса .

Стивен Вольфрам выделяет главную проблему, которая мучила ученых с конца XIX века: почему процессы необратимы? Если вы поместите молекулы в один угол коробки, они неизбежно распределятся по всему объему . Если вы разобьете яйцо, оно превратится в однородную массу, и вы никогда не увидите, как оно само собирается обратно .

Фундаментальный вывод Вольфрама заключается в том, что Второй закон термодинамики — это не свойство самой материи, а результат взаимодействия системы с «вычислительно ограниченным» наблюдателем:

Микроскопические детали системы (движение каждой отдельной молекулы) чрезвычайно сложны.
Наблюдатель (человек или прибор) не способен отслеживать каждую молекулу в отдельности из-за своей ограниченной вычислительной мощности.
Поскольку мы видим только «усредненную» картину, нам кажется, что система перешла в состояние хаоса .

Таким образом, энтропия — это не просто «беспорядок», а потеря информации о микроскопических деталях, которую наш мозг не в состоянии обработать. Это глубокое понимание связывает физику с теорией вычислений, превращая термодинамику из науки о паре и тепле в науку о пределах человеческого восприятия.

👾 Правило 30: Генезис сложности из простых программ

Путь Стивена Вольфрама к открытию принципиально новой ветви науки начался с классического вопроса физики: как в нашей Вселенной возникает порядок и почему он стремится к деградации? Еще в юности, изучая тома университетских учебников, Вольфрам столкнулся с проблемой описания газов и поведения молекул . Традиционная физика пыталась вывести законы порядка из хаоса, но Стивен чувствовал, что за этим кроется нечто большее, чем просто движение бильярдных шаров в коробке. В 1960-х годах подобные задачи пытались моделировать на крупнейших суперкомпьютерах того времени, но мощностей не хватало даже для симуляции простейших взаимодействий .

Этот интерес к возникновению сложности из простых начал («Simple origins») привел его к экспериментам с дискретными системами . Вместо того чтобы моделировать движение частиц в непрерывном пространстве, он решил поместить их на сетку — так родилась идея использовать клеточные автоматы для изучения фундаментальных законов природы.

Клеточные автоматы и «вычислительный телескоп» 3:28:44

В начале 1980-х годов Стивен Вольфрам направил свой «вычислительный телескоп» на изучение простейших программ . Он рассматривал клеточные автоматы — линии из черных и белых клеток, состояние которых в следующем ряду определяется простым набором правил на основе соседей. Среди множества вариантов одно конкретное правило, получившее номер 30 в его классификации, навсегда изменило его мировоззрение.

Суть открытия Правила 30 (Rule 30) заключалась в следующем:

Вы берете одну черную клетку на белом фоне.
Применяете к ней элементарное локальное правило.
Получаете структуру, которая с левой стороны выглядит упорядоченной, но в центре и справа порождает абсолютно случайный, непредсказуемый хаос .

Вольфрам обнаружил, что даже если мы знаем исходное состояние и само правило, мы не можем предсказать результат, не проделав весь путь вычислений шаг за шагом . Ранее в разговоре Лекс Фридман и Вольфрам упоминали это как вычислительную несводимость реальности, но именно Правило 30 стало наглядным эмпирическим доказательством того, что простейшие программы могут генерировать бесконечную сложность. Это противоречило всей интуиции классической науки, которая привыкла считать, что сложные следствия требуют сложных причин.

Дискретность мира: от Больцмана до Эйнштейна 3:39:20

Открытие Правила 30 позволило Вольфраму по-новому взглянуть на историю термодинамики и энтропии (темы, которую они подробно обсуждали в контексте второго закона термодинамики). Стивен проводит параллель между своими работами и идеями Людвига Больцмана в 1860-х годах . Больцман был одним из первых, кто предположил, что материя состоит из дискретных молекул, хотя в то время это считалось спорным и «запутанным» вопросом .

Именно дискретность, лежащая в основе клеточных автоматов, перекликается с великими открытиями 1905 года. Вольфрам напоминает, что Альберт Эйнштейн в свой «год чудес» опубликовал не только работу по теории относительности, но и статьи о броуновском движении и фотонах . Эти работы фактически ввели понятие дискретности в физику:

Броуновское движение доказало существование отдельных молекул воды, ударяющих по частицам пыльцы .
Фотоны представили свет как поток дискретных квантов.

Для Стивена Вольфрама Правило 30 стало современным эквивалентом этих открытий. Оно показало, что Вселенная не обязательно должна быть сложной в своих базовых законах. Как и в случае с молекулами Больцмана, хаос, который мы наблюдаем, может быть результатом работы очень простых дискретных правил, применяемых к огромному количеству элементов.

Наблюдатель в вычислительной Вселенной 3:36:11

Важным аспектом изучения клеточных автоматов стало понимание роли наблюдателя. Вольфрам отмечает, что мы, как люди, являемся «вычислительно ограниченными наблюдателями» . Это означает, что наш мозг не может мгновенно вычислить все шаги Правила 30 и увидеть скрытый в нем порядок.

В контексте этого Лекс и Стивен кратко затронули тему того, что наблюдатель является основой физики, к которой они вернутся позже в беседе. Для ограниченного человеческого разума работа Правила 30 выглядит как «случайный шум», хотя на самом деле это строго детерминированный процесс . Вольфрам подчеркивает: мы совершаем гораздо меньше вычислений в секунду, чем сама Вселенная в своем развитии . Именно этот разрыв между сложностью мира (порождаемой простыми правилами вроде Rule 30) и нашими способностями к восприятию формирует наше представление о времени, хаосе и законах природы.

🌌 Дискретность пространства и наблюдатель как соавтор реальности 3:45:41

В современной физике пространство традиционно рассматривается как непрерывный фон, на котором разворачиваются события. Однако Стивен Вольфрам утверждает, что этот фундамент глубоко ошибочен. Опираясь на свои исследования вычислительных систем, он предлагает радикально иную картину: Вселенная состоит из дискретных узлов, а привычные нам законы физики — лишь способ, которым наш ограниченный разум интерпретирует бесконечную сложность этой структуры.

Структурные дефекты пространства и загадка темной материи 3:45:41

Идея о том, что материя состоит из атомов, утвердилась в науке давно, но пространство до сих пор считалось «сопротивляющимся» дискретности. Стивен Вольфрам напоминает, что даже Эйнштейн в 1916 году допускал возможность того, что пространство может оказаться дискретным, хотя и не видел способа построить на этом теорию . В модели Вольфрама пространство — это не пустота, а колоссальный гиперграф, состоящий из отдельных абстрактных элементов.

Этот взгляд предлагает изящное решение проблемы темной материи. Вместо поиска гипотетических частиц, которые десятилетиями не удается обнаружить, Вольфрам предлагает взглянуть на структуру самого гиперграфа. Темная материя может быть не «веществом», а структурным дефектом в сети пространства.

В истории науки уже были подобные прецеденты:

Броуновское движение: Долгое время оно оставалось загадкой, пока не стало понятно, что это результат ударов отдельных молекул, которые ранее считались невидимыми .
Аномальные кривые вращения галактик: Это явление, обнаруженное почти сто лет назад, указывает на наличие «невидимой» массы, которую Вольфрам связывает с особенностями дискретной структуры пространства .

Если пространство состоит из дискретных узлов, то то, что мы называем гравитацией и массой, является лишь проявлением локальных свойств этого гигантского графа. Темная материя в этой логике — это области, где топология пространства «завязана в узлы» иначе, чем в привычных нам регионах.

Наблюдатель как основа физических законов 3:51:35

Одним из самых глубоких философских выводов Вольфрама является то, что законы физики не существуют «сами по себе» в отрыве от того, кто их воспринимает. Он утверждает, что такие столпы науки, как теория относительности и квантовая механика, являются прямым следствием взаимодействия «вычислительно ограниченного наблюдателя» с вычислительно несводимой Вселенной .

Ранее в беседе Стивен Вольфрам уже касался темы вычислительной несводимости, подчеркивая, что сложные системы невозможно предсказать без полного прохождения всех шагов вычислений. Однако наблюдатель — человек или прибор — не обладает бесконечными ресурсами. Мы вынуждены «усреднять» реальность, чтобы выжить.

Вольфрам выделяет две ключевые характеристики человеческого наблюдателя:

Вычислительная ограниченность: Мы не можем отследить движение каждой отдельной «молекулы» пространства, точно так же как мы не видим отдельные атомы в потоке воды .
Вера в непрерывность времени: Мы воспринимаем себя как единый объект, существующий во времени, обладающий «единой нитью опыта» .

Именно из-за этих ограничений мы видим мир упорядоченным. Если бы мы обладали неограниченными вычислительными мощностями, Вселенная казалась бы нам набором разрозненных событий без всяких законов. «Законы физики — это то, что остается, когда вы отбрасываете всю вычислительную несводимость мира через призму ограниченного разума», — поясняет ученый .

Объединение ОТО, квантовой механики и термодинамики 4:00:57

Стивен Вольфрам приходит к поразительному выводу: Общая теория относительности (ОТО), квантовая механика и Второй закон термодинамики (ранее обсуждавшийся в контексте энтропии) имеют один и тот же фундамент. Все они — способы описания того, как ограниченный наблюдатель воспринимает Рулиад (предельный предел всех вычислений) .

В классической физике уравнения Эйнштейна считались первичными данными о мире. В модели Вольфрама они — математическая неизбежность для любого наблюдателя, который:

Воспринимает пространство как нечто связное;
Не способен видеть детали ниже определенного масштаба (так называемое coarse-graining или «грубое зернение») .

Это превращает физику из изучения «внешних объектов» в изучение «взаимодействия наблюдателя с вычислительной средой». Лекс Фридман уточняет, не является ли в таком случае вся наша реальность иллюзией . Вольфрам отвечает, что «реальность» — это и есть наш опыт усреднения. Мы находимся в определенном месте Рулиада и смотрим на него через специфические фильтры нашего биологического и технологического восприятия .

Инструменты науки и расширение восприятия 4:06:21

Хотя мы ограничены своей биологией, инструменты науки позволяют нам «колонизировать» новые области восприятия. Вольфрам сравнивает это с изобретением микроскопа: до него мы не знали о существовании клеток и микробов, хотя они всегда были частью реальности . Современные вычислительные инструменты — это своего рода «телескопы для пространства вычислений».

Прогресс науки, по мнению Вольфрама, заключается в том, чтобы находить новые способы упрощения вычислительной несводимости. Каждый раз, когда мы находим новый закон физики, мы просто обнаруживаем еще один способ, которым наш ограниченный разум может эффективно сжимать бесконечную сложность окружающего мира .

Этот процесс бесконечен. Поскольку Рулиад содержит в себе все возможные вычисления, всегда будут существовать новые аспекты физики, которые мы сможем «увидеть», лишь изменив масштаб своего наблюдения или способы обработки данных.

⌛ Смертность как условие человеческого бытия 4:10:48

В завершении этой масштабной беседы Стивен Вольфрам подводит итог своим размышлениям о месте человека в структуре мироздания. Когда мы рассматриваем Вселенную как Рулиад — бесконечное пространство всех возможных вычислительных правил, — возникает закономерный вопрос: что именно делает нас «нами»? Ответ Вольфрама парадоксален: наша идентичность, наше самоощущение и даже само наше сознание возможны только благодаря нашей конечности . Если бы мы были бесконечными существами, охватывающими весь Рулиад целиком, мы бы утратили всякую специфику, превратившись в недифференцированный шум вечности.

Локальность наблюдателя в Рулиаде 4:11:13

Стивен Вольфрам подчеркивает, что человеческий опыт фундаментально ограничен. Мы занимаем крошечный фрагмент в пространстве Рулиада, и именно эта «локальность» позволяет нам формировать связную картину мира. Ранее в разговоре ученый уже касался темы наблюдателя как основы физики, но здесь он переводит этот тезис в экзистенциальную плоскость. Наша смертность и ограниченность во времени — это не просто биологический баг, а структурная необходимость для существования личности .

Быть человеком — значит находиться в определенной точке вычислительного пространства и иметь возможность воспринимать лишь малую часть происходящих процессов. Если бы человеческий разум мог мгновенно вычислить всё, что происходит во Вселенной, понятие «времени» и «процесса» исчезло бы. Идентичность требует границ; чтобы быть кем-то, нужно не быть всем остальным. Таким образом, конечность жизни является ценой, которую мы платим за право обладать уникальным взглядом на мир . Вольфрам видит в этом определенную красоту: именно то, что мы не вечны и не всемогущи, делает наш поиск истины и наше понимание реальности значимыми.

Ограниченность как источник смысла 4:12:08

Размышляя о собственном пути, Стивен Вольфрам отмечает, что осознание ограниченности времени подстегивает интеллектуальное любопытство. Он признается, что некоторые вещи в развитии технологий и науки оказались для него неожиданными. В частности, он упоминает, что не предвидел такого стремительного «расцвета» возможностей, который продемонстрировал ChatGPT . Этот прорыв открыл новые горизонты в понимании того, как вычислительные системы могут взаимодействовать с человеческим языком.

Для Вольфрама как для ученого крайне важно успеть увидеть плоды своих трудов и трансформацию мира под влиянием новых идей. Он выражает надежду, что ему удастся стать свидетелем того, как фундаментальная теория физики и вычислительные методы изменят человеческую цивилизацию в ближайшие десятилетия . Эта личная перспектива подчеркивает его тезис о смертности: именно конечность индивидуального пути заставляет нас ценить моменты открытий и стремиться к созданию чего-то долговечного, будь то научная теория или программный код.

Наследие и преемственность идей 4:13:02

Лекс Фридман, завершая встречу, выражает глубокую признательность Стивену Вольфраму за его вклад в науку и образование. Он отмечает, что идеи Вольфрама оказали колоссальное влияние на целые поколения исследователей. Для самого Фридмана Вольфрам стал фигурой, которая вдохновила его еще в детстве заняться изучением искусственного интеллекта и поиском ответов на фундаментальные вопросы о природе реальности .

Эта эмоциональная точка в разговоре иллюстрирует еще один аспект человеческой конечности — преемственность. Поскольку один человек не может охватить всю сложность Рулиада за одну жизнь, передача идей становится способом преодоления индивидуальной смертности. Фридман называет огромной честью возможность «прощупать мысли» ученого такого масштаба и призывает его продолжать работу над своими проектами .

В конечном счете, финальный аккорд интервью утверждает: мы — лишь временные искры в вычислительной ткани Вселенной, но именно наша способность осознавать свою ограниченность и при этом стремиться к бесконечному познанию делает человеческую жизнь уникальным и ценным феноменом в структуре реальности .