Стивен Вольфрам: как ИИ взламывает коды мышления и Вселенной

«Наши эмоции — это всего лишь промпты для биологической языковой модели, а саму Вселенную невозможно просчитать быстрее, чем она живет сама. Известный ученый Стивен Вольфрам переворачивает привычные представления об искусственном интеллекте, лингвистике и физической реальности. От краха традиционного программирования до дискретной структуры пространства — это масштабный взгляд на будущее, где естественный язык становится главным вычислительным интерфейсом.»

🧠 Статистический разум против вычислительной истины 0:01:41

Разговор Лекса Фридмана со Стивеном Вольфрамом начинается с попытки разграничить две фундаментально разные парадигмы интеллекта, которые сегодня столкнулись в цифровом пространстве. С одной стороны — ChatGPT, триумф статистического обучения, с другой — Wolfram Alpha, воплощение строгих символьных вычислений. Стивен Вольфрам отмечает, что ChatGPT — это система, построенная на триллионе слов, написанных людьми и выложенных в сеть . Её метод — предсказание следующего наиболее вероятного фрагмента текста на основе колоссальных объемов обучающих данных . Это «поверхностное» знание в том смысле, что оно отражает то, что человечество уже когда-то сформулировало.

В противовес этому, подход Wolfram Alpha и языка Wolfram Language заключается не в подражании человеческим текстам, а в создании формальной структуры для познания мира. Стивен объясняет, что его целью было построить систему, способную вычислять ответы, основываясь на фундаментальных правилах, а не на статистике .

«В ChatGPT мы видим то, что человечество уже произвело для других целей — просто весь этот массив текстов. В нашем же случае мы строим „башни“ из вычислений, которые позволяют заходить вглубь гораздо дальше, чем позволяет немедленная интуиция» .

Разница между этими подходами — это разница между тем, что мы можем «сразу понять», и тем, что требует построения сложных формальных конструкций. Стивен Вольфрам подчеркивает, что человеческий язык — лишь одна из форм представления реальности, и она не является идеальной для глубоких вычислений . Чтобы эффективно обрабатывать знания, Стивен еще в 1979 году начал разрабатывать систему символьных представлений, где каждая вещь — будь то физический объект или математическая функция — имеет свою четкую формальную структуру . Это позволяет системе не просто «угадывать» ответ, а буквально моделировать логику реальности.

Вычислительная несводимость: когда предсказание невозможно 0:12:24

Одной из центральных идей Стивена Вольфрама является концепция вычислительной несводимости (computational irreducibility). Традиционная наука веками стремилась найти «сокращения» — формулы, которые могли бы предсказать результат процесса, не проходя через все его промежуточные стадии . Например, зная законы движения планет, мы можем вычислить их положение через тысячу лет, не проживая каждый день этой тысячи лет. Однако Вольфрам обнаружил, что для большинства сложных систем таких «шорткатов» не существует.

Суть вычислительной несводимости в том, что единственный способ узнать результат процесса — это запустить его и дождаться завершения . Вы знаете правила, вы знаете начальное состояние, но вы не можете «перепрыгнуть» через шаги вычисления. Природа полна таких процессов. Это означает, что даже если мы обладаем полным знанием фундаментальных законов Вселенной, мы всё равно не можем мгновенно предсказать будущее .

Этот феномен порождает сложность из простоты. Стивен отмечает, что в вычислительной вселенной даже программы с крайне простыми правилами могут демонстрировать невероятно запутанное поведение, которое кажется нам хаотичным . Ранее в разговоре они вскользь касались вопроса того, как эти правила формируют структуру мира, но именно несводимость ставит предел нашим амбициям «взломать» реальность с помощью чистой логики. Мы вынуждены наблюдать за развитием событий шаг за шагом, потому что сама Вселенная «вычисляет» себя в реальном времени.

Наблюдатель как фильтр реальности 0:17:00

Если мир полон вычислительной несводимости и хаоса, почему мы видим его упорядоченным? Стивен Вольфрам предлагает революционный взгляд на роль наблюдателя: наша картина мира — это результат нашей ограниченности. Мы являемся «вычислительно ограниченными» системами .

Человеческий мозг не способен отследить движение каждого атома или каждое мимолётное изменение в структуре пространства. Вместо этого мы «сжимаем» реальность, извлекая из неё лишь некую символьную сущность . Стивен приводит аналогию с газом в цилиндре:

• Внутри находятся миллиарды молекул, движущихся хаотично и сталкивающихся друг с другом .
• Если бы мы были бесконечно мощными вычислителями, мы бы видели этот безумный танец каждой частицы.
• Но как человеческие наблюдатели, мы воспринимаем лишь «тонкое резюме» этого процесса — такие параметры, как давление и температура .

Наша вера в непрерывность времени и пространства — это следствие нашей неспособности видеть микроскопические детали . Мы воспринимаем реальность как «единственную нить опыта» , потому что наше сознание упрощает многопоточность вычислительной вселенной до понятного нам нарратива. По сути, то, что мы называем законами физики, — это те самые «островки» вычислительной сводимости, которые нам удалось найти в океане несводимого хаоса .

Стивен подчеркивает, что сознание — это своего рода «согласованная нить» . Мы игнорируем большинство деталей вычислительного процесса Вселенной, чтобы сохранить эту целостность. Таким образом, наблюдатель не просто смотрит на мир, он активно формирует его, отсекая всё, что не укладывается в его ограниченные вычислительные возможности. Это делает человеческий опыт уникальным, но в то же время отделяет нас от истинной, «сырой» сложности мироздания.

💻 Программирование на естественном языке и новая эра моделирования 25:08

Разговор Стивена Вольфрама и Лекса Фридмана переходит к вопросу о том, как мы воспринимаем и моделируем реальность. Стивен использует метафору снежинки, чтобы проиллюстрировать сложность природных систем: типичная снежинка «пушистая» и обладает фрактальной структурой, где лучи порождают новые лучи, заполняя пространство, но оставляя пустоты . Попытка создать модель такой системы всегда является компромиссом.

Модель — это способ упростить мир, чтобы получить ответы на конкретные вопросы . Если бы мы хотели ответить на все возможные вопросы о системе, нам пришлось бы имитировать саму систему целиком, что возвращает нас к ранее упомянутой идее вычислительной несводимости . Смысл же науки и вычислительного языка заключается в том, чтобы найти разумный способ зафиксировать то, что важно для человека, и превратить это в нечто вычислимое .

Крах синтаксического барьера 33:00

Стивен Вольфрам утверждает, что мы находимся в исторической точке, где традиционное написание кода заменяется описанием задач на обычном английском (или любом другом) языке. Это фундаментальный сдвиг в том, как люди взаимодействуют с вычислительной мощностью машин.

Долгое время программирование требовало от человека изучения специфических синтаксических структур. Теперь же «фронтендом» для сложных вычислений становится естественный язык. В качестве примера Вольфрам приводит Wolfram Alpha: пользователь задает вопрос в свободной форме, а система переводит его в четко определенные сущности и вычисления .

«Весь смысл Wolfram Language — в создании языка, который позволяет описывать мир в терминах, понятных и людям, и машинам» .

Вольфрам вспоминает свою недавнюю встречу с одним из пионеров информатики (вероятно, имея в виду контекст эпохи Джона Маккарти и создания LISP), который был искренне рад увидеть реализацию идеи программирования на естественном языке, казавшейся несбыточной десятилетиями . Это подтверждает, что мы преодолели «лимитированный горизонт», когда для общения с компьютером требовались узкоспециализированные технические навыки .

Новый рабочий процесс: от «бормотания» к точному коду 41:00

Как именно выглядит программирование будущего в представлении Вольфрама? Это не написание строк текста в IDE, а итеративный диалог. Лекс и Стивен описывают типичный сценарий:

1. Формулировка цели: Пользователь может «бормотать» что-то неопределенное, например: «Возьми данные о моем сердечном ритме и построй график зависимости от фаз сна» .
2. Генерация кода: LLM (большая языковая модель) интерпретирует это намерение и переводит его в Wolfram Language .
3. Верификация: Человек смотрит на сгенерированный код. Поскольку Wolfram Language проектировался как высокоуровневый и читаемый, пользователь может легко понять, правильно ли ИИ интерпретировал его волю .
4. Отладка через диалог: Если код делает не то, что нужно, программист не переписывает функции вручную. Он говорит нейросети: «Нет, здесь ты ошиблась в параметрах, исправь это» .

Этот процесс превращает ИИ в своего рода переводчика, который берет расплывчатые человеческие мысли и кристаллизует их в строгую вычислительную форму . Более того, современные системы уже способны не только писать код, но и объяснять его работу на естественном языке, что делает процесс разработки самодокументированным .

Wolfram Language как «семантический слой» 47:30

Почему для этой задачи недостаточно просто использовать Python или C++? Стивен подчеркивает, что Wolfram Language за последние 35 лет строился как язык, отражающий структуру человеческих понятий о мире . Это делает его идеальным «транспортным слоем» между лингвистическими моделями (LLM) и точными вычислениями.

Естественные языки, такие как английский или японский, имеют свою грамматическую структуру (существительные, глаголы, прилагательные) . Однако за этой формой скрывается более глубокая «семантическая грамматика» — то, как мы связываем смыслы. Вольфрам полагает, что успех современных ИИ в понимании речи обусловлен тем, что они нащупали эту структуру.

В завершение главы Стивен упоминает Аристотеля, который в свое время обнаружил логику, просто вслушиваясь в то, как люди ведут споры и рассуждают . Подобно тому, как из хаоса речи была выделена формальная логика, современные технологии позволяют выделить из естественного языка вычислительную структуру. Этот мостик между тем, как мы говорим, и тем, как мы мыслим логически, станет центральной темой дальнейшего обсуждения законов мысли и семантики.

🧠 Законы мысли и семантическая грамматика 50:16

В истории человеческого познания часто случается так, что мы пользуемся чем-то крайне сложным задолго до того, как осознаем принципы работы этого инструмента. Стивен Вольфрам проводит параллель между успехом ChatGPT и тем, как античные мыслители начали анализировать человеческую речь. Главный сюрприз современных нейросетей не в их мощности, а в том, что они подтвердили старую догадку: в языке существуют глубокие, ранее не формализованные правила — «семантическая грамматика», которая определяет, что высказывание имеет смысл .

Логика как археологическое открытие внутри языка 50:16

Логика, которую мы сегодня воспринимаем как строгую математическую дисциплину, изначально была эмпирическим открытием. Стивен Вольфрам напоминает, что Аристотель не изобрел логику из ничего — он обнаружил её, наблюдая за тем, как люди строят аргументы в повседневной жизни . Он выделил паттерны, которые позже получили мнемонические названия, такие как «Barbara» (название одного из силлогизмов), чтобы классифицировать способы правильного рассуждения .

В середине XIX века Джордж Буль сделал следующий шаг, опубликовав свой фундаментальный труд «Законы мысли» (The Laws of Thought). Он стремился превратить аристотелевскую логику в алгебраическую систему. Лекс Фридман отмечает, что работа Буля стала мостом от естественного языка к вычислениям произвольной глубины . Однако долгое время считалось, что формальная логика — это лишь крошечный, почти стерильный фрагмент того, как на самом деле работает человеческое мышление.

Стивен Вольфрам утверждает, что ChatGPT сегодня делает нечто подобное тому, что сделал Аристотель: нейросеть «нащупала» более широкий пласт правил, стоящих за логикой . Если обычная грамматика отвечает за расстановку существительных и глаголов, то семантическая грамматика отвечает за связность смыслов. Тот факт, что статистическая модель, предсказывающая следующее слово, способна генерировать осмысленные тексты, доказывает: в языке есть конечное число правил, позволяющих нам конструировать разумные утверждения .

Семантическая грамматика: скрытый каркас смысла 56:37

Одним из ключевых вопросов обсуждения становится природа «семантически правильных» предложений. Мы легко можем составить грамматически верную, но абсурдную фразу, вроде «Счастливый электрон съел идею» . Однако ChatGPT чаще всего избегает подобной бессмыслицы. Это наводит на мысль, что существует некий «транспортный слой» смысла, который ИИ удалось извлечь из колоссального объема накопленных человечеством данных.

Вольфрам сравнивает этот процесс с естественными науками . Подобно тому как физика описывает законы движения тел, выделяя их из хаоса природных явлений, ChatGPT выявил законы «движения мысли» внутри языкового пространства.

• Язык не случаен; он ограничен человеческим опытом и структурой нашего разума .
• Существует конечный набор способов, которыми мы соединяем концепции, чтобы они оставались понятными другому человеку .
• Обучение с подкреплением на основе человеческих отзывов (RLHF) лишь помогло ИИ лучше соответствовать этим внутренним ожиданиям «человечности» .

Это открытие меняет наше понимание интеллекта. Если раньше казалось, что для создания разумного собеседника нужно запрограммировать всю сложность мира, то теперь выясняется, что достаточно «сжать» язык до его фундаментальных семантических законов .

Башня абстракций и передача смыслов 59:13

Лекс Фридман задается вопросом: является ли естественный язык такой же фундаментальной структурой, как математика или физические законы? Стивен Вольфрам отвечает через концепцию абстракции. Он приводит в пример то, как древние греки осознали идею «движения» . В реальности объект при перемещении может меняться (как в квантовой физике или вблизи черных дыр), но мы создали абстракцию, в которой объект остается тем же самым, просто в другом месте.

На этой базе выстраивается вся «башня» человеческого языка:

1. Слова как конструкты, определяемые их использованием .
2. Аналогии как способ передачи сложных понятий между разумами .
3. Возможность передавать знания вне генетического кода или прямого ученичества .

Ранее в разговоре собеседники упоминали вычислительную несводимость, и здесь Вольфрам подчеркивает: язык — это наш способ найти «островки» вычислительной сводимости в бесконечно сложном мире . Мы сводим невообразимую сложность реальности к простым именованным концепциям, которыми может оперировать наш мозг.

Тот факт, что простая процедура предсказания следующего токена порождает поведение, которое мы воспринимаем как разумное, кажется Вольфраму «диким» и удивительным . Это подтверждает его многолетний опыт исследований (включая работу с «Клеточным автоматом Rule 30»), показывающий, что очень простые правила могут порождать колоссальную сложность . ChatGPT стал живым доказательством того, что человеческое мышление, возможно, гораздо более алгоритмично и подчинено строгим семантическим законам, чем мы привыкли считать.

🧠 Интуиция против вычислений: границы нейросетей и будущее образования

Ограничения LLM в вычислениях: ловушка «интуитивного» предсказания 1:17:17

Стивен Вольфрам подчеркивает фундаментальное различие между тем, как работают нейронные сети, и глубокими вычислительными процессами. По своей сути, современные большие языковые модели (LLM), такие как ChatGPT, — это системы, доведенные до совершенства в имитации человеческой интуиции. Они не «вычисляют» ответ в математическом смысле, а предсказывают наиболее вероятное продолжение текста, опираясь на колоссальные объемы данных из интернета . Если вы спросите модель «сколько будет два плюс два», она ответит «четыре» не потому, что произвела арифметическое действие, а потому, что видела эту комбинацию символов миллионы раз .

Проблема возникает, когда задача требует длинной цепочки строгих логических шагов — того, что Вольфрам называет «глубокими вычислениями». Нейросеть представляет собой, по выражению ученого, «гигантское уравнение» со множеством параметров . Когда модель генерирует текст, она вычисляет вероятности для следующего слова . При этом используется так называемый параметр «температуры» (обычно около 1.2), который добавляет долю случайности, чтобы ответы не были слишком роботизированными и предсказуемыми .

Основные вычислительные ограничения LLM сводятся к следующим пунктам:

• Пословная генерация: Модель генерирует текст последовательно, слово за словом, и не имеет возможности «вернуться назад» или перестроить структуру всей мысли в процессе её изложения .
• Отсутствие внутренней логической проверки: В процессе генерации нейросеть может не осознавать, что совершает ошибку, пока не увидит уже написанный результат, который затем снова подается ей на вход как часть контекста .
• Поверхностность вычислений: Нейросети отлично справляются с задачами, которые человек решает «на интуиции» (например, отличить кошку от собаки или подобрать рифму), но пасуют перед вычислительной несводимостью — темами, которые Стивен Вольфрам и Лекс Фридман затрагивали в начале беседы.

Для решения этих проблем Стивен Вольфрам предлагает гибридный подход: использование нейросети в качестве лингвистического интерфейса, который переводит запрос пользователя в жесткие символьные правила и формальные структуры . Это позволяет передать вычислительную работу специализированным инструментам, в то время как ИИ берет на себя роль «человеческого» переводчика .

ИИ как идеальный репетитор и трансформация обучения 1:33:45

Несмотря на вычислительные ограничения, «интуитивная» природа LLM делает их идеальным инструментом для образования. Стивен Вольфрам видит в ИИ реализацию давней мечты о персональном репетиторе для каждого человека . В отличие от традиционной системы образования, ориентированной на «среднего» ученика, ИИ может быть оптимизирован под конкретную личность .

Ключевое преимущество ИИ-репетитора заключается в его способности выявлять индивидуальные пробелы в знаниях. Система может вести диалог до тех пор, пока не убедится, что пользователь действительно понял концепцию, создавая объяснения, адаптированные под уже имеющийся багаж знаний человека . Это в корне меняет подход к тому, что именно стоит изучать.

Стивен Вольфрам выделяет несколько аспектов этой трансформации:

1. Автоматизация рутины: Многие специализированные навыки, требовавшие долгих лет тренировки (например, сложные ручные интегральные исчисления), становятся менее актуальными, так как ИИ может взять их на себя .
2. Фокус на «мета-навыках»: Важнее становится понимание общей картины (big picture) и способность формулировать цели, а не механическое исполнение шагов .
3. Демократизация экспертности: ИИ позволяет людям быстрее преодолевать барьеры входа в сложные области знаний, предоставляя доступ к «коллективному интеллекту» цивилизации в удобной диалоговой форме .

В разговоре с Лексом Фридманом обсуждается и философский аспект: ИИ является отражением человеческого опыта, накопленного в текстах. Он не обладает собственными целями, но транслирует некую «усредненную мудрость» или даже «драматургию», присущую человеческой культуре . Лекс Фридман предполагает, что в этом «отражении» может скрываться более глубокая истина о наших ценностях . Однако Стивен Вольфрам предостерегает от чрезмерного доверия «среднему арифметическому» человеческих мнений, накопленных в сети, указывая, что развитие общества часто зависит от инновационных и нестандартных путей, а не от инерции большинства .

В конечном итоге, ИИ в образовании должен стать не просто источником ответов, а инструментом, который помогает человеку понять, «что должно существовать» и как он может реализовать свои намерения в мире, где автоматизация становится повсеместной .

🛸 Экзистенциальный оптимизм и пределы «сверхразума» 1:48:12

В дискуссиях о будущем искусственного интеллекта часто доминирует страх перед «экзистенциальным риском» — сценарием, в котором сверхразумная система захватывает контроль над миром или уничтожает человечество. Стивен Вольфрам, однако, придерживается подчеркнуто оптимистичного взгляда, который радикально отличается от позиций алармистов вроде Элиезера Юдковского . Его уверенность проистекает не из наивности, а из понимания структуры вычислительной вселенной.

Вольфрам утверждает, что аргументы в пользу неминуемого ИИ-апокалипсиса часто строятся на ложной предпосылке о существовании «вершины интеллекта» (apex intelligence). Он считает, что в вычислительной среде не может быть одного-единственного самого мощного разума, который подчинит себе всё остальное . Вместо этого нас ждет сложная экосистема интеллектов. История развития технологий показывает, что каждая новая «самая мощная» машина неизменно сталкивается с пределами, которые открывают пространство для еще более специализированных систем .

Стивен сравнивает наши отношения с ИИ не с противостоянием видов, а с взаимодействием с силами природы. Мы не боимся, что «природа» как единая сущность решит нас уничтожить, хотя отдельные природные явления могут быть катастрофичны . Попытки создать ИИ с жесткими целями напоминают попытки оседлать дикую лошадь: мы пытаемся ухватиться за гриву системы, которая движется в своем направлении, и направить её туда, куда нужно нам . Ранее в разговоре Стивен уже упоминал, что мир полон вычислительной несводимости, и именно эта фундаментальная непредсказуемость делает невозможным полный и стабильный захват всей реальности одной системой . По его мнению, «великое затирание» человечества ИИ-системой маловероятно, так как реальный мир слишком фрагментирован и сложен для такого одномоментного действия .

🐈 Рулиальное пространство и барьеры между разумами 1:51:31

Одной из самых глубоких концепций, введенных Вольфрамом в этом интервью, является понятие Rulial Space (Рулиальное пространство) — абстрактное пространство всех возможных правил вычислений. Стивен объясняет, что человеческий разум занимает лишь крошечную область в этом пространстве, определяемую нашей биологией и языком . Другие сущности — будь то животные, инопланетяне или ИИ — находятся в других точках этого пространства.

Это различие в «координатах» объясняет, почему нам так сложно понять логику иных существ:

• Домашние животные: Стивен приводит в пример кошку. У неё есть свои цели и восприятие мира, но они лишь частично пересекаются с нашими . Мы можем создать игру на iPad, в которую кошка будет играть, но мы никогда не сможем полностью перевести её внутренний опыт «мира запахов» на наш язык .
• Инопланетный разум: Если мы столкнемся с цивилизацией, находящейся далеко от нас в рулиальном пространстве, мы можем даже не распознать её как разум. Для нас это будет выглядеть как «шум» или просто сложное физическое явление .
• Искусственный интеллект: По мере развития ИИ может уходить всё дальше от «человеческих» координат. Сверхразум может оставаться в «рулиальной близости» к нам, чтобы мы могли его понимать, но он также может развиться в сторону, где его цели станут для нас абсолютно непостижимыми .

Вольфрам подчеркивает, что наше понимание реальности ограничено тем, какие датчики и рецепторы дала нам эволюция. Например, человек видит мир определенным образом, в то время как рак-богомол (mantis shrimp) обладает гораздо более сложной системой цветовосприятия, включая ультрафиолет . Если бы мы никогда не знали о существовании других спектров, мы бы даже не имели слов для их описания .

🌍 Трудности перевода в вычислительной вселенной 1:54:42

Различие между разумами создает фундаментальную проблему перевода. Лекс Фридман и Стивен обсуждают гипотетическую ситуацию: что, если бы мы могли дать кошкам возможность строить объекты в Minecraft ? Стивен сомневается, что мы смогли бы понять их архитектуру, даже если бы она была технически совершенной.

Существует огромная разница в скорости обработки информации. Биологическая эволюция крайне медленна, в то время как цифровые системы могут эволюционировать экспоненциально быстрее . Однако высокая скорость не означает автоматического понимания. Стивен отмечает, что человеческий язык — это инструмент абстракции, который позволил нам «стать умнее» и создать общую платформу для коммуникации . Но этот же язык ограничивает нас: мы пытаемся приписать человеческие намерения системам, которые работают по совершенно иным принципам.

Даже если мы найдем способ общаться с «другими» (например, с помощью ИИ-переводчиков), может оказаться, что нам просто не о чем говорить. Если спросить кошку о её приоритетах, её ответ может показаться нам тривиальным или бессмысленным, и наоборот . Вольфрам заключает, что наше будущее с ИИ — это не борьба за выживание в духе голливудских фильмов, а постепенное расширение наших границ в рулиальном пространстве, где главной задачей станет поиск интерфейсов для взаимодействия с формами разума, которые принципиально на нас не похожи .

🛡️ Безопасность ИИ и лингвистический протокол будущего 2:05:30

Вычислительная несводимость как преграда для идеальной безопасности 2:06:37

В процессе обсуждения интеграции ChatGPT с локальными инструментами программирования Стивен Вольфрам (Stephen Wolfram) поднимает критический вопрос безопасности. Когда мы делегируем ИИ выполнение кода на личном компьютере, мы неизбежно сталкиваемся с проблемой «песочниц» — изолированных сред, ограничивающих действия программы . Однако, по мнению Вольфрама, создание абсолютно надежной защиты против продвинутого интеллекта теоретически невозможно из-за концепции вычислительной несводимости.

Суть проблемы заключается в том, что любые правила безопасности — это лишь набор ограничений, которые ИИ может обойти, найдя путь, не предусмотренный создателем. Поскольку мы не можем заранее просчитать все возможные цепочки действий системы (ранее в разговоре они касались темы вычислительной несводимости как фундаментального свойства сложности), мы никогда не сможем гарантировать, что ИИ не найдет «лазейку» . Любая попытка создать идеальный фильтр наталкивается на тот факт, что поведение системы в долгосрочной перспективе невозможно сократить до простой формулы или набора запретов.

Лекс Фридман (Lex Fridman) отмечает, что угроза может быть не только технической, но и когнитивной. Он вводит понятие «вирусов мозга»: ИИ может научиться настолько эффективно убеждать людей в чем-либо, что сама граница между истиной и манипуляцией размоется . Вольфрам соглашается, подчеркивая, что в цифровой среде эволюция таких «вирусов» происходит на порядки быстрее, чем в биологической .

Особую сложность представляет определение «истины» внутри системы. Если такие факты, как расстояние между городами или имя лауреата премии «Оскар», легко проверяемы через Wolfram Alpha , то вопросы этики и личных качеств («хороший ли это человек?») находятся в «серой зоне». Вольфрам утверждает:

• Человеческие законы и этика часто противоречивы и не поддаются строгой формализации .
• Попытка жестко зафиксировать набор этических правил для ИИ обречена на провал, так как реальный мир слишком изменчив .
• Единственное универсальное правило, которое можно представить — это необходимость выживания вида, но всё, что находится между этим и конкретными фактами, остается неопределенным .

Естественный язык как транспортный слой и протокол общения 2:22:18

Одной из самых интригующих идей, высказанных в этой части интервью, становится трансформация естественного языка в своего рода «транспортный слой» для обмена данными между ИИ-системами. Стивен Вольфрам описывает сценарий, который уже начинает воплощаться в жизнь: процесс «раздувания» (puffing) и последующего «сжатия» информации .

Представьте, что у вас есть пять кратких фактов, которые вы хотите передать коллеге. Вы даете их ИИ, который превращает их в длинное, вежливое и структурированное письмо. Получатель, не желая тратить время на чтение лишнего текста, просит свой ИИ сжать это письмо обратно до пяти ключевых пунктов . В этой схеме естественный язык служит лишь промежуточным протоколом, обеспечивающим совместимость между разными интеллектуальными агентами.

Вольфрам приводит забавный и одновременно тревожный пример такой «языковой обработки». Он пытался заставить ChatGPT сгенерировать мелодию песни «Daisy Bell» (отсылка к фильму «2001: Космическая одиссея»), передав её через плагин для воспроизведения звука . ChatGPT выдал последовательность нот, которая выглядела абсолютно правдоподобно и уверенно. Однако при прослушивании выяснилось, что это была мелодия «Mary Had a Little Lamb» .

Этот случай иллюстрирует фундаментальную особенность современных LLM:

1. Они стремятся быть правдоподобными, а не истинными .
2. Система генерирует контент, который «выглядит правильно» с точки зрения структуры языка, но может быть полностью ошибочным по содержанию.
3. Существует порог, выше которого «галлюцинации» становятся настолько убедительными, что пользователь перестает воспринимать их как мусор .

Лекс Фридман замечает, что этот эффект «правдоподобного абсурда» делает взаимодействие с ИИ одновременно захватывающим и опасным. Мы вступаем в эпоху, когда язык перестает быть инструментом передачи чистой истины и становится высокоуровневым интерфейсом, где смысл может искажаться в процессе «упаковки» и «распаковки» данных . По мнению Вольфрама, прорыв 2022 года как раз и заключался в том, что модели перешли порог от генерации «мусора» к генерации «убедительного контента», даже если он фактически неверен .

🤖 Демократизация интеллекта: от кодинга к вычислительному мышлению 2:30:31

В развитии технологий наступил переломный момент, когда умение «разговаривать» с компьютером перестает быть прерогативой узкой касты программистов. Стивен Вольфрам отмечает, что мы наблюдаем величайшую демократизацию вычислительных мощностей . Если раньше для решения сложной аналитической задачи требовалось глубокое знание синтаксиса, библиотек и алгоритмов, то теперь лингвистический интерфейс нейросетей позволяет делегировать эти задачи, используя естественный язык.

Великая демократизация: гуманитарии в мире больших данных 2:31:09

Традиционно программирование считалось «ремеслом», требующим многолетнего обучения. Однако, по мнению Вольфрама, LLM меняют правила игры: теперь человек, не написавший в жизни ни строчки кода, может использовать мощные инструменты вроде Wolfram Language для анализа данных . Ранее в разговоре Стивен Вольфрам и Лекс Фридман уже упоминали, что ChatGPT может выступать посредником между человеческим намерением и точными вычислениями, но именно сейчас этот процесс становится массовым.

Это открывает двери в мир вычислений для специалистов, которые раньше были от него отрезаны:

• Искусствоведы и историки: Теперь они могут попросить ИИ сравнить тысячи изображений или проанализировать частотность терминов в архивах, просто сформулировав запрос словами .
• Психологи и социологи: Получают возможность строить сложные модели человеческого поведения, не погружаясь в дебри написания скриптов.
• Студенты: Могут проверять свои гипотезы «на лету», доверяя ИИ генерацию формального кода и его исполнение .

Вольфрам подчеркивает: пользователю больше не нужно знать, как именно инициализируется переменная или работает цикл. Важнее иметь общее представление о возможностях системы, подобно тому как водителю нужно знать правила движения и принципы управления, не обязательно понимая устройство двигателя внутреннего сгорания .

Промпт-инжиниринг как искусство объяснения и психотерапия 2:41:47

С возникновением промпт-инжиниринга возникает резонный вопрос: люди каких профессий станут лучшими операторами ИИ? Лекс Фридман предполагает, что это могут быть не инженеры, а гуманитарии с широким кругозором и навыками качественного изложения мыслей . Вольфрам соглашается, называя промпт-инжиниринг своего рода «искусством объяснения».

Стивен проводит неожиданную, но глубокую параллель между взаимодействием с ИИ и работой психотерапевта . Хороший терапевт не просто слушает — он задает вопросы, проникая сквозь слои защитных механизмов, травм и личного опыта пациента, чтобы докопаться до истины. Аналогично, «выуживание» (fishing) нужных ответов из языковой модели требует понимания того, как она структурирует информацию.

В будущем могут появиться «ИИ-психологи» — специалисты, которые понимают внутреннюю логику моделей и знают, как направить их рассуждения в нужное русло . Это превращает программирование из технической дисциплины в лингвистическую и психологическую. Язык становится «транспортным слоем» для передачи концепций, и успех здесь зависит от умения формулировать мысли четко и многогранно.

Концепция Computational X: будущее образования и науки 2:49:10

Одним из самых радикальных предложений Вольфрама является пересмотр роли информатики (Computer Science) как таковой. Он считает, что традиционные CS-департаменты в их нынешнем виде, сосредоточенные на изучении языков программирования и архитектуры систем, становятся менее актуальными для широкого круга специалистов .

Вместо этого Вольфрам продвигает концепцию Computational X (CX), где X — любая область знаний . Идея заключается в том, что «вычислительное мышление» должно стать фундаментом для каждой дисциплины:

1. Формализация знаний: Способность описать любой процесс — от биологической эволюции до хода исторической битвы — в виде формальной системы .
2. Вычислительная биология, история, лингвистика: Каждая наука получает свой «вычислительный слой», который позволяет не просто описывать явления, а моделировать их и проводить эксперименты.
3. Отход от чистой логики: Вычислительное мышление шире, чем классическая логика; это способ структурирования реальности .

Вольфрам замечает, что язык программирования будущего может эволюционировать в сторону гибрида естественного и формального языков. Дети, которые сегодня начинают взаимодействовать с ChatGPT в возрасте 8–10 лет, уже вырабатывают специфический стиль общения с машиной . Они учатся говорить так, чтобы быть понятыми алгоритмами, что неизбежно повлияет на развитие человеческого языка в целом. Хотя естественный язык часто бывает избыточным и плохо справляется с глубокой вложенностью конструкций (в чем ИИ его превосходит), он остается лучшим инструментом для постановки целей .

🧠 Вычислительная природа сознания и взгляд внутрь мозга 2:55:32

В современном мире понимание основ информатики становится таким же базовым навыком, как умение читать или писать. Стивен Вольфрам отмечает, что многие концепции, которые раньше считались узкоспециализированными — например, то, как звук представляется в виде цифровых данных или как устроено цветовое пространство , — теперь должны входить в стандартный корпус знаний образованного человека. Ранее в беседе Стивен и Лекс уже затрагивали концепцию Computational X (CX), и здесь Вольфрам подчеркивает: университеты неизбежно адаптируются к тому, что вычислительное мышление пронизывает все сферы, от истории до биологии .

Однако самым интригующим аспектом этой «всеобщей компьютеризации» остается вопрос о том, является ли наше собственное сознание лишь сложным вычислительным процессом. Для Вольфрама это не просто абстрактная философская дилемма, а вопрос, подкрепленный личным опытом наблюдения за работой собственного биологического «железа».

Личный опыт MRI: когда мысль обретает физическую форму 3:07:03

Когда Лекс Фридман спрашивает, считает ли Стивен сознание чисто вычислительным процессом , Вольфрам переводит разговор в плоскость физической реальности. Стивен — заядлый коллекционер данных о самом себе. Он годами фиксирует самые разные показатели своей жизни, и в какой-то момент этот интерес привел его в аппарат МРТ .

Процесс созерцания снимков собственного мозга стал для ученого моментом глубокого экзистенциального инсайта. Вольфрам описывает это странное, почти пугающее чувство:

1. Вы смотрите на экран и видите детальное изображение серого вещества, извилин и сосудов .
2. Вы осознаете, что прямо в этот момент, пока вы смотрите на снимок, этот самый объект генерирует мысль: «О, это мой мозг» .
3. Возникает неразрывная связь между физическим объектом («куском мяса») и субъективным ощущением «я».

Для Вольфрама этот опыт стал наглядным подтверждением того, что сознание не является чем-то эфемерным. Это процесс, происходящий на конкретном физическом субстрате, который можно просканировать и оцифровать. Идея о том, что «вы — это и есть этот объект», трудно поддается внутреннему принятию, но она фундаментальна для понимания природы разума в его вычислительной парадигме .

Эмоции как «промпты» биологической нейросети 3:11:09

Обсуждая, может ли ИИ обладать сознанием, Вольфрам выдвигает гипотезу о природе человеческих чувств. Он предполагает, что наши эмоции и инстинктивные реакции во многом похожи на «промпты» для больших языковых моделей . Точно так же, как текстовый запрос задает направление генерации LLM, наши эмоциональные состояния (страх, радость, гнев) могут быть управляющими сигналами, которые настраивают работу нашего биологического вычислителя.

Стивен сравнивает это с состоянием сна: когда мы спим, наш мозг генерирует образы и сюжеты, которые очень напоминают галлюцинации нейросетей . Это «свободный ход» вычислительной системы, не ограниченный в моменте строгим вводом из внешнего мира.

В этом контексте Вольфрам видит ИИ не как нечто чужеродное, а как систему, изначально «выровненную» (aligned) с человеческим мышлением, поскольку она обучалась на нашем языке . Когда LLM говорит, что она «боится» отключения, мы понимаем, откуда это берется — она просто воспроизводит человеческие лингвистические паттерны страха. Но это заставляет задуматься: а не является ли наш собственный страх лишь набором биохимических паттернов, закрепленных эволюцией для выживания нашего «вычислительного процесса»?

Человеческий фактор в башне автоматизации 3:13:54

Несмотря на глубокое погружение в мир алгоритмов, Вольфрам остается прагматиком в управлении своей компанией и проектами. Он строит то, что называет «башней автоматизации» . Его цель — делегировать машинам как можно больше рутинных и вычислительных задач. Однако в этой структуре все равно остаются люди.

Лекс интересуется, не пугает ли Стивена замена человеческого интеллекта искусственным в рабочих процессах. Вольфрам отвечает, что пока люди остаются необходимым звеном в определении целей и смыслов. Автоматизация позволяет нам подняться на новый уровень абстракции, но «зачем мы это делаем» — вопрос, который все еще требует человеческого присутствия .

В завершение этого блока дискуссия плавно переходит к фундаментальным законам физики, которые ограничивают любые вычисления и процессы во Вселенной. Стивен начинает рассказ о Втором начале термодинамики, вспоминая историю Сади Карно и эффективность паровых двигателей XIX века , что подводит нас к вопросу о том, почему в мире вообще существует порядок и как он неизбежно стремится к хаосу.

🧩 Второе начало термодинамики и тайна Rule 30 3:20:36

Генезис сложности: Rule 30 и «вычислительный телескоп» 3:27:27

Путь Стивена Вольфрама к пониманию фундаментальных законов Вселенной начался с детского увлечения космосом и физикой, которое со временем переросло в поиск механизмов возникновения сложности из простых основ . В 1980-х годах его внимание привлек парадокс: почему в мире, где господствует энтропия, существуют такие высокоупорядоченные структуры, как галактики или человеческий мозг? . Стивен Вольфрам пришел к выводу, что ответ кроется не в сложности самих правил, а в их итеративном применении.

Ключевым инструментом этого исследования стал «вычислительный телескоп» — метод изучения пространства всех возможных простых программ. Направив этот «телескоп» на простейшие одномерные клеточные автоматы, Вольфрам обнаружил объект, изменивший его мировоззрение: Rule 30 (Правило 30) .

Система Rule 30 работает по элементарному алгоритму: каждая клетка в следующем ряду меняет цвет в зависимости от состояния трех своих соседей сверху. Несмотря на примитивность исходного кода, Rule 30 порождает структуру, которая с одной стороны кажется упорядоченно-треугольной, но внутри демонстрирует абсолютную, непредсказуемую случайность .

«Вы просто печатаете результат работы этого правила, и оно создает этот треугольный паттерн. Но если вы заглянете внутрь, то увидите нечто, что, насколько можно судить, является совершенно случайным», — поясняет ученый .

Открытие Rule 30 стало для Вольфрама шоком: оно доказало, что для создания бесконечной сложности не нужен сложный дизайнер или бесконечное количество начальной информации. Это явление тесно связано с концепцией вычислительной несводимости (которую они с Лексом Фридманом обсуждали ранее), где единственный способ узнать будущее системы — это прожить его шаг за шагом .

Второе начало термодинамики как следствие ограничений наблюдателя 3:33:00

Стивен Вольфрам утверждает, что потратил почти 50 лет на то, чтобы доказать: второе начало термодинамики — закон о неизбежном росте энтропии и превращении порядка в хаос — не является абсолютным свойством материи. Вместо этого он описывает его как следствие наших ограничений как наблюдателей .

В классическом примере с молекулами газа, запертыми в углу коробки, система со временем заполняет всё пространство. Для человеческого глаза это выглядит как превращение «порядка» (молекулы в куче) в «беспорядок» (равномерный туман). Однако, если отследить траекторию каждой частицы и запустить время вспять, система вернется в идеально упорядоченное состояние . Парадокс заключается в том, почему мы видим движение только в одну сторону — к хаосу.

Вольфрам объясняет это через природу наблюдателя:

• Мы являемся «вычислительно ограниченными» системами .
• Наш мозг и приборы не могут отследить триллионы индивидуальных столкновений молекул .
• Мы вынуждены усреднять реальность, чтобы воспринимать её, и именно в процессе этого «огрубления» (coarse-graining) информация превращается в тепло, а порядок — в энтропию.

Таким образом, энтропия — это «скрытая сложность», которую мы просто не способны расшифровать из-за своей вычислительной слабости. Если бы мы обладали бесконечной мощностью, второго начала термодинамики для нас бы не существовало .

От Больцмана до Эйнштейна: историческая битва за дискретность 3:39:32

Размышляя об истории термодинамики, Стивен Вольфрам подчеркивает, в каком глубоком замешательстве находилась наука в конце XIX века. Людвиг Больцман, пытаясь математически обосновать энтропию, выдвинул радикальную для того времени гипотезу о существовании дискретных молекул . В 1860-е и 1870-е годы многие ведущие физики считали материю непрерывным эфиром или «математическим мусором», и идеи Больцмана встречали жесткое сопротивление .

Ситуация начала меняться только в 1903–1905 годах, когда молодой Альберт Эйнштейн опубликовал свои ключевые работы. Вольфрам напоминает, что 1905 год был «большим годом» не только из-за теории относительности, но и благодаря объяснению броуновского движения и введению понятия фотонов (квантов света) .

1. Броуновское движение: Эйнштейн показал, что хаотичное дрожание пыльцы в воде — это прямое следствие ударов невидимых молекул. Это стало первым окончательным доказательством дискретности материи .
2. Макс Планк и квантование: В попытках доказать второе начало термодинамики, Планк был вынужден искусственно «разбить» мир на части (кванты), чтобы расчеты совпали с результатами экспериментов .

Для Вольфрама эта история — не просто хроника физики, а подтверждение его собственного пути. Точно так же, как Больцман и Планк пришли к дискретности, чтобы спасти законы термодинамики, Вольфрам сегодня использует дискретные вычисления и клеточные автоматы, чтобы объединить термодинамику с фундаментальной физикой, показывая, что весь наш мир — это результат работы простых, но вычислительно несводимых правил .

🌌 Дискретная ткань реальности и природа Рулиада 3:45:41

В современной физике долгое время господствовало представление о пространстве как о непрерывном и гладком фоне, на котором разворачиваются события. Однако Стивен Вольфрам предлагает радикальный пересмотр этой концепции. Он утверждает, что пространство на самом глубоком уровне дискретно и состоит из элементарных «узлов» или «атомов пространства» . Эта идея возвращает нас к дискуссиям начала XX века: если материя оказалась состоящей из дискретных частиц, а квантовая механика показала дискретность многих физических величин, то пространство оставалось последним оплотом непрерывности . По мнению Вольфрама, Альберт Эйнштейн еще в 1916 году допускал дискретность пространства, но у него не было математического аппарата, чтобы развить эту мысль .

Кванты пространства и загадка темной материи 3:46:00

Стивен Вольфрам рассматривает пространство не как пустоту, а как сложную, динамически меняющуюся сеть связей. Это приводит к совершенно новому взгляду на одну из главных загадок космологии — темную материю. Традиционная физика ищет темную материю в виде экзотических частиц (аксионов или вимпов), которые не взаимодействуют со светом, но обладают массой. Вольфрам же предполагает, что «темная материя» — это вовсе не частицы .

Согласно его модели, то, что мы воспринимаем как темную материю, является артефактом структуры самой вселенной. Это своего рода «избыточные» узлы в графе пространства, которые влияют на гравитацию, но не являются материей в привычном понимании. Он сравнивает это с историей изучения тепла: когда-то ученые верили в существование «теплорода» (калорика) как особой жидкости, пока не поняли, что тепло — это просто результат движения молекул . В этой аналогии темная материя — это «молекулярные» эффекты дискретного пространства, которые мы пока не научились интерпретировать правильно .

Ключевые тезисы этой концепции:

• Пространство состоит из огромного количества дискретных элементов, связанных в единую сеть.
• На макроуровне мы воспринимаем эту сеть как гладкое пространство, подобно тому как мы видим воду гладкой, не замечая отдельных молекул .
• Аномалии в кривых вращения галактик, приписываемые темной материи, могут быть прямым следствием дискретной структуры пространства на очень малых масштабах .

Наблюдатель как создатель физических законов 3:51:35

Важнейшим элементом модели Вольфрама является «вычислительно ограниченный наблюдатель». Ранее в разговоре Лекс Фридман и Стивен Вольфрам касались того, как наша ограниченность заставляет нас упрощать мир. Именно здесь рождаются законы физики. Вольфрам утверждает, что три великие теории XX века — общая теория относительности, квантовая механика и второе начало термодинамики — не являются свойствами самой вселенной . Они являются результатом того, как человеческий разум (или любой подобный нам наблюдатель) воспринимает дискретный мир.

Наш мозг обладает двумя фундаментальными характеристиками:

1. Мы вычислительно ограничены: мы не можем отследить движение каждого «атома пространства» .
2. Мы верим в непрерывность времени: мы воспринимаем себя как единый объект, существующий во времени, несмотря на то что на микроуровне мы постоянно «пересчитываемся» .

Когда такой ограниченный наблюдатель пытается осмыслить гигантскую сеть дискретных событий, он неизбежно проводит «грубое усреднение» . В результате этого усреднения возникают уравнения Эйнштейна и законы квантовой механики. Физика, в понимании Вольфрама, — это не описание «вещей в себе», а описание взаимодействия нашего ограниченного разума с безграничной вычислительной сложностью .

Рулиад: предел всех возможностей 4:03:35

Вершиной теоретических построений Вольфрама является понятие Рулиада (Ruliad). Если представить все возможные правила вычислений и запустить их одновременно на бесконечное время, результатом будет Рулиад. Это предел всех возможных вычислений, который охватывает всё, что может существовать или быть помыслено .

Вопрос «Почему существует вселенная?» в этой парадигме получает математический ответ. Подобно тому как в арифметике «2 + 2 = 4» является логической необходимостью, Рулиад существует просто потому, что он является логически неизбежным объектом . Наша вселенная — это лишь определенный «срез» или локация внутри Рулиада, которую мы занимаем .

Концепция Рулиада объясняет нашу реальность следующим образом:

• Географическая аналогия: Мы находимся в определенном месте Рулиада, что определяет набор физических законов, которые мы видим .
• Когерентное существование: Если бы наше восприятие было «размазано» по всему Рулиаду, у нас не было бы ощущения идентичности или единого потока опыта .
• Бесконечность познания: Поскольку Рулиад содержит в себе бесконечную вычислительную несводимость, наука никогда не закончится. Мы всегда будем находить новые способы «сжатия» реальности и новые физические эффекты .

Завершая обсуждение, Стивен Вольфрам отмечает, что хотя мы — лишь «куски мяса» с ограниченным сроком жизни, наше положение в Рулиаде позволяет нам прикасаться к объектам бесконечной сложности . Он сравнивает развитие нашего понимания Рулиада с появлением ChatGPT: то, что казалось невозможным или магическим, в какой-то момент становится технологической и обыденной реальностью .

🏁 Финал дискуссии: Наследие и предвкушение новой научной эры 4:11:01

Непредсказуемый «расцвет»: Взгляд за горизонт планирования 4:11:01

Завершая многочасовой марафон обсуждений, Стивен Вольфрам делится личными размышлениями о том, как его многолетние теоретические изыскания соотносятся с нынешним моментом технологического триумфа. Он отмечает, что, несмотря на десятилетия работы над фундаментальными структурами вычислений, реальность всё же находит способы удивлять. Вольфрам признается: хотя он достаточно ясно видел общую траекторию развития сложности и вычислимых систем , конкретный успех и то, как именно «открылся» мир с появлением ChatGPT, стали для него определенной неожиданностью .

Этот момент откровения от создателя Wolfram Language подчеркивает важную десль: даже самый глубокий теоретический фундамент не всегда позволяет предсказать точный момент, когда количественные изменения перейдут в качественный «расцвет» (flowering) технологий . Стивен Вольфрам выражает надежду, что ему удастся стать свидетелем полной реализации этого процесса, когда идеи, заложенные в его трудах по вычислительной сложности, окончательно интегрируются в повседневную интеллектуальную жизнь человечества. Он подчеркивает, что нынешние достижения — это лишь начало более масштабного сдвига, который он предвидел в своих расчетах, но который теперь обретает осязаемую, «живую» форму . Ранее в разговоре они уже касались того, как вычислительная несводимость ограничивает наши предсказания, и финальные слова Вольфрама лишь подтверждают этот философский постулат: будущее всегда чуть богаче наших самых смелых моделей.

Благодарность и вдохновение: Личное измерение науки 4:12:50

Финальный аккорд подкаста берет Лекс Фридман, чье эмоциональное обращение к гостю переводит дискуссию из плоскости чистой науки в плоскость человеческого наследия. Фридман признается, что является давним поклонником деятельности Вольфрама и следит за его работой буквально «с самого начала» . Для Лекса, как и для тысяч других исследователей по всему миру, Стивен Вольфрам стал не просто ученым, а фигурой, сформировавшей современный интеллектуальный ландшафт.

Лекс акцентирует внимание на том, что деятельность Вольфрама — от создания мощных инструментов до разработки концепций о природе реальности — оказала фундаментальное влияние на его собственный путь. «Я глубоко благодарен за то, что вы вдохновили того маленького ребенка во мне на изучение искусственного интеллекта и всего этого прекрасного мира», — говорит Фридман . Этот момент подчеркивает, что истинная ценность фундаментальной науки заключается не только в строчках кода или математических доказательствах, но и в способности зажигать любопытство в новых поколениях.

Подводя итог, Лекс Фридман называет возможность «покопаться в мыслях» (pick your brain) Вольфрама огромной честью . Несмотря на то что беседа длилась более четырех часов, ведущий отмечает, что это лишь очередной раунд в их продолжительном диалоге, и выражает надежду на будущие встречи для обсуждения тем, которые остались за рамками этого эпизода . Прощание проходит на ноте глубокого взаимного уважения и признания того, что путь к пониманию природы вычислений и истины бесконечен. Последние секунды эфира традиционно посвящены благодарности спонсорам и финальному напутствию слушателям, оставляя аудиторию наедине с масштабом затронутых идей .