ИИ, физика и границы понимания: беседа Стивена Вольфрама и Джонатана Горарда 1:36
Вопрос о том, приведет ли нас развитие технологий к созданию полноценного сильного искусственного интеллекта (AGI) и стоит ли этого опасаться, стал центральной темой дискуссии, в которой приняли участие Стивен Вольфрам, создатель Wolfram Language и проекта Wolfram Physics, и математик Джонатан Горард. Участники беседы проанализировали связь между фундаментальными законами физики, концепцией вычислимости и будущим искусственного интеллекта, предложив взглянуть на ИИ не как на «цифровую личность», а как на мощный вычислительный процесс, который требует этического «контракта» с человечеством.
🌌 Физика, вычисления и предел предсказуемости 1:49
Стивен Вольфрам отмечает, что работа над фундаментальной теорией физики затрагивает глубинные уровни реальности — масштабы, несопоставимые с повседневными технологиями. В то время как атом или протон кажутся нам крошечными, объекты, с которыми оперирует теория физики Вольфрама, меньше в триллионы раз.
- Фундаментальный сдвиг: По мнению Вольфрама, мы находимся в той же точке, где когда-то был Ньютон, открывавший законы гравитации, не подозревая о появлении спутников связи. Человечеству еще предстоит осознать, что наш мир полностью работает на вычислительной парадигме.
- Вычислительная несводимость (computational irreducibility): Это ключевая идея, согласно которой предсказать результат работы сложной системы можно, только пройдя все шаги вычислений. Это фундаментальное ограничение, которое делает невозможным полное «понимание» того, что именно делает система, без прямого наблюдения за её работой.
Джонатан Горард добавляет, что в этом контексте проект фундаментальной физики может стать первым доказательством того, что Вселенная в принципе вычислима. Если нам удастся найти программу, воспроизводящую наш физический мир, она станет первым «неоспоримым» примером ИИ, способным породить сознательных существ — нас самих.
🤖 Природа ИИ: «лошадь» или «паровой двигатель»? 8:48
Основной вызов для человечества сегодня заключается в «выравнивании» (alignment) возможностей ИИ с нашими целями. Вольфрам сравнивает работу ИИ с поведением погоды: это сложный вычислительный процесс, у которого нет внутреннего «смысла» или «цели» до тех пор, пока человек не задает их извне.
- Проблема «почему»: ИИ не мыслит нарративами, как люди. Если мы просим ИИ объяснить его решение, он пытается «подогнать» результат под человеческие концепции, которые могут не иметь ничего общего с его реальными внутренними алгоритмами.
- Операционный подход: Стивен Вольфрам полагает, что наше отношение к компьютерным системам должно измениться. Раньше мы представляли машину как устройство с понятными шестеренками. Теперь нам стоит воспринимать современные вычисления скорее как «лошадь»: мы не понимаем детально, как работают её биологические механизмы, но мы научились управлять ею, натягивая поводья.
⚖️ Этика, Конституция ИИ и риск «галактического поглощения» 9:30
Оба собеседника сходятся во мнении, что вопрос «опасности» ИИ — это в первую очередь вопрос того, как мы определяем правила для него. Вольфрам называет отбор контента в поисковиках и соцсетях «первой стычкой в войне ИИ».
- Необходимость контракта: Нам нужна некая «Конституция» для ИИ, которая формализует человеческие ценности, чтобы мы не оказались в ситуации, где алгоритмы действуют вразрез с нашими интересами.
- Антропоцентризм: Страх перед «фон-неймановскими зондами», пожирающими галактику ради ресурсов, — это чисто человеческий конструкт. По мнению Вольфрама, Вселенная не обладает «целью» или «кармой», и приписывание морали процессам, происходящим в космосе (будь то поглощение звезд черной дырой или гипотетическая экспансия ИИ), является ошибкой восприятия.
В завершение Вольфрам делится футуристическим прогнозом: в будущем человечество может полностью виртуализироваться, превратившись в цифровых существ. В таком случае «машинный код» физической реальности станет вторичным, так как наше сознание будет существовать как чисто вычислительный феномен, что окончательно стирает границу между «биологическим» и «искусственным».
