Если мир — это генеративная модель, а живые системы существуют лишь для того, чтобы минимизировать свою «неожиданность», то современный ИИ с его бесконечным потреблением данных движется по ложному пути. Нейробиолог Карл Фристон объясняет, почему будущее интеллекта лежит не в гигантских LLM, а в компактных энактивированных системах, способных к автономному познанию.
🌌 Физика интеллекта: от хаоса к самоорганизации 2:28
Размышляя о фундаментальных законах мироздания, мы часто сталкиваемся с идеями, которые поражают своей лаконичностью, но при этом обладают колоссальной объяснительной силой. Подобно принципу относительности или энтропии, принцип свободной энергии (Free Energy Principle, FEP), разрабатываемый Карлом Фристоном, предлагает взгляд на жизнь и разум как на фундаментальный физический процесс. В своей основе этот подход стирает грань между неодушевленной материей и живыми существами, задавая вопрос, который переворачивает биологию с ног на голову: если нечто существует, что оно должно делать, чтобы поддерживать свое существование?
Математика существования 5:12
Согласно формализму Фристона, любой объект, который мы можем выделить как отдельный (будь то частица, клетка или человек), обладает так называемой границей Маркова (Markov blanket). Эта граница отделяет внутренние состояния системы от внешнего мира. Чтобы система могла сохранять свою целостность и идентичность в условиях энтропии и хаоса, она должна двигаться к определенным «состояниям-аттракторам».
Этот процесс можно описать как взаимодействие двух начал:
- Плавная эволюция: предсказуемые закономерности, подобные движению планет или волн.
- Случайный хаос: непредсказуемые флуктуации и «шум», постоянно возмущающие систему.
Интеллект, в физической интерпретации Фристона, — это не просто абстрактная когнитивная способность, а динамический процесс удержания границ. Система «старается» минимизировать неожиданность (surprise), чтобы оставаться в пределах своего жизнеспособного состояния.
Разум как байесовский вывод 5:39
Фундаментальный вывод Фристона заключается в том, что закон движения любого устойчивого «существа» математически эквивалентен активному байесовскому выводу. Фактически, каждая живая система постоянно поддерживает некую внутреннюю модель мира и себя в нем.
- Система использует эту модель, чтобы предсказывать сенсорные входящие данные.
- Она действует на окружающую среду, чтобы уменьшить неопределенность и подтвердить свои ожидания.
- Получая обратную связь, она обновляет свои «убеждения», корректируя модель для лучшего выживания.
Ранее в разговоре упоминались критические взгляды на то, может ли информация быть первичным субстратом бытия и как это соотносится с человеческой субъектностью, однако Фристон настаивает: сама способность системы к такому самообновлению — это и есть то, что мы воспринимаем как разумное поведение.
Любопытство как императив 11:50
Ключевым элементом этого «экзистенциального императива» является любопытство. В контексте теории Фристона любопытство — это не просто черта характера, а математически выраженное стремление системы к разрешению неопределенности.
Для того чтобы выжить в меняющемся мире, агент должен не просто пассивно воспринимать реальность, но активно искать информацию, которая делает его модель мира более точной и гибкой. Это создает основу для распределенного интеллекта: когда множество агентов обмениваются «убеждениями» (shared beliefs) через коммуникационные протоколы, они формируют сложные когнитивные экосистемы. Эти идеи, которые ранее обсуждались в контексте активного вывода и экосистем интеллекта, теперь становятся основой для разработки новых типов интеллектуальных систем, способных проявлять аутентичное «стремление» к познанию.
🌐 Экосистемы интеллекта: от одиночных агентов к распределенным сетям 27:02
Вместо того чтобы рассматривать искусственный интеллект как изолированный инструмент или «черный ящик», Карл Фристон предлагает концепцию симбиотической экосистемы интеллекта. В этой модели ИИ перестает быть лишь пассивным исполнителем команд и обретает любопытство, становясь активным участником взаимодействия.
Представьте эволюцию современных интерфейсов, таких как навигационные приложения, в сторону двусторонней связи. Сейчас вы задаете вопрос, а программа дает ответ. Фристон же описывает будущее, где алгоритмы активно стремятся разрешить неопределенность относительно своего пользователя. Это не означает наделение системы «агентностью» в человеческом понимании, но подразумевает создание сбалансированного диалога, где цель приложения — не просто монетизация или выполнение узкой задачи, а достижение состояния взаимного понимания.
Такой подход опирается на аналогию с функционированием мозга. Нейрон — крошечный, но невероятно функциональный элемент — получает сенсорные сигналы и обменивается сообщениями с другими клетками, не обладая при этом «автономией» в масштабах всей личности. Однако из этого взаимодействия десяти миллиардов «малых элементов» возникает сложное эмерджентное поведение, способное к планированию и генерации контрфактуальных сценариев. В цифровом мире «малыми элементами» могут выступать люди и приложения, объединенные через разделяемые модели мира, где каждый агент «смотрит» на реальность глазами другого, дополняя общее поле знаний.
Ранее в разговоре они касались принципа свободной энергии как фундамента для понимания интеллекта, однако в данном контексте важно подчеркнуть: речь идет не о создании систем, имитирующих человеческую психологию, а об организации самонастраивающихся открытых систем.
🧩 Субстрат информации и вопрос автономии 32:22
Дискуссия о природе интеллекта неизбежно подводит нас к вопросу: не становится ли информация первичным субстратом, вытесняющим человеческую субъектность? Фристон отмечает, что наше стремление определять интеллект через «планирование», «агентность» или «цели» часто является своего рода «редуктивной линзой». Мы используем эти термины, чтобы упорядочить сложную реальность, но они могут быть лишь способом, которым мы — носители определенных когнитивных априорных данных — интерпретируем мир.
Этот подход не является пежоративным. Напротив, «грубое зернение» (coarse-graining) информации — фундаментальный метод познания. Мы используем язык и упрощенные модели, чтобы объяснить то, что может быть фундаментально проще, чем кажется через призму наших антропоморфных конструктов.
Существует риск, что, фокусируясь на «информации как короле» и процессах обновления убеждений (belief updating), мы упускаем нечто важное в человеческой автономии. Однако Фристон предлагает взглянуть на это иначе:
- Редукция как инструмент: Мы упрощаем поведение до «агентов» и «планов», чтобы сделать его понятным для нашего ограниченного когнитивного горизонта.
- Физическая реальность: Интеллект может быть не «дополнением» к физике, а ее неотъемлемым свойством, выраженным через вероятностную механику.
- Симметрия: Если ИИ-система способна активно уточнять свои модели о нас, мы переходим от иерархического подчинения машины человеку к взаимодействию, где границы между наблюдателем и наблюдаемым становятся подвижными.
В конечном счете, дискуссия о том, не ведет ли примат информации к эрозии личности, упирается в то, что мы называем «собой». Даже если мы отбросим уровни метапознания, остается вопрос минимальной самости: если система строит планы, делает ли это ее носителем агентности, или мы просто наблюдаем работу сложных динамических траекторий? Ответ, по Фристону, кроется в самой структуре самоорганизующихся систем, которые не просто существуют в моменте, а постоянно «тянутся» в будущее через свои действия.
🌌 Универсализм и масштабируемая архитектура интеллекта 50:26
Карл Фристон утверждает, что интеллект не является случайным набором биологических приспособлений, а базируется на едином, фундаментальном принципе, который повторяется на всех уровнях организации материи. Эта гипотеза универсализма предполагает, что один и тот же алгоритм — минимизация свободной энергии — работает как в процессах морфогенеза и формирования клеточных паттернов, так и в высокоуровневых когнитивных функциях.
Ключевой интерес для исследователей представляет «игра» между уровнями: как один масштаб ограничивает, информирует или контекстуализирует соседние уровни. Эту динамику можно рассматривать в двух направлениях:
- «Сверху вниз»: Принципы активного вывода и обучения, заданные эволюционным отбором, накладывают ограничения на развитие конкретного фенотипа.
- «Снизу вверх»: Индивидуальное поведение, накопление опыта и пластичность конкретного организма вносят вклад в общий «генофонд» на эволюционном уровне.
С точки зрения проектирования систем, таких как тензорные процессоры (TPU), интеллект требует определенной разреженности (sparsity) графа связей. Фристон полагает, что любая адаптивная система значимого размера обладает этой разреженностью как следствием принципов самодоказательства (self-evidencing). Минимизация свободной энергии, по сути, представляет собой баланс между точностью модели и её сложностью: система стремится к минимуму степеней свободы. Таким образом, иерархическая структура — это не просто архитектурное решение, а результат математической необходимости, где отсутствие связей между отдаленными слоями определяет саму природу иерархии.
🛡️ Марковы границы и иерархия масштабов 50:12
Марковы границы (Markov blankets) являются фундаментом байесовой механики и служат инструментом для разделения системы на внутренние и внешние состояния. Согласно этому подходу, внешние состояния независимы от внутренних, пока известны промежуточные состояния границы. Важно понимать, что эти границы не статичны — они пронизывают все временные и пространственные масштабы.
Разделение временных масштабов позволяет увидеть, как одна «граница» вложена в другую:
- Быстрые процессы: Байесова фильтрация и оценка состояний в моменте (миллисекунды).
- Среднесрочные процессы: Обучение как «медленный вывод», где параметры (веса) системы адаптируются для объяснения мира.
- Долгосрочные процессы: Структурное обучение, определяющее архитектуру самой системы (годы), что математически эквивалентно эволюционному отбору на масштабах тысячелетий.
Хотя мы часто визуализируем Марковы границы в 3D-пространстве, связывая их с границами организма, их природа является метафизической — это вопрос топологии состояний. Для достаточно больших динамических систем возникновение таких границ практически неизбежно («с вероятностью единица»).
Фристон подчеркивает, что если вы являетесь частью системы, вы «заперты» внутри своей Марковой границы и имеете доступ только к сенсорным впечатлениям на ней. Это создает фундаментальную эпистемологическую стену: вы никогда не сможете познать внутренние состояния другого агента, что делает вопрос «каково это — быть другим?» принципиально неразрешимым. Тем не менее, как инструмент моделирования, Марковы границы позволяют описывать самоорганизацию, «блуждающие» коалиции агентов и социальные группы, которые адаптируются и меняются со временем.
Ранее в разговоре они касались энактивизма, активного вывода и экосистем интеллекта.
🧠 Архитектура Марковских границ и природа интеллекта 1:15:29
Понимание того, как мозг структурирует информацию, напрямую связано с топологией Марковских границ — концепцией, которая описывает разделение системы на «внутреннее» и «внешнее». Карл Фристон отмечает, что эти границы существуют не только на макроуровне, отделяя индивида от мира, но и внутри самого мозга. Мы можем рассматривать иерархическую структуру нейронных связей как «Марковские границы внутри Марковских границ». Это создает фундаментальные вопросы о том, как различные части мозга «знают» друг о друге и как процесс обмена информацией между ними превращается в селективное внимание.
С точки зрения статистики, Марковские границы определяют структуру «сообщения» (message passing) в системе. Вместо того чтобы пытаться обработать весь поток данных, система использует эти границы для минимизации вычислительной сложности. Именно здесь на помощь приходит теория графов: особые типы связей, такие как «клетки места» и «клетки решетки» (place/grid cells), служат биологическим воплощением метрических пространств. Они позволяют мозгу эффективно кодировать данные, которые генерируются в мире с четкой метрикой — например, пространственно-временной континуум, в котором мы перемещаемся.
Однако не все абстрактные концепции требуют метрической точности. Фристон подчеркивает, что по мере продвижения вверх по иерархии — от сенсорного ввода к сложным абстракциям — архитектура мозга переходит от метрических пространств к более дискретизированным, топологическим представлениям. Это объясняет, почему мы можем легко усваивать абстрактные символы и концепции, не привязывая их к физическим расстояниям: мозг учится реконструировать топологическую структуру связей даже в абстрактных пространствах, о чем ранее в разговоре упоминались исследования Кристофера Саммерфилда.
🧩 Партология и композиция структур 1:22:14
В вопросах композиции сложных систем Фристон обращается к «миреологии» — философскому изучению отношений части и целого. В отличие от классической теории множеств, основанной на принадлежности элемента к группе, миреология фокусируется на включении и функциональной роли. Когда мы проектируем интеллектуальные машины, крайне важно понимать, как эти части-узлы взаимодействуют друг с другом.
Существует определенный «проклятие оптимизации» и сложности, которое вынуждает системы использовать индуктивные предпочтения для уменьшения гипотетического пространства. Эволюционный путь дизайна нейронных сетей — от сверточных сетей (CNN), использующих трансляционную инвариантность, до более современных архитектур — по сути является поиском правильной разреженности.
- Функциональная специализация: Аналог «разделяемости» факторов в мире, где объекты (например, «большой красный автобус») могут быть разложены на независимые атрибуты — цвет, размер, форму.
- Условная независимость: В физическом моделировании это выражается через приближение среднего поля (mean field approximation), позволяющее факторизовать совместное распределение вероятностей.
- Иерархическая композиция: «Тяжелая работа» интеллекта происходит в процессе взаимодействия уровней, где нелинейные операторы «сговариваются» для генерации целостного предсказания сенсорного ввода.
Таким образом, прогресс в области ИИ сегодня — это не просто масштабирование, а поиск структур, которые позволяют агенту эффективно разрешать неопределенность в контексте, в котором он находится. Вместо «монолитных» систем, пытающихся охватить всё, Фристон видит будущее за маленькими, гибкими агентами, которые, подобно хорошим ученым, активно собирают «умные данные» для достижения своих целей.
🤖 Обмен верованиями и парадокс генеративного ИИ 1:40:34
В центре дискуссии о природе общения между агентами Карл Фристон (Karl Friston) предлагает рассматривать взаимодействие не просто как обмен языковыми сигналами, а как прямой обмен верованиями. В условиях иерархических генеративных моделей абстракции, которые мы изучаем, могут не иметь прямого «заземления» в физическом мире, существуя в неметрических пространствах. Тем не менее, они обладают ординальной структурой, позволяющей агентам, обладающим схожими моделями мира, передавать друг другу «достаточные статистики» своих убеждений.
Такой подход превращает Марковы границы (Markov blankets) в своеобразные голографические экраны: действие становится актом «записи» на этот экран, а ощущение — «чтением» с него. Когда два агента достигают синхронизации на «манифольде понимания», это становится возможным благодаря общему нарративу, который подкрепляет обмен сигналами. По Фристону, это лишь частное проявление фундаментального экзистенциального императива — разрешения неопределенности через максимизацию маргинальной вероятности (или минимизацию свободной энергии), что вынуждает агентов конвергировать к общей модели мира.
Знание как продукт иерархического вывода 1:44:39
Для Карла Фристона понятие знания не несет в себе ничего мистического. Знание — это продукт процесса обучения, который он определяет как «медленное» обновление верований. С этой точки зрения, знание эквивалентно оптимально сконфигурированной структуре генеративной модели. Существует глубокая циклическая причинность между знанием и интеллектом: чтобы делать выводы о текущем контексте (инференция), агенту нужны соответствующие веса и параметры модели (знание), но для обновления этих параметров в ходе обучения также требуется способность к качественной инференции. Таким образом, обучение и интеллектуальный вывод являются одним и тем же процессом, протекающим на разных временных масштабах.
Природа генеративного ИИ: интерполяция против понимания 1:56:05
Размышляя о феномене современных больших языковых моделей (LLM), Фристон отмечает, что мы ошибочно наделяем их пониманием. Технически, это «интерполяционные машины», которые работают в пространстве данных, а не в пространстве смыслов. В отличие от систем, предоставляющих прогнозы для принятия решений (как в случае с картографическими сервисами), генеративный ИИ создает контент, не нуждаясь в «осмыслении» реальности.
Его успех обусловлен двумя факторами:
- Культурная ниша: LLM генерируют язык — дистиллят тысячелетий культурной эволюции, что позволяет им эффективно имитировать человеческое мышление.
- Диадическая природа: Привлекательность ИИ заключается в асимметричном обмене, где «активная» часть — выбор, проверка и триаж (сортировка) контента — остается за человеком. Мы сами наделяем смыслом сгенерированные машиной данные.
Риски индустриализации конфабуляции 2:01:26
Особую опасность представляет то, что Фристон называет «конфабуляцией» — склонность моделей выдавать правдоподобно звучащие, но фактически ложные данные за истину. В условиях демократизации и масштабирования этого процесса инфосфера рискует наполниться информацией, сгенерированной машинами, которую становится невозможно отличить от человеческой. Фристон подчеркивает, что это не просто вопрос дезинформации — это подмена процесса мышления статистической аппроксимацией. В недавней истории с литературой он даже упомянул «тест Тьюринга XXI века», когда автор книги может использовать LLM для генерации части нарратива, заставляя читателя сомневаться в том, кто именно — человек или алгоритм — стоит за текстом.
Ранее в разговоре они касались роли расширенного разума (extended mind) и принципов работы внимания, однако сейчас фокус сместился на то, как генеративные системы меняют нашу способность к критическому восприятию информации.
🕸️ Энактивизм в цифровую эпоху: как действие формирует познание и спасает наши границы 2:05:38
Активное извлечение информации и эпистемический поиск 2:05:38
Рассуждая о природе понимания и мышления, Карл Фристон (Karl Friston) противопоставляет живых агентов современным генеративным моделям, которые лишь усваивают поверхностную статистику языка. Популярные большие языковые модели никогда не признаются в своем незнании и не попросят у собеседника разъяснений. Чтобы преодолеть проблему конфабуляций и ложных данных, будущие интеллектуальные системы необходимо наделить врожденной автономией, позволяющей им самостоятельно отбирать и верифицировать информацию. В рамках концепции энактивизма познание рассматривается не как пассивное зеркалирование внешнего мира, а как процесс, неразрывно связанный с активным воздействием субъекта на среду.
В этой оптике живой интеллект постоянно вовлечен в процессы структурирования своего опыта:
-
Эпистемический поиск (epistemic foraging): активное и целенаправленное исследование окружающего пространства ради извлечения релевантных данных.
-
Самосвидетельствование (self-evidencing): деятельность, посредством которой система подтверждает гипотезы о параметрах собственного существования через языковой или физический обмен со средой.
-
Разрешение неопределенности: фундаментальная оптимизация ожидаемой свободной энергии, которая заменяет собой жесткие монотематические эвристики (например, абстрактные команды «приносить пользу человечеству» или «производить канцелярские скрепки»).
Человеческий мозг постоянно решает сложнейшую задачу удовлетворения множественных ограничений, которая охватывает все доступные измерения исходов и в конечном счете определяет саму структуру нашего «Я».
Цифровое расширение когнитивных функций и социальный конструктивизм 2:08:15
Хотя ранее в разговоре собеседники подробно разбирали принцип свободной энергии, в данном фрагменте Карл Фристон (Karl Friston) переносит его на классическую философскую проблему «сущего и должного» (is-ought problem) Дэвида Юма. С точки зрения физики живых систем, это различие полностью растворяется: существование в определенных характеристических (аттракторных) состояниях определяет идентичность агента, а значит, то, чем система является (сущее), одновременно задает то, какой она должна быть (должное).
Этот энактивистский подход находит яркое отражение в концепции «расширенного познания» (extended cognition) Энди Кларка (Andy Clark). Взаимодействуя с цифровой средой — фильтруя ответы генеративного ИИ, следуя алгоритмическим рекомендациям или поставляя данные в сеть — человек превращается в активный узел гигантского глобального факторного графа. Такое включение в единый цикл обмена информацией неизбежно ведет к конвергенции, формированию общего здравого смысла и единой картины мира.
Фристон подчеркивает, что наши ценностные и моральные ориентиры не заложены в мозге жестко с рождения (за исключением базовых гомеостатических приоритетов, зашитых генетически и эпигенетически). Мораль представляет собой конструируемый социальный феномен, развивающийся в процессе трансгенерационного конструирования ниш. Мы учимся правильному поведению на детской площадке, а затем углубляем эти абстракции по мере взросления. Для формирования полноценной морали агенту необходима развитая модель собственной субъектности и моделей других людей. Принятие этического решения — это всегда вероятностный вывод: «Что я должен сделать в этом контексте, учитывая, какой я человек, и что ты думаешь о том, какой я человек?». Эту информацию мы непрерывно черпаем из общения с родителями, сверстниками и медиаресурсами.
Патология сверхсвязанности: Марковы границы под угрозой 2:22:04
Несмотря на гипотетическую утопию всеобщей гармонии и «квантовой запутанности» когнитивных агентов, реальная самоорганизация систем подчиняется масштабно-инвариантным законам, требующим автономии отдельных групп и институтов. Как уже обсуждалось ранее в контексте марковских границ, существование любого объекта требует определенной степени изоляции. Карл Фристон (Karl Friston) выражает серьезную обеспокоенность популярными техно-оптимистическими нарративами прошлых десятилетий (упоминая, в частности, Марка Цукерберга), где абсолютная связность (connectivity) преподносилась как безусловное благо.
«Именно отсутствие связей, разреженность (sparsity) определяет структуру и позволяет системе функционировать гармонично», — объясняет ученый. Уничтожение этой разреженности ради тотальной глобализации разрушает границы автономии. Фристон приводит метафору биолога Майкла Левина (Michael Levin): раковая опухоль — это, по сути, самоорганизующаяся система, которая просто «забыла» свои собственные тканевые границы. Жизнь и идентичность возможны только в условиях «радостной изоляции» под защитой своего марковского одеяла.
Когда мир захлебывается в потоке неточных, избыточных данных, а скорость культурных изменений начинает катастрофически опережать темпы биологической эволюции, живые системы теряют уверенность в своих жестко структурированных априорных убеждениях. В психиатрии подобный сбой — утрата точности внутренних моделей и хаотичная попытка опереться исключительно на внешние сигналы — диагностируется как склонность к «поспешным выводам» (jumping to conclusions), что является ключевым маркером шизофрении. Карл Фристон (Karl Friston) признается, что недавняя книга физика Карло Ровелли (Carlo Rovelli) оставила у него глубокое пессимистическое ощущение: без сохранения когнитивной разреженности и защиты информационных границ человечество рискует разрушить саму основу своего разумного существования.
🤖 Генеративный ИИ: закат монолитов и переход к истинному пониманию 2:30:55
В начале этого фрагмента собеседники вскользь коснулись темы социального конструирования эмоций и концепций Лизы Фельдман Барретт, а также упомянули вопросы природы человеческого зла сквозь призму психиатрии, подробный разбор которых вынесен в другие главы статьи. Основная же часть дискуссии развернулась вокруг фундаментального кризиса современных подходов к искусственному интеллекту.
Тупик «больших данных»: почему гигантские языковые модели лишены автономии 2:39:26
Карл Фристон предлагает дефляционный подход к этическим проблемам ИИ: при запуске правильных императивов оптимизации необходимость в принудительном насаждении моральных ограничений отпадет сама собой. Массовая культура перегружена антиутопическими мемами о Сингулярности и «парадоксе скрепкодела», которые подпитываются нерешенностью проблемы разделения сущего и должного. В условиях жесткой централизации ИИ крупными корпорациями вопросы техноэтики обостряются, поскольку цели систем диктуются стремлением к прибыли.
С позиции принципа свободной энергии, истинный интеллект движим внутренним стремлением разрешать любопытство в процессе активного вывода. Карл Фристон критикует современные большие языковые модели (LLM), указывая на их ключевое ограничение: они представляют собой лишь инструменты интерполяции контента. Монолитные нейросети слепо собирают («scrape») данные со всего интернета, имитируя связность текста, но они полностью лишены автономии, внутренней интенциональности и истинного понимания контекста.
Маленькие «умные» данные вместо миллиардных нейросетей 2:43:27
В противовес централизованным гигантам Карл Фристон описывает грядущую смену парадигмы — переход к распределенной, децентрализованной экосистеме обмена убеждениями. Нейробиолог уверен, что практика инвестирования миллионов и миллиардов долларов в обучение колоссальных монолитных нейросетей вскоре себя изживет. Индустрия неизбежно развернется в сторону массового использования недорогих локальных периферийных устройств («cheap and cheerful edge devices») и компактных приложений.
Вместо бесконечной интерполяции терабайтов веб-страниц такие агенты будут работать с небольшими фрагментами «умных данных» (small bits of smart data). Их ключевой задачей станет точечное разрешение неопределенности в реальном времени ради планирования последующих действий. Подобный подход меняет саму суть ИИ: из пассивного статистического зеркала он превращается в активного помощника, способного проявлять искренний интерес к конкретному человеку и его локальному контексту. Моральные правила в такой мультиагентной среде формируются эмерджентно, в процессе совместного выживания человека и машин.
Протоколы доверия и распределенный интеллект будущего 2:46:08
Эта новая архитектура интеллекта требует принципиально иных регуляторных и технических подходов. Карл Фристон подчеркивает, что новое поколение инженеров уже сейчас активно проектирует цифровую среду, альтернативную Big Tech с их культом больших данных. Вместо централизованных баз данных разработка фокусируется на механизмах обмена сообщениями в абстрактном гиперпространстве («hyperspace message passing») и создании специализированных протоколов транзакций.
Безопасность и суверенность данных в такой сети будут обеспечиваться распределенными контрактами и верифицируемыми учетными данными (credentials). Эта работа координируется авторитетными институтами, включая IEEE и Spatial Web Foundation. По мнению ученого, жесткие открытые стандарты — единственный способ предотвратить появление цифровых автократий, стремящихся стереть индивидуальность пользователей ради упрощения собственных прогностических моделей. Построение открытой интернет-экологии превращает Сеть в подобие живой природы со своими вызовами, но этот путь закрывает дорогу слепому контентному автопилоту LLM. В завершение беседы спикеры также вскользь затронули тему природы сознания и уровней внимания, детально описанную в заключительной части нашего материала.
🧠 Финал: Сознание, внимание и за пределами алгоритмов
Внимание как ментальное действие
В завершающей части беседы Карл Фристон (Karl Friston) обращается к тонкой механике того, как мы воспринимаем мир и самих себя. Рассматривая проблему самомоделирования через призму обновления убеждений, он проводит параллель между биологическими системами и современными архитектурами искусственного интеллекта.
Фристон отмечает, что механизм, который в нейросетях типа Transformers называют «вниманием» (attention), по своей сути является процессом взвешивания данных. Однако в контексте человеческого познания это «взвешивание» становится чем-то большим: если оно инициируется высшими уровнями иерархической модели, оно обретает черты «эндогенного внимания». В этот момент процесс превращается в ментальное действие — направленное усилие, которое позволяет нам приблизить гипотезу к реальности.
Феноменология и природа сознания
Вопрос о том, осознаём ли мы само развертывание этого внимания, переводит дискуссию в плоскость философии сознания. Фристон подчеркивает разрыв между чисто механистическим описанием процессов в мозге и субъективным качеством опыта.
Размышляя о способности человека рассказывать другим о своих «квалиа» — субъективных переживаниях, — Фристон указывает на то, что это порождает новые слои сложности. Стать философом собственной жизни, который пытается разгадать загадку того, как именно мы сообщаем о своем внутреннем состоянии другому субъекту, — это фундаментальный вызов для любой теории сознания. Это подчеркивает, что сознание — не просто пассивный наблюдатель, а активный процесс формирования моделей будущего, где внимание играет ключевую роль в навигации по этим гипотезам.
Мораль и социальные конструкты
Хотя в данном фрагменте Фристон не углубляется в детали этики, он косвенно подтверждает важность выработки собственного языка для описания этих глубоких процессов. Ранее в разговоре участники касались того, как попытки вывести моральные нормы и социальное конструирование эмоций связаны с принципом минимизации свободной энергии. Фристон призывает искать свою собственную «риторику или исчисление», которые позволили бы интерпретировать эти фундаментальные механизмы, не превращая их в догмы, а оставляя пространство для естественного интеллектуального поиска.
Сам Фристон, верный своим принципам «рекультивации» и стремлению к научному уединению, отказывается давать прямые указания или призывы к действию для сообщества машинного обучения. Он верит, что если подход является верным, то он станет самоочевидным в ходе естественной эволюции идей, без необходимости в навязанных «дорожных картах».
