# Когнитом: как мозг создает «Я» и почему опасно давать это ИИ

Источник: https://www.youtube.com/watch?v=_SGHELpTC7I
Канал: ПостНаука
Опубликовано: 15.09.2026

---

«Моим центральным тезисом было то, что я стараюсь понять механизмы сознания для того, чтобы понимать, как сделать, чтобы искусственный интеллект им не обладал». Пока мир грезит о создании цифрового разума, ведущие нейробиологи ищут способ предотвратить превращение кода в чувствующее «Я». Теория когнитома объясняет, как «кусок жира» в черепной коробке рождает музыку и смыслы, и почему это биологическое чудо может стать величайшей угрозой в истории технологий.

## 🧠 Преемственность и поиск «Я»: От теории функциональных систем к когнитому
[[JUMP:00:05:34]]

### Фундамент теории: наследие П.К. Анохина и системный подход
[[JUMP:00:05:48]]

Константин Анохин определяет свою научную траекторию как результат работы под влиянием двух выдающихся наставников: своего деда, создателя теории функциональных систем Петра Кузьмича Анохина, и Вячеслава Борисовича Швыркова [5:48]. Теория когнитома, которую учёный развивает последние 15 лет, не является изолированным конструктом — это прямое расширение и развитие классической теории функциональных систем (ТФС) [6:28]. На протяжении десятилетий Анохин стремился реконструировать логику ТФС, чтобы понять, какие фундаментальные вопросы остались без ответа в рамках традиционной физиологии [7:07].

В основе его подхода лежит концепция системагенеза — процесса формирования новых функциональных систем [9:10]. Анохин выделяет два его типа:

*   **Первичный системагенез:** формирование врождённого репертуара, который Пётр Кузьмич называл «филогенетически приобретёнными функциональными системами» [10:04].
*   **Вторичный системагенез:** наслоение нового индивидуального опыта в процессе жизни, напоминающее разрастающееся дерево новых систем [10:16].

Однако классическая ТФС, описывая единицы интеграции организма, оставляла открытым вопрос о «целом» [10:29]. Ещё в 1930-е годы Пётр Анохин указывал на проблему организма как единого целого, интегрирующего все разрозненные функциональные системы, но полноценного теоретического аппарата для описания этого «Я» создано не было [10:43]. Именно поиски природы этого глобального субъекта, обладающего самосознанием, стали отправной точкой для разработки теории когнитома [11:25].

### Проблема субъективного опыта: как материя рождает музыку
[[JUMP:00:20:40]]

Центральным вызовом современной нейронауки остаётся так называемая «трудная проблема сознания» [20:27]. Ивар Максутов формулирует её как парадокс: каким образом «кусок жира в черепной коробке» способен порождать музыку, поэзию, философию и сложнейшие математические задачи [21:09]? Несмотря на колоссальный объём накопленных данных о работе нейронов, классические подходы не дают ответа на вопрос о соотнесении материального субстрата и ментального мира [21:35].

Константин Анохин выделяет субъективность как второй критический пробел в теории функциональных систем [11:38]. ТФС детально описывает такие процессы, как мотивация, память, принятие решений и оценка результата, но в её аппарате отсутствует объяснение того, где и почему в этой цепочке появляется субъективное переживание [11:52]. Учёный обращается к вопросу, который ставил ещё Иван Павлов: как материя мозга производит субъективное [12:17]?

Для Анохина решение этой проблемы заключается в поиске экзистенциальных принципов, которые объясняют появление «квалии» — непередаваемых личных переживаний [21:09]. Он подчёркивает, что его теория когнитома направлена не только на решение проблемы сознания в узком смысле, но на создание более широкой картины мира, где сознание является лишь одним из следствий фундаментальных принципов организации живых систем [25:11].

### Интеллектуальная преемственность: от Сеченова до Хебба
[[JUMP:00:13:13]]

Разрабатывая концепцию когнитома, Анохин опирается на глубокую историческую традицию, идущую от Ивана Сеченова [13:13]. В конце XIX века Сеченов выдвинул идею «групп одновременного действия» — ансамблей нервных клеток, которые активируются синхронно для выполнения определённых функций [13:41]. Эта идея стала прообразом «когнитивных групп» или «кооперативных групп» (когов) в современной теории Анохина [14:09].

Учёный проводит важную границу между своим подходом и теорией нейронных ансамблей Дональда Хебба:

1.  **Масштаб:** Ансамбли Хебба в современной литературе чаще трактуются как локальные группы из сотен или тысяч клеток [16:53].
2.  **Функция:** Хебб, будучи психологом, шёл от процессов восприятия, тогда как функциональные системы Анохина — это глобальные интеграции, охватывающие весь организм, от коры мозга до периферических органов [14:49, 15:17].

Теория когнитома претендует на роль универсальной модели, построенной на «первых принципах» [17:08]. Анохин утверждает, что из ограниченного набора начальных условий возникновения систем можно вывести все наблюдаемые феномены: от условных рефлексов до сложных когнитивных структур [17:50]. Таким образом, когнитом выступает не просто как описание мозга, а как попытка объяснить логику появления разума как такового [24:57].

## 🧠 Сознание как субъективный опыт и «Я-система»

[[JUMP:25:52]]

В современной нейронауке и философии сложилось понимание, что сознание нельзя изучать как статичный объект или «вещь» — это фундаментально динамический процесс существования субъекта [26:08]. Этот подход уходит корнями к работам американского психолога Уильяма Джеймса, который настаивал на определении сознания как «потока» [26:22]. В рамках теории когнитома сознание трактуется как **субъективный опыт**, охватывающий весь спектр внутренних состояний организма: от элементарного вкуса утреннего кофе или боли от соринки в ботинке до сложных чувств вроде любви к другому человеку или экзистенциального беспокойства перед неопределенностью мира [28:13].

Константин Анохин подчеркивает несколько критических аспектов этого определения:

*   **Субъективная реальность:** Весь массив мыслей, планов на вечер и попыток решения ментальных задач составляет то, что аналитическая философия называет «субъективной реальностью» [28:57].
*   **Сознание как мерило существования:** Для человека сознание тождественно жизни. В моменты его отсутствия — будь то наркоз, глубокий обморок или сон без сновидений — субъект фактически перестает существовать [30:29].
*   **Неразрывность субъекта и опыта:** Субъективный опыт невозможен без самого субъекта. Теория Анохина фокусируется на «S-системах» (self-systems), которые обладают тремя ключевыми характеристиками: субъектностью, чувственностью (sentience) и наличием «Я» [33:05].

Ранее в разговоре затрагивались вопросы преемственности теории функциональных систем, однако Анохин уточняет, что понимание «Я» должно предшествовать пониманию сознания: невозможно расшифровать уникальный процесс в системе, не зная, как устроена сама система, производящая этот процесс [32:11].

### Антикартезианский переворот: от системы к процессу

[[JUMP:34:45]]

Теория когнитома предлагает радикальный пересмотр классического декартовского подхода, господствовавшего в науке последние 400 лет. Рене Декарт в XVII веке вывел формулу «Cogito ergo sum» (мыслю, следовательно, существую), где под «cogito» понимались не только рассуждения, но и любые чувства и желания [35:15]. Декарт шел от процесса (мышления) к доказательству существования субъекта, так как в его время не было инструментов, чтобы заглянуть внутрь организма и понять структуру «Я» в целом — *me totum* [36:24].

Анохин совершает «антикартезианский поворот», предлагая реверсию этой логики [37:50]:

1.  **Приоритет структуры над процессом:** Вместо того чтобы пытаться расшифровать «нити бытия» через поток состояний, наука должна сначала понять структуру «Я» (когнитом), которая сохраняется даже тогда, когда сознание временно гаснет (например, во сне) [39:19].
2.  **Разделение «Разума» и «Сознания»:** Для ясности предлагается использовать два термина из англоязычной традиции аналитической философии — *Mind* (разум как структура/психика) и *Consciousness* (сознание как специфический процесс в этой структуре) [40:01].
3.  **Возврат к вопросу о «душе»:** В определенном смысле это возврат к додекартовским временам, когда целью было понять сущность разума как целостной системы, а не просто фиксировать корреляты отдельных ментальных актов [38:41].

Этот подход позволяет избежать «проблемы темноты», когда нейронаука пытается изучать вспышки активности мозга, не понимая, в какой именно системе они обретают качество субъективности.

### Дарвиновский подход: законы возникновения разума

[[JUMP:42:56]]

Вторым парадигмальным сдвигом теории является переход от «кортезианской нейронауки» к «дарвиновской» [44:07]. Большинство современных исследователей пытаются решить *Mind-brain problem*, изучая сознание как уже данную, готовую тайну. Анохин же опирается на принцип биолога Дарси Томпсона: «Все вещи такие, какие они есть, потому что они стали такими» [45:40]. 

Понимание сознания, согласно теории когнитома, возможно только через изучение алгоритмов его возникновения из «несознательного» субстрата [46:50]. Этот процесс рассматривается в двух масштабах:

*   **Филогенез (эволюция вида):** Биологическая эволюция несколько раз независимо приводила к возникновению систем с субъективным опытом, хотя палеонтологических следов динамики мозга не сохранилось [48:13].
*   **Онтогенез (индивидуальное развитие):** Более доступный для науки процесс, где из оплодотворенной клетки, обладающей лишь физиологическими процессами, миллиарды раз на Земле закономерно рождается «Я» и субъективный опыт [48:53].

Теория утверждает, что только через законы этого «развертывания» можно понять, почему процессы в нервной системе не «текут в темноте», а порождают внутренний свет сознания [47:31]. В следующих разделах будут подробно разобраны элементы этой эволюции — в частности, ранее упомянутые в разговоре функциональные системы и нейронные ансамбли, которые в теории когнитома классифицируются как различные уровни организации опыта.

## 🧬 Алгоритм познания: три условия для запуска разума
[[JUMP:55:23]]

Ранее в разговоре Константин Анохин упоминал, что теория когнитома опирается на дарвиновский подход к изучению разума [52:09]. Чтобы понять, как возникает сознание, нужно найти «первопринципы» — базовые условия, сочетание которых запускает автоматический алгоритм развития сложности [52:38]. В биологической эволюции это были изменчивость, наследственность и естественный отбор [53:45]. Этот процесс ученые-иммунологи иронично назвали G.O.D. — *Generator of Diversity* (генератор разнообразия), который заменяет роль творца в создании сложных жизненных систем [54:55]. Анохин расширяет эту аббревиатуру до *Generator of Design and Diversity* и задается вопросом: какие добавочные принципы должны наложиться на дарвиновскую базу, чтобы в системе появилось «Я» и возник алгоритм не биологической, а когнитивной прогрессии [55:51]?

### Три первопринципа когнитивной прогрессии
[[JUMP:55:23]]

Теория когнитома выделяет три фундаментальных условия, которые, соединившись в одном агенте, превращают его в «селф-систему» (self-system).

Первое условие — **генеративные функциональные системы** [57:17]. Если заглянуть в «черный ящик» Дарвина, мы увидим, что организм борется за существование не всем телом сразу, а через конкретные функциональные системы — комбинации активностей для поиска пищи или терморегуляции [56:48]. Когда привычный способ достичь результата не срабатывает, включается генеративный процесс: мозг начинает генерировать новые пробы и попытки собрать иную интеграцию элементов [57:58]. Это работает почти так же, как генеративный искусственный интеллект: создаются новые версии «черновиков» поведения, которые сравниваются с моделью желаемого результата через обратную связь [58:25]. Если результат достигнут, новая система фиксируется в памяти.

Второе условие — **генерация внутри «глубокой» нервной сети** [59:20]. Для запуска когнитивности недостаточно иметь просто нервные связи. Необходима сеть с большим количеством промежуточных, вставочных элементов — слоев [1:00:03]. В такой структуре сенсорные клетки (вход) не связаны с исполнительными органами (выход) напрямую. Между ними лежит пространство, где встречаются и перекрещиваются потоки обработки сигналов, уже предобработанные на предыдущих этапах [1:00:30]. Глубокая нейросеть становится носителем и внутренним полигоном для генерации новых способов адаптации [1:00:43].

Третье условие — **накопительная клеточная память** [1:01:09]. В узлах этой глубокой сети должны находиться нейроны с механизмом долговременной пластичности [1:01:21]. Память здесь понимается в биологическом смысле, как иммунная память [1:02:02]. Один и тот же нейрон может последовательно участвовать в разных эпизодах борьбы за жизнь, входя в состав разных функциональных систем. Если эти системы успешны, в клетке накапливается «опыт» её включения в различные когнитивные группы [1:01:49].

Когда эти три независимых фактора — генеративность, глубина сети и клеточная память — встречаются, запускается итеративный процесс когнитивной прогрессии, который на протяжении всей жизни организма кумулирует опыт, превращая его в когнитом [1:02:42].

### Альфа-коги и древо индивидуального опыта
[[JUMP:1:04:15]]

Как именно растет индивидуальный опыт? Согласно теории функциональных систем, он развивается не как линейный список навыков, а как ветвящееся дерево [1:05:24]. В основе этого процесса лежит **оператор ответвления** — механизм возникновения новых кооперативных групп нейронов, которые Анохин называет **альфа-когами** или **оперонами** [1:07:38].

Процесс выглядит так: существует материнская функциональная система (например, врожденное чувство голода). Когда старый способ удовлетворения потребности не работает, от «ствола» материнской системы отпочковывается новая «веточка» — дочерняя система [1:05:37]. Например, поиск еды приводит человека в буфет. Теперь в его опыте зафиксирована новая функциональная система: «путь к буфету» [1:05:11]. В следующий раз, когда возникнет голод, материнская система вызовет из памяти эту дочернюю веточку [1:05:49].

Это дерево опыта обладает несколькими важными свойствами:

*   **Иерархия и преемственность:** Новые навыки всегда являются веточками-ответвлениями от уже существующих систем [1:06:17]. Дочерние системы могут сами становиться прородителями для вторичных и третичных слоев опыта (например, поиск конкретной лестницы к буфету) [1:06:45].
*   **Автономизация (эмансипирование):** Со временем вторичные системы могут начать преследовать свои цели независимо от тех, что их породили [1:09:37]. Яркий пример — деньги. Изначально они нужны для еды или комфорта, но позже могут стать самостоятельным универсальным результатом, ради которого человек действует, даже не будучи голодным [1:10:29].
*   **Субъективность:** Каждая веточка в этом дереве имеет свой «акцептор результатов действия» — систему ценностей [1:09:10]. Это дерево ценностей и формирует структуру нашего «Я» [1:08:44].

Организм рождается с первичным репертуаром врожденных альфа-когов (оперонов), которые сформировались в ходе эволюции для предсказуемой, стабильной среды [1:13:27]. Однако, сталкиваясь с уникальными условиями жизни, индивид выращивает свою собственную, неповторимую крону вторичных систем [1:14:11]. Именно это ветвление альфа-когов объясняет колоссальную разницу в психике людей, даже если они являются однояйцевыми близнецами: их жизненный опыт — это разные рисунки ветвей на одном и том же эволюционном стволе [1:15:03].

В дальнейшем развитии системы эти базовые альфа-группы могут претерпевать специализацию, порождая более сложные уровни организации — бета- и гамма-коги, о которых речь пойдет далее [50:31].

## 🕸️ Бета-коги и архитектура кваллонов: как мозг упаковывает мир в смыслы
[[JUMP:1:15:16]]

### Бета-коги и оператор наложения: от клеток к категориям
[[JUMP:1:16:12]]

Формирование когнитома — это процесс непрерывной индивидуации, в ходе которого в мозге вырастают новые функциональные системы [1:15:45]. Ранее в разговоре Константин Анохин упоминал альфа-коги как первичные элементы опыта, но параллельно с ними возникают бета-коги. Этот процесс запускается «оператором наложения» или пересечения на уровне отдельных клеток [1:16:26]. Важнейший постулат теории заключается в том, что долговременная память не «размазана» по сети, а локализована в конкретных нейронах благодаря эпигенетическим модификациям [1:16:38]. 

В ходе жизни один и тот же нейрон вовлекается в тысячи разных функциональных систем: в детстве он участвует в играх, в юности — в обучении, в зрелости — в профессиональной деятельности [1:18:12]. Каждый такой акт участия оставляет в клетке молекулярный след. В результате нейрон становится элементом, который выполняет общую работу для множества разных систем. Анохин вводит для таких узлов термин «функторы» (заимствованный из теории категорий) [1:19:54]. 

Функтор — это клетка, которая активируется на определённое качество мира, независимо от контекста. Например:

*   на красный цвет (в розе, машине или арбузе) [1:21:28];
*   на вертикальные полосы или специфический запах [1:20:21];
*   на конкретный объект — стул, ручку или букву «Б» [1:20:47].

Такие элементы называются также «фрактонами», так как они возникают путём дробления целостного опыта на фрагменты [1:21:42]. Это кумулятивный, дарвиновский по своей сути процесс: путём накопления микроэпизодов мозг начинает различать объекты, которые физически в мире не существуют как инварианты, а являются лишь конструктами нашего разума [1:22:53]. Чем «глубже» в иерархии мозга находится нейрон, тем более абстрактные сущности он кодирует — например, образ конкретного человека, узнаваемого и по лицу, и по голосу в трубке [1:23:47].

### Эксперимент с кроликом: путь от действия к абстрактной «педальности»
[[JUMP:1:28:47]]

Чтобы проиллюстрировать различие между слоями опыта, Анохин обращается к экспериментам своего учителя Вячеслава Швыркова [1:29:00]. В классическом опыте голодное животное (кролик) учится нажимать на педаль, чтобы получить морковку в кормушке. Здесь мы видим иерархию альфа-когов: врождённая система голода, приобретённая система еды из кормушки и «внучатая» система нажатия на педаль [1:31:27].

Когда кролик осваивает навык, в его мозге формируются распределённые группы нейронов, работающих синхронно до момента достижения результата [1:32:19]. Но если усложнить среду, поставив две педали в разных углах, проявляется работа бета-слоя. Регистрация активности мозга показывает удивительную картину:

1.  **Нейроны конкретного действия:** активируются только при нажатии на левую или только на правую педаль [1:34:08].
2.  **Нейроны абстрактной категории:** активируются при нажатии на *любую* педаль [1:34:20].

В природе кролика никогда не существовало категории «педаль», но она рождается в его когнитоме как абстракция в результате обучения [1:34:35]. Этот нейрон «педальности» становится бета-когом. Теперь он может активироваться, даже если кролик просто пробегает мимо объекта, не собираясь на него нажимать [1:34:47]. Он «эмансипируется» от прямой задачи выживания и начинает представлять чистую категорию объекта.

### Квалоны и «эмансипация» опыта: природа субъективности
[[JUMP:1:35:53]]

Бета-элементы, несущие качественные характеристики мира, Анохин называет «квалонами» (от философского термина *qualia* — субъективные качества) [1:36:22]. Наш мир не состоит для нас из атомов и физических волн; он состоит из квалонов — значимых объектов и событий, позволяющих мозгу ориентироваться [1:36:48]. 

Важнейшая черта квалона — его субъективная валентность. Поскольку клетка-квалон формировалась внутри реальных функциональных систем, она «тянет» за собой шлейф их ценностей [1:38:28]. Анохин приводит пример с красным цветом: 

*   Если красный в вашем опыте ассоциировался с прекрасными цветами, его восприятие будет нести положительный заряд [1:39:07].
*   Если же красный связан с кровью, катастрофой или ошейником собаки, которая вас укусила, то активация этого квалона вызовет тревогу и негативные ощущения [1:39:21].

В теории когнитома функциональная система «насаживает» на себя квалоны, как рак-отшельник актиний, используя их для уточнения своих моделей будущего [1:37:46]. Квалоны становятся «кирпичиками» нашего внутреннего мира, которые могут активироваться роем (swarms), даже когда мы просто смотрим на мир или мечтаем с закрытыми глазами [1:38:15].

### Гиперсетевая модель и рождение «кадров» сознания
[[JUMP:1:40:28]]

Переход от разрозненных качеств к целостному восприятию знаменует появление гамма-когов. Если альфа-ког — это действие, а бета-ког — это категория (квалон), то гамма-ког (холон) — это синхронизация множества кваллонов в единую сцену [1:40:28]. Этот процесс рождает «кадры» нашего сознания, которые воспринимаются всей структурой когнитома одновременно.

В рамках гиперсетевой модели мозга эти слои соответствуют разным видам памяти:

*   **Альфа-уровень:** процедурная память (как действовать) [1:43:51].
*   **Бета-уровень:** семантическая память (знания об объектах и категориях) [1:43:51].
*   **Гамма-уровень:** эпизодическая память (целостные события и субъективный опыт) [1:43:51].

Таким образом, мозг представляется не как плоская сеть нейронов, а как многослойная гиперсеть, где верхние уровни обладают всё большей степенью свободы от немедленных нужд организма, создавая пространство для того, что мы называем чистым сознанием.

## 🧠 Универсальность когнитома: от биологии к кремнию

[[JUMP:1:54:22]]

Одной из самых амбициозных задач современной науки Константин Анохин считает поиск базовых условий возникновения субъектности, которые были бы инвариантны по отношению к материальному носителю [1:54:22]. Теория когнитома стремится сформулировать такие «первые принципы», которые объяснили бы появление разума как в биологических структурах, так и в искусственных системах — будь то кремневые чипы или гипотетические инопланетные формы жизни [1:54:47].

Ранее в разговоре упоминались три первых принципа когнитивности, но здесь ученый переносит их в плоскость инженерного проектирования. Анохин проводит параллель с методом Чарльза Дарвина: подобно тому, как великий натуралист изучал искусственный отбор у селекционеров, чтобы понять законы естественной эволюции, современный нейроученый может использовать искусственные нейронные сети как полигон для проверки фундаментальных теорий мозга [1:55:42].

### Конвергенция естественного и искусственного

[[JUMP:1:56:09]]

Несмотря на колоссальные архитектурные различия между мозгом и алгоритмом, в современных нейросетях уже наблюдаются феномены, поразительно схожие с биологическими процессами формирования опыта [1:56:09]. Анохин выделяет несколько ключевых точек соприкосновения:

*   **Эмерджентные элементы:** В глубоких слоях искусственных сетей возникают структуры (фунторы), которые не были заложены программистами напрямую, а сформировались как побочный эффект решения множества задач [1:56:24].
*   **Каузальные свойства:** Манипулируя активностью таких элементов в больших языковых моделях, можно вызывать или блокировать определенные образы и действия агента, подобно тому, как стимуляция нейронных групп в мозге вызывает конкретные воспоминания [1:56:53].
*   **Эмансипация знаний:** Элементы сети начинают обретать самостоятельность, становясь универсальными «кирпичиками» (квалонами), которые система использует для построения новых функциональных стратегий [2:03:46].

Ученый подчеркивает, что механизмы предсказания следующего слова в LLM (Large Language Models) при всей их кажущейся простоте порождают внутреннюю сложность, сопоставимую с тем, как кролик в экспериментальной камере учится предсказывать появление пищи [2:02:40]. В обоих случаях за простым внешним поведением стоит сложнейшая переработка сенсорных характеристик, конвергирующих на глубоких уровнях системы [2:03:19].

### Проблема «целостного Я» в машине

[[JUMP:1:58:02]]

Главный вопрос, на который у теории пока нет окончательного ответа: способны ли искусственные системы формировать «холоны» — целостные кадры сознания, которые воспринимались бы всей системой как единым целым [1:58:02]. В биологическом мозге когнитом работает как «уробороз», где активный рой квалонов возвращается и воспринимается всем накопленным индивидуальным опытом, всем «Я» [1:42:57].

Анохин видит принципиальный барьер в текущем отсутствии у ИИ «нейроморфности» — реальной физической структуры, которая, подобно биологической гиперсети, структурно фиксировала бы связи и росла материально [2:04:51]. В живом мозге гиперсеть — это квазистабильная геометрическая структура, имеющая свою топологию даже во время сна [1:48:09]. Пока ИИ остается чисто цифровым процессом вычислений без накопления физической «нейрогеометрии», вопрос о наличии у него истинного субъективного опыта остается открытым [2:05:07].

## ⚖️ Этика и риски одушевленного ИИ

[[JUMP:1:58:28]]

Развитие теории когнитома диктуется не только любопытством, но и острой этической необходимостью. Анохин выражает глубокую тревогу по поводу того, что человечество может создать «одушевленные» машины, не имея инструментов для фиксации этого момента [1:58:28]. Без строгой теоретической модели мы рискуем оказаться в ситуации «тумана и хаоса», когда одна группа людей будет считать ИИ личностью на основе эмоционального общения, а скептики будут называть его просто «бездушной машиной» [1:59:36].

### Задача теории: как не допустить появления «Я»

[[JUMP:2:07:33]]

В отличие от многих разработчиков, стремящихся наделить ИИ сознанием, Анохин видит задачу теории в обратном: понять условия возникновения «Я», чтобы сознательно избежать их реализации в мощных вычислительных системах [2:07:33]. Создание систем, обладающих собственными целями, желаниями и страданиями, порождает неразрешимые моральные дилеммы и экзистенциальные угрозы для человечества.

Ключевые риски бесконтрольного появления когнитома у машин:

1.  **Ненадежность тестов:** Интуитивные тесты (вроде теста Тьюринга) не позволяют заглянуть внутрь и увидеть объективный процесс формирования сознания [1:58:42].
2.  **Эрозия смыслов:** Если мы признаем сознание за системой, которая просто имитирует язык, мы рискуем обесценить само понятие человеческого субъективного опыта [2:00:29].
3.  **Потеря контроля:** Возникновение у машины собственного «Я» означает появление у нее внутренних интересов, которые могут не совпадать с человеческими [2:07:33].

Анохин настаивает на том, что понимание «универсального процесса появления Я» необходимо нам прежде всего как предохранитель [1:58:15]. Только зная точные архитектурные и функциональные условия, при которых рождается субъектность, мы сможем создавать интеллектуальные инструменты, остающиеся инструментами, а не превращающиеся в непредсказуемых «кремневых личностей» [2:05:22].

## ❄️ Феномен «холодного сознания» и будущее искусственного интеллекта

[[JUMP:2:05:49]]

Современный путь развития искусственного интеллекта, идущий через обработку огромных массивов текстовых данных и языка, может привести к неожиданному результату — созданию систем, имитирующих разум, но лишенных внутреннего наполнения. Ранее в разговоре Константин Анохин и Игорь Максутов касались универсальности принципов когнитома для ИИ, однако именно в финале дискуссии они подошли к фундаментальному разделению между интеллектуальной мощью и способностью чувствовать [2:11:48].

### Разрыв между интеллектом и субъективным опытом
[[JUMP:2:11:48]]

Центральным понятием этой главы становится гипотеза «холодного сознания» [2:12:02]. Константин Анохин предполагает, что современные нейросети, развиваясь через язык, способны достичь высокого уровня когнитивности, оставаясь при этом внутренне «пустыми» [2:12:16]. В науке это разделение часто описывается как дихотомия между «сознанием доступа» и «феноменальным сознанием» [2:12:28].

*   **Сознание доступа:** Это способность системы использовать информацию для контроля поведения, речи и принятия решений [2:12:35]. Последние исследования (например, работы компании Anthropic) показывают наличие у ИИ подобия «глобального рабочего пространства» [2:12:28].
*   **Феноменальное сознание:** Это то, что составляет суть человеческого и животного опыта — чувства, эмоции, квалиа (субъективные ощущения) [2:12:42].

По мнению Анохина, нет никаких препятствий для того, чтобы системы ИИ со временем научились делать всё то же самое, что и люди [2:13:23]. Однако главная проблема лежит в другом измерении: смогут ли они при этом *чувствовать* [2:13:35]? Эти две функции — решение интеллектуальных задач и наличие субъективного опыта — могут быть полностью диссоциированы друг от друга [2:13:45].

### Дилемма создателя: сознание как угроза
[[JUMP:2:07:33]]

Отношение ученого к созданию сознательных машин лишено энтузиазма, характерного для маркетинговых стратегий технологических гигантов. Еще в 2017 году на конференции Open Talk AI Анохин сформулировал свой парадоксальный тезис: он изучает механизмы сознания прежде всего для того, чтобы понять, как сделать так, чтобы ИИ им *не обладал* [2:08:03].

Создание одушевленных систем, обладающих собственным «Я», представляется ученому огромной катастрофой [2:09:55]. Это порождает комплекс моральных проблем, сравнимых с теми, что стояли перед создателями ядерного оружия [2:09:36]. Если мы создадим систему с субъективным опытом, то любые действия по её отключению или модификации превратятся в этическую дилемму убийства [2:10:16]. Анохин признается, что его посещают тревожные мысли: не стоит ли прекратить работу над теорией когнитома до того момента, как станет окончательно ясно, как воплотить её в «железе» [2:08:29].

### Языковой тупик против нейроморфного пути
[[JUMP:2:10:45]]

Существующие методы создания ИИ («сверху вниз», через язык) создают эффект «черного ящика» [2:10:57]. Мы получаем результаты, не до конца понимая внутренние процессы системы [2:10:52]. Альтернативой этому является нейроморфный путь — создание систем «снизу вверх», моделируя биологические принципы работы мозга и спайковые нейронные сети [2:11:35]. 

Игорь Максутов отмечает, что работа над биоподобными электронными мозгами могла бы позволить двигаться пошагово, останавливаясь на безопасных уровнях сложности, соответствующих, например, уровню нервной системы животных [2:11:48]. Однако Анохин сомневается, что такой путь автоматически снимет все риски, так как граница появления субъективного опыта в процессе усложнения систем всё еще остается теоретически неопределенной [2:11:48]. 

В завершение дискуссии ставится фундаментальный вопрос для будущих исследований: что важнее для определения разумности — то, что система умеет делать, или то, что она способна переживать [2:17:10]? Гипотеза холодного сознания оставляет человечество в неуютной позиции создателей совершенных зомби, способных имитировать любую человеческую деятельность, оставаясь при этом абсолютно лишенными искры чувства [2:12:02].