«Моим центральным тезисом было то, что я стараюсь понять механизмы сознания для того, чтобы понимать, как сделать, чтобы искусственный интеллект им не обладал». Пока мир грезит о создании цифрового разума, ведущие нейробиологи ищут способ предотвратить превращение кода в чувствующее «Я». Теория когнитома объясняет, как «кусок жира» в черепной коробке рождает музыку и смыслы, и почему это биологическое чудо может стать величайшей угрозой в истории технологий.
🧠 Преемственность и поиск «Я»: От теории функциональных систем к когнитому 0:05:34
Фундамент теории: наследие П.К. Анохина и системный подход 0:05:48
Константин Анохин определяет свою научную траекторию как результат работы под влиянием двух выдающихся наставников: своего деда, создателя теории функциональных систем Петра Кузьмича Анохина, и Вячеслава Борисовича Швыркова . Теория когнитома, которую учёный развивает последние 15 лет, не является изолированным конструктом — это прямое расширение и развитие классической теории функциональных систем (ТФС) . На протяжении десятилетий Анохин стремился реконструировать логику ТФС, чтобы понять, какие фундаментальные вопросы остались без ответа в рамках традиционной физиологии .
В основе его подхода лежит концепция системагенеза — процесса формирования новых функциональных систем . Анохин выделяет два его типа:
- Первичный системагенез: формирование врождённого репертуара, который Пётр Кузьмич называл «филогенетически приобретёнными функциональными системами» .
- Вторичный системагенез: наслоение нового индивидуального опыта в процессе жизни, напоминающее разрастающееся дерево новых систем .
Однако классическая ТФС, описывая единицы интеграции организма, оставляла открытым вопрос о «целом» . Ещё в 1930-е годы Пётр Анохин указывал на проблему организма как единого целого, интегрирующего все разрозненные функциональные системы, но полноценного теоретического аппарата для описания этого «Я» создано не было . Именно поиски природы этого глобального субъекта, обладающего самосознанием, стали отправной точкой для разработки теории когнитома .
Проблема субъективного опыта: как материя рождает музыку 0:20:40
Центральным вызовом современной нейронауки остаётся так называемая «трудная проблема сознания» . Ивар Максутов формулирует её как парадокс: каким образом «кусок жира в черепной коробке» способен порождать музыку, поэзию, философию и сложнейшие математические задачи ? Несмотря на колоссальный объём накопленных данных о работе нейронов, классические подходы не дают ответа на вопрос о соотнесении материального субстрата и ментального мира .
Константин Анохин выделяет субъективность как второй критический пробел в теории функциональных систем . ТФС детально описывает такие процессы, как мотивация, память, принятие решений и оценка результата, но в её аппарате отсутствует объяснение того, где и почему в этой цепочке появляется субъективное переживание . Учёный обращается к вопросу, который ставил ещё Иван Павлов: как материя мозга производит субъективное ?
Для Анохина решение этой проблемы заключается в поиске экзистенциальных принципов, которые объясняют появление «квалии» — непередаваемых личных переживаний . Он подчёркивает, что его теория когнитома направлена не только на решение проблемы сознания в узком смысле, но на создание более широкой картины мира, где сознание является лишь одним из следствий фундаментальных принципов организации живых систем .
Интеллектуальная преемственность: от Сеченова до Хебба 0:13:13
Разрабатывая концепцию когнитома, Анохин опирается на глубокую историческую традицию, идущую от Ивана Сеченова . В конце XIX века Сеченов выдвинул идею «групп одновременного действия» — ансамблей нервных клеток, которые активируются синхронно для выполнения определённых функций . Эта идея стала прообразом «когнитивных групп» или «кооперативных групп» (когов) в современной теории Анохина .
Учёный проводит важную границу между своим подходом и теорией нейронных ансамблей Дональда Хебба:
- Масштаб: Ансамбли Хебба в современной литературе чаще трактуются как локальные группы из сотен или тысяч клеток .
- Функция: Хебб, будучи психологом, шёл от процессов восприятия, тогда как функциональные системы Анохина — это глобальные интеграции, охватывающие весь организм, от коры мозга до периферических органов [14:49, 15:17].
Теория когнитома претендует на роль универсальной модели, построенной на «первых принципах» . Анохин утверждает, что из ограниченного набора начальных условий возникновения систем можно вывести все наблюдаемые феномены: от условных рефлексов до сложных когнитивных структур . Таким образом, когнитом выступает не просто как описание мозга, а как попытка объяснить логику появления разума как такового .
🧠 Сознание как субъективный опыт и «Я-система» 25:52
В современной нейронауке и философии сложилось понимание, что сознание нельзя изучать как статичный объект или «вещь» — это фундаментально динамический процесс существования субъекта . Этот подход уходит корнями к работам американского психолога Уильяма Джеймса, который настаивал на определении сознания как «потока» . В рамках теории когнитома сознание трактуется как субъективный опыт, охватывающий весь спектр внутренних состояний организма: от элементарного вкуса утреннего кофе или боли от соринки в ботинке до сложных чувств вроде любви к другому человеку или экзистенциального беспокойства перед неопределенностью мира .
Константин Анохин подчеркивает несколько критических аспектов этого определения:
- Субъективная реальность: Весь массив мыслей, планов на вечер и попыток решения ментальных задач составляет то, что аналитическая философия называет «субъективной реальностью» .
- Сознание как мерило существования: Для человека сознание тождественно жизни. В моменты его отсутствия — будь то наркоз, глубокий обморок или сон без сновидений — субъект фактически перестает существовать .
- Неразрывность субъекта и опыта: Субъективный опыт невозможен без самого субъекта. Теория Анохина фокусируется на «S-системах» (self-systems), которые обладают тремя ключевыми характеристиками: субъектностью, чувственностью (sentience) и наличием «Я» .
Ранее в разговоре затрагивались вопросы преемственности теории функциональных систем, однако Анохин уточняет, что понимание «Я» должно предшествовать пониманию сознания: невозможно расшифровать уникальный процесс в системе, не зная, как устроена сама система, производящая этот процесс .
Антикартезианский переворот: от системы к процессу 34:45
Теория когнитома предлагает радикальный пересмотр классического декартовского подхода, господствовавшего в науке последние 400 лет. Рене Декарт в XVII веке вывел формулу «Cogito ergo sum» (мыслю, следовательно, существую), где под «cogito» понимались не только рассуждения, но и любые чувства и желания . Декарт шел от процесса (мышления) к доказательству существования субъекта, так как в его время не было инструментов, чтобы заглянуть внутрь организма и понять структуру «Я» в целом — me totum .
Анохин совершает «антикартезианский поворот», предлагая реверсию этой логики :
- Приоритет структуры над процессом: Вместо того чтобы пытаться расшифровать «нити бытия» через поток состояний, наука должна сначала понять структуру «Я» (когнитом), которая сохраняется даже тогда, когда сознание временно гаснет (например, во сне) .
- Разделение «Разума» и «Сознания»: Для ясности предлагается использовать два термина из англоязычной традиции аналитической философии — Mind (разум как структура/психика) и Consciousness (сознание как специфический процесс в этой структуре) .
- Возврат к вопросу о «душе»: В определенном смысле это возврат к додекартовским временам, когда целью было понять сущность разума как целостной системы, а не просто фиксировать корреляты отдельных ментальных актов .
Этот подход позволяет избежать «проблемы темноты», когда нейронаука пытается изучать вспышки активности мозга, не понимая, в какой именно системе они обретают качество субъективности.
Дарвиновский подход: законы возникновения разума 42:56
Вторым парадигмальным сдвигом теории является переход от «кортезианской нейронауки» к «дарвиновской» . Большинство современных исследователей пытаются решить Mind-brain problem, изучая сознание как уже данную, готовую тайну. Анохин же опирается на принцип биолога Дарси Томпсона: «Все вещи такие, какие они есть, потому что они стали такими» .
Понимание сознания, согласно теории когнитома, возможно только через изучение алгоритмов его возникновения из «несознательного» субстрата . Этот процесс рассматривается в двух масштабах:
- Филогенез (эволюция вида): Биологическая эволюция несколько раз независимо приводила к возникновению систем с субъективным опытом, хотя палеонтологических следов динамики мозга не сохранилось .
- Онтогенез (индивидуальное развитие): Более доступный для науки процесс, где из оплодотворенной клетки, обладающей лишь физиологическими процессами, миллиарды раз на Земле закономерно рождается «Я» и субъективный опыт .
Теория утверждает, что только через законы этого «развертывания» можно понять, почему процессы в нервной системе не «текут в темноте», а порождают внутренний свет сознания . В следующих разделах будут подробно разобраны элементы этой эволюции — в частности, ранее упомянутые в разговоре функциональные системы и нейронные ансамбли, которые в теории когнитома классифицируются как различные уровни организации опыта.
🧬 Алгоритм познания: три условия для запуска разума 55:23
Ранее в разговоре Константин Анохин упоминал, что теория когнитома опирается на дарвиновский подход к изучению разума . Чтобы понять, как возникает сознание, нужно найти «первопринципы» — базовые условия, сочетание которых запускает автоматический алгоритм развития сложности . В биологической эволюции это были изменчивость, наследственность и естественный отбор . Этот процесс ученые-иммунологи иронично назвали G.O.D. — Generator of Diversity (генератор разнообразия), который заменяет роль творца в создании сложных жизненных систем . Анохин расширяет эту аббревиатуру до Generator of Design and Diversity и задается вопросом: какие добавочные принципы должны наложиться на дарвиновскую базу, чтобы в системе появилось «Я» и возник алгоритм не биологической, а когнитивной прогрессии ?
Три первопринципа когнитивной прогрессии 55:23
Теория когнитома выделяет три фундаментальных условия, которые, соединившись в одном агенте, превращают его в «селф-систему» (self-system).
Первое условие — генеративные функциональные системы . Если заглянуть в «черный ящик» Дарвина, мы увидим, что организм борется за существование не всем телом сразу, а через конкретные функциональные системы — комбинации активностей для поиска пищи или терморегуляции . Когда привычный способ достичь результата не срабатывает, включается генеративный процесс: мозг начинает генерировать новые пробы и попытки собрать иную интеграцию элементов . Это работает почти так же, как генеративный искусственный интеллект: создаются новые версии «черновиков» поведения, которые сравниваются с моделью желаемого результата через обратную связь . Если результат достигнут, новая система фиксируется в памяти.
Второе условие — генерация внутри «глубокой» нервной сети . Для запуска когнитивности недостаточно иметь просто нервные связи. Необходима сеть с большим количеством промежуточных, вставочных элементов — слоев . В такой структуре сенсорные клетки (вход) не связаны с исполнительными органами (выход) напрямую. Между ними лежит пространство, где встречаются и перекрещиваются потоки обработки сигналов, уже предобработанные на предыдущих этапах . Глубокая нейросеть становится носителем и внутренним полигоном для генерации новых способов адаптации .
Третье условие — накопительная клеточная память . В узлах этой глубокой сети должны находиться нейроны с механизмом долговременной пластичности . Память здесь понимается в биологическом смысле, как иммунная память . Один и тот же нейрон может последовательно участвовать в разных эпизодах борьбы за жизнь, входя в состав разных функциональных систем. Если эти системы успешны, в клетке накапливается «опыт» её включения в различные когнитивные группы .
Когда эти три независимых фактора — генеративность, глубина сети и клеточная память — встречаются, запускается итеративный процесс когнитивной прогрессии, который на протяжении всей жизни организма кумулирует опыт, превращая его в когнитом .
Альфа-коги и древо индивидуального опыта 1:04:15
Как именно растет индивидуальный опыт? Согласно теории функциональных систем, он развивается не как линейный список навыков, а как ветвящееся дерево . В основе этого процесса лежит оператор ответвления — механизм возникновения новых кооперативных групп нейронов, которые Анохин называет альфа-когами или оперонами .
Процесс выглядит так: существует материнская функциональная система (например, врожденное чувство голода). Когда старый способ удовлетворения потребности не работает, от «ствола» материнской системы отпочковывается новая «веточка» — дочерняя система . Например, поиск еды приводит человека в буфет. Теперь в его опыте зафиксирована новая функциональная система: «путь к буфету» . В следующий раз, когда возникнет голод, материнская система вызовет из памяти эту дочернюю веточку .
Это дерево опыта обладает несколькими важными свойствами:
- Иерархия и преемственность: Новые навыки всегда являются веточками-ответвлениями от уже существующих систем . Дочерние системы могут сами становиться прородителями для вторичных и третичных слоев опыта (например, поиск конкретной лестницы к буфету) .
- Автономизация (эмансипирование): Со временем вторичные системы могут начать преследовать свои цели независимо от тех, что их породили . Яркий пример — деньги. Изначально они нужны для еды или комфорта, но позже могут стать самостоятельным универсальным результатом, ради которого человек действует, даже не будучи голодным .
- Субъективность: Каждая веточка в этом дереве имеет свой «акцептор результатов действия» — систему ценностей . Это дерево ценностей и формирует структуру нашего «Я» .
Организм рождается с первичным репертуаром врожденных альфа-когов (оперонов), которые сформировались в ходе эволюции для предсказуемой, стабильной среды . Однако, сталкиваясь с уникальными условиями жизни, индивид выращивает свою собственную, неповторимую крону вторичных систем . Именно это ветвление альфа-когов объясняет колоссальную разницу в психике людей, даже если они являются однояйцевыми близнецами: их жизненный опыт — это разные рисунки ветвей на одном и том же эволюционном стволе .
В дальнейшем развитии системы эти базовые альфа-группы могут претерпевать специализацию, порождая более сложные уровни организации — бета- и гамма-коги, о которых речь пойдет далее .
🕸️ Бета-коги и архитектура кваллонов: как мозг упаковывает мир в смыслы 1:15:16
Бета-коги и оператор наложения: от клеток к категориям 1:16:12
Формирование когнитома — это процесс непрерывной индивидуации, в ходе которого в мозге вырастают новые функциональные системы . Ранее в разговоре Константин Анохин упоминал альфа-коги как первичные элементы опыта, но параллельно с ними возникают бета-коги. Этот процесс запускается «оператором наложения» или пересечения на уровне отдельных клеток . Важнейший постулат теории заключается в том, что долговременная память не «размазана» по сети, а локализована в конкретных нейронах благодаря эпигенетическим модификациям .
В ходе жизни один и тот же нейрон вовлекается в тысячи разных функциональных систем: в детстве он участвует в играх, в юности — в обучении, в зрелости — в профессиональной деятельности . Каждый такой акт участия оставляет в клетке молекулярный след. В результате нейрон становится элементом, который выполняет общую работу для множества разных систем. Анохин вводит для таких узлов термин «функторы» (заимствованный из теории категорий) .
Функтор — это клетка, которая активируется на определённое качество мира, независимо от контекста. Например:
- на красный цвет (в розе, машине или арбузе) ;
- на вертикальные полосы или специфический запах ;
- на конкретный объект — стул, ручку или букву «Б» .
Такие элементы называются также «фрактонами», так как они возникают путём дробления целостного опыта на фрагменты . Это кумулятивный, дарвиновский по своей сути процесс: путём накопления микроэпизодов мозг начинает различать объекты, которые физически в мире не существуют как инварианты, а являются лишь конструктами нашего разума . Чем «глубже» в иерархии мозга находится нейрон, тем более абстрактные сущности он кодирует — например, образ конкретного человека, узнаваемого и по лицу, и по голосу в трубке .
Эксперимент с кроликом: путь от действия к абстрактной «педальности» 1:28:47
Чтобы проиллюстрировать различие между слоями опыта, Анохин обращается к экспериментам своего учителя Вячеслава Швыркова . В классическом опыте голодное животное (кролик) учится нажимать на педаль, чтобы получить морковку в кормушке. Здесь мы видим иерархию альфа-когов: врождённая система голода, приобретённая система еды из кормушки и «внучатая» система нажатия на педаль .
Когда кролик осваивает навык, в его мозге формируются распределённые группы нейронов, работающих синхронно до момента достижения результата . Но если усложнить среду, поставив две педали в разных углах, проявляется работа бета-слоя. Регистрация активности мозга показывает удивительную картину:
- Нейроны конкретного действия: активируются только при нажатии на левую или только на правую педаль .
- Нейроны абстрактной категории: активируются при нажатии на любую педаль .
В природе кролика никогда не существовало категории «педаль», но она рождается в его когнитоме как абстракция в результате обучения . Этот нейрон «педальности» становится бета-когом. Теперь он может активироваться, даже если кролик просто пробегает мимо объекта, не собираясь на него нажимать . Он «эмансипируется» от прямой задачи выживания и начинает представлять чистую категорию объекта.
Квалоны и «эмансипация» опыта: природа субъективности 1:35:53
Бета-элементы, несущие качественные характеристики мира, Анохин называет «квалонами» (от философского термина qualia — субъективные качества) . Наш мир не состоит для нас из атомов и физических волн; он состоит из квалонов — значимых объектов и событий, позволяющих мозгу ориентироваться .
Важнейшая черта квалона — его субъективная валентность. Поскольку клетка-квалон формировалась внутри реальных функциональных систем, она «тянет» за собой шлейф их ценностей . Анохин приводит пример с красным цветом:
- Если красный в вашем опыте ассоциировался с прекрасными цветами, его восприятие будет нести положительный заряд .
- Если же красный связан с кровью, катастрофой или ошейником собаки, которая вас укусила, то активация этого квалона вызовет тревогу и негативные ощущения .
В теории когнитома функциональная система «насаживает» на себя квалоны, как рак-отшельник актиний, используя их для уточнения своих моделей будущего . Квалоны становятся «кирпичиками» нашего внутреннего мира, которые могут активироваться роем (swarms), даже когда мы просто смотрим на мир или мечтаем с закрытыми глазами .
Гиперсетевая модель и рождение «кадров» сознания 1:40:28
Переход от разрозненных качеств к целостному восприятию знаменует появление гамма-когов. Если альфа-ког — это действие, а бета-ког — это категория (квалон), то гамма-ког (холон) — это синхронизация множества кваллонов в единую сцену . Этот процесс рождает «кадры» нашего сознания, которые воспринимаются всей структурой когнитома одновременно.
В рамках гиперсетевой модели мозга эти слои соответствуют разным видам памяти:
- Альфа-уровень: процедурная память (как действовать) .
- Бета-уровень: семантическая память (знания об объектах и категориях) .
- Гамма-уровень: эпизодическая память (целостные события и субъективный опыт) .
Таким образом, мозг представляется не как плоская сеть нейронов, а как многослойная гиперсеть, где верхние уровни обладают всё большей степенью свободы от немедленных нужд организма, создавая пространство для того, что мы называем чистым сознанием.
🧠 Универсальность когнитома: от биологии к кремнию 1:54:22
Одной из самых амбициозных задач современной науки Константин Анохин считает поиск базовых условий возникновения субъектности, которые были бы инвариантны по отношению к материальному носителю . Теория когнитома стремится сформулировать такие «первые принципы», которые объяснили бы появление разума как в биологических структурах, так и в искусственных системах — будь то кремневые чипы или гипотетические инопланетные формы жизни .
Ранее в разговоре упоминались три первых принципа когнитивности, но здесь ученый переносит их в плоскость инженерного проектирования. Анохин проводит параллель с методом Чарльза Дарвина: подобно тому, как великий натуралист изучал искусственный отбор у селекционеров, чтобы понять законы естественной эволюции, современный нейроученый может использовать искусственные нейронные сети как полигон для проверки фундаментальных теорий мозга .
Конвергенция естественного и искусственного 1:56:09
Несмотря на колоссальные архитектурные различия между мозгом и алгоритмом, в современных нейросетях уже наблюдаются феномены, поразительно схожие с биологическими процессами формирования опыта . Анохин выделяет несколько ключевых точек соприкосновения:
- Эмерджентные элементы: В глубоких слоях искусственных сетей возникают структуры (фунторы), которые не были заложены программистами напрямую, а сформировались как побочный эффект решения множества задач .
- Каузальные свойства: Манипулируя активностью таких элементов в больших языковых моделях, можно вызывать или блокировать определенные образы и действия агента, подобно тому, как стимуляция нейронных групп в мозге вызывает конкретные воспоминания .
- Эмансипация знаний: Элементы сети начинают обретать самостоятельность, становясь универсальными «кирпичиками» (квалонами), которые система использует для построения новых функциональных стратегий .
Ученый подчеркивает, что механизмы предсказания следующего слова в LLM (Large Language Models) при всей их кажущейся простоте порождают внутреннюю сложность, сопоставимую с тем, как кролик в экспериментальной камере учится предсказывать появление пищи . В обоих случаях за простым внешним поведением стоит сложнейшая переработка сенсорных характеристик, конвергирующих на глубоких уровнях системы .
Проблема «целостного Я» в машине 1:58:02
Главный вопрос, на который у теории пока нет окончательного ответа: способны ли искусственные системы формировать «холоны» — целостные кадры сознания, которые воспринимались бы всей системой как единым целым . В биологическом мозге когнитом работает как «уробороз», где активный рой квалонов возвращается и воспринимается всем накопленным индивидуальным опытом, всем «Я» .
Анохин видит принципиальный барьер в текущем отсутствии у ИИ «нейроморфности» — реальной физической структуры, которая, подобно биологической гиперсети, структурно фиксировала бы связи и росла материально . В живом мозге гиперсеть — это квазистабильная геометрическая структура, имеющая свою топологию даже во время сна . Пока ИИ остается чисто цифровым процессом вычислений без накопления физической «нейрогеометрии», вопрос о наличии у него истинного субъективного опыта остается открытым .
⚖️ Этика и риски одушевленного ИИ 1:58:28
Развитие теории когнитома диктуется не только любопытством, но и острой этической необходимостью. Анохин выражает глубокую тревогу по поводу того, что человечество может создать «одушевленные» машины, не имея инструментов для фиксации этого момента . Без строгой теоретической модели мы рискуем оказаться в ситуации «тумана и хаоса», когда одна группа людей будет считать ИИ личностью на основе эмоционального общения, а скептики будут называть его просто «бездушной машиной» .
Задача теории: как не допустить появления «Я» 2:07:33
В отличие от многих разработчиков, стремящихся наделить ИИ сознанием, Анохин видит задачу теории в обратном: понять условия возникновения «Я», чтобы сознательно избежать их реализации в мощных вычислительных системах . Создание систем, обладающих собственными целями, желаниями и страданиями, порождает неразрешимые моральные дилеммы и экзистенциальные угрозы для человечества.
Ключевые риски бесконтрольного появления когнитома у машин:
- Ненадежность тестов: Интуитивные тесты (вроде теста Тьюринга) не позволяют заглянуть внутрь и увидеть объективный процесс формирования сознания .
- Эрозия смыслов: Если мы признаем сознание за системой, которая просто имитирует язык, мы рискуем обесценить само понятие человеческого субъективного опыта .
- Потеря контроля: Возникновение у машины собственного «Я» означает появление у нее внутренних интересов, которые могут не совпадать с человеческими .
Анохин настаивает на том, что понимание «универсального процесса появления Я» необходимо нам прежде всего как предохранитель . Только зная точные архитектурные и функциональные условия, при которых рождается субъектность, мы сможем создавать интеллектуальные инструменты, остающиеся инструментами, а не превращающиеся в непредсказуемых «кремневых личностей» .
❄️ Феномен «холодного сознания» и будущее искусственного интеллекта 2:05:49
Современный путь развития искусственного интеллекта, идущий через обработку огромных массивов текстовых данных и языка, может привести к неожиданному результату — созданию систем, имитирующих разум, но лишенных внутреннего наполнения. Ранее в разговоре Константин Анохин и Игорь Максутов касались универсальности принципов когнитома для ИИ, однако именно в финале дискуссии они подошли к фундаментальному разделению между интеллектуальной мощью и способностью чувствовать .
Разрыв между интеллектом и субъективным опытом 2:11:48
Центральным понятием этой главы становится гипотеза «холодного сознания» . Константин Анохин предполагает, что современные нейросети, развиваясь через язык, способны достичь высокого уровня когнитивности, оставаясь при этом внутренне «пустыми» . В науке это разделение часто описывается как дихотомия между «сознанием доступа» и «феноменальным сознанием» .
- Сознание доступа: Это способность системы использовать информацию для контроля поведения, речи и принятия решений . Последние исследования (например, работы компании Anthropic) показывают наличие у ИИ подобия «глобального рабочего пространства» .
- Феноменальное сознание: Это то, что составляет суть человеческого и животного опыта — чувства, эмоции, квалиа (субъективные ощущения) .
По мнению Анохина, нет никаких препятствий для того, чтобы системы ИИ со временем научились делать всё то же самое, что и люди . Однако главная проблема лежит в другом измерении: смогут ли они при этом чувствовать ? Эти две функции — решение интеллектуальных задач и наличие субъективного опыта — могут быть полностью диссоциированы друг от друга .
Дилемма создателя: сознание как угроза 2:07:33
Отношение ученого к созданию сознательных машин лишено энтузиазма, характерного для маркетинговых стратегий технологических гигантов. Еще в 2017 году на конференции Open Talk AI Анохин сформулировал свой парадоксальный тезис: он изучает механизмы сознания прежде всего для того, чтобы понять, как сделать так, чтобы ИИ им не обладал .
Создание одушевленных систем, обладающих собственным «Я», представляется ученому огромной катастрофой . Это порождает комплекс моральных проблем, сравнимых с теми, что стояли перед создателями ядерного оружия . Если мы создадим систему с субъективным опытом, то любые действия по её отключению или модификации превратятся в этическую дилемму убийства . Анохин признается, что его посещают тревожные мысли: не стоит ли прекратить работу над теорией когнитома до того момента, как станет окончательно ясно, как воплотить её в «железе» .
Языковой тупик против нейроморфного пути 2:10:45
Существующие методы создания ИИ («сверху вниз», через язык) создают эффект «черного ящика» . Мы получаем результаты, не до конца понимая внутренние процессы системы . Альтернативой этому является нейроморфный путь — создание систем «снизу вверх», моделируя биологические принципы работы мозга и спайковые нейронные сети .
Игорь Максутов отмечает, что работа над биоподобными электронными мозгами могла бы позволить двигаться пошагово, останавливаясь на безопасных уровнях сложности, соответствующих, например, уровню нервной системы животных . Однако Анохин сомневается, что такой путь автоматически снимет все риски, так как граница появления субъективного опыта в процессе усложнения систем всё еще остается теоретически неопределенной .
В завершение дискуссии ставится фундаментальный вопрос для будущих исследований: что важнее для определения разумности — то, что система умеет делать, или то, что она способна переживать ? Гипотеза холодного сознания оставляет человечество в неуютной позиции создателей совершенных зомби, способных имитировать любую человеческую деятельность, оставаясь при этом абсолютно лишенными искры чувства .
