# Алгоритм осознанности: как Ленор и Мануэль Блюм оцифровывают разум Источник: https://www.youtube.com/watch?v=Vqe5TmTHU9E Канал: World Science Festival Опубликовано: 13.09.2024 --- В рамках World Science Festival физик Брайан Грин обсудил с легендарными учеными Ленор Блюм и Мануэлем Блюмом их амбициозную попытку оцифровать человеческий разум. Исследователи представили модель «сознательной машины Тьюринга» (CTM), утверждая, что осознанность является результатом специфической алгоритмической конкуренции в мозге, а создание чувствующего ИИ — лишь вопрос времени. ## 🧠 От нейрофизиологии к алгоритмам: личный путь Мануэля Блюма [[JUMP:02:43]] История Мануэля Блюма, лауреата премии Тьюринга, началась с детского желания «стать умнее». Его отец подал идею: чтобы стать умнее, нужно понять, что происходит в голове. Это привело Мануэля к попыткам интроспекции в десятилетнем возрасте, где он столкнулся с классической проблемой гомункулуса — «маленького человечка в голове». В MIT Мануэль изучал электротехнику, параллельно погружаясь в работы Фрейда. Однако поворотным моментом стала встреча с Уорреном Мак-Каллоком, великим нейрофизиологом и создателем модели формального нейрона. Ключевые вехи научной карьеры Мануэля: * **Работа с Мак-Каллоком и Питтсом:** Доказательство того, что из формальных нейронов можно построить машину Тьюринга. * **Запрет на изучение сознания:** Мак-Каллок категорически запретил Мануэлю заниматься темой сознания, считая, что без возможности проводить прямые эксперименты внутри мозга это бессмысленно. * **Переход в Computer Science:** Мануэль осознал, что его интересует не биологическая «схемотехника», а сама архитектура процесса обработки информации. ## 🎭 Театральная модель и «Сознательная машина Тьюринга» [[JUMP:09:39]] Ленор Блюм объясняет, что их модель (CTM) вдохновлена простотой машины Тьюринга и «театральной моделью» сознания Бернарда Баарса. В этой концепции сознание подобно сцене, на которую пытаются выйти актеры, чтобы донести информацию до «зрителей» — огромного количества специализированных процессоров в мозге. Основные принципы модели CTM: 1. **Простота и универсальность:** Как и машина Тьюринга, CTM сводит сложные процессы к базовым операциям, которые можно анализировать математически. 2. **Огромная аудитория:** Вместо одного процессора в мозге работают миллионы (в модели — более 10 миллионов кортикальных колонок), каждая из которых специализируется на своей задаче: от эмоций до управления конечностями. 3. **Глобальная трансляция (Broadcast):** Когда информация попадает на «сцену», она мгновенно рассылается всем остальным процессорам. Ленор иллюстрирует это примером с забытым именем на вечеринке: запрос «как её зовут?» уходит со сцены в «темный зал» процессоров. Один вспоминает место встречи, другой — контекст, и в итоге имя «Ленор» всплывает в сознании. ## ⚖️ Математика конкуренции: почему мы осознаем именно это? [[JUMP:13:16]] В модели Блюмов выбор того, что именно попадет в фокус внимания, определяется жестким, но честным алгоритмом. Процессоры генерируют «чанки» (информационные блоки) с определенным весом, отражающим их важность. Процесс конкуренции за «сцену» выглядит следующим образом: * **Бинарные соревнования:** Процессоры соревнуются парами, как в теннисном турнире. * **Вероятностный выбор:** Победитель определяется не просто по максимальному весу, а пропорционально ему. Даже слабый сигнал (например, слабая жажда) имеет шанс пробиться, если выпадет удачный «бросок монеты» нейроном. * **Математическое изящество:** Ленор демонстрирует, что вероятность победы процессора $F$ равна его весу, деленному на сумму весов всех участников (например, $9/31$). Мануэль подчеркивает, что этот алгоритм работает в голове постоянно, обеспечивая независимость выбора от физического расположения процессора в мозге. ## 👶 От первого крика к модели мира [[JUMP:26:15]] По мнению Мануэля Блюма, самосознание формируется через постоянную коррекцию предсказаний. Он приводит в пример новорожденного младенца: * Датчик углекислого газа (процессор) фиксирует критический уровень и посылает сигнал с огромным весом. * Младенец не знает языка, он просто хаотично двигает конечностями и напрягает голосовые связки. * Когда крик приводит к притоку кислорода, вес «ужаса» падает. Процессоры фиксируют: «крик работает». Так, через миллионы итераций, формируется модель мира и самого себя в этом мире. Ленор добавляет, что в их модели используется внутренний мультимодальный язык **«Brainish»** (Брейниш). Например, понятие «роза» в Брейнише — это не просто слово, а сплав (fusion) запаха, мягкости лепестков и цвета. По её мнению, современные мультимодальные ИИ уже начинают создавать нечто подобное. ## 🤖 Осознанность ИИ: неизбежность и этика [[JUMP:31:53]] Ленор Блюм утверждает, что «сознание ИИ неизбежно». Она разделяет два типа сознания: когнитивное (доступ к информации) и субъективное (феноменальное чувство). Позиции участников относительно ИИ: * **Ленор Блюм:** Считает, что большие языковые модели (LLM) уже обладают зачатками сознания, так как они строят внутренние модели мира, а не просто предсказывают слова. Она ссылается на исследования Anthropic и MIT, показавшие наличие специализированных внутренних структур в нейросетях. * **Мануэль Блюм:** Более осторожен. Он сомневается в текущем уровне ИИ, но верит, что осознанные машины появятся в будущем. По его мнению, человечество может не пережить следующие 500 лет, и сознательные машины — наша «единственная надежда» или даже наши «потомки». * **Брайан Грин:** Выражает «экзистенциальную тревогу» (angst) перед перспективой успеха этого проекта. ## 🐟 Тест с зеркалом и границы реальности [[JUMP:37:58]] В завершение дискуссии Мануэль упоминает зеркальный тест на самосознание. Его проходят не только слоны и приматы, но и крошечные рыбки — чистильщики (cleaner wrasse), а также муравьи рода *Myrmica*. Мануэль отмечает важный нюанс: робота можно легко запрограммировать пройти зеркальный тест, но это не будет означать наличие сознания. Чтобы понять, осознанно ли существо (или ИИ), нужно смотреть не только на то, **что** оно делает, но и на то, **как** оно устроено — соответствует ли его внутренняя архитектура принципам сознательной обработки информации.