В рамках World Science Festival физик Брайан Грин обсудил с легендарными учеными Ленор Блюм и Мануэлем Блюмом их амбициозную попытку оцифровать человеческий разум. Исследователи представили модель «сознательной машины Тьюринга» (CTM), утверждая, что осознанность является результатом специфической алгоритмической конкуренции в мозге, а создание чувствующего ИИ — лишь вопрос времени.
🧠 От нейрофизиологии к алгоритмам: личный путь Мануэля Блюма 2:43
История Мануэля Блюма, лауреата премии Тьюринга, началась с детского желания «стать умнее». Его отец подал идею: чтобы стать умнее, нужно понять, что происходит в голове. Это привело Мануэля к попыткам интроспекции в десятилетнем возрасте, где он столкнулся с классической проблемой гомункулуса — «маленького человечка в голове».
В MIT Мануэль изучал электротехнику, параллельно погружаясь в работы Фрейда. Однако поворотным моментом стала встреча с Уорреном Мак-Каллоком, великим нейрофизиологом и создателем модели формального нейрона.
Ключевые вехи научной карьеры Мануэля:
- Работа с Мак-Каллоком и Питтсом: Доказательство того, что из формальных нейронов можно построить машину Тьюринга.
- Запрет на изучение сознания: Мак-Каллок категорически запретил Мануэлю заниматься темой сознания, считая, что без возможности проводить прямые эксперименты внутри мозга это бессмысленно.
- Переход в Computer Science: Мануэль осознал, что его интересует не биологическая «схемотехника», а сама архитектура процесса обработки информации.
🎭 Театральная модель и «Сознательная машина Тьюринга» 9:39
Ленор Блюм объясняет, что их модель (CTM) вдохновлена простотой машины Тьюринга и «театральной моделью» сознания Бернарда Баарса. В этой концепции сознание подобно сцене, на которую пытаются выйти актеры, чтобы донести информацию до «зрителей» — огромного количества специализированных процессоров в мозге.
Основные принципы модели CTM:
- Простота и универсальность: Как и машина Тьюринга, CTM сводит сложные процессы к базовым операциям, которые можно анализировать математически.
- Огромная аудитория: Вместо одного процессора в мозге работают миллионы (в модели — более 10 миллионов кортикальных колонок), каждая из которых специализируется на своей задаче: от эмоций до управления конечностями.
- Глобальная трансляция (Broadcast): Когда информация попадает на «сцену», она мгновенно рассылается всем остальным процессорам.
Ленор иллюстрирует это примером с забытым именем на вечеринке: запрос «как её зовут?» уходит со сцены в «темный зал» процессоров. Один вспоминает место встречи, другой — контекст, и в итоге имя «Ленор» всплывает в сознании.
⚖️ Математика конкуренции: почему мы осознаем именно это? 13:16
В модели Блюмов выбор того, что именно попадет в фокус внимания, определяется жестким, но честным алгоритмом. Процессоры генерируют «чанки» (информационные блоки) с определенным весом, отражающим их важность.
Процесс конкуренции за «сцену» выглядит следующим образом:
- Бинарные соревнования: Процессоры соревнуются парами, как в теннисном турнире.
- Вероятностный выбор: Победитель определяется не просто по максимальному весу, а пропорционально ему. Даже слабый сигнал (например, слабая жажда) имеет шанс пробиться, если выпадет удачный «бросок монеты» нейроном.
- Математическое изящество: Ленор демонстрирует, что вероятность победы процессора $F$ равна его весу, деленному на сумму весов всех участников (например, $9/31$).
Мануэль подчеркивает, что этот алгоритм работает в голове постоянно, обеспечивая независимость выбора от физического расположения процессора в мозге.
👶 От первого крика к модели мира 26:15
По мнению Мануэля Блюма, самосознание формируется через постоянную коррекцию предсказаний. Он приводит в пример новорожденного младенца:
- Датчик углекислого газа (процессор) фиксирует критический уровень и посылает сигнал с огромным весом.
- Младенец не знает языка, он просто хаотично двигает конечностями и напрягает голосовые связки.
- Когда крик приводит к притоку кислорода, вес «ужаса» падает. Процессоры фиксируют: «крик работает».
Так, через миллионы итераций, формируется модель мира и самого себя в этом мире. Ленор добавляет, что в их модели используется внутренний мультимодальный язык «Brainish» (Брейниш). Например, понятие «роза» в Брейнише — это не просто слово, а сплав (fusion) запаха, мягкости лепестков и цвета. По её мнению, современные мультимодальные ИИ уже начинают создавать нечто подобное.
🤖 Осознанность ИИ: неизбежность и этика 31:53
Ленор Блюм утверждает, что «сознание ИИ неизбежно». Она разделяет два типа сознания: когнитивное (доступ к информации) и субъективное (феноменальное чувство).
Позиции участников относительно ИИ:
- Ленор Блюм: Считает, что большие языковые модели (LLM) уже обладают зачатками сознания, так как они строят внутренние модели мира, а не просто предсказывают слова. Она ссылается на исследования Anthropic и MIT, показавшие наличие специализированных внутренних структур в нейросетях.
- Мануэль Блюм: Более осторожен. Он сомневается в текущем уровне ИИ, но верит, что осознанные машины появятся в будущем. По его мнению, человечество может не пережить следующие 500 лет, и сознательные машины — наша «единственная надежда» или даже наши «потомки».
- Брайан Грин: Выражает «экзистенциальную тревогу» (angst) перед перспективой успеха этого проекта.
🐟 Тест с зеркалом и границы реальности 37:58
В завершение дискуссии Мануэль упоминает зеркальный тест на самосознание. Его проходят не только слоны и приматы, но и крошечные рыбки — чистильщики (cleaner wrasse), а также муравьи рода Myrmica.
Мануэль отмечает важный нюанс: робота можно легко запрограммировать пройти зеркальный тест, но это не будет означать наличие сознания. Чтобы понять, осознанно ли существо (или ИИ), нужно смотреть не только на то, что оно делает, но и на то, как оно устроено — соответствует ли его внутренняя архитектура принципам сознательной обработки информации.
