# Мюррей Шанахан: «Мы близки к мощности мозга, а не интеллекта»

Источник: https://www.youtube.com/watch?v=sNk68_E2T84
Канал: Y Combinator
Опубликовано: 28.06.2017

---

В интервью для Y Combinator профессор когнитивной робототехники и исследователь DeepMind Мюррей Шанахан рассказывает о своем опыте работы над культовым научно-фантастическим фильмом Ex Machina. Обсуждение охватывает эволюцию искусственного интеллекта с 1980-х годов до наших дней, проблему физического воплощения ИИ и фундаментальные вызовы на пути к общему искусственному интеллекту (AGI). Собеседники анализируют, как современные технологии меняют человеческое мышление на примере шахматных и го-турниров.

## 🧠 От логического программирования к искусственному интеллекту
[[JUMP:0:00]]

В 1980-х годах, когда Мюррей Шанахан писал свою докторскую диссертацию, индустрия ИИ выглядела совершенно иначе. Это была крайне узкая академическая ниша, где исследователи могли годами спокойно работать в своих кабинетах, не привлекая внимания медиа или крупных корпораций. Сегодняшний взрывной интерес к теме ИИ стал для профессора полной неожиданностью.

Свою диссертацию Шанахан защитил около 30 лет назад. Работа была посвящена логическому программированию и языкам типа Prolog. Основной практический вклад исследования заключался в оптимизации запросов: система сохраняла цепочки связей между уже установленными фактами и теоремами. Это избавляло машину от необходимости каждый раз производить вычисления с нуля, значительно ускоряя процесс работы.

## 🎯 Проблема фрейма: как научить машину видеть главное
[[JUMP:2:00]]

Важной частью диссертации Мюррея Шанахана стало исследование так называемой «проблемы фрейма» (frame problem). В контексте когнитивных наук этот вопрос формулируется так: как мыслящий механизм или существо определяет, что релевантно текущей ситуации, а что — нет? Главная сложность ИИ заключалась в том, чтобы система не увязала в проверке миллионов тривиальных, не изменившихся факторов.

Шанахан приводит простой пример: если передвинуть микрофон на столе, цвет стен в комнате останется прежним. Человеческий мозг мгновенно отсекает эти тривиальные факты и не тратит на них ресурсы, тогда как для логических систем классического ИИ это было огромной проблемой. Проблема фрейма, по словам ученого, стала сквозной темой всей его академической карьеры.

На рубеже тысячелетий Шанахан полностью разочаровался в классическом символьном ИИ, основанном на строгих логических правилах и текстовых репрезентациях мира. Он пришел к выводу, что этот подход не приближает науку к созданию сильного ИИ (AGI). Чтобы понять природу мышления, профессор переключился на вычислительную нейробиологию и моделирование архитектуры человеческого мозга. Лишь годы спустя, с началом бума машинного обучения, он вернулся к ИИ, пытаясь переосмыслить старые идеи классического подхода в новом технологическом контексте.

В современном машинном обучении проблема фрейма актуальна как никогда. В качестве примера Шанахан указывает на опыт DeepMind с ретро-играми для платформы Atari, такими как Space Invaders. Интеллектуальная система должна научиться понимать, что цвет или точная форма наступающего пришельца не имеют значения. Ключевой фактор, который ИИ обязан вычленить из сырых пикселей экрана — это летящие снаряды, от которых нужно уклоняться.

## ♟️ Эпоха великих противостояний: от Каспарова до AlphaGo
[[JUMP:7:01]]

В контексте развития игрового ИИ собеседники вспоминают выступление тринадцатого чемпиона мира по шахматам Гарри Каспарова. В своей дискуссии с основателем DeepMind Демисом Хассабисом Каспаров подробно разобрал историю компьютерных шахмат и свой знаменитый матч против суперкомпьютера Deep Blue в 1997 году. По мнению Каспарова, которое разделяет и Шанахан, сегодня любое шахматное приложение на обычном iPhone играет сильнее, чем легендарный Deep Blue.

Технологии радикально изменили сам процесс анализа шахматных партий. Как отмечал Каспаров, сейчас любой любитель на домашнем компьютере может в реальном времени следить за игрой двух гроссмейстеров и мгновенно видеть их ошибки с помощью движка. В прошлом экспертам-комментаторам требовались дни, чтобы разгадать замысел великих игроков.

Каспаров подчеркнул важный психологический сдвиг: современные шахматисты настолько сильно полагаются на компьютерный анализ, что это буквально переформатирует их стиль мышления. Аналогичные процессы, как считает Шанахан, происходят и в игре го после появления AlphaGo. Сильнейшие мастера планеты, такие как Ли Седоль и Кэ Цзе, позитивно оценивают влияние ИИ. По их словам, алгоритмы позволяют исследовать такие неизведанные пространства вселенной го, куда человек никогда бы не заглянул самостоятельно.

Ярким примером послужил знаменитый 37-й ход AlphaGo во второй партии против Ли Седоля. Все комментаторы и мастера 9-го дана в один голос назвали этот ход ошибкой. Однако затем они осознали, что машина применила революционную тактику, разрушившую вековые конвенции игры. Профессор Шанахан отмечает, что Гарри Каспаров оптимистично смотрит на будущее симбиоза человека и машины, где люди отвечают за творческий элемент, а алгоритмы — за глубокую аналитику.

## 🤖 Философия телесности в Ex Machina и «Тест Гарланда»
[[JUMP:11:27]]

Обсуждение искусственного интеллекта закономерно переходит к теме физического воплощения разума (embodiment), которой посвящена книга Шанахана, вышедшая в 2010 году. Собеседники сравнивают подходы кинематографа: если в фильме «Она» ИИ представлен как бесплотная операционная система, то в Ex Machina именно физическое тело робота Авы двигает сюжет вперед. Влюбленность главного героя Калеба и его эмпатия завязаны на телесность робота.

С философской точки зрения физическое тело имеет фундаментальное значение для сознания. По мнению Шанахана, человеческий мозг биологически развился не для абстрактного мышления, а для координации движений и манипулирования сложными объектами в трехмерном пространстве. Руки, способные брать предметы, и ноги, позволяющие перемещаться, — это первооснова, из которой впоследствии распустился цветок человеческого интеллекта.

Режиссер фильма Алекс Гарланд любит повторять, что действие Ex Machina происходит «через десять минут в будущем». В фильме почти нет классических атрибутов далекого будущего: убежище миллиардера Нейтана — это не декорация в стиле «Звездных войн», а реальный отель, расположенный в дикой природе Норвегии. Однако в картине есть несколько футуристических элементов, где создателям пришлось прибегнуть к научной фантастике, поскольку современная наука не умеет создавать подобные технологии. Прежде всего, это прозрачные элементы тела Авы и ее мозг, созданный из особого структурированного геля.

## 🎬 За кулисами сценария: вырезанные смыслы и «пасхалки» на Python
[[JUMP:15:49]]

Сотрудничество профессора Шанахана с кинематографом началось с неожиданного электронного письма от Алекса Гарланда. Режиссер написал, что прочитал монографию «Embodiment and the Inner Life», и она помогла ему кристаллизовать идеи для сценария фильма о сознании машин. На момент их первой встречи за обедом сценарий был готов примерно на 95%. Шанахан признается, что персонаж Нейтана показался ему отталкивающим и невероятно живым уже на бумаге.

В процессе съемок ученый выступал в роли неофициального научного консультанта, обсуждая с режиссером вопросы философии сознания. Одним из самых точных моментов фильма Шанахан считает сцену, где Калеб указывает Нейтану на нарушение правил классического теста Тьюринга, ведь он видит, что перед ним робот. На что Нейтан отвечает, что настоящая цель — показать, что Ава является машиной, и проверить, возникнет ли у человека ощущение, что она обладает сознанием. Профессор назвал эту концепцию «тестом Гарланда».

Философская позиция Шанахана во многом опирается на идеи Людвига Витгенштейна. Согласно витгенштейнианскому подходу, сознание проявляется в обычном поведении живых существ. Мы не доказываем логически, что окружающие нас люди сознательны — мы просто естественным образом относимся к ним как к сознательным существам. Точно так же Калеб в фильме не ведет сухие аналитические записи, а постепенно, через повседневное взаимодействие с Авой, начинает воспринимать ее как личность.

Мюррей Шанахан раскрыл деталь из оригинального сценария, которая была вырезана на этапе финального монтажа. В финальной сцене, когда Ава садится в вертолет, в сценарии было указано отобразить мир с ее точки зрения: на экране должны были вспыхивать векторы распознавания лиц и графики волновых форм. Это должно было показать зрителю, насколько чуждым и «инопланетным» является ее восприятие реальности. В итоге спецэффект убрали, сохранив мощную философскую двусмысленность: зритель так и не знает до конца, способна ли Ава на искреннее страдание или она лишь идеально запрограммированная машина-манипулятор.

Еще один спорный момент касался едва заметной улыбки Авы на лестнице в финале. Шанахан советовал Гарланду вырезать этот кадр, посчитав его слишком человечным для робота. Однако режиссер настоял на своем, рассматривая эту улыбку как доказательство подлинного сознания Авы: зачем кому-то улыбаться наедине с собой, если у него нет внутреннего переживания радости?

Специально для ИТ-сообщества Шанахан оставил в фильме «пасхалку». В сцене, где Калеб взламывает систему безопасности Нейтана, на экранах компьютеров виден программный код. Алекс Гарланд предложил профессору написать реальный код со скрытым смыслом. Шанахан вспоминает, что закодил этот фрагмент на Python за один вечер под бутылку саке. Код реализует классический алгоритм «Решето Эратосфена» для поиска простых чисел. При запуске этот массив случайных чисел переводится в ASCII-символы и выводит фразу: `ISBN=` с последующим номером книги Шанахана «Embodiment and the Inner Life».

Режиссер предполагал, что гики найдут эту деталь только после релиза фильма на DVD, но реальность превзошла ожидания. Уже через 24 часа после появления фильма на BitTorrent на Reddit была создана отдельная ветка, а на GitHub — репозиторий с разбором этого кода. ИТ-сообщество не только разгадало загадку, но и подвергло жесткой критике стиль написания профессора, указав, что его код не соответствует стандарту PEP 8. Сам Шанахан со смехом признает, что из-за выпитого саке допустил ошибку в условии терминации цикла, сделав алгоритм неэффективным.

## 🔮 Будущее AGI и законы Азимова: фантастика против реальности
[[JUMP:32:40]]

Отвечая на вопросы пользователей из Twitter, Шанахан комментирует современные голливудские представления об ИИ. Кинематограф прошел путь от утопической фантастики 1950-х годов (например, фильм «Запретная планета» с неуклюжим металлическим роботом Робби) до мрачных антиутопий в стиле «Терминатора». В реальности же ИИ развивается по собственному пути. Машины человеческого уровня необязательно будут обладать человекоподобным мышлением или антропоморфными телами; например, беспилотный автомобиль уже сейчас является продвинутым специализированным роботом.

Точные сроки создания полноценного AGI остаются неизвестными. Экстраполяция графиков роста вычислительных мощностей показывает, что самые быстрые суперкомпьютеры мира уже в ближайшие годы приблизятся к масштабам человеческого мозга. Однако наличие колоссальной вычислительной мощности вовсе не означает, что ученые понимают, как именно запрограммировать интеллект. Шанахан убежден, что между текущим состоянием технологий и созданием AGI лежит неизвестное количество фундаментальных концептуальных прорывов.

Профессор также объяснил, почему в Ex Machina не работают знаменитые Три закона робототехники Айзека Азимова. Законы Азимова — это продукт художественной литературы, созданный для генерации интересных сюжетов и моральных дилемм в рассказах. В реальном мире они неприменимы, поскольку современные ИИ-системы технически не способны осознать смысл этих правил. Вопросы безопасности автономных систем (например, боевых роботов) — это зона ответственности и моральных принципов инженеров-разработчиков, а не самой машины. К тому же в сложных этических ситуациях простые правила бессильны, что доказывает знаменитая философская «проблема вагонетки» Филиппы Фут.

## 🕹️ Глубокое обучение с подкреплением: новые горизонты DeepMind
[[JUMP:43:45]]

В качестве одного из самых перспективных направлений науки Шанахан выделяет глубокое обучение с подкреплением (Deep Reinforcement Learning). Настоящим прорывом в этой области стала публикация DeepMind в журнале Nature в 2014–2015 годах, посвященная системе DQN. Алгоритм научился играть в десятки классических игр Atari, видя только сырые пиксели экрана и показатели счета. Путем проб и ошибок система достигла сверхчеловеческих результатов, став одним из первых примеров прото-общего интеллекта.

Тем не менее, у современных систем обучения с подкреплением есть серьезные недостатки. Они обучаются невероятно медленно по сравнению с человеком. Там, где человеку достаточно пары минут, чтобы понять логику объектов и правила игры, алгоритму требуются миллионы итераций. По мнению Шанахана, для решения этой проблемы необходимо реабилитировать идеи классического символьного ИИ и интегрировать их в современные нейросетевые архитектуры. Это позволит ИИ быстрее вычленять релевантные паттерны и понимать структуру задач.

## 🎨 На стыке науки и искусства: воспоминания о сторонних проектах
[[JUMP:47:15]]

Помимо академической работы и консалтинга в кино, Мюррей Шанахан принимает активное участие в других междисциплинарных и арт-проектах. Одним из них стала театральная постановка «Элегия» (Elegy) драматурга Ника Пейна в лондонском театре Donmar Warehouse. Сюжет пьесы разворачивается в недалеком будущем и рассказывает о пожилой паре, где один из партнеров страдает от тяжелого деменциеподобного заболевания. Новейшие медицинские технологии позволяют полностью вылечить болезнь, но цена за это огромна — пациент безвозвратно теряет пласт своих воспоминаний, включая историю знакомства и любви со своим партнером.

Также ученый сотрудничает с известной арт-группой Random International. Он принимал участие в обсуждении их знаменитой инсталляции «Комната дождя» (Rain Room), выставлявшейся в Нью-Йоркском музее современного искусства (MoMA). В этой комнате непрерывно идет ливень, но специальные датчики мгновенно фиксируют положение человека в пространстве и отключают разбрызгиватели строго над его головой, позволяя ходить под дождем и оставаться абсолютно сухим.

Другим впечатляющим проектом Random International стала кинетическая скульптура «15 точек» (15 points). Она базируется на феномене восприятия точечных источников света (point light displays). Если на темном экране разместить всего 15 хаотично движущихся точек, человек увидит в них лишь абстракцию. Но стоит им начать двигаться в соответствии с траекторией суставов человеческого тела, наш мозг мгновенно распознает идущего или бегущего человека, и даже сможет определить его пол. Роботизированная инсталляция из металлических стержней и лампочек в статике выглядит как нагромождение проводов, но в движении создает поразительную иллюзию идущего навстречу человека. Этот феномен, как заключает Шанахан, напоминает нам о том, как легко человеческий разум склонен приписывать наличие живой души и сознания сложным механизмам.