Лингвист Ноам Хомский: почему современные нейросети не способны мыслить

Brian Keating 58,1 тыс. 1 ч 34 мин 9 мин 20.09.2023
Главное

В данном материале представлена подробная журналистская статья на основе интервью Брайана Китинага со всемирно известным лингвистом и философом Ноамом Хомским. Собеседники обсуждают фундаментальные механизмы человеческого языка, иллюзии вокруг возможностей нейросетей, природу сознания и будущее академического образования. Главный фокус беседы направлен на то, почему современные технологические подходы к искусственному интеллекту принципиально далеки от реального понимания человеческого мышления.

🧠 Загадка человеческого языка: эволюция и внутренний «принтер» 0:27

Ноам Хомский напоминает, что со времен классической Греции язык признан главной определяющей характеристикой человека как вида. По современным научным данным, универсальная языковая способность возникла в нашей популяции примерно 200 000 лет назад. В масштабах эволюции этот срок ничтожно мал, а сами свойства человеческого синтаксиса не имеют никаких аналогов в живой природе.

Языковую систему человека можно разделить на два базовых компонента:

Ученый сравнивает этот механизм с внутренней программой ноутбука и подключенным к нему принтером. При этом сама внутренняя система языка полностью игнорирует линейный порядок слов, ориентируясь исключительно на иерархическую структуру выражений.

В результате дети при освоении речи полностью игнорируют линейную последовательность того, что они слышат, опираясь лишь на врожденное структурное знание своего разума. Эксперименты с искусственно созданными «невозможными языками», нарушающими эти синтаксические принципы, показывают, что человеческий мозг пытается решать их как логические головоломки, но при этом зоны мозга, отвечающие за язык, остаются неактивными.

👽 Космическая лингвистика и парадокс Ферми 8:42

Обсуждая проблему связи с гипотетическим внеземным разумом (SETI), Брайан Китинг выражает уверенность в существовании инопланетных цивилизаций. Ноам Хомский, отвечая на парадокс Ферми, иронично замечает: если инопланетный разум обладает интеллектом и наблюдает за происходящим на Земле, он предпочтет держаться как можно дальше от столь опасных существ.

Ссылаясь на знаменитую дискуссию астрофизика Карла Сагана и эволюционного биолога Эрнста Майра, Хомский разделяет скептическую позицию последнего. Из 50 миллиардов биологических видов, когда-либо существовавших на Земле, наиболее успешными с точки зрения выживания оказываются бактерии и жуки, которые моментально мутируют и находят свои ниши. Напротив, с повышением уровня того, что мы называем интеллектом, выживаемость видов стремительно снижается; крупные млекопитающие в дикой природе выживают плохо, а человечеству исполнилось всего пара сотен тысяч лет.

Тем не менее, по мнению Хомского, в случае гипотетического контакта ключом к общению станет не сенсомоторный способ («принтер»), а внутренняя вычислительная система. Лингвист упоминает эксперименты 50–60-летней давности с простейшими машинами Тьюринга, которые при запуске «в дикую природу» неизменно эволюционировали в системы с базовой функцией следования (successor function), лежащей в основе арифметики и человеческого синтаксиса. Ученый считает, что если инопланетяне обладают разумом, они неизбежно пришли к этой же базовой функции.

🔬 Патологии речи и мифы о детском обучении 17:34

Когнитивная наука черпает ценные данные из исследований речевых патологий, начало которым положил основатель современной биологии языка Эрик Леннеберг около 50 лет назад. Ноам Хомский приводит в пример клинический случай молодого человека по имени Крис, имеющего крайне ограниченные общие когнитивные способности, но демонстрирующего феноменальную лингвистическую одаренность. Крис с легкостью осваивает десятки иностранных языков, однако в тестах с «невозможными языками», нарушающими универсальные правила грамматики, он сталкивается с непреодолимыми трудностями.

В ходе беседы лингвист последовательно опровергает популярные мифы о детском обучении:

  1. Миф о миллионе слов: Опровергается идея о том, что ребенок начинает говорить только после того, как услышит миллион слов от родителей. Дети учатся языку у сверстников и из окружающей среды, моментально перенимая местный диалект вопреки попыткам родителей их тренировать.
  2. Миф о «материнском языке» (motherese): Концепция специального замедленного языка матери, якобы помогающего младенцам учиться, оказалась несостоятельной при детальных исследованиях.
  3. Миф об обучении в утробе: Хомский называет «прозой» утверждения об обучении полноценному языку в утробе матери. Эксперименты показывают, что двухдневный младенец лишь реагирует на интенсивность звуков и способен отличить голос матери от чужого голоса, а также распознать ритмические категории схожих языков.

Генетическая предрасположенность уникальна: если детеныш шимпанзе и человеческий младенец помещаются в одинаковую речевую среду, только человек мгновенно начинает выделять языковые структуры из окружающего шума. На этапе так называемой «телеграфной речи» (из двух слов) ребенок на самом деле понимает гораздо более сложные синтаксические конструкции, что подтверждается экспериментами с умышленным введением грамматических ошибок.

🌊 Неизменные законы природы против словарей 33:40

Брайан Китинг выражает обеспокоенность тем, что современные словари, включая Merriam-Webster, признают некорректные ранее формы вроде слова irregardless. Ноам Хомский призывает разделять поверхностные языковые конвенции и фундаментальные законы когнитивной природы. Ученый проводит аналогию с биологией: 60 лет назад биологи считали организмы бесконечно разнообразными, но сегодня наука пришла к выводу об их поразительном единообразии, заложенном еще в период Кембрийского взрыва.

Аналогичный сдвиг произошел в лингвистике: идея о радикальном отличии языков друг от друга оказалась ложной. По мнению Хомского, к 2–3 годам ребенок приобретает знания, колоссально превосходящие любой внешний опыт. В период пика языкового развития ребенок усваивает примерно по одному слову за каждый час бодрствования, что исключает возможность обучения методом индукции или дрессировки.

Значение любого базового слова (например, «река» или «убеждение») настолько богато внутренним содержанием, что его невозможно почерпнуть из внешней среды, и оно идентично во всех культурах. Младенец уподобляется опытному радиологу, который за рентгеновским шумом сразу видит четкие контуры опухоли, отсекая все лишнее.

💡 Галилеев вызов и недоступность сознания 39:06

В когнитивной революции ключевую роль сыграл так называемый «Галилеев вызов» — сформулированное Галилео Галилеем и его современниками в XVII веке удивление перед тем, как человек с помощью ограниченного набора символов способен передавать бесконечное множество мыслей и делать их понятными для других.

Хомский подчеркивает, что внутренняя языковая система работает в соответствии с принципами максимальной вычислительной эффективности, аналогичными принципу наименьшего действия в физике. Например, при генерации сложных предложений мозг мысленно удерживает повторяющиеся элементы (такие как скрытые местоимения), но «принтер» экстернализации их удаляет, чтобы тратить меньше энергии. Это создает колоссальные проблемы для систем автоматического анализа текста — так называемые проблемы «заполнителя и пробела» (filler-gap problems).

Самым парадоксальным свойством человеческого разума Хомский считает то, что внутренние вычислительные процессы полностью скрыты от сознания.

Наше сознание фиксирует лишь мимолетные поверхностные обрывки и фрагменты, проходящие через жесткий фильтр, в то время как сложнейшие рекурсивные решения принимаются мгновенно и неосознанно.

Изучать эти процессы методом интроспекции принципиально невозможно — разум устроен как физическая система, доступ к которой возможен только через косвенные внешние эксперименты.

🤖 Крах нейросетей: почему ИИ не умеет мыслить 58:00

Ноам Хомский жестко разделяет сферу искусственного интеллекта на два принципиально разных направления:

  1. Научный подход (Марвин Мински): моделирование на компьютерах с целью понять реальную природу человеческого интеллекта.
  2. Прикладная инженерия (современный глубокий ИИ): использование «грубой силы» (brute force), статистических методов и сверхмощных вычислений для практических задач, таких как Google Translate.

Лингвист критически отзывается о системах предиктивного ввода текста, заявляя, что они лишь мешают творческому процессу, а предсказание следующего слова на основе статистики научно бессмысленно. По его мнению, это похоже на просмотр миллиардов химических опытов ради предсказания цвета смеси без понимания законов химии.

Хомский напоминает, что Алан Тьюринг в своей знаменитой работе 1950 года прямо назвал вопрос «Могут ли машины мыслить?» слишком бессмысленным для обсуждения, сравнив его с вопросом «Умеют ли подводные лодки плавать?». Настоящим тестом для разума является тест Рене Декарта — способность к спонтанному, уместному и творческому использованию языка в непредсказуемых обстоятельствах.

Касаясь проекта Илона Маска Neuralink, Хомский утверждает, что попытки считать мысли с помощью вживленных чипов обречены на провал, поскольку мы даже не знаем, где искать мышление. По мнению ученого, нейросети обладают в принципе неверной архитектурой для воссоздания мыслительных процессов. Процесс мышления может происходить на молекулярном уровне внутри нейронов — в микротрубочках, изучением которых занимаются Роджер Пенроуз и Стюарт Хамерофф, чьи вычислительные мощности колоссально превосходят синаптические сети. Хомский резюмирует свой подход жестким тезисом: сначала необходимо заниматься наукой и только потом переходить к инженерии.

🏫 Будущее университета: от зубрежки к открытиям 1:09:34

Размышляя о кризисе высшего образования, усугубленном эпохой пандемии, Ноам Хомский цитирует своего покойного друга, физика из Массачусетского технологического института (MIT) Виктора Вайскопфа, который говорил студентам:

«Неважно, что мы пройдем за семестр, важно то, что вы откроете».

Самым худшим типом образования Хомский считает современную практику «натаскивания на тесты» (teaching to test), когда школьники заучивают материал ради оценки и полностью забывают его через неделю. В качестве эталона ученый приводит методику научно-ориентированного детского сада, где детям дают семена и микроскопы, побуждая их самостоятельно открывать законы биологии в ходе дискуссий. Настоящее образование должно строиться не по модели «наполнения сосуда водой», а по модели «натягивания струны», когда преподаватель задает вектор, а студент движется по нему собственным путем.

Китинг дополняет это ссылкой на книгу астрофизика Марио Ливио «Почему мы любопытны», подчеркивая важность эпистемического любопытства. Хомский признается, что скептически относится к современным цифровым форматам лекций по PowerPoint, поскольку они лишают процесс обучения интерактивности, гибкости и живого диалога у доски.

🧘 Внутренний монолог, культура отмены и предрассудки 1:18:51

Брайан Китинг затрагивает тему медитации и попыток остановить внутренний монолог, упоминая совместное участие с Дипаком Чопрой в конференции по исследованию сознания. Ноам Хомский отмечает, что когнитивисты изучают внутренний разум непрерывно, однако то, что мы называем внутренним монологом, — это лишь поверхностные крупицы истинных ментальных процессов. Маленькие дети озвучивают абсолютно все свои мысли, и лишь с возрастом общество приучает их контролировать этот поток, превращая внутренний мир в табуированную зону.

Далее собеседники переходят к обсуждению общественно-политической атмосферы. Китинг напоминает о резонансном «Письме о справедливости и открытой дискуссии» (Harper's Letter), соавторами которого выступили Ноам Хомский и Джоан Роулинг. Реакцию общества на это письмо Хомский называет проявлением радикальной иррациональности интеллектуальной культуры. По мнению философа, попытки оценивать текст по списку подписавших его лиц логически абсурдны — важна лишь суть заявления. Он признает позитивные аспекты движения за разнообразие (diversity), такие как защита прав женщин и прав человека, но предостерегает от перегибов, когда обсуждение превращается в «хождение по яичной скорлупе».

В завершение темы Хомский подчеркивает, что языковые предрассудки (например, восприятие южного акцента как признака необразованности, а британского произношения — как признака ума) не имеют никакого отношения к лингвистике. Это исключительно проявление устоявшихся структур власти и авторитета, которые диктуют социальные конвенции аналогично дресс-коду на официальных мероприятиях.

⏳ Капсула времени и взгляд в прошлое 1:29:50

В финале интервью Брайан Китинг предлагает гостю пофантазировать на основе романа Артура Кларка «2001: Космическая одиссея» и ответить, какое послание он оставил бы в монолите-капсуле времени, способной пролежать миллиард лет.

Ноам Хомский заявляет, что эта проблема пугающе реальна, поскольку при сохранении текущего политического и экологического курса человечество с высокой вероятностью уничтожит себя в течение пары поколений в результате ядерной войны или климатической катастрофы. Прежде чем думать о капсулах, по мнению философа, необходимо приложить все усилия для предотвращения этого сценария. В саму же капсулу он поместил бы величайшие достижения науки и мировой литературы.

Отвечая на вопрос о законе Артура Кларка и совете самому себе в возрасте 20–30 лет, Хомский вспоминает, что в начале его пути современной лингвистики как науки попросту не существовало. Издательства отказывались публиковать его первые работы, мотивируя это тем, что данной дисциплины нет в природе. Главным прорывом своей жизни ученый считает преодоление парадигмы о бесконечном разнообразии языков и доказательство существования универсальной единой структуры, заложенной в каждом человеке.

💬 Цитаты

«Неважно, что мы пройдем за семестр, важно то, что вы откроете.»

Виктор Вайскопф (в цитировании Ноама Хомского) 1:10:17

«Вопрос, могут ли машины мыслить, слишком бессмысленен, чтобы заслуживать обсуждения.»

Алан Тьюринг (в цитировании Ноама Хомского) 1:03:15
👥 Спикеры
📚 Упомянутые книги
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
Экстернализация
Процесс перевода внутренней структуры языка во внешнюю сенсомоторную форму, например, в устную речь или жесты.
Галилеев вызов
Сформулированное в XVII веке удивление ученых перед способностью человека выражать бесконечное число мыслей малым набором символов.
Функция следования (successor function)
Базовая математическая и когнитивная операция нахождения следующего элемента, лежащая в основе арифметики.
Телеграфная речь
Ранняя стадия развития детской речи, состоящая из цепочек отдельных слов без служебных частей речи.
Проблема заполнителя и пробела
Сложность в автоматической обработке текста, связанная с поиском пропущенных или перемещенных синтаксических элементов.
📊 Цифры
🗓 Хронология
  1. XVII век Начало научной революции, формулирование Галилеева вызова и тестов Декарта для человеческого разума.
  2. 1950 год Публикация Аланом Тьюрингом фундаментальной работы о возможности мышления у машин.
  3. Около 50 лет назад Публикация трудов Эрика Леннеберга, заложивших основы современной биологии языка.
⚖️ Другая сторона
Искусственный интеллект Ноам Хомский Брайан Китинг Neuralink Google Translate Алан Тьюринг