В рамках подкаста Eye on AI легендарный лингвист, философ и когнитивист Ноам Хомский делится своим взглядом на современное состояние искусственного интеллекта. В свои 94 года ученый сохраняет критический подход, утверждая, что триумф больших языковых моделей (LLM) — это победа инженерной мысли, которая, однако, не приближает нас к пониманию человеческого разума ни на шаг.
🦅 Наука против инженерии: аналогия с орлом и самолетом 0:00
Ноам Хомский проводит фундаментальное различие между двумя путями развития искусственного интеллекта. По его мнению, современный ИИ полностью ушел в область «чистой инженерии», отказавшись от попыток научного объяснения когнитивных процессов .
Для иллюстрации этой мысли ученый приводит аналогию с биологией:
- Научный подход: Изучение того, как пустынные муравьи используют солнечный азимут для навигации .
- Инженерный подход: Постройка автомобиля, который перемещается лучше муравья, но ничего не говорит о его биологии .
Хомский подчеркивает, что создание устройства, выполняющего задачу эффективнее природного прототипа, не означает понимания этого прототипа. По словам ученого, говорить, что LLM объясняют язык — это то же самое, что утверждать, будто конструкция самолета объясняет полет орла . Это разные цели: наука стремится к пониманию, а инженерия — к созданию полезных инструментов. При этом Хомский отмечает, что сам пользуется плодами этой инженерии, например, системой автоматических субтитров (captions) из-за проблем со слухом, и не считает это поводом для критики технологии как таковой .
🧠 Являются ли нейросети моделью мозга? 7:28
Одним из центральных вопросов дискуссии стало соответствие архитектуры нейронных сетей реальному устройству человеческого мозга. Ведущий Eye on AI упомянул Джеффа Хинтона, который изначально стремился понять мозг через ИИ. Однако Хомский ставит под сомнение саму базовую гипотезу о том, что мозг работает по принципу нейросетей .
Основные аргументы против этой гипотезы, на которые ссылается Хомский:
- Критика Рэнди Галлистела: Когнитивный нейробиолог Рэнди Галлистел приводит доказательства того, что нейронные сети в принципе не обладают вычислительной мощностью, необходимой для реализации машины Тьюринга .
- Внутриклеточные вычисления: По мнению Галлистела, основные вычислительные процессы происходят на гораздо более глубоком уровне внутри самих клеток, где химические взаимодействия обеспечивают на порядки большую емкость, чем межнейронные связи .
- Медленная передача данных: Скорость передачи нервных импульсов крайне низка по сравнению с компьютерными системами, что также ставит под вопрос прямые аналогии .
Хомский отмечает, что хотя большинство нейробиологов «голосуют» за теорию нейросетей, научные вопросы не решаются голосованием . Он указывает на наличие свидетельств ассоциативных связей внутри клеток гиппокампа, что может указывать на скрытые от текущих моделей механизмы памяти .
🚫 Феномен «невозможных языков» 11:32
Главная претензия Хомского к LLM с точки зрения лингвистики заключается в их неразборчивости. Ученый утверждает, что большие языковые модели одинаково успешно «обучаются» как реальным человеческим языкам, так и «невозможным» языкам, которые нарушают базовые принципы человеческой когниции .
Ключевые лингвистические тезисы Хомского:
- Приоритет структуры над линейностью: Человеческий мозг игнорирует линейный порядок слов (100% того, что мы слышим) и оперирует абстрактными иерархическими структурами, которые мы никогда не слышим .
- Пример со связями: В предложении «Friends of my brothers are in England» («Друзья моих братьев находятся в Англии») глагол «are» согласуется с «friends», а не с ближайшим словом «brothers» . Ребенок интуитивно понимает эту структурную близость, игнорируя линейную.
- Научная несостоятельность ИИ: Если биологическая теория не может отличить возможный организм от невозможного, она бесполезна. Поскольку ИИ одинаково хорошо работает с правилами, основанными на линейном порядке (которые дети никогда не используют), он не вносит вклада в науку о языке .
Хомский заключает, что заявления о решении проблемы овладения языком с помощью ИИ имеют «нулевую научную ценность» .
🧬 Эволюция и «Принцип простоты» 23:11
Хомский связывает устройство языка с общими законами физики и биологии. Он опирается на «Максиму Галилея» и то, что Альберт Эйнштейн называл «чудесным кредо» (miracle creed): природа проста и элегантна в своих основаниях .
По мнению Хомского:
- Бинарное формирование множеств (Merge): Это простейшая вычислительная процедура, которая лежит в основе человеческого языка .
- Элегантность против функциональности: Природа создает системы, которые вычислительно совершенны, но могут быть крайне неудобны в использовании. Язык — это «совершенная система», которая при этом «дисфункциональна» для коммуникации во многих аспектах .
- Роль естественного отбора: Хомский считает естественный отбор лишь «периферийным фактором» эволюции. Основа же заключается в поиске физически и математически оптимальных структур .
🤖 Экзистенциальный риск и вопрос сознания 26:29
Обсуждая популярные опасения о том, что ИИ уничтожит человечество, Хомский проявляет скептицизм. Он называет теорию об угрозе сверхразума «научной фантастикой» . Хотя Макс Тегмарк в своих работах теоретически обосновывает возможность появления системы, которая превзойдет человека, Хомский считает этот сценарий слишком далеким от реальности, чтобы тратить на него время .
Гораздо более реальными угрозами Хомский называет:
- Массовую дезинформацию и диффамацию .
- Эксплуатацию человеческой доверчивости .
- Создание дипфейков, способных имитировать голос и внешность любого человека для манипуляций (в пример приводится фейковое фото Папы Римского в пуховике) .
Вопрос о «чувствах» или сознании (sentience) у машин Хомский считает бессмысленным. Он сравнивает его с вопросом «Умеет ли подводная лодка плавать?» . В английском языке ответ будет «да», в иврите для движения подводных лодок используется слово «скользить». Это вопрос лингвистической метафоры, а не физической реальности . Сознание, по его словам, — это просто свойство организованной материи, что было понятно еще Джону Локку и Исааку Ньютону в XVII веке .
🛸 Внеземной разум и универсальный язык 52:42
В завершение беседы Хомский затронул тему внеземных цивилизаций. Он предположил, что если мы когда-нибудь встретим развитых инопланетян, их язык, скорее всего, будет основан на тех же принципах, что и наш .
Эта гипотеза опирается на исследование Марвина Минского и Даниэля Боброу о простейших машинах Тьюринга . Они обнаружили, что почти все простейшие системы либо зацикливаются, либо ломаются, а те, что продолжают работать, неизбежно порождают «функцию следования» (successor function) . Поскольку человеческий язык в своей основе также сводится к этой простейшей функции через бинарные структуры, Хомский считает вероятным, что любой интеллект во Вселенной пойдет тем же путем .
