Современный искусственный интеллект переживает эпоху «чудес»: он пишет код, создает картины и ведет диалоги, неотличимые от человеческих. Однако исследователь Кеннет Стенли в эфире канала Machine Learning Street Talk утверждает, что за этим блестящим фасадом скрывается структурный хаос, превращающий современные модели в «самозванцев», лишенных подлинного понимания мира.
🎭 Феномен «ИИ-самозванца»: почему внешность обманчива 0:00
Сегодня принято считать, что масштабирование нейросетей автоматически ведет к углублению их понимания реальности. Кеннет Стенли и ведущий Machine Learning Street Talk подвергают этот оптимизм сомнению, называя внутреннее устройство современных моделей «мусором» и «спагетти» . По мнению Стенли, ИИ сегодня — это «самозванец», который научился виртуозно имитировать результат, не владея лежащими в его основе принципами .
В качестве примера приводится генерация изображения черепа:
- Внешне результат выглядит безупречно и анатомически верно .
- Внутреннее представление (репрезентация) этого объекта в нейросети никак не связано с его реальными компонентами или структурой.
- Система не понимает, что такое кость или челюсть, она лишь комбинирует пиксели так, чтобы они соответствовали паттернам из обучающей выборки .
Основная причина этого кроется в методе обучения — стохастическом градиентном спуске (SGD). Это метод «грубой силы», который подгоняет миллиарды параметров до тех пор, пока выходные данные не совпадут с правильным ответом . Стенли сравнивает результат работы SGD с замком из песка: он выглядит как замок, но у него нет внутренних перекрытий, фундамента или структурных соединений .
🧩 Разница между зазубриванием и пониманием 2:48
В новой научной работе Кеннет Стенли и его соавторы вводят формальный термин для описания «внутренностей» нынешних ИИ — раздробленная запутанная репрезентация (fractured, entangled representation) . Это состояние, при котором единые концепты разбиты на части, а независимые виды поведения, напротив, хаотично перемешаны.
Для иллюстрации этой проблемы Кеннет Стенли приводит личную историю из школьных лет :
- Его ошибочно зачислили в класс физики для тех, кто не знал математического анализа (calculus).
- Ученикам приходилось зазубривать бесконечные списки формул для каждого конкретного случая (например, для движения пушечного ядра) .
- Перейдя в продвинутый класс, Стенли обнаружил, что предмет стал намного легче: зная математический анализ, ему не нужно было ничего запоминать — он мог вывести любую формулу самостоятельно .
По мнению исследователя, современные большие языковые модели (LLM) напоминают ученика, который зубрит формулы . Они могут блестяще сдать экзамены (бенчмарки), но не способны на подлинное творчество или открытие новых принципов, так как лишены глубокого структурированного понимания .
🦋 Эксперимент Pickbreeder и архитектура будущего 4:47
Альтернативный путь развития ИИ берет начало в старом онлайн-эксперименте Стенли под названием Pickbreeder. В этой системе пользователи могли «разводить» изображения, выбирая наиболее интересные визуальные мутации. Оказалось, что те, кто целенаправленно пытался вывести конкретный образ (например, бабочку), чаще всего терпели неудачу . Успеха добивались те, кто просто следовал за «интересностью» .
Этот подход привел к созданию нового типа нейросетевых архитектур, которые формируют единую факторную репрезентацию (unified factored representation) . Их отличительные черты:
- Модульность: Сеть сама, без прямого указания, выделяет компоненты объекта. Если она рисует череп, у нее появляется отдельный «узел» или измерение, отвечающее за рот, которое позволяет открывать его или заставлять улыбаться .
- Глубокая абстракция: Изменения в такой сети семантичны. Поворот одного параметра приводит к логичному изменению образа (например, качанию стебля яблока), в то время как в обычных сетях это вызывает хаотичные искажения .
- Отсутствие Big Data: Такие «мировые модели» возникают снизу вверх, без необходимости скармливать им миллиарды примеров .
🧱 Ловушка целей и концепция «обмана» 8:26
Стенли утверждает, что наличие фиксированной цели при обучении (objective) является «бутылочным горлышком» для интеллекта . Он вводит понятие децепции (обмана): промежуточные шаги, ведущие к великому открытию, часто совершенно не похожи на конечный результат .
Алгоритмы, оптимизированные под конкретный показатель (градиентный спуск), неизбежно застревают в тупиках, потому что они отсекают «непохожие» варианты, которые могли бы стать ключом к успеху в будущем. В Pickbreeder путь к черепу лежал через поиск симметрии . Когда пользователи выбирали симметричные, но еще не похожие на лица объекты, они «запирали» (locking in) это свойство в иерархии репрезентации, что позже позволяло создать сложные структуры .
Этот процесс Стенли сравнивает с написанием качественного программного кода:
- Хороший код сейчас снижает технический долг в будущем .
- Плохой код (как в современных ИИ) — это «замок из песка», который невозможно достраивать бесконечно.
- В открытых системах работает «эволюция эволюционируемости»: выигрывают те модели, которые лучше приспособлены для дальнейшего усложнения и комбинирования .
🚀 Будущее: стена или новый горизонт? 11:41
Кеннет Стенли и ведущий Machine Learning Street Talk предупреждают, что если мы продолжим строить ИИ как «самозванцев», технология неизбежно «ударится об стену» . Огромные затраты энергии и денег на обучение LLM могут быть признаком того, что мы пытаемся пробить эту стену грубой силой, вместо того чтобы сменить парадигму .
Ключевые вызовы для ИИ-самозванцев:
- Обобщение (Generalization): Неспособность адекватно реагировать на ситуации вне обучающей выборки .
- Творчество: Подлинное творчество — это способность двигаться к цели, которая еще не определена .
- Постоянное обучение (Continual learning): Трудности с самостоятельным освоением новых уровней знаний без переучивания всей модели .
По мнению Стенли, главная опасность не в том, что машины станут слишком умными, а в том, что мы станем слишком узко определять сам интеллект, сводя его к бенчмаркам . Он призывает инвестировать ресурсы не только в масштабирование текущих LLM, но и в исследования искусственной жизни (Artificial Life) и открытого поиска (open-ended search) . Путь к настоящему ИИ — это не прямая линия к известной цели, а непредсказуемое исследование неизвестного .
