Символьная природа интеллекта: путь к смыслу или манипуляция данными? 3:43
В недавнем выпуске подкаста Machine Learning Street Talk гостем стал Эндрю Лампинен (Andrew Lampinen), старший научный сотрудник DeepMind, специализирующийся на когнитивной психологии и машинном обучении. Основной темой дискуссии стала недавно опубликованная работа «Символьное поведение в искусственном интеллекте» (Symbolic behaviour in artificial intelligence), в которой Лампинен с соавторами критикует текущие подходы к созданию общего искусственного интеллекта (AGI) и предлагает переосмыслить роль символов.
Триадическая природа символов и проблема семантики 2:43
Лампинен аргументирует, что современный ИИ катастрофически далёк от человеческого уровня понимания, так как он отделяет логическое рассуждение от контекстуальной семантики. Основываясь на философии Людвига Витгенштейна, ученый предлагает рассматривать символы через «триадические отношения» (знак, интерпретатор, объект), где значение символа определяется поведением пользователей, которые его применяют, а не содержимым самого знака.
- Позиция Лампинена: Символы по своей сути субъективны и релятивистски запутаны в состоянии интерпретатора.
- Аналогия: В машинном обучении это сравнимо с коллаборативной фильтрацией: мы понимаем смысл контента через связи с другими элементами, а не через анализ самого контента.
- Аргумент: Синтаксические манипуляции (логические правила) полезны лишь как инструменты; они не являются «интеллектом» как таковым, а лишь обслуживают семантические цели.
Интеллект как адаптивная способность, а не логическая машина 27:59
В ходе дискуссии был поднят вопрос о том, нужно ли жестко «зашивать» в ИИ универсальные когнитивные шаблоны, такие как закон модус поненс (если P, то Q; P истинно, следовательно, Q истинно). Лампинен призывает к скепсису: по его мнению, человеческое рассуждение далеко не всегда логично и «чисто».
- Когнитивные искажения: Люди склонны оценивать логическую валидность аргумента на основе того, нравится ли им вывод, а не на основе структуры аргумента.
- Функциональность ошибок: Лампинен полагает, что попытка принудительно внедрить «идеальную логику» в ИИ только ограничит его возможности. Настоящий интеллект заключается в способности менять процессы мышления в зависимости от контекста, чему ИИ должен учиться через социальное взаимодействие.
Обучение ИИ: имитация, данные и «неловкие моменты» 44:04
Обсуждая практическую реализацию, Лампинен указал на то, что для достижения человекоподобного интеллекта системы должны быть погружены в человеческую культуру. Это подразумевает использование данных, полученных не просто путем парсинга интернета (с его «темными уголками»), а через тщательную фиксацию человеческих взаимодействий, где один человек обучает другого выполнению задачи.
- Риски: Существует опасение, что ИИ, обученный на «всех» данных, переймет худшие проявления человеческого поведения, включая токсичность.
- Решение: Лампинен настаивает на «эпистемической скромности» — архитектура ИИ должна быть гибкой, позволяя пересматривать даже фундаментальные правила (этические или логические), так как человечество постоянно эволюционирует в своих представлениях о должном.
Математика, модели и будущее вычислений 54:25
Особое внимание уделили способности моделей к рассуждению. В ответ на критику о том, что LLM просто «заучивают» статистические корреляции из корпуса данных, Лампинен заметил, что часто проблемы ИИ связаны с техническими нюансами — например, токенизацией чисел, которая «непонятна» человеческому разуму.
- Аргумент за обучение: Примеры, когда модель с внешним «черновиком» (scratch pad) учится решать задачи длинного деления, показывают, что при правильной организации обучающего процесса (с пошаговыми инструкциями) ИИ может демонстрировать подлинную обобщающую способность.
- Итог: Модели на архитектуре трансформеров могут быть потенциально способны на рассуждения, но текущие методы обучения на предсказании следующего токена могут быть для этого недостаточны.
На вопрос о том, будет ли идеальная «симуляция» человека (полная таблица ответов на все случаи жизни) разумной, Лампинен ответил отрицательно: интеллект — это адаптация к новым, непредсказуемым ситуациям, а не просто воспроизведение заученных паттернов.
