# Профессор Крис Саммерфилд о природе интеллекта, ИИ и «горьких уроках»

Источник: https://www.youtube.com/watch?v=31VRbxAl3t0
Канал: Machine Learning Street Talk
Опубликовано: 22.02.2023

---

## Эволюция интеллекта: от биологических нейронов к кремниевым архитектурам 🧠
[[JUMP:0:00]]

Профессор когнитивной нейронауки Оксфордского университета и исследователь DeepMind Крис Саммерфилд в беседе с каналом Machine Learning Street Talk обсуждает фундаментальные вопросы искусственного интеллекта (ИИ) через призму человеческого мозга. Основной тезис Саммерфилда заключается в необходимости переосмысления того, что мы понимаем под «интеллектом», и в поиске новых способов его измерения, выходящих за рамки узких тестов.

### Проблема определения общего интеллекта 📏
[[JUMP:7:25]]

Саммерфилд отмечает, что, несмотря на десятилетия исследований, общепринятого определения общего интеллекта до сих пор не существует. Современные попытки измерить интеллект в ИИ часто опираются на антропоцентричные метрики, которые глубоко укоренены в западной академической традиции.

*   **Индетерминизм метрик:** Согласно закону Гудхарта, когда мера становится целью, она перестает быть хорошей мерой.
*   **Культурная предвзятость:** Стандартизированные тесты IQ часто игнорируют «тактильное» знание и навыки, необходимые для выживания в конкретной среде — будь то навыки медицины у народов Кении или ориентирование в условиях Аляски.
*   **Иллюзия «G-фактора»:** В 1904 году Чарльз Спирмен предложил концепцию G-фактора — единого фактора интеллекта, однако этот подход игнорирует многообразие способностей, подчеркиваемое Говардом Гарднером.

### «Швейцарский сыр» в логике ИИ 🧀
[[JUMP:15:38]]

Одной из главных проблем современных нейросетей является отсутствие устойчивости (робастности) при решении широкого спектра задач. Саммерфилд приводит пример системы AlphaGo, которая, несмотря на сверхчеловеческие способности в игре го, была склонна к «бредовым состояниям» (delusions) — внезапным провалам в логике, которые могли длиться десятки ходов.

*   **Проблема «швейцарского сыра»:** ИИ может работать безупречно в одних ситуациях и совершенно абсурдно — в других.
*   **Отсутствие здравого смысла:** Модели часто классифицируют школьный автобус как страуса или не могут справиться с элементарными бытовыми задачами, такими как приготовление тоста.
*   **Уязвимость:** Adversarial-атаки позволяют обмануть нейросети, исказив входные данные, что имело реальные негативные последствия для компаний вроде Google.

### Битва подходов: «Аккуратные» против «Небрежных» ⚔️
[[JUMP:23:35]]

Саммерфилд классифицирует исследователей ИИ согласно исторической дихотомии Роджера Шенка:

1.  **«Аккуратные» (Neats):** Сторонники поиска чистых вычислительных принципов, которые стремятся исключить «грязные» данные о человеческом мозге, полагаясь на математическую строгость.
2.  **«Небрежные» (Scruffies):** Сторонники эмпирического подхода, которые «на ходу» дорабатывают системы для решения гетерогенных задач, признавая сложность мира.

Саммерфилд причисляет себя к «небрежным», полагая, что понимание биологии и контекста крайне важно для создания полезных систем. Он критикует «Горький урок» Рича Саттона, который призывает отказаться от человеческих интуиций в пользу наращивания вычислительных мощностей. Хотя Саттон прав относительно важности масштабирования, Саммерфилд подчеркивает, что успех таких моделей, как ChatGPT, обусловлен именно *человеческим* обучением с подкреплением (RLHF), что делает их полезными для общества.

### Будущее: понимание или правдоподобие? 🤖
[[JUMP:31:49]]

Дискуссия затрагивает вопрос: обладает ли ИИ «пониманием» мира или просто генерирует правдоподобные ответы? Саммерфилд аргументирует, что понимание связано с наличием ментальной модели, позволяющей делать сложные выводы и прогнозы.

*   **Язык как инструмент:** В отличие от лингвистической традиции Хомского, где язык — это раскрытие фундаментальной реальности, Саммерфилд склоняется к идее, что язык — это социальный процесс конструирования общего смысла.
*   **Творчество и Агентность:** Ли Седоль изменил свое отношение к AlphaGo, признав его «творческим» после неожиданного хода в 37-й партии матча. Саммерфилд отмечает, что креативность — это способность генерировать новое, оставаясь в рамках правдоподобия.

В заключение профессор Саммерфилд подчеркивает: для создания действительно интеллектуальных систем мы должны перейти от создания инструментов, решающих узкие задачи, к агентам, способным «мечтать» о задачах и ставить цели самостоятельно.