Эволюция интеллекта: от биологических нейронов к кремниевым архитектурам 🧠 0:00
Профессор когнитивной нейронауки Оксфордского университета и исследователь DeepMind Крис Саммерфилд в беседе с каналом Machine Learning Street Talk обсуждает фундаментальные вопросы искусственного интеллекта (ИИ) через призму человеческого мозга. Основной тезис Саммерфилда заключается в необходимости переосмысления того, что мы понимаем под «интеллектом», и в поиске новых способов его измерения, выходящих за рамки узких тестов.
Проблема определения общего интеллекта 📏 7:25
Саммерфилд отмечает, что, несмотря на десятилетия исследований, общепринятого определения общего интеллекта до сих пор не существует. Современные попытки измерить интеллект в ИИ часто опираются на антропоцентричные метрики, которые глубоко укоренены в западной академической традиции.
- Индетерминизм метрик: Согласно закону Гудхарта, когда мера становится целью, она перестает быть хорошей мерой.
- Культурная предвзятость: Стандартизированные тесты IQ часто игнорируют «тактильное» знание и навыки, необходимые для выживания в конкретной среде — будь то навыки медицины у народов Кении или ориентирование в условиях Аляски.
- Иллюзия «G-фактора»: В 1904 году Чарльз Спирмен предложил концепцию G-фактора — единого фактора интеллекта, однако этот подход игнорирует многообразие способностей, подчеркиваемое Говардом Гарднером.
«Швейцарский сыр» в логике ИИ 🧀 15:38
Одной из главных проблем современных нейросетей является отсутствие устойчивости (робастности) при решении широкого спектра задач. Саммерфилд приводит пример системы AlphaGo, которая, несмотря на сверхчеловеческие способности в игре го, была склонна к «бредовым состояниям» (delusions) — внезапным провалам в логике, которые могли длиться десятки ходов.
- Проблема «швейцарского сыра»: ИИ может работать безупречно в одних ситуациях и совершенно абсурдно — в других.
- Отсутствие здравого смысла: Модели часто классифицируют школьный автобус как страуса или не могут справиться с элементарными бытовыми задачами, такими как приготовление тоста.
- Уязвимость: Adversarial-атаки позволяют обмануть нейросети, исказив входные данные, что имело реальные негативные последствия для компаний вроде Google.
Битва подходов: «Аккуратные» против «Небрежных» ⚔️ 23:35
Саммерфилд классифицирует исследователей ИИ согласно исторической дихотомии Роджера Шенка:
- «Аккуратные» (Neats): Сторонники поиска чистых вычислительных принципов, которые стремятся исключить «грязные» данные о человеческом мозге, полагаясь на математическую строгость.
- «Небрежные» (Scruffies): Сторонники эмпирического подхода, которые «на ходу» дорабатывают системы для решения гетерогенных задач, признавая сложность мира.
Саммерфилд причисляет себя к «небрежным», полагая, что понимание биологии и контекста крайне важно для создания полезных систем. Он критикует «Горький урок» Рича Саттона, который призывает отказаться от человеческих интуиций в пользу наращивания вычислительных мощностей. Хотя Саттон прав относительно важности масштабирования, Саммерфилд подчеркивает, что успех таких моделей, как ChatGPT, обусловлен именно человеческим обучением с подкреплением (RLHF), что делает их полезными для общества.
Будущее: понимание или правдоподобие? 🤖 31:49
Дискуссия затрагивает вопрос: обладает ли ИИ «пониманием» мира или просто генерирует правдоподобные ответы? Саммерфилд аргументирует, что понимание связано с наличием ментальной модели, позволяющей делать сложные выводы и прогнозы.
- Язык как инструмент: В отличие от лингвистической традиции Хомского, где язык — это раскрытие фундаментальной реальности, Саммерфилд склоняется к идее, что язык — это социальный процесс конструирования общего смысла.
- Творчество и Агентность: Ли Седоль изменил свое отношение к AlphaGo, признав его «творческим» после неожиданного хода в 37-й партии матча. Саммерфилд отмечает, что креативность — это способность генерировать новое, оставаясь в рамках правдоподобия.
В заключение профессор Саммерфилд подчеркивает: для создания действительно интеллектуальных систем мы должны перейти от создания инструментов, решающих узкие задачи, к агентам, способным «мечтать» о задачах и ставить цели самостоятельно.
