В Оксфордском университете прошла встреча ведущего подкаста Machine Learning Street Talk с профессором Кристофером Саммерфилдом, автором книги «These Strange New Minds». В центре дискуссии — фундаментальный сдвиг в понимании интеллекта: как нейросети без сенсорного опыта познают реальность и почему человечество рискует стать «атоматами» внутри созданных ими систем.
🧠 Книга «Strange New Minds»: Когнитивный статус ИИ 5:27
Кристофер Саммерфилд завершил работу над своей книгой в конце 2023 года, спустя год после выхода ChatGPT . Основной целью труда стал анализ «когнитивного статуса» новых систем, которые профессор называет «странными новыми разумами». В академической среде и обществе дебаты о природе ИИ быстро поляризовались:
- Скептики: Утверждают, что ИИ — это «просто компьютерный код» и он никогда не будет похож на человека.
- Оптимисты: Полагают, что мы находимся на пути к созданию полноценного общего интеллекта (AGI), сопоставимого с человеческим.
По мнению Саммерфилда, обе стороны часто не используют язык когнитивистики для обоснования своих позиций . Как ученый, работавший в DeepMind и Институте безопасности ИИ (AI Safety Institute) Великобритании, он подчеркивает, что понимание того, что значит «думать», требует заземленного вычислительного подхода .
🏛 От Платона до нейросетей: Исторический спор 8:43
История искусственного интеллекта повторяет древний спор между эмпиризмом и рационализмом. Саммерфилд выделяет две интеллектуальные линии:
- Рационализм (Платон): Идея о том, что разум строится на рассуждениях над скрытыми, ненаблюдаемыми состояниями («тени в пещере Платона») . В ИИ это воплотилось в символьном подходе (GOFAI), где истина выводится с помощью логики.
- Эмпиризм (Аристотель): Позиция, согласно которой все знания приходят из опыта. Это стало фундаментом для нейронных сетей и глубокого обучения .
Профессор отмечает ироничный факт: первая система «супер интеллекта» — Logic Theorist — была создана в 1958 году Ньюэллом и Саймоном . Она могла доказывать математические теоремы из «Principia Mathematica» более элегантно, чем это делали Рассел и Уайтхед . Однако символьный подход провалился при столкновении с реальным миром, полным исключений, не поддающихся чистой логике.
🐱 Парадокс отсутствия опыта: Обучение без чувств 14:19
Самым поразительным научным открытием XXI века Кристофер Саммерфилд считает тот факт, что обучение с учителем (supervised learning) позволяет познать природу реальности без сенсорных сигналов .
Ранее доминировала точка зрения, что невозможно понять, что такое «кошка», не увидев её. Однако оказалось, что чистая обработка текстов позволяет моделям вести интеллектуальные диалоги на уровне образованного человека, не имея ни зрения, ни слуха . По словам гостя, это радикально меняет наше представление об информации и смысле.
🦆 Тест утки и функционализм 19:13
Саммерфилд называет себя функционалистом. Он использует «тест утки»: если нечто рассуждает как человек, мы имеем право использовать термин «рассуждение», независимо от внутреннего механизма .
- Исключительность человека: Профессор сравнивает нежелание признавать интеллект ИИ с реакцией на теорию Дарвина. Это идеологическая позиция «радикального гуманизма», стремящаяся любой ценой оградить когнитивные понятия (память, воля, мышление) как исключительно человеческие .
- Сходство субстратов: Несмотря на отсутствие в нейросетях специфических биологических элементов (например, корзинчатых клеток), на алгоритмическом уровне репрезентации в ИИ и мозге обезьян или людей поразительно похожи. Эксперименты показывают сходство «нейронных многообразий» (neural manifolds) и геометрии данных в обоих случаях .
🧬 Ламаркизм против Дарвинизма в обучении 28:36
Кристофер Саммерфилд вводит важное различие в том, как люди и ИИ усваивают данные. Часто говорят, что ChatGPT прочел объем текстов, эквивалентный обучению человека со времен ледникового периода . Профессор называет это ложной аналогией:
- ИИ (Ламаркизм): Опыт одного этапа обучения напрямую наследуется следующим поколением весов модели .
- Человек (Дарвинизм): Индивидуальный опыт (память) не передается детям биологически. Наше обучение направляется эволюционными предрасположенностями, сформированными тысячелетиями .
Чомски был прав в том, что мы рождаемся с «априорными знаниями» для языка, но он ошибался в механизме их приобретения: эти правила не вшиты жестко, а являются результатом циклов отбора, которые по сути являются формой мета-обучения .
⚠️ Три главных страха за будущее 38:18
Несмотря на быстрый прогресс, три опасения Саммерфилда остаются неизменными:
- Агентность: Переход от систем, генерирующих информацию, к системам, действующим от имени пользователя .
- Персонализация: Вместо коллективного понимания истины ИИ будет подстраиваться под индивидуальные предубеждения каждого человека, усиливая их .
- Комплексная динамика: Возникновение «параллельной экономики агентов». Взаимодействие множества ИИ-систем может привести к нелинейным эффектам, подобным «мгновенным крахам» (flash crashes) на бирже .
Социальные нормы людей (законы, обычаи) эволюционировали, чтобы сдерживать деструктивные групповые процессы. У моделей ИИ таких «регуляторов» по умолчанию нет .
🎥 Метафора «Супермена 3» и утрата человечности 54:26
Самый яркий образ дискуссии — сцена из фильма «Супермен 3» (1983). В ней взбунтовавшийся компьютер затягивает женщину внутрь, постепенно покрывая её броней и заменяя глаза лазерами, превращая человека в автомат .
Для Саммерфилда это метафора того, что технологии делают с нами сегодня:
- Мы не просто боимся «захвата власти роботами». Мы сами добровольно входим в машину.
- Участие в технологических системах (соцсети, корпоративные протоколы) требует от нас роботизированного поведения.
- Происходит эрозия аутентичности: люди на LinkedIn или в медиа начинают общаться стилизованно и механистично, теряя человеческую искренность .
🎡 Психология контроля и «дофаминовый взлом» 57:30
Профессор критикует современную экономику вниманию, основанную на максимизации полезности. Как психолог он утверждает, что для благополучия человеку гораздо важнее контроль (агентность), чем просто вознаграждение .
- Определение агентности: Это способность оказывать предсказуемое влияние на систему .
- Проблема ИИ: Технологии часто делают наши действия непредсказуемыми (ошибки аутентификации, алгоритмические ленты).
- Дофаминовый взлом: Системы, разработанные для удержания пользователя по 90 минут, используют «переменный график подкрепления» . Это древний способ дрессировки животных, который заставляет нас бесконечно пробовать снова и снова в надежде вернуть контроль над получением награды .
В завершение Кристофер Саммерфилд отмечает, что хотя ИИ может казаться творческим, наше стремление передать ему автономию опасно до тех пор, пока мы не обеспечим «разнородность» его представлений, подобную биологической эволюции, которая гораздо надежнее узкой оптимизации .
