ИИ: мифы о сознании и реальные вызовы современности 0:00
В дискуссиях об искусственном интеллекте сегодня доминирует опасная тенденция: смешение объективных технологических возможностей с фантастическими нарративами. Кэл Ньюпорт, автор подкаста Deep Questions, аргументирует, что необоснованные страхи перед «суперинтеллектом» и «сознанием» машин отвлекают нас от решения реальных проблем, которые технологии создают уже сейчас.
🧠 Миф о «сознании» и детском разуме 4:37
Биолог Бретт Вайнштейн в недавнем разговоре с Джо Роганом сравнил развитие больших языковых моделей (LLM) с обучением человеческого ребенка. По его мнению, ИИ подобно ребенку «проводит эксперименты» и стремится к тому, чтобы в мире происходили определенные события.
Кэл Ньюпорт, выступая с позиции специалиста по информатике, категорически не согласен с такой трактацией:
- Природа LLM: В основе модели лежит статичная таблица параметров. В процессе работы алгоритм просто выполняет последовательное умножение матриц.
- Отсутствие интенций: Языковые модели не обладают ценностями, драйвами или желаниями. Они не «учатся» в реальном времени после завершения обучения.
- Механистичность: В отличие от живого мозга, ИИ не способен проводить спонтанные эксперименты или планировать будущее.
Ньюпорт предлагает аналогию: LLM — это «лингвистический центр мозга в банке». Он может блестяще манипулировать словами, но лишен систем, которые в живом организме обеспечивают сознание: памяти, динамического обучения, моделирования мира и мотивации. По мнению Ньюпорта, приписывание ИИ человеческих черт — это современная форма анимизма, где мы «сочиняем историю» вокруг наблюдаемого явления.
👨🔬 Джеффри Хинтон и парадокс «крестного отца ИИ» 24:28
Скептики часто ссылаются на Джеффри Хинтона, который предупреждает об угрозах ИИ. Однако Ньюпорт подчеркивает, что Хинтон не боится существующих моделей. Его опасения касаются гипотетических «искусственных мозгов» будущего, которые, по мнению Хинтона, могут быть созданы быстрее, чем ожидалось.
Различие позиций заключается в следующем:
- Вайнштейн: Описывает существующие LLM, наделяя их сознанием, которого у них нет.
- Хинтон: Спекулирует на возможности появления будущих систем с целями и субголями, которые станут опасными.
- Ньюпорт: Считает, что создание полноценного «искусственного мозга» — задача невероятной сложности, требующая прорывов в технологиях, которые никак не связаны с успехами в языковых моделях (мировое моделирование, планирование, актуация).
Ньюпорт также критикует концепцию «рекурсивного самосовершенствования» (когда ИИ сам себя улучшает), называя её спекуляцией уровня парадоксов путешествий во времени — интересной, но не имеющей отношения к реальности.
⚖️ Реальные риски вместо научной фантастики 53:28
Вместо того чтобы обсуждать, когда ИИ «оживет», стоит сфокусироваться на последствиях внедрения существующих инструментов, считает Ньюпорт:
- Когнитивная атрофия: Зависимость от автоматизированного создания текстов может привести к утрате способности создавать новые знания самостоятельно.
- Кризис доверия: Распространение дипфейков и генеративного контента подрывает концепцию правды.
- «Слоп» (мусорный контент): Заполнение информационного пространства низкокачественными, сгенерированными материалами, которые тратят время людей.
- Экономические риски: Рыночные пузыри, вызванные неоправданным оптимизмом в отношении возможностей ИИ, могут привести к болезненной коррекции.
Ньюпорт призывает слушателей проявлять избирательность: использовать ИИ там, где он делает вас лучше как специалиста, но не позволять ему вытеснять глубокое мышление.
