В новом выпуске подкаста Deep Questions писатель и профессор компьютерных наук Кэл Ньюпорт анализирует текущий ажиотаж вокруг искусственного интеллекта, опираясь на тезисы экономиста Тайлера Коуэна. Вместе со своим постоянным соавтором Джесси он обсуждает, почему современные предсказания о гибели человечества или полной замене профессий могут быть лишь «психологической защитой», и предлагает альтернативный взгляд — «нулевую гипотезу ИИ».
📚 Наследие Гутенберга и иллюзия предсказуемости 1:05
В основу дискуссии легла статья экономиста Тайлера Коуэна «Назад пути нет: ИИ уже здесь», опубликованная в рассылке Free Press . Коуэн проводит историческую параллель между развитием ИИ и изобретением печатного станка Иоганном Гутенбергом. По мнению Коуэна, последствия таких фундаментальных технологий невозможно предугадать в моменте .
Основные тезисы Коуэна, которые поддерживает Ньюпорт:
- Соотношение пользы и вреда: Печатный станок принес миру научную и промышленную революции, но он же позволил тиражировать труды Ленина, Гитлера и Мао Цзэдуна . Тем не менее, в долгосрочной перспективе позитивный эффект значительно перевесил негатив.
- Крах экспертных прогнозов: Никто — ни Сэм Альтман (OpenAI), ни Элиезер Юдковский (известный теоретик рисков ИИ), ни ваш сосед — не способен предсказать средне- и долгосрочные последствия радикальных технологических сдвигов .
- Психологический «коупинг»: Ньюпорт согласен с Коуэном в том, что нынешние бурные споры — это форма психологической защиты (cope) . Люди пытаются справиться с неопределенностью, создавая детальные сценарии будущего, которые на самом деле не имеют под собой твердой почвы.
🧠 Ловушка «воображаемого разума» 7:50
Кэл Ньюпорт выделяет когнитивную ошибку, которой подвержены многие наблюдатели за развитием больших языковых моделей (LLM). Видя впечатляющий лингвистический результат работы чат-бота, люди склонны экстраполировать его на наличие полноценного разума .
Процесс этого заблуждения выглядит так:
- Человек видит пример текста, который не смог бы написать ребенок, но вполне осилил бы подросток .
- Человек достраивает в голове образ «разума», который мог бы создать такой текст .
- Затем человек начинает воображать, какой ущерб или пользу может принести этот гипотетический «разум» в глобальном масштабе .
По словам Ньюпорта, это не более чем мысленные эксперименты. Он призывает общественность перестать реагировать на гипотезы о том, «что может случиться в теории», и начать фильтровать информацию, ориентируясь только на осязаемые последствия (tangible impacts) .
«Когда вы слышите: "Это может произойти, потому что вот пример работы бота", представьте, что это голос учителя из мультфильма про Чарли Брауна — просто невнятное "уа-уа-уа"», — иронизирует Ньюпорт . Реально значимыми данными он считает конкретные события: массовые увольнения в конкретной компании из-за ИИ или закрытие целых направлений бизнеса .
📉 Нулевая гипотеза ИИ: а что, если ничего не изменится? 12:10
Хотя Коуэн уверен в неизбежности масштабной дестабилизации мира, Кэл Ньюпорт выдвигает более скептичную концепцию — «нулевую гипотезу ИИ» .
Суть нулевой гипотезы заключается в том, что революция сверхкрупных языковых моделей, начавшаяся пару лет назад с GPT-3, в ближайшие 5–7 лет может так и не оказать заметного влияния на жизнь большинства людей . Ньюпорт оценивает вероятность такого исхода в диапазоне от 10% до 50% .
Аргументы в пользу нулевой гипотезы:
- Проблема галлюцинаций: Модели часто выдают фактологические ошибки, что ограничивает их применение в критически важных сферах .
- Отсутствие концептуального мышления: LLM — это «предсказатели токенов», которые угадывают следующее слово для создания грамматически верных предложений, а не существа, понимающие суть вещей .
- Экономическая нецелесообразность: Огромные вычислительные затраты могут не окупиться, если выяснится, что ИИ лишь копирует функции, которые дешевле поручить человеку или более простым узкоспециализированным алгоритмам .
💻 ИИ как инструмент продуктивности, а не экзистенциальная угроза 19:21
Ньюпорт сравнивает интеграцию ИИ в работу (например, в программирование) с появлением сред разработки (IDE) или системы контроля версий GitHub . В свое время функции автодополнения кода в Eclipse или IntelliJ IDEA кардинально повысили продуктивность программистов, избавив их от необходимости постоянно заглядывать в документацию .
Однако тогда никто не воспринимал автозаполнитель как экзистенциальную угрозу для профессии. По мнению Ньюпорта, ИИ может стать таким же «маршем в сторону облегчения жизни», который просто сделает рутинные задачи удобнее, не разрушая при этом основы индустрии .
В завершение Ньюпорт и Джесси подчеркивают важность «информационной гигиены» :
- Игнорируйте YouTube-каналы, где спикеры кричат о неминуемом крахе или золотом веке.
- Не доверяйте прогнозам, основанным на отобранных «красивых» примерах из Twitter, поскольку люди не постят там тысячи случаев, когда ИИ бесполезен или глуп .
- Следите за реальными изменениями в экономике и трудоустройстве. На данный момент OpenAI уже имеет выручку более $100 млн в год и идет к миллиарду, что подтверждает интерес бизнеса, но реальная глубина трансформации всё еще остается под вопросом .
