В новом выпуске подкаста «Deep Questions» писатель и профессор Университета Джорджтауна Кэл Ньюпорт анализирует текущий ажиотаж вокруг искусственного интеллекта. Опираясь на тезисы экономиста Тайлера Кауэна, Ньюпорт формулирует прагматичный подход к технологической революции: почему стоит игнорировать громкие прогнозы футурологов и как «нулевая гипотеза» помогает сохранить спокойствие в эпоху перемен.
📚 Наследие Гутенберга и иллюзия предсказуемости 0:00
Фундаментом для дискуссии стала статья экономиста из Университета Джорджа Мейсона Тайлера Кауэна «Пути назад от ИИ нет» (There is no turning back on AI), опубликованная в мае 2023 года . В своей работе Кауэн утверждает, что искусственный интеллект представляет собой по-настоящему масштабный, трансформационный технологический прорыв, сравнимый по значимости с изобретением печатного станка .
По мнению Кауэна, последствия внедрения ИИ будут иметь общие черты с эпохой после Гутенберга:
- Преобладание пользы над вредом: Несмотря на то, что печатный станок позволил тиражировать идеи Гитлера, Ленина и Мао Цзэдуна, в конечном итоге он обеспечил научную и промышленную революции .
- Психологическая неготовность: Кауэн полагает, что современное общество не способно адекватно реагировать на изменения ни содержательно, ни психологически .
- Феномен «копинга»: Большинство текущих реакций — как оптимистичных, так и пессимистичных — автор статьи называет защитными механизмами или «копингами», не имеющими связи с реальностью .
Кэл Ньюпорт соглашается с Кауэном в том, что люди крайне плохо предсказывают среднесрочные и долгосрочные последствия радикальных технологических изменений . Ни Сэм Альтман из OpenAI, ни известный исследователь рисков ИИ Элиезер Юдковский, ни обыватели не могут знать, к чему приведет эта технология, так же как современники Гутенберга не могли предвидеть мир через 20 лет после его изобретения .
🛡️ Радикальный агностицизм против экзистенциального риска 4:20
Обсуждая опасения по поводу того, что ИИ может захватить мир или поработить человечество, Кауэн предлагает позицию «радикального агностицизма» . Он утверждает, что любые конкретные сценарии катастроф крайне маловероятны, а сама попытка спорить с алармистами на их условиях лишь создает иллюзию предсказуемости будущего .
В статье выделяются следующие причины доминирования негативных прогнозов:
- Простота разрушения: Предсказать коллапс гораздо легче, чем позитивное будущее, так как успех всегда строится на множестве специфических, уникальных деталей .
- Отсутствие новизны риска: У человечества уже есть множество экзистенциальных угроз, и, по словам Кауэна, риск появления сверхразума (AGI) просто встает в один ряд с ними, не предлагая ничего принципиально нового .
- Ловушка воображения: Кэл Ньюпорт добавляет, что люди склонны видеть в языковых моделях «человеческий разум» . На основе этого воображаемого разума строятся гипотетические сценарии вреда, которые общество начинает воспринимать как неизбежные факты .
📉 Нулевая гипотеза ИИ: а что, если ничего не изменится? 11:46
Кэл Ньюпорт вводит собственную концепцию — «нулевую гипотезу ИИ» . Суть её заключается в предположении, что революция больших языковых моделей (LLM), начавшаяся с GPT-3, в ближайшие 5–7 лет может не оказать заметного влияния на жизнь большинства людей .
Ньюпорт выделяет несколько аргументов в пользу этой версии:
- Отсутствие концептуального мышления: LLM по своей сути являются «предсказателями токенов», а не мыслящими агентами. Их задача — генерировать грамматически корректный текст, имитирующий стиль и содержание запроса .
- Проблема галлюцинаций: Ошибки и выдумки моделей могут ограничить их применение в серьезных бизнес-процессах.
- Экономическая нецелесообразность: Огромные вычислительные затраты на содержание моделей могут не окупиться, если выяснится, что задачи проще решать специализированными алгоритмами или силами наемных сотрудников .
По оценке Ньюпорта, вероятность того, что «нулевая гипотеза» окажется верной, составляет от 10% до 50% . Пока эта гипотеза не опровергнута реальными фактами, её следует рассматривать как равноправный вариант будущего.
🛠️ От теорий к практике: фильтрация реальных последствий 8:56
Вместо того чтобы реагировать на «мысленные эксперименты» о том, что ИИ мог бы сделать, Ньюпорт призывает общество фильтровать информацию и обращать внимание только на осязаемые изменения .
В качестве примеров реальных данных, которые заслуживают внимания, приводятся следующие факты:
- Выручка OpenAI: Компания уже получает более $100 млн коммерческого дохода от продажи доступа к API GPT-4 и может выйти на годовой доход в $1 млрд в течение года . Это реальный показатель востребованности технологии бизнесом.
- Кейс компании Chegg: Генеральный директор сервиса помощи студентам признал снижение продаж из-за влияния ChatGPT . Это конкретная точка трансформации целой ниши.
- Продуктивность в программировании: Ньюпорт сравнивает ИИ-помощников с появлением функций автодополнения в IDE (средах разработки), таких как Eclipse . По его мнению, ИИ может стать инструментом, облегчающим рутину, но не уничтожающим профессию, подобно тому как внедрение систем контроля версий не сделало программистов ненужными .
🏁 Резюме: как не поддаваться панике 14:29
Главный совет Кэла Ньюпорта — меньше слушать «шум» в социальных сетях и на YouTube-каналах, где авторы зарабатывают на громких прогнозах . Рациональная стратегия поведения в текущий момент включает:
- Отказ от споров о будущем: Не тратьте время на обсуждение того, что может сделать «гипотетический разум», если вы не являетесь узким специалистом в этой области .
- Ориентация на факты: Реально значимые события — это закрытие компаний, массовые увольнения в конкретных секторах или резкие скачки производительности, подтвержденные цифрами .
- Принятие неопределенности: Нужно быть готовым к тому, что ИИ изменит мир (как печатный станок), но также допускать вероятность, что он станет лишь полезным, но не фундаментальным инструментом .
Как отмечает Ньюпорт, история знает гораздо больше «громких» инноваций, которые не дестабилизировали мир, чем тех, что изменили всё. Поэтому стоит «держать удары», реагировать на конкретные вызовы и не доверять никому, кто утверждает, что точно знает будущее .
