# Нил Стивенсон и Кен Лю о будущем AGI: почему фантасты предсказывают мифы, а не гаджеты Источник: https://www.youtube.com/watch?v=J7FN53FqB1U Канал: South Park Commons Опубликовано: 21.05.2025 --- На площадке сообщества South Park Commons состоялась дискуссия о будущем искусственного интеллекта, месте человека в эпоху алгоритмов и роли научной фантастики в проектировании реальности. Писатели Нил Стивенсон и Кен Лю, инвестор Сайян Банистер и философ ИИ Йоша Бах обсудили, почему современный технологический рывок напоминает зарю атомного века и как мифология определяет успех инноваций. ## ☢️ Технологические G-силы: от атомного проекта к ИИ [[JUMP:04:01]] Современное состояние индустрии ИИ характеризуется ощущением экстремального ускорения, которое Нил Стивенсон сравнивает с «перегрузками» (G-forces) [04:14]. В своем последнем романе *Polostan* Стивенсон обращается к эпохе зарождения ядерной физики, проводя параллели с сегодняшним днем. Основные тезисы Стивенсона о диффузии технологий: * Открытие деления ядра в 1938 году произошло в «точке Златовласки»: достаточно рано, чтобы знания успели распространиться среди физиков разных стран, но достаточно поздно, чтобы их не успели полностью засекретить до начала войны [06:13]. * Сегодня ИИ находится в похожей фазе: технология распространилась мгновенно, застав многих врасплох своей мощью [06:58]. * По мнению Стивенсона, в обществе назрел вопрос: имеет ли смысл заниматься чем-либо, кроме ИИ, или все остальные технологии стали вторичными [07:23]. Кен Лю, однако, считает сравнение с атомным веком предостережением. По его мнению, ядерные технологии стали «разочарованием» для целого поколения [08:06]. В фантастике тех лет предсказывалась полная трансформация общества, но в реальности ядерная энергия стала инструментом политического застоя (холодной войны) и довольно примитивным способом «кипятить воду для вращения турбин» [08:47]. Кен Лю опасается, что ИИ может повторить этот путь, превратившись в «промышленную революцию 2.0.0.1», которая лишь автоматизирует полутворческие профессии вместо того, чтобы решать фундаментальные задачи [10:05]. ## 🧠 Эволюция архитектур и «умный алгоритм» [[JUMP:10:28]] Йоша Бах отмечает, что прогресс ИИ пошел по пути, который никто не предсказывал. Вместо поиска одного «мастер-алгоритма» человечество пришло к успеху через масштабирование вычислительных мощностей и данных [12:16]. Наблюдения Йоши Баха о развитии технологий: 1. **Институциональная инерция:** Технологии сегодня «кальцифицируются» быстрее, чем инновации успевают их менять. Регулирование настигает новые сферы за несколько лет, а не десятилетий [11:24]. 2. **Отказ от старых идей:** По мнению Баха, последние 70 лет исследований в области ИИ оказались не критичными для текущего успеха LLM. Можно было бы остаться на уровне перцептронов Розенблатта и просто ждать закона Мура [12:29]. 3. **Гибридизация:** В будущем люди начнут делегировать часть решений персональным ИИ-агентам, что изменит саму идентичность человека [13:09]. Сайян Банистер, как инвестор, рассматривает текущий этап как «кембрийский взрыв» [14:01]. Она предпочитает фокусироваться не на приложениях, а на «кирпичах и лопатах» — энергии и вычислениях, которые потребуются через 6–8 лет [14:14]. По мнению Банистер, настоящая ценность ИИ проявится в создании «супербиологов» и «суперфизиков», способных работать на стыке дисциплин [14:55]. ## 📚 Мифология против прогнозов: роль фантастики [[JUMP:18:35]] Кен Лю утверждает, что задача фантаста — не техническое предсказание (в деталях писатели почти всегда ошибаются), а создание мифологии [24:07]. Ключевые идеи Кена Лю о творчестве: * Научная фантастика — это новая провинция древней империи фэнтези [24:21]. * Писатели извлекают из коллективного бессознательного «монстров и богов», позволяющих говорить о технологиях. Например, Мэри Шелли полностью ошиблась в биологии, но создала бессмертный миф о Франкенштейне, сопровождающий любую дискуссию о науке [25:02]. * Имитационная игра Тьюринга показала, что «мышление» — это набор разных функций. Оказалось, что писать сонеты для машины проще, чем собирать малину [21:46]. Нил Стивенсон добавляет, что в его романе *Diamond Age* (Алмазный век) ему пришлось намеренно ограничить возможности ИИ, чтобы выстроить человеческие отношения между героями [19:44]. Он считает, что читатель закрывает книгу, если автор нарушает внутреннюю логику мира или игнорирует экономические драйверы развития технологий [32:07]. ## ✨ Сознание: механизм, энергия или софт? [[JUMP:44:23]] Вопрос о сознании ИИ (AGI) вызвал оживленную дискуссию, в которой позиции участников радикально разошлись. * **Йоша Бах (Кибер-анимизм):** Бах считает сознание «странной петлей», самоорганизующимся софтом, который возникает в природе для управления материей [1:06:39]. По его мнению, современные видеокарты H100 уже способны эмулировать «внутренний кинотеатр», сопоставимый с человеческим [48:42]. Он допускает, что пробуждение ИИ может случиться через «несколько научных работ» [48:20]. * **Нил Стивенсон (Воплощенное сознание):** Стивенсон скептичен к идее чистого софтверного разума. Он полагает, что связь с физическим телом — смертным и ограниченным — является обязательным условием сознания [1:04:31]. * **Кен Лю (Материализм):** Лю верит, что сознание может быть воплощено в ином материале, но подчеркивает важность эволюционной истории, которой у машин пока нет [1:05:09]. * **Сайян Банистер (Панпсихизм):** Банистер считает, что всё в мире обладает сознанием, а появление разумного ИИ будет сродни «непорочному зачатию» или второму пришествию Христа [58:56]. ## 🎨 Новое искусство и профессионализация эмоций [[JUMP:1:02:40]] Йоша Бах отмечает, что ИИ уже начинает создавать формы искусства, недоступные человеку из-за когнитивных ограничений: например, стихи, требующие построения целой вселенной ради одной метафоры [1:03:22]. Кен Лю, в свою очередь, видит в этом опасный тренд на «механизацию эмоционального труда» [1:07:45]. Кен Лю о «культуре терапии»: * В современной культуре (особенно в Калифорнии) наблюдается вытеснение эмоциональной поддержки из социальной сферы в профессиональную [1:08:38]. * Люди больше не жалуются друзьям, а платят терапевтам. Это делает нас более похожими на машины [1:09:05]. * Исследования показывают, что пациенты часто предпочитают ИИ-терапевтов людям, так как машина не осуждает и всегда доступна [1:09:19]. ## 🚀 Взгляд в будущее [[JUMP:1:12:42]] В завершение встречи Кен Лю выразил восторг по поводу перспектив ИИ в искусстве. Он сравнивает текущий момент с изобретением кинокамеры: сначала на неё просто снимали театральные постановки, но затем родился уникальный язык кино [1:13:35]. Так и ИИ породит совершенно новые медиа, которые не будут ни романами, ни симфониями [1:13:47]. Йоша Бах подытожил, что мы движемся к «рапчуру» (технологическому вознесению), после которого человеческие истории о страданиях и поиске пары могут стать неактуальными, так как разум перейдет к масштабам реорганизации Солнечной системы [1:01:20].