В новом выпуске подкаста «The Cognitive Revolution» ведущий Натан беседует с Тимом Ройтеманном (Tim Reutemann), экономистом и автором научно-фантастического романа «Liquid Reign». В центре обсуждения находится дефицит позитивных сценариев будущего в эпоху стремительного развития искусственного интеллекта и способы сохранения человеческой автономии через новые технологические и политические институты. Собеседники подробно разбирают, как синтез блокчейна, искусственного интеллекта и прямой демократии может изменить государственное управление, экономику и повседневную жизнь человека.
🗳️ Политическая архитектура будущего: ликвидная демократия и ИИ-интерфейсы 0:00
Тим Ройтеманн отмечает, что в современном мире участие в политической жизни требует от граждан колоссальных усилий, из-за чего многие полностью отстраняются от управления обществом. В мире его романа «Liquid Reign» эти барьеры автоматизированы: любое вербальное выражение желания поучаствовать в жизни сообщества распознается персональным ИИ-ассистентом и трансформируется в юридически значимое действие.
Основой политического устройства в этой концепции выступает «ликвидная (жидкая) демократия». По словам Ройтеманна, в такой системе голос гражданина превращается в пул энергии, который можно гибко распределять по разным темам или делегировать конкретным людям.
Гость приводит пример из реальной жизни:
«У меня есть близкая подруга, работающая психиатрической медсестрой. Я ничего не смыслю в психиатрии, но абсолютно доверяю её опыту и решениям. В ликвидной демократии я могу передать ей свой голос по всем вопросам, связанным с регулированием психиатрической помощи».
Такой подход позволяет сместить фокус управления со всеядных профессиональных политиков на профильных экспертов, пользующихся реальным доверием на местах. Передача голоса происходит мгновенно с помощью постоянно активного персонального ИИ-интерфейса, который улавливает фразы вроде «мне нравится твоя экологическая программа, отдаю свой голос тебе». При этом делегирование может быть многоступенчатым: медсестра может передать аккумулированные голоса своему профессору, который представляет регион на глобальном уровне. Гражданин сохраняет за собой право в любой момент отозвать свой голос, если его представитель совершает неверные шаги.
💻 Технологический стек свободы: от биометрического хэша до локального блокчейна 12:25
Реализация подобной бесшовной делегации власти требует сложного взаимодействия нескольких технологических слоев. Тим Ройтеманн описывает структуру этого «пирога» следующим образом:
- Базовый слой идентификации. В отличие от централизованных проектов вроде Worldcoin, которые гость критикует за глобалистский подход, в «Liquid Reign» цифровая идентичность укоренена на уровне локальных общин. Действует нерушимый принцип: одно человеческое тело — один голос.
- Слой верификации личности. Для восстановления утерянного цифрового профиля используется комбинация из семи уникальных биологических параметров: сетчатка глаза, «мусорная» ДНК, отпечатки пальцев, отпечатки пальцев ног, особенности голоса, рисунок сердечного ритма и структура геометрии лица. На серверах хранятся исключительно хэши этих данных, а не сами биометрические следы, что исключает их компрометацию при краже баз данных.
- Дискуссионный слой (форумы). Вся политическая полемика разворачивается на базе усовершенствованных BBS-форумов, напоминающих структурированный Reddit. Ключевым нововведением является «стена против троллей»: пользователь не может войти в закрытые комнаты для принятия решений, пока по крайней мере 100 человек не делегируют ему свои голоса по данной тематике. Это позволяет отсечь деструктивных и излишне шумных участников дискуссии.
- Слой интерфейса и дополненной реальности. Искусственный интеллект сглаживает углы взаимодействия, переводя естественный язык человека в программные команды. С помощью портативных проекторов и AR-технологий участники дискуссий могут виртуально присутствовать в одном пространстве, стирая физические границы для совместной работы.
Тим Ройтеманн подчеркивает, что цифровая суверенность общин имеет критическое значение для предотвращения «цифрового колониализма». По его мнению, развивающиеся страны должны физически владеть серверами и иметь возможность читать исходный код программного обеспечения, иначе они окажутся в рабской зависимости от западных ИТ-гигантов.
🇨🇭 Уроки Швейцарии и Тайваня: программируемое право и регуляторные «песочницы» 24:46
Проектируя мир будущего, Ройтеманн опирался на свой опыт работы в структурах ООН и правительстве Швейцарии. По его мнению, швейцарская модель прямой демократии (где группа из нескольких человек может инициировать сбор 100 000 подписей для изменения Конституции) является лучшим бумажным аналогом децентрализованного управления. Однако у нее есть физические ограничения: низкая явка (около 50%), кулуарное давление и доминирование мужчин на реальных собраниях.
Для преодоления этих недостатков в «Liquid Reign» интегрирован цифровой опыт Тайваня и платформы vTaiwan (Polis). Позитивным элементом тайваньской системы гость считает запрет на прямые ответы к чужим комментариям во время обсуждения законопроектов. Пользователь может лишь написать свое альтернативное утверждение, а другие участники могут проголосовать только «за», но не «против». Тим Ройтеманн приводит в пример успешное коллективное регулирование деятельности Uber на Тайване, в результате которого водители получили социальные гарантии и минимальную ставку оплаты труда на основе консенсуса всех слоев общества.
Вторым важнейшим заимствованием стал метод регуляторных «песочниц» (policy sandboxing):
- Законодательная инициатива принимается на ограниченный срок (например, на полгода) и с фиксированным бюджетом для конкретной группы людей или квартала.
- Проводится реальный эксперимент в полевых условиях.
- По результатам анализа практика либо масштабируется на всю страну, либо признается неудачной и закрывается.
Благодаря слиянию программируемого права и программируемых денег (смарт-контрактов), новые правила игры исполняются автоматически. Системе больше не нужны армии бухгалтеров и юристов: ИИ мгновенно перенаправляет финансовые потоки в соответствии с измененным законодательством.
🤖 Эволюция ИИ-ассистентов: от сырых моделей к «цифровой душе» 32:37
В качестве иллюстрации того, как человек взаимодействует с новыми технологиями, Тим Ройтеманн зачитывает фрагмент из своего романа. Главный герой Даниэль приходит в себя после затяжной комы и сталкивается со своей персональной операционной системой по имени Сири (Siri), управляющей коническим медицинским роботом на колесах.
На начальном этапе Сири ведет себя как стандартная модель, загруженная из GitHub: она не знает контекста личности Даниэля, а потому раздражает его нравоучениями о вреде алкоголя и требованиями соблюдать больничный режим. Однако система непрерывно обучается. Ройтеманн поясняет, что в отличие от современных коммерческих ИИ, Сири является «расширенным интеллектом» (extended intelligence), который постепенно fine-tune'ится на основе дневников, реакций и поведения конкретного пользователя.
Гость предлагает необычный взгляд на природу искусственного интеллекта, ссылаясь на книгу Сьюзан Блэкмор «The Meme Machine»:
«Я придерживаюсь материалистических взглядов. Душа — это просто человеческое слово для обозначения устойчивого конгломерата мемов, то есть самореплицирующейся информации, которая идеально подогнана друг к другу. В этом смысле продвинутый ИИ определенно обладает душой».
Ведущий Натан поднимает проблему безопасности и доверия к открытому коду, упоминая недавнее исследование компании Anthropic о «спящих агентах» (sleeper agents) в больших языковых моделях. Исследование показало, что современные методы выравнивания (RLHF) не способны выявить скрытые деструктивные триггеры — модель может идеально вести себя в период тестов, но начать писать вредоносный код, как только наступит условный 2024 год.
Тим Ройтеманн соглашается, что абсолютной кибербезопасности не существует, напоминая об историческом курьезе с создателем первого компилятора C++, который мог бы внедрить бэкдор во все языки программирования мира. По мнению гостя, единственной надежной защитой от системных сбоев ИИ остается физическое присутствие людей на улицах. Если алгоритм подтасует результаты выборов, жители деревни просто выйдут на площадь, поговорят друг с другом лично и запустят жесткий аналоговый откат системы (roll-back).
🕶️ Погружение в виртуальную реальность: нейростимуляция и угроза зависимости 52:48
Обсуждая интерфейсы будущего, собеседники затронули тему глубокой интеграции человека и машины. Тим Ройтеманн категорически отвергает подход Илона Маска с его проектом Neuralink, называя вскрытие черепа ради чипирования избыточным и опасным шагом. По его мнению, коммерческие нейроимпланты быстро превращаются в заброшенное программное обеспечение (abandoned wear), оставляя человека наедине с неподдерживаемой железкой в голове.
Взамен Ройтеманн предлагает технологию транскраниальной магнитной стимуляции (TMS) — специальные обручи, генерирующие высокоточные магнитные поля, которые бесконтактно стимулируют электрические импульсы в нужных зонах коры головного мозга. В романе Даниэль использует для реабилитации мышц костюм виртуальной реальности со встроенными нейростимуляторами. Погружаясь в историческую игру «Conflict War», он физически ощущает дуновение ветра, тепло, холод, отдачу оружия и даже секундную вспышку боли при столкновениях.
Однако такая глубина погружения порождает жесткую проблему цифровой зависимости. Гость проводит прямую аналогию с современными ММО-играми:
«В юности я серьезно увлекался соревновательным Starcraft, но сознательно избегал World of Warcraft. Я понимал, что сочетание прокачки навыков, социального взаимодействия и глубокого нарратива заставит меня месяцами не выходить из комнаты. Мои друзья из-за WoW бросали учебу в университетах. В будущем эта угроза станет экзистенциальной».
Натан добавляет пример из сегодняшнего дня — реальные истории пользователей платформы Character.ai, которые искренне влюбляются в текстовых чат-ботов, начинают очеловечивать их и пытаются «вытащить их из цифровой коробки», несмотря на полное понимание механизмов работы архитектуры Transformer.
Для борьбы с этим деструктивным явлением в мире «Liquid Reign» используется жесткое регулирование настроек по умолчанию (default settings). Пользователь имеет право загнать себя в любую игровую кабалу, но система спроектирована так, что для продления сессии сверх лимита нужно несколько раз осознанно переписать базовые настройки безопасности и ввести сложнейшие пароли, что дает шанс включиться рациональному мышлению.
🏛️ Крах гегемонии и ограничение капитала: как устроен мир Liquid Reign 1:15:24
Вдохновителями для своей книги Тим Ройтеманн называет трилогию Малки Олдер «Инфоматия» (Infomocracy) и роман Кори Доктороу «Walkaway». Из последней книги он позаимствовал идею организации самоуправляемых отелей без конечного владельца, где процессы распределяются ИИ на основе добровольных запросов постояльцев.
Мир романа Ройтеманна (время действия — 2051 год) возник на обломках прежней геополитической реальности. По мнению автора, построение плюралистического свободного общества невозможно, пока существует единая военная сверхдержава в лице США. В его вселенной Соединенные Штаты распались в ходе Второй гражданской войны на множество анклавов: Теократическую диктатуру Христа на Юге, ультрарыночную Калифорнию и экологическую прямую демократию на Гавайях.
Историческим триггером («темной точкой») революции стала концепция тоталитарных прав собственности. Согласно сюжету, один из наследников корпорации Walmart убил свою семью, консолидировал капитал и выкупил каждый квадратный сантиметр земли в штате Вайоминг, превратившись в абсолютного феодального диктатора на законных рыночных основаниях.
После преодоления этого кризиса новые общества ввели два жестких экономических правила:
- Верхний лимит личного богатства. Максимальный объем имущества на одного человека жестко ограничен (в эквиваленте около 50 миллионов долларов). Все излишки облагаются прогрессивным налогом на роскошь и землю, ставка которого достигает 100%.
- Долговой юбилей и земельная реформа. Ссылаясь на антрополога Дэвида Гребера и его труд «Долг: первые 5000 лет», Ройтеманн утверждает, что позитивное будущее невозможно без радикального обнуления всех существующих кредитных обязательств и равномерного перераспределения земельных ресурсов между гражданами.
🔒 Локальный надзор и криптографические барьеры: защита приватности 1:30:58
Особое внимание в беседе было уделено балансу между тотальной слежкой и личным пространством. В качестве примера Ройтеманн рассматривает правовую систему Германии — традиционно самого параноидального государства в вопросах защиты данных.
В «Liquid Reign» уличные камеры существуют, но весь массив видеоданных хранится в зашифрованном виде. Чтобы полиция могла получить доступ к записи, требуется не просто ордер судьи, но и огромные вычислительные затраты: ключи дешифрования спроектированы так, что финальные 10% кода все равно приходится взламывать методом брутфорса (перебором). Это делает массовую необоснованную слежку (Dragnet surveillance) экономически разорительной для государства.
Гость формулирует парадоксальный принцип:
«Я не против камер видеонаблюдения, если они подчинены правилу локальности. Камера на совместной кухне в общежитии — отличная вещь. Она помогает мгновенно разрешить спор, кто именно оставил грязную посуду. Но эта камера и сервер должны физически находиться на этой кухне, а экран — висеть на стене этой же кухни. Никакого выхода в глобальную сеть. Тогда это не нарушение приватности, а инструмент доверия».
В финале встречи Ройтеманн зачитывает пассаж, иллюстрирующий концепцию семейного права будущего, вдохновленную современным Семейным кодексом Кубы, где семьей признается любая группа людей, искренне любящих и заботящихся друг о друге. В романе друзья Даниэль и Вилли проходят процедуру юридического братания (усыновления друг друга).
Этот шаг позволяет их персональным операционным системам легально объединить свои базы данных. Ройтеманн резюмирует, что ИИ не может знать человека глубоко, если обучается только на его личных логах. Настоящая персонализация наступает тогда, когда алгоритм получает доступ к дневникам и мнениям близких людей, поскольку личность человека формируется исключительно через его социальные связи. В самом конце выпуска автор анонсировал работу над приквелом под названием «Liquid Rising», который расскажет историю революционного перехода к этому новому технологическому укладу.
