# Ловушка целеполагания: как Кеннет Стэнли создает интернет без лайков Источник: https://www.youtube.com/watch?v=pWIrXN-yy8g Канал: Machine Learning Street Talk Опубликовано: 26.02.2024 --- Жесткое стремление к четкой цели гарантирует, что вы никогда не создадите ничего по-настоящему прорывного. Исследователь ИИ Кеннет Стэнли доказал, что величайшие открытия рождаются из следования за мимолетным чувством интересности, а не из жестких планов и KPI. Теперь он применяет этот принцип против диктатуры современных алгоритмов, создавая Maven — социальную сеть нового типа без лайков, подписок и инфлюенсеров. ## 🌐 Серендипность и парадокс целей: почему величие нельзя спланировать [[JUMP:00:00]] Профессор Кеннет Стэнли (Kenneth Stanley), известный своими фундаментальными исследованиями в области эволюционных алгоритмов и нейроэволюции, переносит свои теоретические наработки в плоскость социальных технологий. Его новый проект — сеть Maven — призван стать антиподом современных социальных медиа, основанных на алгоритмах внимания и диктатуре популярности [0:14]. Maven позиционируется как «сеть серендипности» (serendipity network), где главной ценностью становится случайное, но значимое открытие, а не погоня за охватами [0:54]. ### Maven: социальная сеть без диктатуры лайков и инфлюенсеров [[JUMP:04:37]] Одним из самых радикальных решений в дизайне Maven стал полный отказ от системы «лайков» [4:37]. Кеннет Стэнли объясняет это тем, что традиционные метрики вовлеченности искажают естественный поиск интересного, заставляя пользователей подстраиваться под ожидания толпы [4:52]. Вместо того чтобы следовать за личными брендами или «инфлюенсерами», пользователи Maven подписываются на интересы [5:19]. В отличие от того же Reddit, где обсуждения жестко ограничены рамками конкретных сообществ (сабреддитов), в Maven интересы являются динамическими сущностями [5:58]. Система работает по иному принципу: * Интересы — главные узлы системы, а не дополнение к профилю пользователя [5:44]. * Отсутствие фиксированных групп: обсуждение может начаться в одной теме и плавно перетечь в другую, если ИИ сочтет это уместным [6:13]. * Поиск вместо потребления: алгоритм ориентирован на расширение кругозора пользователя, а не на удержание его в «эхо-камере» уже знакомых идей. ### Дивергенция против масштабирования: беседа с Сэмом Альтманом [[JUMP:02:17]] Размышляя о векторе развития современного искусственного интеллекта, Кеннет Стэнли вспоминает свой разговор с Сэмом Альтманом (OpenAI), который высветил фундаментальный концептуальный разрыв в индустрии [2:17]. Альтман охарактеризовал всю свою карьеру и успех OpenAI через призму концепции масштабирования (scaling) — идеи о том, что экспоненциальное увеличение вычислительных мощностей и данных ведет к качественным скачкам в интеллекте [2:57]. Стэнли, напротив, видит в этом подходе существенное ограничение. Его позиция строится на приоритете дивергенции — процесса постоянного разветвления и поиска новых, непредсказуемых путей, которые не могут быть достигнуты простым увеличением масштаба существующих моделей [3:11]. Пока индустрия ИИ одержима эффективностью и оптимизацией под конкретные задачи, Стэнли настаивает на важности «свободы поиска», где отсутствие жесткой цели является не багом, а необходимой функцией для возникновения истинной новизны [3:40]. ### Парадоксальная природа тирании целей [[JUMP:07:11]] Центральный тезис Кеннета Стэнли, изложенный в его работах, заключается в так называемом «парадоксе цели»: в действительно сложных задачах жесткое преследование конкретного результата мешает его достижению [7:11]. Это явление он называет «проклятием целей» [7:39]. Когда мы ставим перед собой амбициозную, инновационную задачу, промежуточные шаги (stepping stones), ведущие к ней, часто выглядят совершенно не связанными с финальным результатом [19:51]. Объективно-ориентированный подход страдает от нескольких проблем: 1. Упрощение сложности: погоня за метрикой отсекает всё богатство и многогранность творческого процесса [8:05]. 2. Ложные ориентиры: шаг, который кажется «движением в правильном направлении» согласно текущей метрике, может оказаться тупиком в долгосрочной перспективе [19:25]. 3. Подавление новизны: инновации рождаются из побочных продуктов поиска, которые часто игнорируются, если они не ведут к поставленной цели напрямую [20:05]. Этот принцип применим ко всем сложным системам, от эволюции жизни до развития науки и искусства [20:33]. ### Критика ChatGPT и самоорганизация дискуссий [[JUMP:08:36]] Стэнли применяет свою теорию и к анализу современных языковых моделей. С его точки зрения, ИИ-модели вроде ChatGPT по своей природе стремятся к снижению энтропии — они ищут наиболее вероятное, «усредненное» продолжение текста [8:36]. Однако творческий процесс, по определению, направлен на генерацию новой информации и повышение сложности, что идет вразрез с алгоритмическим стремлением к предсказуемости [8:52]. В Maven эта проблема решается через алгоритмическую самоорганизацию кросс-комьюнити дискуссий [9:21]. Если в классических форумах разговор заходит в сторону от основной темы, он обычно подавляется модераторами или затухает. В системе Стэнли ИИ на лету анализирует «меандрирующие» (блуждающие) разговоры и перенаправляет их тем пользователям, которым этот новый поворот темы может быть искренне интересен [10:31]. Таким образом, система поддерживает естественный дрейф интересов, не навязывая консенсус, который, по мнению профессора, часто лишь фильтрует разнообразие и убивает инновации [13:16]. ### Финансирование науки и парадокс «результатов» [[JUMP:22:06]] Принцип тирании целей наносит наибольший вред фундаментальной науке. Кеннет Стэнли критикует современную систему распределения грантов, которая требует от ученых заранее описывать ожидаемые результаты (deliverables) и шаги по их достижению [22:06]. «Это фундаментально подрывает механику инновационных открытий», — утверждает исследователь [22:31]. Требуя от ученого предсказать результат, система фактически запрещает ему заниматься настоящим поиском, так как в инновационной деятельности «камни преткновения» или промежуточные этапы — это знания, которые еще не существуют [23:00]. Если вы уже знаете, как прийти к результату, значит, вы не создаете ничего принципиально нового, а лишь реализуете уже известный алгоритм [22:45]. Эта повсеместная «телеология» (целеполагание) в науке и бизнесе становится главным барьером на пути к прорывным открытиям [23:55]. ## 💡 Градиент интересности и уроки Pic Breeder [[JUMP:26:13]] В дискуссиях о природе творчества и искусственного интеллекта Кеннет Стэнли (Kenneth Stanley) вводит фундаментальное различие между простым перебором вариантов и интеллектуальным поиском. Традиционно под «исследованием» (exploration) в машинном обучении понимают некую долю случайности в действиях агента. Однако для человека этот процесс выглядит иначе. ### Интеллектуальный поиск и градиент интересности [[JUMP:26:13]] По мнению профессора, истинное исследование пространства возможностей — это не хаотичные метания, а следование за «градиентом интересности» [26:41]. Мы не просто пробуем всё подряд; мы движемся в направлении того, что кажется нам интригующим, многообещающим или странным. Это внутреннее чувство «интересного» служит компасом, который позволяет ориентироваться в бесконечном океане вариантов без четко заданной финальной цели. Кеннет Стэнли (Kenneth Stanley) подчеркивает, что это чувство не является ошибкой или шумом: * Интересность — это субъективный, но мощный индикатор потенциала открытия [27:38]. * Этот механизм позволяет нам находить «точки перехода» к принципиально новым знаниям, которые невозможно вычислить логически [29:19]. * Настоящая серендипность — способность к счастливым случайным находкам — встроена в саму архитектуру нашего интеллектуального поиска [28:37]. Проблема современных алгоритмов заключается в том, что им крайне сложно формализовать это понятие «интересности» [30:28]. В то время как человек интуитивно чувствует грань между тривиальным и захватывающим, искусственный интеллект всё ещё нуждается в жестких критериях оценки, что часто лишает его подлинной исследовательской жилки. Как отметил профессор, язык может служить подсказкой и передавать часть этого опыта, но само по себе понимание «интересного» глубже любой лингвистической модели [33:45]. ### Эксперимент Pic Breeder и эволюция образов [[JUMP:36:51]] Для подтверждения своих идей Кеннет Стэнли (Kenneth Stanley) часто обращается к своему знаменитому проекту Pic Breeder. Это инструмент для совместной эволюции изображений, где пользователи не рисовали картинки, а выбирали наиболее симпатичные из предложенных вариантов, которые затем «скрещивались» и мутировали [37:50]. Результаты эксперимента оказались парадоксальными и изменили представление исследователей об «открытых системах» (open-ended systems). Выяснилось, что наиболее сложные и узнаваемые образы — такие как бабочки, лица людей или автомобили — никогда не создавались намеренно [41:29]. Ключевые выводы эксперимента: * Ни один пользователь, поставивший себе цель «вывести бабочку», не смог этого сделать, начиная с простых фрактальных пятен [43:05]. * Все сложные изображения были найдены случайно, когда люди просто следовали за интересными им визуальными формами, не имея конкретного плана [42:52]. * Целеполагание в данном случае выступало барьером: пытаясь найти что-то конкретное, человек игнорирует промежуточные формы («ступеньки»), которые на самом деле ведут к великим открытиям. Pic Breeder доказал, что для появления чего-то по-настоящему сложного и нового система должна позволять исследователю отклоняться от курса и просто наблюдать за тем, что «интересно» здесь и сейчас [43:18]. Это радикально противоречит современному подходу к оптимизации ИИ, где каждая итерация должна приближать модель к заранее заданному эталону. ### Культура как истинный коллективный разум [[JUMP:43:58]] Развивая тему интеллектуального поиска, Кеннет Стэнли (Kenneth Stanley) переносит фокус с индивидуального разума на социальный контекст. Он утверждает, что истинная мощь человеческого интеллекта кроется не в объеме нейронных связей отдельного мозга, а в культуре [44:53]. Культура — это гигантская распределенная система накопления «интересностей» и открытий. По мнению профессора, люди обладают уникальной прото-способностью к разделяемой интенциональности: мы можем не только созидать сами, но и подхватывать идеи других, превращая их в фундамент для следующих шагов [44:24]. В этом контексте современные языковые модели, такие как ChatGPT, демонстрируют серьезный разрыв с человеческим типом интеллекта: 1. **Отсутствие автономии:** ИИ не участвует в культуре как активный субъект. Он лишь отражает статистические закономерности уже созданного контента [47:21]. 2. **Замкнутость цикла:** В то время как человечество находится в процессе бесконечного «открытого развития» (open-endedness), ИИ заперт в рамках своих обучающих данных [48:19]. 3. **Неспособность к истинному творчеству:** Без личного интереса и участия в социальном обмене ИИ не может самостоятельно генерировать новые «ступени» культурного прогресса [46:12]. Интеллект — это не просто способность решать тесты или писать код; это участие в непрерывном потоке культурной эволюции, где каждое открытие меняет способ нашего мышления [39:00]. Пока машины остаются лишь инструментами для обработки информации, они лишены того двигателя «интересности», который заставляет человеческую цивилизацию двигаться вперед [46:53]. ## 🎭 Иллюзия машинного творчества и диктатура большинства [[JUMP:50:19]] ### Комбинаторный ИИ: почему смесь концептов — это еще не истинное творчество [[JUMP:50:19]] Современный бум генеративного искусственного интеллекта и больших языковых моделей создал у общества устойчивую иллюзию того, что машины наконец-то овладели подлинным творческим мышлением. Однако Кеннет Стэнли предлагает взглянуть на эти успехи критически, без лишнего академического восторга. По его мнению, то, что сегодня демонстрируют передовые нейросети, представляет собой лишь «низшую лигу» или примитивный уровень креативности. Проблема заключается в том, что алгоритмы не обладают глубинным пониманием сути вещей, а их генерации часто оказываются абсолютно случайными и оторванными от реального понимания контекста. В качестве наглядного примера исследователь приводит собственный эксперимент с текстовой моделью. Кеннет Стэнли попросил ИИ написать нестандартный сиквел к классической сказке «Волшебник страны Оз» (The Wizard of Oz), заставив одного из ключевых персонажей превратиться в наркозависимого. Технологически машина без малейшего труда справилась с задачей, выдав связный и внешне оригинальный текст. Но Стэнли подчеркивает: для самого алгоритма это действие остается абсолютно произвольным (arbitrary). Нейросеть способна виртуозно комбинировать концепты по указке человека, но она делает это вслепую. У ИИ полностью отсутствует интуитивный внутренний «детектор интересности», который позволял бы ему самостоятельно оценивать подлинную ценность, глубину или культурную релевантность создаваемого контента. Машина не чувствует экзистенциального вызова, скрытого за метафорами, превращая творчество в механическое жонглирование элементами человеческой культуры. ### Ловушка единогласия: как фильтрация мнений убивает прорывные идеи [[JUMP:53:47]] Когда подобные алгоритмические принципы переносятся на управление человеческим обществом и распределение ресурсов, возникают еще более деструктивные перекосы. Кеннет Стэнли выражает жесткое несогласие с современными механизмами фильтрации и отбора идей, которые опираются на одобрение большинства. Когда любая инновация или контент оцениваются через призму консенсуса — то есть продвигаются лишь те «вещи, с которыми мы все изначально согласны» — это неизбежно уничтожает разнообразие. Подобный подход, зашитый в современные рекомендательные системы и социальные платформы, стремится превратить всю человеческую цивилизацию в некий единый, усредненный разум. Вместо того чтобы поддерживать уникальные ниши экспертизы и обособленные интеллектуальные пространства, алгоритмы консенсуса сглаживают любые радикальные отклонения от нормы. В результате по-настоящему оригинальные, странные и на первый взгляд неприемлемые идеи отсекаются на ранних стадиях. При этом авторы забывают, что именно такие концепты исторически служили важнейшими промежуточными ступенями к величайшим научным и культурным открытиям. Погоня за коллективным одобрением приводит к следующим негативным последствиям для культуры и науки: * Создатели контента и исследователи начинают слепо поклоняться «идолу» популярности, перестраивая свою деятельность исключительно ради максимизации числа подписчиков. * Вся система начинает требовать жесткого планирования и предсказуемости, заставляя людей верить в иллюзию достижения конкретной финальной точки. * Любые дивергентные идеи, не вписывающиеся в текущие представления большинства о релевантности, мгновенно подавляются. Ранее в разговоре собеседники уже детально разбирали парадоксальную природу тирании целей, и текущая диктатура консенсуса лишь подтверждает этот тезис: фиксируясь на одобрении массы, мы закрываем дверь для истинной эволюции мысли. Эта проблема носит не просто теоретический характер — Кеннет Стэнли называет ее масштабным кризисом современной цивилизации. Чтобы донести эту мысль до общества, он посвятил семь лет написанию книги. За это время он осознал, насколько глубоко вся наша система спроектирована так, чтобы блокировать нецелевой поиск, хотя поразительно мало людей осознают этот барьер. Общаясь с людьми самых разных профессий — от высокопоставленных чиновников до обычных граждан — Стэнли видел, как их мировоззрение кардинально менялось всего за полчаса, стоило им осознать, как навязанные извне цели разрушают их жизни. Серендипность и великие случайные открытия — это не просто слепые аварии, это плод накопленного обществом свободного интеллектуального потенциала. Однако современная академическая и корпоративная среда распределяет финансирование крайне консервативно. Ученые и разработчики вынуждены отвечать перед исполнительными директорами и комитетами, задача которых — минимизировать риски и «прижать» (tamp down) любые нестандартные изыскания. Ранее в дискуссии уже всплывала тема финансирования науки и парадокс обязательных результатов (deliverables), демонстрирующая, что требование гарантированного продукта уничтожает фундаментальную науку. В итоге патерналистский контроль со стороны институтов и вера в жесткое планирование «сверху вниз» (top-down) планомерно уничтожают человеческую агентность. Настоящий прогресс, по мнению Кеннета Стэнли, требует решительного шага в сторону децентрализации и отказа от диктатуры большинства. ## ⚖️ Политика свободы исследований и вызов контролю [[JUMP:1:16:39]] Идея отказа от жесткого планирования и управления научным процессом неизбежно сталкивается с политическим сопротивлением. Как отмечает Кеннет Стэнли, концепция открытых систем (open-ended systems) и свобода поиска пугают представителей как левых, так и правых политических сил. Каждая сторона стремится навязывать свои специфические ограничения, видя в неконтролируемом исследовательском поиске угрозу своим идеологическим приоритетам. Для политиков любого толка сама природа «открытого» исследования, где конечные результаты заранее не определены, является источником дискомфорта. В мире, где принято требовать четких отчетов о «доставленных результатах» (deliverables), отсутствие жесткого планирования воспринимается не как стратегия успеха, а как отсутствие контроля. Однако именно этот «отказ от контроля» является необходимым условием для того, чтобы система могла по-настоящему исследовать пространство возможностей, а не просто воспроизводить уже известные или политически одобряемые догмы. Профессор подчеркивает, что сопротивление такому подходу проистекает из страха перед «непредвиденными последствиями» — ситуация, когда результаты поиска могут выйти за рамки ожидаемого. В то время как политики и институты пытаются минимизировать риски, Стэнли настаивает, что именно этот «риск» и есть ключевой двигатель инноваций, который, при правильном подходе, ведет к прогрессу, а не к хаосу. Ранее в разговоре они также касались вопросов финансирования науки и того, как парадокс жестких ожиданий подрывает творческий потенциал. --- ## 📉 Монокультура алгоритмов и стагнация творчества [[JUMP:1:32:04]] Современные платформы, такие как YouTube, превратились в мощные инструменты, которые, прикрываясь оптимизацией контента под интересы пользователя, на деле провоцируют формирование глобальной монокультуры. Алгоритмы внимания, настроенные на кликбейт и удержание пользователя, создают «петлю обратной связи», которая катастрофически снижает разнообразие идей и творческих стандартов. Кеннет Стэнли указывает на то, что это ведет к своеобразной интеллектуальной стагнации. Творческие сферы, включая музыку и искусство, начинают страдать от эффекта конвергенции: авторы вынуждены подстраиваться под алгоритмические требования, чтобы их заметили. Это порождает среду, где создатели контента занимаются «каннибализацией» идей друг друга, вместо того чтобы искать принципиально новые направления. * **Тирания «брендинга»**: Исследователи и креаторы оказываются в ловушке собственного «бренда», где каждое высказывание должно соответствовать ожиданиям аудитории, что резко снижает реальную творческую агентность. * **Снижение стандартов**: Оптимизация ради удовлетворения аудитории (satisfaction) на практике часто означает снижение моральных и эстетических планок. * **Иллюзия выбора**: Несмотря на обилие контента, совокупный эффект алгоритмической фильтрации заключается в гомогенизации смыслов. Стэнли сравнивает текущее состояние информационной среды с тем, что мы «поедаем собственные продукты жизнедеятельности» — метафора, иллюстрирующая неспособность системы к самообновлению без притока свежего, не «отфильтрованного» алгоритмами опыта. В этой системе крайне сложно поддерживать подлинное разнообразие, так как любой значимый выход за рамки привычного шаблона наказывается алгоритмом, который считает его «недостаточно интересным» для широкой массы. ## 💡 Агентность и ловушки статус-кво [[JUMP:140:41]] В современном интеллектуальном и технологическом пространстве вопросы агентности — способности действовать автономно, исходя из собственных целей, — становятся критическими. Кеннет Стэнли (Kenneth Stanley) указывает на то, что существующие структуры, будь то корпорации или научные грантовые комитеты, часто подавляют подлинную агентность, навязывая жесткие принципы максимизации прибыли или результатов. Это создает среду, где люди оказываются запертыми в рамках текущих парадигм, опасаясь рисковать своей карьерой ради неочевидных путей. Подобная привязанность к «статус-кво» превращает людей в заложников собственного успеха: ученые и специалисты вкладывают годы в развитие конкретных направлений и боятся признать жизнеспособность альтернативных, более рискованных подходов, чтобы не обесценить собственный прошлый опыт. В этой системе поиск власти и следование проторенным путем часто подменяют собой истинную научную любознательность. Ранее в разговоре они также затрагивали сложности с финансированием науки и парадокс требований к результатам как факторы, ограничивающие пространство для инноваций. ### 🎭 Парадокс потребления и созидания [[JUMP:155:59]] Фундаментальный вызов будущего, по мнению Стэнли, заключается в противостоянии между тотальным пассивным потреблением и человеческой потребностью в созидании. Алгоритмы сегодня достигли невероятной эффективности, предлагая нам именно тот контент, который идеально соответствует нашим интересам и предпочтениям. Кажется, что это путь к максимальному удовлетворению, но на деле такая гипер-оптимизация несет в себе угрозу. Стэнли предупреждает: бесконечное поглощение идеально подобранного контента ведет к обесцениванию самой жизни. Человеческая природа глубоко укоренена в стремлении к самовыражению и деятельности — нам необходимо создавать что-то новое, пробовать делать «случайные» вещи и искать ответы самостоятельно, даже если это выглядит как неэффективная трата времени с точки зрения алгоритма. * **Риск пассивности:** Постоянное нахождение в «пузыре» идеально подобранных рекомендаций лишает человека мотивации к активному поиску и творчеству. * **Истинная креативность:** Настоящая радость от деятельности часто проистекает из способности отойти от предложенных путей, заняться чем-то странным или нелогичным, что в итоге оказывается актом глубокой агентности. * **Смысл в деятельности:** Созидание требует постановки собственных, внутренних целей, а не следования внешним критериям, что является единственным противоядием от «счастья» потребителя, которое на самом деле делает нас несчастными. В конечном счете, стремление к открытиям и экспериментированию — это то, что отличает нас как биологический вид. Несмотря на давление среды и алгоритмов, у каждого остается выбор: оставаться потребителем в системе или проявить свою агентность, начав «исследование» мира через творчество и преодоление навязанных ограничений. ## 🧠 Эволюция поиска: от систем ИИ к пространствам человеческого любопытства [[JUMP:2:05:47]] ### Смена парадигмы: почему исследователь ИИ уходит в социальное проектирование [[JUMP:2:08:10]] Проведя долгие годы в авангарде исследований искусственного интеллекта, Кеннет Стэнли (Kenneth Stanley) пришел к неожиданному выводу: дальнейший прогресс требует смещения фокуса с чистых алгоритмов оптимизации на живые человеческие экосистемы. Глубоко изучая природу интеллекта, ученый заметил, что традиционная наука часто игнорирует эмоциональный опыт реального взаимодействия людей. Вместо бесконечной оптимизации абстрактных математических моделей он выбрал направление, которое сам описывает как «игру» с гарантированным положительным социальным эффектом. Этот шаг стал осознанным разворотом в противоположную сторону от его привычных академических изысканий, продиктованным системным кризисом современных платформ. В традиционных социальных медиа архитектура выстроена вокруг жесткой иерархии и погони за популярностью, где доминирует узкая элита авторов с десятками тысяч подписчиков. Для остальных 99% пользователей эта среда оборачивается пространством непрекращающихся эмоциональных конфликтов, где токсичный контент буквально «кричит» в лицо. В противовес этой тирании внимания Кеннет Стэнли предлагает развивать платформы, состоящие из множества малых групп по интересам. Ранее в разговоре уже затрагивалась идея подписок на интересы вместо инфлюенсеров, и здесь ученый развивает эту мысль: цель новой системы заключается не в искусственном усилении громкости отдельных голосов, а в предоставлении каждому участнику полноценной возможности для беспрепятственного следования за собственным любопытством. В такой среде коммуникация уходит от формата агрессивных «эхо-камер» и превращается в содержательный диалог, ориентированный на подлинный интеллектуальный поиск. ### Этика открытых систем и дилемма контроля AGI [[JUMP:2:18:03]] Переосмысление подходов к созданию интеллектуальных сред происходило в тесном сотрудничестве Кеннета Стэнли с его бывшим студентом и соавтором Джоэлем Леманом. Опыт Лемана, детально исследовавшего острые этические проблемы и риски безопасности в Facebook, подсветил критические уязвимости современных централизованных платформ. Эти вызовы приобретают колоссальное значение сегодня, когда вся мировая индустрия вплотную приблизилась к дилемме построения сильного искусственного интеллекта (AGI). При проектировании подобных масштабных систем разработчики неизбежно сталкиваются с фундаментальным парадоксом, определяющим природу открытого поиска: * С одной стороны, подлинная креативность и эволюция интеллекта требуют полной свободы и концепции открытого финала (open-endedness). * С другой стороны, избыток абсолютной свободы и полное отсутствие системных рамок порождают хаос и неконтролируемые риски безопасности. Попытки решить эту проблему через традиционный институциональный контроль чаще всего оказываются неэффективными, так как жесткие бюрократические ограничения лишь блокируют свободный доступ к ресурсам и убивают автономию независимых исследований. Кеннет Стэнли предлагает искать принципиально новый баланс: создавать архитектуру, которая способна накладывать мягкие эволюционные ограничения ради безопасности, но при этом сохраняет саму суть открытого, нецеленаправленного развития системы. ### Мультиагентная динамика и трансформация когнитивных карт [[JUMP:2:24:31]] Выход из тупика жесткого целеполагания Кеннет Стэнли видит в переходе к мультиагентным системам, чье комплексное поведение принципиально невозможно полностью просчитать или формализовать традиционными методами. В такой модели социальные агенты взаимодействуют на низком уровне, самостоятельно формируя адаптивную среду обитания. Вместо того чтобы принуждать пользователя подстраиваться под заданные алгоритмические рамки, система позволяет информационным потокам и объектам естественным образом вращаться вокруг индивидуального опыта человека. Это открывает простор для проявления подлинной агентности в мире. Такая конфигурация кардинально меняет механизмы восприятия информации и обучения. Ранее в интервью подробно разбирался эксперимент PicBreeder и принципы эволюции сложных образов; экстраполируя этот опыт на социальные системы, Стэнли подчеркивает важность регулярного столкновения агента со средой, способной трансформировать его личность. Подобные глубокие взаимодействия напрямую влияют на перестройку нашей внутренней когнитивной карты. Если система лишена такой гибкости, она неизбежно стагнирует. Подлинный прогресс в открытых средах достигается за счет обнаружения «радикальных признаков» (radical features), которые ломают старые шаблоны восприятия и прокладывают новые, неожиданные маршруты для когнитивной эволюции. ## 🔄 Концепция минимального критерия: как Maven ломает диктатуру лайков [[JUMP:2:31:17]] ### Крах погони за популярностью: почему ранжирование убивает разнообразие [[JUMP:2:31:17]] Современные социальные медиа выстроены вокруг одной фундаментальной идеи — максимизации внимания пользователей через жесткое ранжирование контента. Кеннет Стэнли указывает, что этот подход превратил цифровое пространство в гигантскую «машину консенсуса», которая круглосуточно работает как «большой мегафон» для узкой группы популярных авторов. Следствием этого становится ежедневная конвергенция смыслов, когда алгоритмы раз за разом подсовывают аудитории избыточную, дублирующую друг друга информацию. Ранее в разговоре собеседники уже касались парадоксальной тирании целей и критиковали ChatGPT с позиции энтропии, но именно в этом фрагменте Кеннет Стэнли переходит к практическому решению проблемы унификации контента. В традиционных системах человек обязан быть знаменитым или иметь миллионы просмотров, чтобы алгоритм вообще вывел его публикацию в ленту. Вся социальная среда оказывается переплетенной и искаженной тем, что участники мотивированы исключительно «растущими цифрами» счетчиков. Кеннет Стэнли признается, что созерцание этой бесконечной гонки за лайками буквально заставляет его чувствовать себя нехорошо. Вместо дивергенции идей мы получаем цифровой мир, где уникальные, идиосинкразические мнения погребены под лавиной консенсусного контента, а обычные пользователи практически лишены возможности услышать тех, кто не входит в число топ-инфлюенсеров. ### Порог качества вместо максимизации: как устроен минимальный критерий [[JUMP:2:41:53]] Альтернатива, которую предлагает Кеннет Стэнли в рамках платформы Maven, полностью переворачивает привычные алгоритмические паттерны Кремниевой долины. «На самом деле нет никакой необходимости ранжировать контент», — заявляет исследователь. Вместо выстраивания публикаций в иерархическую цепочку от «лучшего к худшему» на основе вовлечения, Maven внедряет концепцию минимального критерия (minimal criteria). Этот механизм заимствован из эволюционной биологии и теории открытого поиска, где для выживания и развития организма важно не быть идеальным во всем, а просто преодолеть определенный качественный порог среды. Внутри платформы это работает как бинарный фильтр качества. Все публикации, которые не соответствуют базовому уровню (например, откровенный спам или бессмысленный шум), отсекаются алгоритмом. Однако все материалы, оказавшиеся выше этого порога, признаются валидными и получают абсолютно равные стартовые возможности. Такой подход не пытается определить, какая мысль «лучше» для миллионов, ведь в мире идей консенсус часто выступает барьером для инноваций. Минимальный критерий позволяет выжить локальным веб-сайтам и нишевым авторам, гарантируя, что их идеи будут замечены без необходимости собирать стадионы подписчиков. ### Равномерное распределение и алгоритм свежих ответов [[JUMP:2:47:59]] Что происходит с контентом после того, как он успешно преодолел минимальный качественный барьер? Вместо того чтобы запускать рекомендательные алгоритмы, подсаживающие на дофамин, Maven обеспечивает полную вариативность (complete variation) внутри платформы. Кеннет Стэнли подчеркивает, что система сознательно спроектирована так, чтобы избежать «доминирования объективных метрик», которые неизбежно ведут к созданию эхо-камер и несвободе создателей контента. Архитектура распределения информации здесь выглядит подчеркнуто простой и уважительной к пользователю. Вместо скрытых формул, вычисляющих вероятность клика, алгоритм Maven ранжирует дискуссии по самому прозрачному признаку — по времени самого свежего ответа. Если в ветке появляется новый комментарий, она поднимается наверх. Сами темы при этом формулируются пользователями, что позволяет структуре интересов формироваться естественным, органическим путем. Стэнли соглашается, что создание такой сети — это тяжелый «подъем в гору», поскольку людям, привыкшим к лайкам, не всегда очевидна ценность пространства без явных рейтингов. Тем не менее, именно этот отказ от максимизации в пользу минимального критерия позволяет платформе запустить истинную дивергенцию человеческой мысли. Хотя далее неизбежно возникает классическая проблема холодного старта при привлечении первых пользователей, фундамент для свободного от тирании целей общения закладывается именно на этом этапе. ## 🧭 Парадокс внимания: холодный старт, оковы популярности и невидимые связи интересов [[JUMP:2:55:49]] ### Честный старт без цифрового дофамина: вызов Maven [[JUMP:2:55:49]] Исследователь искусственного интеллекта Кеннет Стэнли (Kenneth Stanley) подробно разбирает философию, лежащую в основе новой платформы Maven, акцентируя внимание на сознательном отказе от манипулятивных цифровых практик. В отличие от традиционных платформ, стремящихся максимально монетизировать внимание, создатели Maven принципиально не пытаются эксплуатировать человеческие психологические уязвимости. Многие пользователи признаются, что алгоритмические ленты популярных соцсетей заставляют их чувствовать себя «грязными, неприятными и тревожными», погружая в бесконечную гонку за лайками. Однако этот благородный и этичный подход неизбежно сталкивается с суровой реальностью — проблемой холодного старта. Когда платформа сознательно отказывается от привычных аддиктивных крючков удержания, перед ней встает уникальный вызов: как привлечь первых пользователей и сформировать у них привычку возвращаться, не скатываясь в создание очередного клона X (Twitter)? Для преодоления этого барьера команда Кеннета Стэнли разрабатывает ряд стратегических решений: * Внедрение полноценного «одиночного режима» (single player mode), который позволяет пользователю извлекать практическую ценность из платформы и её инструментов работы со смысломи даже в отсутствие масштабного социального взаимодействия на первых порах. * Создание алгоритмов точечной агрегации данных, которые нацелены исключительно на выдачу максимально релевантного и интеллектуально емкого контента, соответствующего текущему состоянию пользователя, а не на максимизацию времени внутри приложения. * Полный отказ от копирования интерфейсных паттернов традиционных соцсетей, что позволяет сразу отсечь токсичные механики поверхностного одобрения. Стоит заметить, что ранее в разговоре собеседники подробно касались концепции минимального критерия на масштабе, которая в данном контексте объясняет, как система может успешно диверсифицироваться и заполнять уникальные содержательные ниши без жесткого отбора сверху. ### Эффект паноптикума: почему инфлюенсеры теряют свободу [[JUMP:3:06:46]] Другой фундаментальный порок современных медиаплатформ, который стремится исправить Кеннет Стэнли, — это так называемый эффект паноптикума, радикально ограничивающий интеллектуальную свободу авторов. В экосистемах, построенных вокруг концепции лидеров мнений и жесткого коммерческого давления, популярные исследователи и создатели контента неизбежно становятся заложниками ожиданий собственной аудитории. Стэнли описывает эту ловушку популярности как сложную «систему зеркал». Когда условный инфлюенсер набирает критическую массу подписчиков, его публичная и профессиональная идентичность начинает жестко диктоваться извне. В качестве примера приводится фигура известного ученого Яна Лекуна (Yann LeCun), чьи публичные заявления всегда рассматриваются через призму его официального статуса и ожиданий сообщества. В результате авторы сталкиваются со следующими ограничениями: * Они полностью теряют возможность свободно и радикально менять тему своих дискуссий, так как алгоритмы удержания внимания и недовольные подписчики мгновенно наказывают за смену привычного фокуса. * Они боятся высказывать по-настоящему спорные, сырые или экспериментальные идеи из-за страха мгновенного публичного осуждения и разрушения личного бренда. ### Неявный граф интересов: архитектура человеческих связей [[JUMP:3:11:51]] В качестве альтернативы диктатуре инфлюенсеров Maven предлагает принципиально иную архитектурную модель — построение неявного графа интересов. Вместо того чтобы заставлять людей подписываться на конкретные профили и следить за личностями, платформа фиксирует естественные, органические связи между самими темами на основе их совместного упоминания в дискуссиях. Процесс формирования этого графа выглядит следующим образом: * Система непрерывно обучается, формируя гигантское, динамически обновляемое «эпическое облако тегов», отражающее как сиюминутные, так и долгосрочные исторические интересы пользователей. * На основе собранных данных выстраивается массивная структура данных, которая наглядно демонстрирует неочевидные пересечения между казалось бы далекими дисциплинами. * Алгоритм считывает специфические паттерны: если определенный сегмент профиля одного пользователя совпадает с интересами другого, система автоматически простраивает связи и предлагает контент, который с высокой долей вероятности окажется глубоко интересен обоим. Этот граф интересов находится в состоянии постоянной эволюции. Он позволяет сделать интеллектуальный ландшафт видимым и осязаемым для человека, открывая пространство для истинной серендипности и избавляя пользователей от необходимости подстраиваться под чужие социальные роли.