Директор по исследованиям фонда 80,000 Hours Роб Уиблин беседует с известным автором и предпринимательницей Джулией Галеф об улучшении человеческого мышления и принятии решений. В интервью обсуждаются карьерный путь Галеф, её проекты для Open Philanthropy Project, а также проблемы рациональности в медиа, науке и государственном управлении. Особое внимание уделено поиску точек соприкосновения в спорах экспертов и оценке эффективности сообществ эффективного альтруизма.
🧭 Исследование экспертных разногласий 1:31
Джулия Галеф фокусируется на вопросах улучшения человеческих суждений, особенно в контексте принятия решений с высокими ставками. В настоящее время она совмещает ведение подкаста Rationally Speaking, написание книги и сотрудничество с фондом Open Philanthropy Project в качестве независимого подрядчика. Её работа в OPP посвящена исследованию разногласий между экспертами по важнейшим мировым проблемам.
Среди тем, которые изучает Галеф, выделяются следующие вопросы:
- Вероятность создания суперинтеллектуального искусственного интеллекта и характер сопутствующих рисков.
- Пути преодоления затяжного жилищного кризиса в Сан-Франциско.
- Достижимость и целесообразность прекращения массового тюремного заключения.
По словам Галеф, проект нацелен на поиск тем, по которым у разумных и информированных людей могут быть принципиально разные ментальные модели. Целью бесед, проходящих в неформальной обстановке, является привлечение влиятельных не-экспертов из сфер технологий, финансов и государственного управления, чтобы дать им более глубокое и точное понимание сути споров за счет демонстрации лучших аргументов обеих сторон.
Галеф использует важную эвристику: она принципиально не пытается изменить мнение участников или привести их к консенсусу в ходе дискуссии. По её мнению, смена фокуса на простое и максимально точное понимание структуры чужой модели снижает психологическое сопротивление оппонентов. Кроме того, जब организаторы сфокусированы на переубеждении, они упускают важные детали и пытаются атаковать аргументами позиции, истинные причины устойчивости которых им непонятны.
🤝 Метод Double Crux и его неформальная адаптация 6:17
Описываемый подход тесно связан с методикой Double Crux («двойной развилки»), разработанной в Центре прикладной рациональности (CFAR). Джулия Галеф определяет crux (развилку или решающий аргумент) как глубинное убеждение или предпосылку, которая каузально влияет на позицию человека. Если это убеждение меняется, то меняется и взгляд на высокоуровневую проблему в целом.
В качестве иллюстрации Галеф приводит спор о допустимости употребления мяса:
- Для одного человека решающим аргументом (crux) может быть способность животных страдать.
- Для другого — принципиальная недопустимость ограничения свободы живых существ и содержания их в клетках.
Идеальным исходом процесса Double Crux является нахождение общего для обеих сторон фундаментального тезиса, изменение мнения о котором синхронно изменит их итоговые позиции в одном направлении.
Ведущий Роб Уиблин высказывает скептицизм по поводу универсальности этого метода. По его мнению, человеческое мировоззрение формируется из тысяч мелких жизненных опытов и «мазков кисти», поэтому свести сложные разногласия к одной точке невозможно. Галеф соглашается, что появление одного чистого Double Crux в реальности происходит редко, однако считает фреймворк крайне полезным для структурирования дискуссии.
В качестве примера она приводит организованный ею ужин, где обсуждалась степень угрозы от манипуляций вниманием со стороны технологических гигантов, удерживающих пользователей у экранов. В ходе дискуссии участники выявили несколько эмпирических и философских развилок:
- Эмпирическая развилка: надежность данных, связывающих использование социальных сетей с депрессией и тревожностью. Галеф отмечает, что если бы эти доказательства были неоспоримыми, она бы относилась к проблеме гораздо серьезнее.
- Философская развилка: критерии оценки вреда для человека. Позиция Галеф ближе к утилитаризму предпочтений: если информированные пользователи отказываются от ограничителей (commitment devices) для Facebook, значит, им это не вредит. Её оппонент утверждал, что общество «коррумпировано» технологиями и люди в условиях «ложного сознания» просто не могут представить альтернативную жизнь без соцсетей.
📱 Парадоксы Twitter и сила длинных форматов в медиа 21:34
Обсуждая форматы распространения идей, Джулия Галеф объясняет, зачем она пишет книгу, несмотря на популярность других медиа. Книги, по её мнению, создают удобный «интеллектуальный маркер» (handle) для концепции, позволяя ей легче закрепляться в публичном дискурсе, как это произошло с работой Джареда Даймонда «Ружья, микробы и сталь». Даже избыточность и «вода» в книгах могут способствовать лучшему усвоению материала аудиторией.
Семь лет ведения подкаста Rationally Speaking подтвердили ценность длинных форматов. Галеф стремится побуждать гостей мыслить в реальном времени, уходя от заученных («кэшированных») ответов. По её оценке, среднее количество слушателей одного выпуска составляет около 35 000 человек, а пиковые эпизоды привлекают до 100 000 слушателей. Высокое качество аудитории подтверждается эффективностью рекламы благотворительного фонда GiveWell — реклама в подкасте Галеф приносит непропорционально много пожертвований. Длительность контента также снижает уровень троллинга.
Джулия Галеф также активно использует Twitter, признавая его специфическую «антиутопичность». Вопреки распространенной критике, её личный опыт в этой сети позитивен: платформа позволяет наблюдать за научными дискуссиями экспертов в реальном времени. В качестве примера она приводит дебаты социологов о снижении порога p-value до 0.005. Ограничение в 140 символов Галеф считает полезным тренажером лаконичности.
🧠 Когнитивные искажения, априорные вероятности и барьеры коммуникации 28:46
Опыт работы в медиа позволил Джулии Галеф сформулировать важные выводы о барьерах в коммуникации. Она указывает, что простое добавление дисклеймера вида «я не утверждаю X» не спасает автора от нападок за утверждение X. Люди часто читают невнимательно и интерпретируют слова через призму своих ожиданий.
Галеф предлагает моделировать этот процесс с помощью байесовского обновления априорных вероятностей (priors):
- Слушатели имеют сильные априорные представления о взглядах автора.
- Если автор критикует неэффективную государственную программу, его автоматически причисляют к либертарианцам. По мнению Галеф, это статистически объяснимо и не является полностью иррациональным.
- Чтобы сместить сильное априорное убеждение аудитории, одной формальной оговорки мало — требуются весомые, эмоционально значимые доказательства обратного.
🎓 Разочарование в академической среде и поиски научного авторитета 33:54
До начала публичной деятельности Джулия Галеф пыталась строить карьеру в науке, проучившись один год в аспирантуре по экономике и проработав ассистентом исследователя в Колумбийском университете, MIT, Гарварде, NBER и Гарвардской школе бизнеса. Она покинула академическую среду по личным и идеологическим причинам. Из личных качеств Галеф выделяет свою склонность к широкому охвату тем (генерализму), что противоречит узкой специализации, необходимой для получения академического статуса.
Главной идеологической причиной стало разочарование в методологии социальных наук еще до того, как индустрию накрыл масштабный кризис репликации. Галеф описывает случай, когда профессор без тени смущения рассказывал ей, как подбирал формулировки вопросов в предварительных опросах, чтобы гарантированно получить желаемый результат в основном публикуемом исследовании. В условиях, когда система вознаграждает за количество публикаций, борьба за качество исследования ставит ученого в невыгодное положение.
Галеф также упоминает свои полуторагодовые поиски себя в сфере архитектуры и урбанистики в 2008–2009 годах, когда она писала статьи для изданий Metropolis и The Architect's Newspaper. Её привлекали сложные системы, однако она столкнулась с полным отсутствием строгости в методологии дизайнеров, которые уходили от вопросов об оценке реального воздействия своих проектов. Это подтолкнуло её к научной журналистике. Избежать карьерных рисков на этапе смены траектории Галеф помогла финансовая поддержка родителей и друзей.
🏛️ Институты, стимулы и рациональность в госуправлении 45:38
Рассматривая возможность применения исследований Филипа Тетлока по прогнозированию в таких структурах, как Всемирный банк или Фонд Билла и Мелинды Гейтс, Джулия Галеф выражает сомнение в быстрой рационализации госуправления. Основная преграда, на её взгляд, кроется в системе стимулов политиков. Члены Конгресса США имеют чрезвычайно высокий уровень переизбираемости (около 90% ежегодно), однако они не используют эту стабильность для принятия непопулярных рациональных решений.
Галеф формулирует общее правило: если выгоды от точных решений отложены во времени и неопределенны, а издержки (в виде усилий или падения популярности) нужно платить авансом, система будет оказывать мощное давление против точности. Кроме того, политики постоянно рискуют проиграть внутрипартийные праймериз в случае чрезмерного отклонения от партийной линии.
Единственным ведомством, продемонстрировавшим реальный интерес к повышению точности мышления, Галеф называет разведывательное сообщество США. Агентство IARPA под руководством Джейсона Матени профинансировало турниры прогнозов Филипа Тетлока, легшие в основу книги «Думай медленно, предсказывай точно» (Superforecasting). По мнению Галеф, это связано с меньшим давлением со стороны широкой публики по сравнению с политиками или медийными экспертами.
При этом Галеф сомневается, что человечество в целом становится более разумным: научные знания растут, но уровень поляризации и погони за сенсациями в медиа серьезно ухудшают качество дискуссии. Определенные надежды Галеф связывает с изменением отношения внутри самих социальных наук, где за последние два года вырос авторитет пререгистрации исследований и открытого обмена данными.
🚀 Будущее исследований рациональности и ошибки эффективного альтруизма 1:00:59
Джулия Галеф констатирует дисбаланс в современных исследованиях мышления: изучение когнитивных искажений (в духе Даниэля Канемана и Амоса Тверски) по объему на порядок превосходит исследования реальных интервенций по их устранению (debiasing). Настоящие долгосрочные исследования в естественной среде требуют огромных затрат, поэтому ученые предпочитают простые лабораторные эксперименты. Из сильных научных групп Галеф выделяет Лабораторию вычислительных когнитивных наук Тома Гриффитса в Беркли и Лабораторию культурного познания Дэна Кахана в Йельской школе права.
Собственную цель на ближайшие пять лет Галеф видит в формировании неформальной сети примерно из 100 влиятельных людей (из венчурного капитала, технологий, медиа и правительства), способных глубоко анализировать ключевые мировые проблемы и координировать распределение ресурсов на основе точных моделей.
Анализируя рациональное сообщество и движение эффективного альтруизма (EA), Галеф указывает на две потенциальные системные ошибки, которые они совершают:
- Чрезмерное доверие к строгим эксплицитным логическим фреймворкам (таким как утилитаризм) в ущерб интуиции. Галеф поддерживает тезисы Пола Кристиано из статьи «Честность для консеквенциалистов» (Integrity for consequentialists) о том, что нельзя нарушать обещания ради локальной утилитарной выгоды, игнорируя этический дискомфорт.
- Слишком быстрый темп роста и увлечение массовым аутричем. По мнению Галеф, движение EA находится между политическим движением (где важна массовость и количество голосов) и научным сообществом (где критически важно сохранять высокие эпистемические стандарты). Чрезмерно быстрый рост может размыть культуру мышления внутри сообщества.
В завершение встречи Галеф отмечает, что главным минусом её индивидуального карьерного пути является неопределенность, однако она компенсирует это диверсификацией проектов. Из регулярных мероприятий она рекомендует Северо-Восточную конференцию по науке и скептицизму (NECSS) в Нью-Йорке, которая когда-то дала старт её карьере.
