В специальном выпуске подкаста After Hours от организации 80,000 Hours сотрудники команды карьерного консультирования встретились с известным независимым интервьюером Дваркешем Пателем. Собеседники подробно разобрали феномен взрывного роста популярности его канала, проанализировали исторические примеры системного влияния интеллектуалов на мир и подвергли критическому разбору внутренние методологии самого движения эффективного альтруизма. Эта дискуссия обнажила фундаментальные противоречия между чистыми теоретиками ИИ и практиками из Кремниевой долины.
🎙️ От холодного письма к Демису Хассабису: феномен подкаста Дваркеша Пателя 0:11
История взрывного роста популярности Дваркеша Пателя (Dwarkesh Patel) выглядит как хрестоматийный пример теории сложных процентов в медиасфере. По признанию самого автора, весь его текущий успех — это кумулятивный эффект от личной доброты профессора экономики Брайана Каплана. Патель, будучи студентом, отправил Каплану обычное «холодное» электронное письмо с отзывом на его книги, а затем рискнул пригласить на запись подкаста, которого на тот момент даже не существовало — у проекта не было ни студии, ни утвержденного названия.
Каплан ответил согласием, продемонстрировав удивительную открытость, которая, по мнению Пателя, полностью соответствует его теоретическим тезисам об образовании и домашнем обучении. Участники дискуссии сошлись во мнении, что Каплан является идеальным кандидатом для бутстрэппинга новых медиапроектов: Мэтт, один из ведущих со стороны 80,000 Hours, вспомнил, как на первом курсе юридического факультета Гарварда легко организовал выступление профессора в Бостоне, просто ответив на его твит. По оценке Мэтта, процент согласия Каплана на аргументированные приглашения превышает 70%.
Первоначально Патель назвал свой проект Lunar Society («Луgroupное общество») в честь знаменитого бирмингемского кружка ученых и промышленников XVIII века, куда входили Джеймс Уатт и Эразмус Дарвин. Однако историческое название сыграло с проектом злую шутку: из-за обилия криптоэнтузиастов, использующих мем «to the moon» (на Луну), аудитория начала путать интеллектуальный подкаст с каналом о криптовалютах. Патель принял прагматичное решение переименовать шоу в Dwarkesh Podcast, рассудив, что если слушатели уже потратили свои ментальные ресурсы на то, чтобы научиться правильно произносить его редкое имя, то не стоит заставлять их запоминать еще один бренд. При этом Дваркеш с иронией признался, что до сих пор так и не прочитал книгу об оригинальном Лунном обществе, которая когда-то случайно лежала у него на столе во время нейминга.
Постепенно проект Пателя превратился в самоподдерживающуюся экосистему сетевых эффектов. Качественный контент и глубокая техническая подготовка привели к тому, что подкаст начали слушать именно те люди, которых Патель мечтал видеть своими гостями. Так, накануне текущей дискуссии Дваркеш записал интервью с главой Google DeepMind Демисом Хассабисом, который сам признался, что регулярно слушает выпуски Пателя с Ильей Суцкевером, Дарио Амодеи и Шейном Леггом. При этом весь производственный цикл Патель до сих пор обеспечивает практически в одиночку, пользуясь лишь услугами одного приходящего видеомонтажера.
🤖 Разговоры об ИИ вместо стартапов: почему идеи стали дефицитом 5:20
Сотрудники 80,000 Hours открыто позиционируют себя как представители лагеря эффективного альтруизма (ЕА), имеющего четко очерченную систему приоритетов, которая в последнее время подвергается жесткой критике в технологических кругах. В отличие от них, Патель отказывается причислять себя к какому-либо идеологическому движению. Свой текущий статус он метафорически сравнил с процессом предварительного обучения (pre-training) большой языковой модели:
«Мои ранние выпуски были на уровне GPT-1, затем я перешел на уровень GPT-2, а сейчас, надеюсь, нахожусь где-то на этапе GPT-3.5. Мои взгляды на ключевые проблемы меняются настолько быстро, что фиксировать жесткую систему мышления прямо сейчас было бы преждевременно».
Наиболее радикальную трансформацию претерпело отношение Пателя к искусственному интеллекту. До интервью с сооснователем Open Philanthropy Холденом Карнофски Дваркеш, по собственному признанию, полностью отвергал концепцию трансформирующего ИИ (TAI). Однако беседы с Карнофски, Суцкевером и Амодеи заставили его пересмотреть позицию и признать серьезность экзистенциальных рисков.
По прогнозу Пателя, в ближайшие несколько лет мир войдет в режим тотальной ИИ-центричности, аналогичный марту 2020 года во время пандемии COVID-19. На повестку дня выйдут сложнейшие вопросы о национализации или интернационализации вычислительных мощностей и алгоритмов. Амбициозная цель Dwarkesh Podcast на данном этапе — сформировать качественный интеллектуальный дискурс и выработать взвешенные идеи до того, как начнется лавинообразный процесс каскадного развития технологий.
При этом Патель отмечает, что современное ИИ-центричное мировоззрение объединяет противоборствующие лагеря точно так же, как в XIX веке коммунисты и капиталисты одинаково разделяли индустриально-центричную картину мира, предлагая при этом диаметрально противоположные решения. В кругах эффективных альтруистов существует опасение, что они могут оказаться «коммунистами» XXI века — сторонниками замедления прогресса (decels), которые своими регуляторными требованиями задушат технологию, способную принести человечеству колоссальную пользу.
💼 Парадокс влияния: Билл Гейтс, Илон Маск и Роберт Каро 18:46
Ведущие 80,000 Hours подняли фундаментальный вопрос о карьерном выборе: что эффективнее для изменения мира — быть «принципалом» (бизнесменом, политиком, создающим материальные активы и контролирующим ресурсы) или интеллектуальным журналистом, бесплатно распространяющим идеи? Патель признался, что во время учебы в колледже находился под сильным влиянием эссеистики Кремниевой долины и либертарианских идей Университета Джорджа Мейсона (GMU), планируя запустить собственный стартап. У него даже была идея коммерческого ИТ-продукта — надстройки (wrapper) над GPT.
Однако Холден Карнофски в личном разговоре с Пателем разрушил этот план одной фразой:
«Друг, ты собираешься строить какую-то интеграцию для Slack? Послушай, на пороге стоит трансформирующий ИИ. Если есть хотя бы 10% вероятности, что это поворотный момент во всей человеческой истории, почему ты не работаешь напрямую с этим?»
Переехав в Кремниевую долину, Патель быстро осознал правоту этих слов. Он заметил, что там «невозможно бросить камень, не попав в разработчика очередной интеграции для Slack». В сфере создания коммерческих ИТ-оболочек нет дефицита кадров, тогда как в пространстве глубокого осмысления идей ИИ находится огромное количество «низко висящих фруктов». Патель подчеркнул уникальность исторического момента: условный Платон физически не имел возможности размышлять об искусственном интеллекте, поэтому современное поколение мыслителей находится в абсолютно неконкурентных условиях.
Для иллюстрации дилеммы «бизнес против благотворительности» Мэтт предложил сравнить два этапа жизни Билла Гейтса:
- Microsoft: Создание коммерческого продукта, который сделал миллиарды людей продуктивными и сгенерировал гигантский потребительский излишек (consumer surplus), оцениваемый в триллионы долларов.
- Фонд Билла и Мелинды Гейтс: Благотворительная структура объемом около $150 млрд, спасшая миллионы жизней в развивающихся странах путем борьбы с забытыми тропическими болезнями.
Патель указал на сложность оценки контрфактического (альтернативного) вклада Билла Гейтса. В истории компьютерной индустрии существовала реальная альтернатива в виде операционной системы Unix, на которую IBM могла сделать ставку в последний момент вместо MS-DOS. Если бы Гейтс не создал Microsoft, персональные компьютеры все равно появились бы, возможно, с задержкой в несколько лет. В то же время такие фигуры, как Илон Маск, по мнению Пателя, совершили колоссальный контрфактический сдвиг: Маск лично ускорил мировую электрификацию транспорта через Tesla на годы и снизил стоимость вывода грузов на орбиту через SpaceX на два порядка.
Арден добавил интересную деталь про стратегию коммерческого влияния: Tesla изначально позиционировала электромобили как люксовый, престижный товар, чтобы за счет сверхприбылей оплатить R&D для последующего массового рынка. Этот подход авторы сравнили со стратегией бренда Beyond Meat, который продвигал растительное мясо через элитные рестораны, чтобы преодолеть стигму «непрестижного веганского продукта».
🏛️ Борьба за власть, Линдон Джонсон и уроки для эффективного альтруизма 33:53
Особое место в дискуссии занял анализ биографий, написанных Робертом Каро (Robert Caro) — великим американским журналистом, потратившим десятилетия на исследование механизмов власти на примере градостроителя Роберта Мозеса и президента Линдона Джонсона. Каро использовал поистине безжалостные методы работы, выбивая признания о фальсификациях на выборах у соратников Джонсона, когда те находились уже на смертном одре.
Патель убежден, что контрфактическое влияние одной книги Каро The Power Broker («Хозяин власти») полностью переформатировало градостроительную политику и систему взаимодействия с локальными сообществами по всей Америке. Если бы Каро вместо написания книг сделал стандартную карьеру и стал рядовым членом городского совета Нью-Йорка, его реальный масштаб влияния на мир был бы на три порядка меньше.
Пример Линдона Джонсона обнажил глубинную проблему карьерного планирования. Джонсон всю жизнь искусно мимикрировал под разные политические силы: южные расисты-консерваторы искренне считали его своим «троянским конем» в Вашингтоне, который спасет Сегрегацию. Однако, получив абсолютную власть, Джонсон продавил Закон о гражданских правах 1964 года. Но сделал он это не из чистых идеологических побуждений, а потому, что в тот момент это совпало с его прагматичным стремлением выиграть грядущие выборы.
Патель обратил внимание на разницу между компетентностью и идеологией. Джонсон обладал феноменальным, почти пугающим мастерством политического давления — так называемым «обращением Джонсона» (Johnson treatment):
«Если президент Джон Кеннеди приглашал сенатора в Белый дом, пытался его мягко переубедить и в случае твердого отказа с уважением отпускал, то Линдон Джонсон отказывался понимать слово „нет“. Он использовал угрозы, шантаж, лесть и лез в личное пространство. Он мог прямо сказать сенатору: „Из-за этого голосования ты потеряешь свое кресло в Сенате. Ты его потеряешь, но твой голос сегодня будет моим“. И он получал этот голос».
В этом кроется главный урок для Оксфордских интеллектуалов из движения эффективного альтруизма. Долгое время «праведники» в истории принципиально избегали амбиций и власти, считая их грязными. ЕА-движение решило переломить этот тренд, призвав сторонников активно занимать высокие посты для продвижения благих целей. Но Патель предупреждает: искусственный интеллект — гораздо более нюансированная и хрупкая тема, чем понятная борьба за гражданское равноправие. Если тратить 90% сил просто на карьерное продвижение во властные коридоры ИИ-лабораторий или правительств, то к моменту достижения вершины человек рискует либо полностью растерять свои идеалы, либо из-за недостатка глубокой экспертизы принять катастрофически неверное регуляторное решение.
Историческая ирония, по словам Пателя, наглядно видна на примере экологического движения: борясь за чистую планету, экологи десятилетиями последовательно уничтожали атомную энергетику, чем нанесли колоссальный, едва ли чем-то компенсируемый вред климату. Аналогично, жесткое международное регулирование ИИ может навсегда заблокировать человечеству путь к созданию сфер Дайсона или цифровому загрузке сознания. Большинство современных политиков не имеют злого умысла, они просто переводят сложнейшую проблему ИИ на язык привычных им банальных политических мемов:
- левые говорят исключительно о рабочих местах и неравенстве;
- либертарианцы — о дерегуляции и свободе инноваций;
- медицинское лобби — о поиске лекарств.
В итоге обществу критически не хватает объективных аналитиков. «В сфере ИИ до сих пор нет своего Мэтта Левина (знаменитого финансового обозревателя Bloomberg)», — констатировал Патель.
🧭 Поиск «хвоста распределения»: как давать карьерные советы и не сломать психику 30:52
Основная дискуссия между Пателем и сотрудниками 80,000 Hours развернулась вокруг методологии поиска так называемого «хвоста распределения» (the tail) — сверхэффективных единичных кадров, которые совершают 99% прорывов в мире. Консультант Хьюон пояснил, что их модель строится на мотивации людей глубоко погружаться в аргументацию в соцсетях, тестировать свое понимание проблем и искать свободные ниши для интервенций. При этом они часто советуют сильным кандидатам пропускать промежуточные ступени (вроде магистратуры или аспирантуры) и сразу идти практиками в ИИ-лаборатории.
Дваркеш Патель, основываясь на собственном опыте, выступил в защиту тех, кого иронично называют «самопровозглашенными предпринимателями». Он отметил, что Кремниевая долина успешна именно потому, что создала институциональную среду, где 20-летним студентам готовы дать несколько миллионов долларов просто под сырой сайт, написанный на коленке, и организовать им встречу с топовыми венчурными партнерами. Это завышенное ожидание априори заставляет молодых людей прыгать выше головы.
Патель признался, что если бы консультанты 80,000 Hours проводили с ним аудит два года назад, когда он только окончил университет со степенью по Computer Science и имел пару сотен слушателей, он показался бы им абсолютно неперспективным, поверхностным и амбициозным «GPT-2-человеком» без четкой теории изменений. По мнению Дваркеша, глубокое понимание и концептуальное видение приходят не в результате предварительных размышлений в тишине кабинета, а непосредственно в процессе агрессивного практического штурма амбициозных задач.
Арден в ответ озвучил скрытую темную сторону такой стратегии, сформулировав «закон равных и противоположных советов»:
«На старте моей карьеры в ЕА один человек дал мне совет: попробуй себя в выбранной сфере пару лет, и если поймешь, что не входишь в топ-10 лучших специалистов мира в этой области — немедленно меняй направление. Этот совет буквально уничтожил меня. Я постоянно чувствовал себя ментально неадекватным, хаотично метался между проектами, заработал жесточайшее выгорание и в итоге не мог делать вообще ничего».
Поскольку аудитория 80,000 Hours в массе своей состоит из академических перфекционистов, трансляция исключительно сверхамбициозных призывов в духе «стань Илоном Маском или ты неудачник» приводит к ментальному параличу и депрессиям у тысяч полезных специалистов. Консультанты признали, что их самый успешный задокументированный кейс изменения карьеры (plan change) — это человек, который в итоге возглавил крупную исследовательскую организацию.
Это указывает на системное когнитивное искажение самой 80,000 Hours: их интеллектуальный текстовый контент работает как мощный магнит для академических мыслителей, которых они затем упаковывают в такие же исследовательские структуры (делать новые исследования о том, как делать исследования), вместо того чтобы выталкивать их в жесткую практическую плоскость исполнителей. При этом ключевые фигуры индустрии — Демис Хассабис и Дарио Амодеи — доказали, что лучшие исполнители и топ-менеджеры в сфере ИИ выросли как раз из глубоких ученых-исследователей.
🏷️ Кризис бренда EA и реклама на миллион просмотров 1:26:39
В финальной части беседы участники коснулись темы тяжелого репутационного кризиса, который переживает бренд «эффективного альтруизма» после краха биржи FTX и скандала вокруг совета директоров OpenAI. По мнению Ардена, ранние претензии к ЕА со стороны критиков — в частности, обвинения в наивности, игнорировании долгосрочных системных изменений и требовании выражать любые свои убеждения строго в процентах вероятности — во многом оказались справедливыми. Движение взрослеет, отказывается от жесткого «роботизированного» позиционирования и начинает активно работать с традиционной государственной политикой.
Патель считает, что масштаб репутационного ущерба сильно преувеличен самими альтруистами из-за их внутренней фиксации на мнении соцсетей. Любой крупный идеологический бренд неизбежно аккумулирует хейт. Дваркеш со смехом рассказал о единственном крупном скандале в своей карьере, когда он разместил в своем подкасте минутную спонсорскую интеграцию от фонда Open Philanthropy.
Этот факт вызвал мгновенную конспирологическую реакцию в Twitter. Создатель движения e/acc (эффективный акселерационизм) Гийом Вердон, известный под псевдонимом Beff Jezos, публично объявил Пателя «платным шпионом и продажным рупором ЕА». Вердон заявил, что Патель якобы отказывается звать его на интервью именно по причине финансовой ангажированности.
Патель оперативно ответил на выпады в личных соцсетях, лаконично пояснив, что не приглашает основателя e/acc на эфиры исключительно потому, что считает его аргументацию и мышление поверхностными, однако с удовольствием готов выйти с ним на открытые дебаты. Суточный твиттер-шторм собрал более 1 миллиона просмотров, став для Пателя забавным уроком того, насколько токсичной и одновременно пустой бывает реакция интернет-радикалов на любые упоминания эффективного альтруизма.
