«Если ИИ не будет под контролем каждого, он может убить всех; но если передать всю власть одному регулятору, возникнет Старший Брат, от которого нет спасения». Основатель Ethereum Виталик Бутерин снизил личный P(doom) до 8–9%, но предупреждает: чтобы не превратиться в «домашних питомцев» машин, человечеству необходим d/acc — радикальное ускорение децентрализованных технологий защиты. От нейроинтерфейсов до локальных биопринтеров вакцин, это новый манифест сохранения человеческой субъектности перед лицом сверхразума.
🛡️ Выбор пути: между прогрессом и экзистенциальной угрозой 0:00
Дискуссия о будущем искусственного интеллекта часто сводится к бинарному противостоянию: либо мы ускоряем прогресс любой ценой, либо пытаемся его остановить из страха перед катастрофой. Виталик Бутерин предлагает третью, более нюансированную позицию, которую он подробно изложил в своём эссе «Мой техно-оптимизм». В начале беседы он подчеркивает, что выбор пути развития технологий — это не просто вопрос скорости, но вопрос осознанного выбора направления в условиях, когда бездействие невозможно.
Три взгляда на развитие технологий: метафора дороги и медведя 2:45
Для иллюстрации различных подходов к прогрессу Виталик Бутерин использует популярный интернет-мем с развилкой на дороге . В его интерпретации существует три основных сценария:
- Наивный техно-оптимизм: Здесь нет развилки — только одна дорога, ведущая к сияющему замку. Сзади за человеком гонится медведь, символизирующий опасности прошлого и стагнацию. В этой парадигме единственный способ выжить — бежать вперёд как можно быстрее . Любое замедление означает смерть от когтей медведя.
- Пессимистический взгляд (degrowth): Дорога также одна, но медведя за спиной нет. Счастливый замок либо остался позади, либо находится где-то в стороне, а единственный путь вперёд ведёт к тёмному, грозовому замку . Сторонники этой позиции призывают прекратить движение и отказаться от новых технологий.
- Синтетический оптимизм Бутерина: На дороге есть и развилка, и медведь . Медведь заставляет нас двигаться вперёд — мы не можем просто остановиться, так как технологии прошлого были опасными (голод, болезни, старые угрозы), а будущие сулят огромные блага. Однако перед нами стоит критически важный выбор: один путь ведёт к процветанию, другой — к катастрофе .
Виталик Бутерин настаивает, что мы должны признать огромную пользу технологий — от победы над болезнями до доступа ко всем знаниям мира через интернет , — но при этом сохранять право выбирать, какие именно технологии мы хотим ускорять. Ранее в своих публикациях он уже упоминал концепцию защитного акселерационизма как способ навигации по этой развилке.
Пересмотр P(doom): почему Бутерин стал чуть большим оптимистом 6:20
Одним из самых обсуждаемых вопросов в сообществе ИИ-безопасности является P(doom) — субъективная вероятность того, что ИИ приведет к гибели человечества. За последний год оценка Бутерина снизилась с 10% до 8–9% . Этот осторожный оптимизм основан на нескольких ключевых наблюдениях.
Во-первых, Виталик отмечает, что темпы прогресса в 2023–2024 годах кажутся более инкрементальными по сравнению с «тектоническим сдвигом» периода 2022–2023 годов, когда появление ChatGPT и инциденты с чат-ботом Сидней шокировали публику . Бутерин предполагает, что рывок в возможностях ИИ мог быть разовым следствием масштабирования инвестиций — перехода от тренировок моделей за 100 долларов к моделям за миллиард. Повторить такой стократный скачок (до триллиона долларов) будет гораздо сложнее .
Во-вторых, он выделяет эндогенный фактор: идеи безопасности ИИ перестали быть «интересом узкой группы гиков» и проникли в общественное сознание . Многие талантливые инженеры в ведущих компаниях теперь меньше стремятся «давить педаль в пол», осознавая риски . Даже несмотря на поляризацию общества вокруг темы ИИ, сам факт широкой дискуссии заставляет разработчиков действовать осторожнее, чем полтора года назад.
Сравнивая риск ИИ с пандемией COVID-19, Виталик Бутерин называет это «вызовом средней тяжести» . Если бы смертность от вируса была 45%, мир бы мгновенно объединился. Если бы это был просто грипп, никто бы не обратил внимания. ИИ находится в той же «неудобной» зоне вероятности катастрофы в 10%, которая порождает бесконечные политические споры вместо консолидации .
ИИ как инструмент централизации и тоталитаризма 21:00
Помимо экзистенциального риска (сценарий, где ИИ убивает всех), Виталика Бутерина глубоко беспокоит риск создания «неизбежного мирового тоталитарного правительства» . Он разделяет опасения, что ИИ по своей природе является технологией централизации, в то время как криптография — технологией децентрализации .
Бутерин приводит конкретные примеры того, как современные системы уже используются для подавления свобод:
- Массовая слежка и распознавание лиц: Авторитарные режимы, в частности в России, используют ИИ для анализа видео с протестов. Вместо массовых арестов на месте, власть идентифицирует участников и приходит к ним домой спустя недели или месяцы .
- Подавление организованных движений: Технологии позволяют выявлять «ключевых инфлюенсеров» протеста и систематически демонтировать оппозиционные структуры .
- Контроль на оккупированных территориях: Подобные методы применялись для выявления и нейтрализации несогласных в ходе конфликтов .
Виталик Бутерин называет этот сценарий «самым мощным Старшим Братом, от которого нет спасения» . Проблема усугубляется тем, что многие «наивные» решения проблемы безопасности ИИ, такие как национализация разработок или создание единого контролирующего органа, могут лишь ускорить приход к этой цифровой диктатуре . В конечном итоге, именно фундаментальное доверие или недоверие к централизованной власти определяет позицию человека в дебатах о регулировании ИИ .
🛡️ Политический фундамент: Доверие к власти как корень споров об ИИ 25:24
Геополитика недоверия и тест «случайного диктатора» 25:24
Дискуссии о безопасности искусственного интеллекта часто выглядят как столкновение технических аргументов, однако Виталик Бутерин уверен: в их основе лежит фундаментальное различие в уровне доверия к государственным институтам. Это не просто «странная либертарианская черта», присущая узкой группе людей в США, а движущая сила мировой геополитики . Виталик подчеркивает, что значительная часть запретов на западные технологии в других странах мотивирована не только желанием поддержать местных игроков, но и вполне обоснованным страхом перед шпионажем со стороны США .
Для иллюстрации проблемы Бутерин предлагает мысленный эксперимент: готовы ли вы «бросить кости» и позволить случайному крупному правительству получить полный контроль над миром через ИИ? Если это будет правительство США, то, согласно текущим рынкам предсказаний, существует 52% вероятность, что его возглавит Дональд Трамп, и 35% — что Джо Байден . Тот факт, что даже внутри одной страны люди до крайности напуганы перспективой победы оппонента, считая её «шагом к фашизму или коммунизму», делает концепцию централизованного контроля над ИИ политически взрывоопасной .
По мнению Бутерина, любой подход к безопасности ИИ, который игнорирует этот фактор, обречен на провал. Напротив, стратегия, избегающая ловушки гиперцентрализации, может привлечь на свою сторону не только либертарианцев, но и огромные слои населения по всему миру, которые хотят быть «частью великого будущего человечества в XXII веке», а не просто бесправными объектами наблюдения со стороны сверхдержав .
Влияние бэкграунда: от Австралии до «Матушки-России» 29:47
Уровень доверия к авторитетам глубоко ситуативен и зависит от личного опыта. Ведущий подкаста отмечает, что его склонность видеть стакан «наполовину полным» и доверять государству проистекает из детства в благополучной Австралии 90-х и 2000-х годов, где власти могли совершать ошибки, но редко были злонамеренными . Виталик отвечает на это лаконично: «Ну, а я из Матушки-России» . Этот контраст жизненного опыта предопределяет, что один человек видит в ИИ прежде всего риск «выхода из-под контроля» (Rogue AI), а другой — инструмент установления тоталитаризма .
Тем не менее Бутерин видит повод для оптимизма в том, что у сторонников разных взглядов больше общего, чем кажется. Большинство признает оба риска, расходясь лишь в их приоритетности. Если стороны осознают это общее поле, интенсивность конфликтов может снизиться. Однако Виталик подчеркивает: «Людям нужна картина будущего, за которое стоит сражаться» . Если единственное предложение — «запереть ИИ в коробку и монополизировать его», это лишь покупка времени. Но ради чего это время покупается? Главный вопрос в том, каким будет мир после перехода к суперинтеллекту: останутся ли люди действующими лицами или превратятся в подобие персонажей видеоигр в мире, управляемом машинами .
Дилемма управления: централизованный «Бог» или политеизм моделей? 39:40
В дебатах о структуре ИИ-будущего Виталик выделяет две основные концепции:
- Централизованный синглтон (AI World Government). Аргумент в пользу этого подхода заключается в возможности нажать на «аварийную кнопку» в случае опасности и избежать гонки вооружений между корпорациями . В мягкой версии это «теория решающего действия» (pivotal act theory), где суперинтеллект создается для одного-единственного акта — например, уничтожения всех ферм по производству чипов или решения проблем кибербезопасности, после чего он самоликвидируется .
- Политеистический ИИ. Это мир, где у каждой страны, компании и даже индивида есть свой мощный ИИ-помощник . С точки зрения классической политической теории, такая система сдержек и противовесов кажется более здоровой, так как ни один субъект не может захватить власть над миром .
Однако Бутерин выражает скепсис относительно устойчивости «политеистического» равновесия. ИИ может развиваться суперэкспоненциально. Если одна модель совершит резкий качественный скачок — найдет способ увеличить вычислительные мощности в 100 раз или откроет нанотехнологии — она мгновенно обгонит всех остальных и установит доминирование . В такой нестабильной среде трудно рассчитывать, что множество игроков будут долгое время сохранять паритет.
Прагматичный синтез: регулирование масштаба, а не кода 45:57
Чтобы преодолеть раскол между техно-оптимистами и сторонниками жесткого регулирования, Виталик предлагает искать решения, которые снижают риски «взбесившегося ИИ», не требуя при этом тотальной централизации власти . Один из путей — дифференцированный подход к регулированию:
- Освобождение потребительского ИИ. Регулирование должно явно исключать модели, которые могут запускаться локально на обычном пользовательском оборудовании . Это сохраняет преимущества open source: приватность данных, возможность тонкой настройки под конкретные задачи и независимость от того, не решит ли корпорация вроде Microsoft или Google изменить условия обслуживания .
- Регулирование фронтирных моделей. Внимание регуляторов должно быть сосредоточено только на сверхкрупных проектах («big corp stuff»), где сосредоточены основные риски и ресурсы .
- Классификация по данным. Введение простых и понятных правил, зависящих от типа обучающих данных, позволит хобби-проектам и независимым инноваторам развиваться, не опасаясь юридического преследования со стороны государства .
Бутерин подытоживает, что задержка развития даже передовых ИИ имеет смысл только в том случае, если мы понимаем, на что тратим это время. Его собственная цель — не создание ИИ как «отчужденного организма», отделенного от человечества, а развитие технологий, которые расширяют возможности человека (как он упоминал ранее в контексте инструментов сотрудничества), сохраняя при этом децентрализованную структуру общества .
🧠 Слияние с ИИ и гипотеза «Века Эмов» 50:17
В дискуссиях о будущем искусственного интеллекта часто доминирует дихотомия: либо мы создаем «кремниевого бога», который в итоге может нас уничтожить, либо пытаемся остановить прогресс. Виталик Бутерин (Vitalik Buterin) предлагает альтернативный путь — создание технологий, которые расширяют возможности человека, а не заменяют его. Ранее в разговоре собеседники касались темы ИИ как инструмента централизации власти, и Бутерин подчеркивает, что развитие ИИ в отрыве от человека усиливает этот риск. Однако он видит «свет в конце туннеля» в концепции слияния человеческого сознания с машиной .
Нейроинтерфейсы как залог сохранения агентности 1:04:30
Центральным элементом позитивного сценария будущего Бутерин считает интерфейс «мозг-компьютер» (BCI). По его мнению, это способ решить проблему «агентности» — способности человечества влиять на ход истории в мире супер-интеллектов. Если ИИ продолжит развиваться как внешняя, независимая от нас сущность, человечество рискует оказаться в положении «домашних питомцев» . Даже если такой ИИ будет дружелюбным и решит проблемы безопасности, люди потеряют возможность принимать значимые решения о будущем Вселенной.
Виталик Бутерин выделяет три основные проблемы, которые решает слияние с ИИ:
- Экзистенциальный риск: биологический вид, интегрированный с технологией, сложнее «вытеснить».
- Риск тоталитаризма: супер-интеллект в руках узкой группы лиц ведет к вечной диктатуре.
- Потеря смысла: превращение людей в пассивных потребителей, лишенных творчества и влияния .
В этой модели выбор стоит не между ИИ и человеком, а между «супер-интеллектом ИИ» и «человеческим супер-интеллектом» . Бутерин признает, что путь через BCI сложен и требует огромных инвестиций, но это единственный способ сохранить человеческое «Я» как активного игрока.
На аргумент о том, что чистое ИИ-решение всегда будет эффективнее гибрида (по аналогии с тем, что самолет быстрее «киборга-птицы»), Бутерин возражает, указывая на специфику интеллекта . В отличие от полета, интеллект тесно связан с социальным контекстом, способностью вести «политические игры» и понимать глубокие человеческие смыслы . Человеческий опыт здесь — не балласт, а ценный фундамент.
Гипотеза «Века Эмов» и эволюция против сознания 1:11:00
Обсуждение будущего неизбежно затрагивает работу Робина Хансена «Век Эмов» (The Age of Em). Хансен описывает сценарий, в котором человеческие сознания загружаются в компьютеры («эмуляции» или «эмы») и становятся основной формой жизни. Бутерин находит этот мир одновременно захватывающим и пугающим.
Основная опасность «Века Эмов» заключается в возвращении к мальтузианской ловушке . В мире, где копирование сознания происходит мгновенно, конкуренция за вычислительные ресурсы станет предельной. Это может привести к следующим последствиям:
- Исчезновение досуга: любая копия, тратящая ресурсы на отдых, будет вытеснена более эффективными и трудолюбивыми копиями .
- Ухудшение условий жизни: уровень жизни «эмов» может упасть до уровня фабричных рабочих XIX века, едва сводящих концы с концами.
- Отбор против сознания: самая мрачная гипотеза гласит, что в ходе жесткой конкуренции выживут те системы, которые обрабатывают информацию максимально быстро, отбросив «лишнюю» надстройку в виде субъективного сознания .
Ведущий подкаста замечает, что перспектива стать «питомцем» сверхчеловеческого ИИ может быть не столь плохой — это похоже на безопасное детство под опекой родителей . Однако Бутерин категорически не согласен с этим «инфантильным» сценарием. Он указывает на фундаментальное стремление человека быть первопроходцем. Как пример он приводит «десятикратных миллионеров», которые продолжают работать по 80 часов в неделю, хотя могли бы уйти на покой . Для Бутерина человечность неразрывно связана с агентностью и желанием расширять границы возможного, а не просто наслаждаться комфортом в «золотой клетке» симуляции.
🛡️ Защитный акселерационизм: философия d/acc и технологии биологической безопасности 1:16:30
Технологии на страже свободы: концепция d/acc 1:16:30
Виталик Бутерин предлагает альтернативу простому ускорению прогресса (e/acc) или его замедлению — концепцию d/acc. Эта аббревиатура объединяет несколько понятий: защиту (defense), децентрализацию (decentralization), демократию (democracy) и дифференциальный подход к развитию (differential). Основная идея заключается в том, что мир становится более стабильным и свободным, когда баланс сил смещается в сторону обороны, а не нападения .
Исторически «оборонительные» ландшафты способствовали процветанию демократических институтов. Виталик приводит в пример Швейцарию: благодаря горам, которые служили естественной преградой, страна смогла сохранить классический либеральный строй и нейтралитет даже в окружении тоталитарных режимов в годы Второй мировой войны . Другой пример — морские державы вроде Британии. Бутерин цитирует теорию, согласно которой островное положение и опора на флот делают общество более открытым, склонным к торговле и свободе, в то время как жизнь в открытых степях Евразии навязывала психологию «убей или будешь убит» и способствовала формированию деспотий .
В современном мире роль «гор и океанов» должны взять на себя технологии. Виталик разделяет их на две сферы:
- Мир битов: кибербезопасность и защита информации (подробнее об этом пойдет речь в следующих главах);
- Мир атомов: макромасштабная физическая защита и микромасштабная биозащита .
В макрофизическом плане Виталик отмечает успех Украины в использовании морских дронов: не имея полноценного флота, страна смогла уничтожить около четверти Черноморского флота РФ . Однако он предостерегает от чрезмерного упования на чисто военные технологии, так как они часто имеют непредвиденные последствия при смене политического контекста. Вместо этого он призывает инвестировать в «технологии жизнестойкости»: автономные солнечные электросети, независимое производство продуктов питания и защищенные цепочки поставок. Это сделало бы общество устойчивым даже к глобальным катастрофам вроде ядерной войны, где большинство жертв, по прогнозам, погибнет не от радиации, а от коллапса логистики .
Биологическая защита: от «собачьих токенов» к глобальному щиту 1:21:40
Микромасштабная защита в философии d/acc — это прежде всего биозащита. Виталик с сожалением отмечает, что после 2022 года мир охватила апатия к пандемическим угрозам. Люди настолько устали от локдаунов, что перестали инвестировать даже в те решения, которые не требуют ограничения свобод .
Интерес Бутерина к этой теме зародился в 2021 году в результате курьезного случая с мем-токенами Shiba Inu. Получив в подарок огромный объем этих монет, Виталик пожертвовал значительную часть фонду India COVID Crypto Relief . Вопреки ожиданиям, что токены обесценятся, фонду удалось обналичить около 470 миллионов долларов. Эти средства пошли не только на оперативную помощь Индии, но и на долгосрочные проекты:
- Balvi — инициатива по поддержке открытых технологий борьбы с COVID и другими болезнями, передающимися воздушно-капельным путем .
- Разработка и внедрение HEPA-фильтров и дальнего ультрафиолетового излучения (UVC) для очистки воздуха в помещениях .
- Исследования «длинного ковида» и создание более совершенных масок и домашних тестов .
Виталик подчеркивает, что человек эволюционировал в условиях плотности населения в тысячу раз меньшей, чем сегодня, поэтому биологически мы катастрофически недоинвестируем в защиту от болезней . Очистка воздуха в зданиях могла бы снизить индекс репродукции вирусов (R0) с критических значений (например, 18 для очень заразных штаммов) до приемлемых единиц пассивным образом, не требуя от людей менять привычки .
Утопия против «суперчумы»: инфраструктура быстрого реагирования 1:24:50
Бутерин описывает «позитивный сценарий» реакции на появление гипотетической искусственной «суперчумы» с высокой смертностью и скрытым периодом распространения. В мире, развивающемся по пути d/acc, защита сработала бы в три этапа:
- Раннее обнаружение: повсеместный мониторинг сточных вод и анализ социальных сетей с помощью ИИ. Виталик полагает, что при наличии такой открытой инфраструктуры COVID-19 можно было бы заметить на месяц раньше, а ни одно правительство не смогло бы скрыть вспышку на своей территории .
- Сдерживание: автоматизированная фильтрация воздуха в помещениях. Если вирусы удаляются из воздуха за минуту, а не за час, скорость передачи падает на порядки .
- Контрмеры: создание цепочки от секвенирования нового вируса до производства вакцины за считанные дни.
Ключевым инструментом здесь должны стать назальные вакцины (которые блокируют передачу вируса в носоглотке) и децентрализованное производство. Виталик верит в будущее, где в каждой деревне будет стоять биопринтер, способный напечатать нужный препарат по открытому коду из сети, не полагаясь на сложные логистические цепочки и монополию крупных фармацевтических компаний .
Барьеры на пути к «защитному» миру 1:35:11
Несмотря на логичность концепции d/acc, она сталкивается с серьезной критикой. Один из главных вопросов — финансирование. В мире, где капитал ищет быстрой прибыли, а правительства экономят бюджеты, сложно найти ресурсы на технологии, которые «просто предотвращают катастрофу» .
Другая проблема — риск «ребрендинга». Как признает сам Виталик, в сообществе Ethereum часто случается так, что проекты просто называют свою текущую деятельность «соответствующей видению Виталика», меняя поведение лишь на 10% . Существует опасность, что компании, разрабатывающие опасные наступательные ИИ-технологии, будут маскироваться под сторонников d/acc, чтобы избежать регулирования.
В завершение главы Бутерин отмечает, что текущая дискуссия об ИИ неоправданно поляризована. В медиа-пространстве (например, на подкасте Bankless) часто пытаются представить ситуацию так, будто акселерационисты (e/acc) — это «техно-оптимисты», а сторонники безопасности (и эффективные альтруисты) — это «луддиты», желающие остановить прогресс . Виталик же настаивает: d/acc — это форма акселерационизма, которая выбирает направление прогресса, делая ставку на защиту человеческой жизни и автономии.
🛡️ Криптографическая броня: ИИ и ZK-доказательства в киберобороне 1:45:11
В дискуссии о будущем технологий Виталик Бутерин предлагает сместить фокус с простого «ускорения» на создание защитной инфраструктуры. Если предыдущие главы касались физических угроз и биозащиты, то в цифровом пространстве Бутерин видит огромный потенциал для технологий, которые делают нападение экономически бессмысленным. Ключевыми инструментами здесь становятся криптография с нулевым разглашением и искусственный интеллект, работающий на стороне разработчиков, а не хакеров.
Нулевое разглашение и борьба с «цифровым барьером» 1:45:23
Одной из самых раздражающих проблем современного интернета Виталик Бутерин называет «стену капч» . Пользователи VPN или жители стран, которые глобальные сервисы считают «подозрительными» (регионы Африки или Юго-Восточной Азии), вынуждены бесконечно доказывать, что они люди, кликая по гидрантам и светофорам. Это не просто неудобство, а фундаментальная проблема идентификации в сети без потери приватности.
Решением здесь выступает криптография с нулевым разглашением (ZK-доказательства). Эта технология позволяет подтвердить определенный факт — например, что вы являетесь уникальным человеком или владельцем паспорта конкретной страны — не раскрывая при этом самого документа или личных данных .
Бутерин описывает концепцию «идентификатора с нулевым разглашением»:
- Вы генерируете доказательство своей уникальности (на основе государственного ID или даже владения определенным объемом криптовалюты) .
- Алгоритм создает уникальный ID, который невозможно связать с вашей личностью, но при попытке создать второй такой же ID для той же системы программа выдаст тот же результат .
- Сайт получает подтверждение: перед ним легитимный уникальный пользователь, а не бот-ферма, атакующая сервис.
Такой подход решает «проблему уникального человека» (unique human problem) . Это критически важно не только для борьбы со спамом, но и для онлайн-голосований. Виталик отмечает, что наше общество уже во многом зависит от цифрового волеизъявления в виде лайков и ретвитов, и сделать эти механизмы устойчивыми к манипуляциям — приоритетная задача киберзащиты .
ИИ как инструмент создания идеального кода 1:50:25
В то время как многие опасаются, что ИИ поможет хакерам взламывать системы, Виталик Бутерин указывает на обратную сторону: ИИ может стать «бесконечно способным» искателем багов на стороне защиты . В долгосрочной перспективе это может привести к созданию полностью бездефектного софта.
Бутерин описывает сценарий, в котором опенсорсные инструменты поиска уязвимостей интегрируются в каждый процесс разработки:
- Разработчик пишет код и загружает его в репозиторий.
- Система непрерывной интеграции (CI) автоматически прогоняет код через ИИ-аудит .
- Любая ошибка обнаруживается и исправляется еще до того, как код попадет в публичный доступ.
«Конечная цель — это код без багов», — утверждает Бутерин . Это создает ситуацию, в которой защита получает стратегическое преимущество. Поскольку защитник может изменять свой код почти мгновенно, исправляя любую найденную уязвимость, атакующему становится всё сложнее найти лазейку, которая не была бы закрыта автоматически. В мире «машина против машины» кибербезопасность становится естественным образом ориентированной на защиту .
Машины-телохранители: новый уровень пользовательской защиты 1:54:07
Поскольку люди по своей природе являются «устаревшим куском технологии» и не могут быстро «пропатчить» свой мозг или генетику против атак, нам нужны внешние помощники . Ранее в разговоре упоминались технологии биологической очистки воздуха, но в цифровом мире роль таких фильтров должны играть умные интерфейсы.
Виталик Бутерин приводит в пример эволюцию криптокошельков. Если первые версии были «глупыми» инструментами для подписи транзакций, то современные кошельки, такие как Rabby, действуют как активные защитники :
- Они предупреждают, если вы отправляете деньги на новый, неизвестный адрес .
- Они симулируют транзакцию и показывают её ожидаемые последствия до того, как вы её подтвердите .
- Они блокируют известные мошеннические сайты .
Следующим фронтом защиты станет внедрение ИИ-ассистентов в пользовательские интерфейсы. Виталик подчеркивает важность появления категории акторов, чья бизнес-модель зависит исключительно от долгосрочной удовлетворенности пользователя, а не от эксплуатации его внимания. Такие помощники будут выполнять роль «адвокатов защиты» (defense lawyers) в цифровом пространстве, фильтруя информацию и блокируя попытки манипуляций .
Разделяя цифровую защиту на кибербезопасность (где враг очевиден) и «инфо-защиту» (где границы истины размыты), Бутерин подводит к тому, что инструменты вроде алгоритмов коллективной модерации станут ключевыми для выживания информационного общества . Однако детальный разбор таких систем, включая Community Notes, заслуживает отдельного внимания в контексте борьбы с дезинформацией.
🛡️ Технологии консенсуса: Community Notes и математика защиты от сговора 2:05:42
Эпистемические технологии: как Community Notes выявляет истину 2:05:42
Одним из наиболее эффективных инструментов современной информационной среды Виталик Бутерин считает алгоритм Community Notes (ранее Birdwatch) в социальной сети X. Уникальность этой системы заключается в её математической модели, которая призвана не просто фильтровать контент, а находить «межпартийный» консенсус. Вместо того чтобы полагаться на простое большинство голосов, алгоритм ищет примечания, которые получили одобрение от людей с радикально разными политическими взглядами .
Виталик приводит в пример два типа контента:
- Полярные заметки: Сообщения, имеющие отрицательную полярность, — это зачастую партийная критика (например, обвинения в фашизме), которую поддерживает только одна сторона.
- Полезные заметки: Высокую оценку полезности получают примечания, которые предоставляют фактологический контекст, важный для всех. Например, когда под видео с «дронами над Мехико» появляется примечание, что это ИИ-генерация, с этим согласятся и сторонники Трампа, и сторонники Си Цзиньпина .
Интересным кейсом стал твит Стивена Кинга о смертности от COVID-19. Писатель утверждал, что вирус убивает тысячи людей в день, но Community Notes уточнили, что это статистика за месяц . Несмотря на то, что это уточнение было выгодно «ковид-минималистам» и неудобно для сторонников жестких мер, оно было написано в настолько нейтральном и фактологическом ключе, что алгоритм распознал его как универсально убедительное. Это демонстрирует способность механизма выявлять информацию, которая считается «универсально достоверной» в глазах людей с разными убеждениями .
Тем не менее, система сталкивается с вызовами. Во время конфликта в Газе главной проблемой стала скорость: примечания появлялись спустя сутки после того, как фейк успевал сформировать мнение миллионов . Бутерин предполагает, что решение может лежать в интеграции элементов рынков предсказаний (таких как Polymarket или Manifold), где пользователи получают вознаграждение, если их раннее голосование совпало с итоговым консенсусом через два дня . Другой угрозой являются «интернет-армии» (например, кремлевские боты), которые пытаются манипулировать системой массовыми жалобами, чтобы сбивать неугодные заметки .
Квадратичное финансирование и математика против «армий ботов» 2:12:10
Виталик Бутерин уверен, что дизайн социальных механизмов должен стать строгой академической дисциплиной. В качестве примера он приводит эволюцию квадратичного финансирования (Quadratic Funding, QF) — математического метода распределения средств на общественные блага, который он развивал в течение последних лет .
Суть квадратичного подхода (будь то голосование или финансирование) заключается в том, что стоимость каждого следующего голоса для одного участника растет пропорционально квадрату: первый голос стоит 1 доллар, второй — 4, третий — 9. Это заставляет людей распределять свои ресурсы пропорционально силе их убеждений, что невозможно при системе «один человек — один голос» или прямой покупке голосов деньгами .
Однако классическое QF имело критическую уязвимость: оно опиралось на утопическое допущение о отсутствии сговора (non-collusion) . В реальности группы лиц могут координироваться, или один человек может создать тысячи аккаунтов (мультибоксинг), чтобы имитировать широкую поддержку проекта и «выкачать» средства из общего пула. Бутерин отмечает, что экономисты часто недооценивают проблему сговора, считая более важными рациональность или полноту информации, хотя именно координация злоумышленников чаще всего ломает механизмы в реальности .
Для решения этой проблемы Бутерин предложил «попарно ограниченное квадратичное финансирование» (pairwise bounded quadratic funding). Этот алгоритм ограничивает сумму софинансирования для каждого проекта, анализируя связи между парами пользователей:
- Система отслеживает, как часто два пользователя голосуют за одни и те же проекты.
- Если группа лиц постоянно поддерживает один и тот же узкий список инициатив, их влияние на итоговое распределение средств математически подавляется.
- Доказано, что в такой модели ущерб, который может нанести атакующий, владеющий $K$ аккаунтами, ограничен формулой $C \times K^2$ .
Этот механизм фактически является «тестом на NPC» (неигрового персонажа) . Если группа людей ведет себя как единый монолит, система распознает отсутствие независимого мышления и лишает их голоса веса. Это критически важно для защиты «доказательств уникальности человека» (proof of personhood). Бутерин признает, что даже биометрические системы, такие как Worldcoin, уязвимы: можно поехать в деревню в Гане и купить сканы радужки глаз за 35 долларов . Математические ограничения на сговор — это последний рубеж защиты, позволяющий социальным медиа и демократическим институтам по-прежнему расширять права и возможности для независимого мышления .
Роль «дипломата» в обновлении крипто-идеологии 2:24:13
Размышляя о своей роли в дискуссиях об ИИ и будущем технологий, Виталик отмечает, что сегодня он чувствует себя своего рода «идеологическим дипломатом» . Его большая статья о «защитном акселерационизме» (d/acc), которую обсуждали в предыдущих главах, стала попыткой найти срединный путь между лагерями сторонников безопасности и ускорения .
Бутерин подчеркивает необходимость обновления «мемов», на которых строилось криптосообщество. Если в 2008 году ключевым триггером был финансовый кризис и недоверие к банкам, то в 2023 году фокус сместился на экзистенциальные риски, войны и угрозу тоталитаризма . Он иронично замечает, что сторонники биткоина, утверждающие, будто «твердые деньги» предотвратили бы современные войны, глубоко заблуждаются: доходы правительств от печати денег составляют лишь малую долю их военного бюджета .
В этом новом контексте криптографические инструменты и механизмы консенсуса (такие как Community Notes или попарное QF) должны служить более высокой цели — сохранению открытого общества и предотвращению глобального контроля. Виталик сознательно выбирает стиль письма от первого лица, стараясь «видеть в людях хорошее» и объединять разрозненные аудитории вокруг общих целей выживания человечества .
🌐 Эволюция Ethereum, открытые соцсети и «вогнутая» стратегия жизни 2:30:30
Спустя пять лет после прошлого интервью для 80,000 Hours Виталик Бутерин отмечает, что ландшафт блокчейн-технологий радикально изменился. Если в 2019 году многие скептики обоснованно жаловались на медлительность и дороговизну сетей, то сегодня технические барьеры для массового принятия криптовалют начинают рушиться.
Прогресс Ethereum: масштабируемость и L2-решения 2:33:10
Виталик Бутерин подчеркивает, что за последние пять лет масштабируемость перестала быть теоретической проблемой и перешла в стадию практического решения. В период с 2019 по 2021 год высокие транзакционные комиссии делали блокчейны непригодными для чего-либо, кроме спекуляций дорогими активами . Ситуация изменилась с появлением протоколов второго уровня (Layer 2) и обновлений основного блокчейна.
Ключевым этапом стало обновление Dencun и внедрение технологии Proto-danksharding . Это решение выделяет в блоках Ethereum дополнительное пространство для данных, которое L2-протоколы используют для записи транзакций, что делает их использование на порядок дешевле.
Важную роль в этом прогрессе играют доказательства с нулевым разглашением (ZK-proofs), которые Виталик Бутерин называет «трансформерами в криптографии» . По его мнению, это универсальная технология, способная заменить множество специализированных криптографических инструментов последних десятилетий. ZK-технологии решают две критические проблемы блокчейнов, которые ранее приносились в жертву открытости: приватность и безопасность . Ранее в разговоре они касались использования ZK для идентификации личности, но в контексте масштабируемости эти инструменты позволяют подтверждать огромные массивы данных, не перегружая основную сеть.
Децентрализованные соцсети: успех Farcaster 2:38:10
Одним из самых ярких примеров того, как новые технологии выходят за рамки финансов, стал протокол Farcaster. Это децентрализованная социальная сеть, где пользователи не привязаны к конкретному интерфейсу или компании. Виталик Бутерин объясняет архитектуру системы:
- Аккаунты и имена пользователей управляются на высокозащищенном слое (L2 на базе Ethereum).
- Сами сообщения (аналоги твитов) хранятся в более быстрой и менее строгой децентрализованной сети .
Главное преимущество такого подхода — отсутствие монополии на социальный граф. Если основной клиент (например, Warpcast) начнет проводить политику, которая не нравится пользователям, разработчики могут создать альтернативные клиенты (как Flink), сохраняя доступ к той же базе контента и подписчиков . Это решает проблему сетевого эффекта, который удерживает людей на платформе X (бывший Twitter) вопреки их желанию.
Виталик Бутерин отмечает, что Farcaster удалось избежать ловушки «оппозиционной культуры» . Многие альтернативные соцсети строились исключительно на ненависти к Илону Маску или цензуре, что делало их сообщества токсичными и неприятными. Farcaster же смог привлечь людей, которым просто нравится качественный продукт и дух открытого протокола .
Различия между школами эффективного альтруизма 2:49:10
Виталик Бутерин остается сторонником идей эффективного альтруизма (ЭА), однако он проводит четкую черту между двумя направлениями внутри движения. Первая — это «интернет-версия» ЭА, сформированная такими ресурсами, как LessWrong и блог Скотта Александера (Astral Codex Ten) . Эта школа фокусируется на рационализме, мета-уровне мышления и глобальном здравоохранении.
Вторая — «берклийская» версия, которая характеризуется гиперфокусировкой исключительно на рисках ИИ . Виталик Бутерин отмечает, что хотя он сам разделяет опасения по поводу ИИ, его личный подход ближе к широкому «интернет-ЭА». Например, когда он получил значительную сумму в токенах SHIBA, основную часть пожертвований он направил на проекты в области глобального здоровья, а не только на безопасность ИИ .
Он также критикует подход, при котором убежденность в собственной правоте позволяет нарушать этические нормы (как это произошло в случае с SBF). Виталик Бутерин подчеркивает важность мета-уровня: нужно действовать так, как вы хотели бы, чтобы действовали ваши оппоненты, если бы они были убеждены в своей правоте так же сильно, как вы .
Философия «вогнутого» подхода к жизни 2:53:00
Свои взгляды на мир Виталик Бутерин описывает через концепцию «вогнутых» (concave) и «выпуклых» (convex) стратегий. Его личная стратегия — вогнутая: это означает веру в то, что первые 50% усилий в любой системе приносят большую часть пользы, а радикальный фанатизм ведет к неоправданным издержкам.
В быту это проявляется в подходе, который он в шутку называет «half-assing everything» (делать всё вполсилы) :
- Диета: вместо того чтобы быть строгим последователем кето или веганства, Виталик Бутерин берет лучшее от всех систем: не ест сахар, ограничивает углеводы, ест больше овощей и практикует интервальное голодание .
- Спорт: он не стремится к олимпийским рекордам, но установил для себя «пол» — обязательный минимум в 120 км бега в месяц, который он выполняет стабильно .
- Благотворительность: он распределяет ресурсы между разными философиями помощи, избегая ставки на что-то одно.
Этот подход отражает его общую веру в то, что мир сложен, и умеренное использование нескольких работающих систем гораздо эффективнее и безопаснее, чем слепое следование одной экстремальной идеологии .
⚖️ Этика метауровня: почему благие намерения не оправдывают нарушение правил 2:55:35
В завершение масштабной дискуссии Виталик Бутерин возвращается к фундаментальным вопросам морали, которые на протяжении многих лет определяют его подход к технологиям и общественному устройству. Его размышления касаются не столько конкретных решений, сколько «этики метауровня» — правил о том, как следует выбирать сами правила поведения в условиях неопределенности.
Две моральные парадигмы: когда помощь становится риском 2:56:14
Размышляя о различных подходах к филантропии и социальному воздействию (ранее в разговоре они кратко касались различий между школами эффективного альтруизма), Виталик Бутерин выделяет два принципиально разных этических режима.
Первый — это режим, в котором ваши действия могут принести только пользу. Классическим примером здесь является раздача противомоскитных сеток: вероятность того, что это случайно нанесет масштабный вред, крайне мала, а критика подобных инициатив обычно считается слабой . В этой парадигме логично стремиться в самые отдаленные уголки планеты, чтобы помочь беднейшим слоям населения, достигая максимального результата при минимальных ресурсах .
Однако существует и второй режим — ситуации, где границы между добром и злом размыты, а действия могут легко привести к непреднамеренному вреду. В таких условиях крайне сложно определить, окажется ли итоговый эффект ваших усилий выше «нулевой отметки» . Виталик отмечает, что здесь вступает в силу иная мораль:
- Важность контекста: если вы не понимаете локальную специфику в сложной системе, риск совершить ошибку возрастает.
- Мудрость консерватизма: в «рискованном» режиме обретают смысл традиционные ценности — фокус на своей семье или стране . Глубокое понимание контекста позволяет с большей вероятностью гарантировать, что ваши действия принесут пользу, а не вред .
По мнению Бутерина, критически важно осознавать, в каком из этих режимов вы находитесь в данный момент, и соответствующим образом корректировать свои ментальные модели.
Проблема «разбитого стекла»: деонтология против экстремального утилитаризма 2:58:12
Одной из центральных тем финала беседы становится критика подхода «цель оправдывает средства». Виталик Бутерин предостерегает от опасного высокомерия, когда люди, убежденные в своей правоте (будь то в сфере ИИ или финансов), считают, что имеют право нарушать базовые этические запреты ради «высшего блага».
Он приводит в пример ситуации вокруг краха биржи FTX и внутренних конфликтов в OpenAI как случаи, когда участники действовали методами, которые они ни за что не сочли бы приемлемыми, если бы так поступили их злейшие враги . Это фундаментальный тест на этичность: готовы ли вы позволить своему оппоненту использовать те же инструменты и нарушения правил, которые используете вы?
Бутерин настойчиво призывает даже тех, кто искренне обеспокоен безопасностью ИИ, не поддаваться искушению «разбить защитное стекло» . Убежденность в собственной моральной правоте не дает карт-бланша на действия, которые подрывают доверие и нарушают деонтологические ограничения — те самые базовые правила, которые удерживают общество от хаоса. В конечном счете, соблюдение этих принципов важнее, чем попытка достичь краткосрочной победы через их нарушение.
От теории к практике: развитие идей через институты и сообщества 2:59:08
Диалог завершается обсуждением того, как теоретические принципы могут быть реализованы на практике через конкретные организации и инициативы. Ведущий подкаста Роберт Виблин подчеркивает, что для продвижения идей, озвученных Виталиком, требуются не только философские дискуссии, но и профессиональное управление. В частности, организация 80,000 Hours активно ищет руководителей в области видеопроизводства и маркетинга с годовым бюджетом около 3 миллионов долларов для масштабирования этих смыслов .
Кроме того, упоминается практическое применение концепции защитного акселерационизма (о которой шла речь в середине интервью). Программа инкубации стартапов d/acc направлена на поиск предпринимателей, готовых создавать технологии, повышающие устойчивость человечества перед лицом агрессии и глобальных рисков . Это подчеркивает главную мысль Виталика Бутерина: путь к безопасному будущему лежит не через обход правил или централизованный контроль, а через создание открытых, защитных систем и строгое соблюдение этических принципов на каждом этапе их развития .
