# Уэс Рот: «Секретная война за контроль над AGI — это глобальный захват власти» Источник: https://www.youtube.com/watch?v=j4sYtMpetoc Канал: Wes Roth Опубликовано: 14.04.2024 --- В мире высоких технологий разворачивается невидимое, но крайне масштабное противостояние за право определять будущее искусственного интеллекта. За кулисами увольнений в OpenAI, многомиллионных пожертвований и попыток глобального регулирования стоят две полярные идеологии: «эффективный альтруизм», предрекающий гибель человечества, и «техно-оптимизм», видящий в прогрессе единственный путь к спасению. ## 🚪 Увольнения в OpenAI и тени «эффективного альтруизма» [[JUMP:0:00]] Недавние события в компании OpenAI вновь привлекли внимание к внутренним конфликтам, которые начались ещё в ноябре 2023 года с временного увольнения Сэма Олтмена. По информации автора канала Уэса Рота, исследователи OpenAI Леопольд Ашенбреннер и Павел Измайлов были уволены за утечку конфиденциальной информации [0:00]. Оба специалиста работали над вопросами безопасности ИИ и рассуждениями (reasoning) [0:42]. Автор видео подчёркивает, что уволенные сотрудники имели тесные связи с движением «эффективного альтруизма» (Effective Altruism, EA) [0:57]. История EA началась в 2011 году, когда Питер Сингер, Тоби Орд и Уильям Макаскилл провозгласили своей целью использование доказательств и разума для поиска наиболее эффективных способов помощи человечеству [2:00]. Однако, по мнению Рота, за последние годы движение трансформировалось в нечто закрытое и подозрительное: * Движение стало крайне скрытным в своих истинных целях и методах работы [1:35]. * Оно пользуется привлекательными лозунгами («помощь человечеству»), но на деле может преследовать иные интересы [1:48]. * Репутация EA была сильно подорвана связью с Сэмом Бэнкманом-Фридом, основателем биржи FTX, осуждённым за мошенничество на миллиарды долларов [4:07]. В состав совета директоров OpenAI, инициировавшего ноябрьский переворот, входили Таша Макколи и Хелен Тонер, также связанные с «эффективным альтруизмом» [5:56]. По словам Рота, они отказывались давать внятные объяснения своим действиям даже генеральным прокурорам, прикрываясь туманными фразами об «ответственности перед миссией AGI» [6:37]. ## 🌍 Глобальное правительство и экзистенциальные риски [[JUMP:7:41]] Одним из наиболее спорных моментов философии «эффективного альтруизма» является отношение к рискам вымирания (Extinction Risk). Тоби Орд, один из основателей движения, в своей книге предлагает создать международное правовое поле, которое позволило бы наказывать правительства и глав государств за действия, создающие «ненужный риск вымирания» [8:08]. Уэс Рот интерпретирует подобные предложения как стремление к созданию единого мирового правительства: 1. Такая структура стояла бы выше демократически избранных лидеров [8:34]. 2. Она получила бы право лишать власти и сажать в тюрьму любого, кто, по её мнению, представляет «экзистенциальную угрозу» [8:48]. 3. Размытость определений риска даёт такой организации абсолютную, никем не контролируемую власть [9:00]. ## 💰 Фонд на $755 млн и «война» Виталика Бутерина [[JUMP:9:50]] В центре финансовой стороны этого противостояния оказался Виталик Бутерин, создатель Ethereum. В 2021 году он пожертвовал огромную сумму в токенах Shiba Inu (SHIB) Институту будущего жизни (Future of Life Institute, FLI) — организации, близкой к идеям EA [10:19]. Сумма пожертвования составила около $755 млн [10:45]. Эти средства были обналичены через компанию Сэма Бэнкмана-Фрида Alameda Research и направлены на создание программы стипендий Виталика Бутерина по «экзистенциальной безопасности ИИ» [10:57]. Примечательно, что в публичных отчётах FLI в качестве крупнейшего донора часто упоминается фонд Илона Маска с пожертвованием в $3–5 млн, в то время как судьба почти миллиарда долларов от Бутерина в ежегодных бюджетах до окончания полного аудита остаётся менее прозрачной [11:50]. ## 📹 План Макса Тегмарка: запрет видеокарт и тотальная слежка [[JUMP:12:42]] Макс Тегмарк, сооснователь Future of Life Institute, открыто выступает за жёсткое государственное регулирование ИИ. В одном из интервью он предложил радикальные меры для «спасения мира» [12:56]: * Объявить производство мощного компьютерного оборудования (GPU) выше определённого уровня производительности незаконным [13:09]. * Установить повсеместную глобальную слежку за тем, какой программный код запускается в дата-центрах [13:22]. * Использовать лоббистов для продвижения этих законов на международном уровне [13:50]. Уэс Рот сравнивает такие предложения с мошенничеством: за привлекательным заголовком «защита от вымирания» скрывается попытка установить цифровую тиранию [16:43]. Он призывает зрителей «быть как Ларри» (персонаж Ларри Дэвида из рекламы FTX), то есть сохранять скептицизм в отношении громких обещаний и инноваций, которые могут оказаться инструментом захвата власти [15:37]. ## 🚀 Техно-оптимизм против «торможения» [[JUMP:18:59]] В противовес сторонникам замедления (deceleration) выступает движение техно-оптимистов, наиболее ярким представителем которых является Марк Андриссен (фонд a16z) [21:41]. В своём «Манифесте техно-оптимиста» они провозглашают: * Технологический прогресс — высшая добродетель [21:53]. * Свобода мысли, слова и научного поиска критически важны для человечества [22:06]. * Главными врагами являются стагнация, коррупция, регуляторный захват и идеи «депопуляции» [22:32]. Андриссен считает, что элиты сегодня пропагандируют нигилистическое желание иметь меньше людей, меньше энергии и больше страданий ради призрачной безопасности [22:57]. ## ⚖️ Позиция Виталика Бутерина: концепция d/acc [[JUMP:23:10]] Виталик Бутерин старается занимать взвешенную позицию. В своём блоге он описал три взгляда на мир [17:39]: 1. **Анти-технологический:** безопасность осталась позади, впереди антиутопия. Требуется замедление и отказ от прогресса [17:51]. 2. **Акселерационистский (e/acc):** опасности позади, впереди утопия. Нужно ускоряться любой ценой [19:13]. 3. **Взвешенный (d/acc):** опасности позади, но впереди множество путей — как хороших, так и плохих [20:18]. Бутерин ввёл термин **d/acc** (defensive/decentralized acceleration — защитное или децентрализованное ускорение) [25:59]. Он считает, что ИИ должен развиваться, но децентрализовано, чтобы избежать ситуации, когда одна авторитарная структура контролирует всё [26:14]. Вероятность гибели человечества от ИИ (P Doom) Бутерин оценивает крайне низко — около 0,1 [25:47]. ## 🛡️ Опасности нового регулирования ИИ [[JUMP:27:07]] Уэс Рот выражает глубокую озабоченность законопроектами, которые продвигаются в ЕС и США [27:07]. Согласно анализу автора, эти нормы могут наделить администраторов регуляторных органов беспрецедентными полномочиями: * **Чрезвычайные меры:** возможность единолично закрывать целые направления разработки ИИ на срок до 6 месяцев [28:41]. * **Силовые полномочия:** право проводить рейды в офисах и даже «конскрипцию войск» (созыв ополчения) для исполнения своих решений [28:55]. * **Уголовная ответственность:** покупка или передача мощной видеокарты (например, NVIDIA) может быть признана преступлением, если это нарушает правила регулятора [28:01]. * **Удар по Open Source:** ПО с открытым исходным кодом может быть запрещено, если оно не получит одобрение правительства [27:48]. Рот призывает каждого определить свою позицию в этом конфликте, иначе решение о будущем технологий и личных свобод будет принято без участия граждан [29:25].