В мире высоких технологий разворачивается невидимое, но крайне масштабное противостояние за право определять будущее искусственного интеллекта. За кулисами увольнений в OpenAI, многомиллионных пожертвований и попыток глобального регулирования стоят две полярные идеологии: «эффективный альтруизм», предрекающий гибель человечества, и «техно-оптимизм», видящий в прогрессе единственный путь к спасению.
🚪 Увольнения в OpenAI и тени «эффективного альтруизма» 0:00
Недавние события в компании OpenAI вновь привлекли внимание к внутренним конфликтам, которые начались ещё в ноябре 2023 года с временного увольнения Сэма Олтмена. По информации автора канала Уэса Рота, исследователи OpenAI Леопольд Ашенбреннер и Павел Измайлов были уволены за утечку конфиденциальной информации . Оба специалиста работали над вопросами безопасности ИИ и рассуждениями (reasoning) .
Автор видео подчёркивает, что уволенные сотрудники имели тесные связи с движением «эффективного альтруизма» (Effective Altruism, EA) . История EA началась в 2011 году, когда Питер Сингер, Тоби Орд и Уильям Макаскилл провозгласили своей целью использование доказательств и разума для поиска наиболее эффективных способов помощи человечеству .
Однако, по мнению Рота, за последние годы движение трансформировалось в нечто закрытое и подозрительное:
- Движение стало крайне скрытным в своих истинных целях и методах работы .
- Оно пользуется привлекательными лозунгами («помощь человечеству»), но на деле может преследовать иные интересы .
- Репутация EA была сильно подорвана связью с Сэмом Бэнкманом-Фридом, основателем биржи FTX, осуждённым за мошенничество на миллиарды долларов .
В состав совета директоров OpenAI, инициировавшего ноябрьский переворот, входили Таша Макколи и Хелен Тонер, также связанные с «эффективным альтруизмом» . По словам Рота, они отказывались давать внятные объяснения своим действиям даже генеральным прокурорам, прикрываясь туманными фразами об «ответственности перед миссией AGI» .
🌍 Глобальное правительство и экзистенциальные риски 7:41
Одним из наиболее спорных моментов философии «эффективного альтруизма» является отношение к рискам вымирания (Extinction Risk). Тоби Орд, один из основателей движения, в своей книге предлагает создать международное правовое поле, которое позволило бы наказывать правительства и глав государств за действия, создающие «ненужный риск вымирания» .
Уэс Рот интерпретирует подобные предложения как стремление к созданию единого мирового правительства:
- Такая структура стояла бы выше демократически избранных лидеров .
- Она получила бы право лишать власти и сажать в тюрьму любого, кто, по её мнению, представляет «экзистенциальную угрозу» .
- Размытость определений риска даёт такой организации абсолютную, никем не контролируемую власть .
💰 Фонд на $755 млн и «война» Виталика Бутерина 9:50
В центре финансовой стороны этого противостояния оказался Виталик Бутерин, создатель Ethereum. В 2021 году он пожертвовал огромную сумму в токенах Shiba Inu (SHIB) Институту будущего жизни (Future of Life Institute, FLI) — организации, близкой к идеям EA .
Сумма пожертвования составила около $755 млн . Эти средства были обналичены через компанию Сэма Бэнкмана-Фрида Alameda Research и направлены на создание программы стипендий Виталика Бутерина по «экзистенциальной безопасности ИИ» . Примечательно, что в публичных отчётах FLI в качестве крупнейшего донора часто упоминается фонд Илона Маска с пожертвованием в $3–5 млн, в то время как судьба почти миллиарда долларов от Бутерина в ежегодных бюджетах до окончания полного аудита остаётся менее прозрачной .
📹 План Макса Тегмарка: запрет видеокарт и тотальная слежка 12:42
Макс Тегмарк, сооснователь Future of Life Institute, открыто выступает за жёсткое государственное регулирование ИИ. В одном из интервью он предложил радикальные меры для «спасения мира» :
- Объявить производство мощного компьютерного оборудования (GPU) выше определённого уровня производительности незаконным .
- Установить повсеместную глобальную слежку за тем, какой программный код запускается в дата-центрах .
- Использовать лоббистов для продвижения этих законов на международном уровне .
Уэс Рот сравнивает такие предложения с мошенничеством: за привлекательным заголовком «защита от вымирания» скрывается попытка установить цифровую тиранию . Он призывает зрителей «быть как Ларри» (персонаж Ларри Дэвида из рекламы FTX), то есть сохранять скептицизм в отношении громких обещаний и инноваций, которые могут оказаться инструментом захвата власти .
🚀 Техно-оптимизм против «торможения» 18:59
В противовес сторонникам замедления (deceleration) выступает движение техно-оптимистов, наиболее ярким представителем которых является Марк Андриссен (фонд a16z) . В своём «Манифесте техно-оптимиста» они провозглашают:
- Технологический прогресс — высшая добродетель .
- Свобода мысли, слова и научного поиска критически важны для человечества .
- Главными врагами являются стагнация, коррупция, регуляторный захват и идеи «депопуляции» .
Андриссен считает, что элиты сегодня пропагандируют нигилистическое желание иметь меньше людей, меньше энергии и больше страданий ради призрачной безопасности .
⚖️ Позиция Виталика Бутерина: концепция d/acc 23:10
Виталик Бутерин старается занимать взвешенную позицию. В своём блоге он описал три взгляда на мир :
- Анти-технологический: безопасность осталась позади, впереди антиутопия. Требуется замедление и отказ от прогресса .
- Акселерационистский (e/acc): опасности позади, впереди утопия. Нужно ускоряться любой ценой .
- Взвешенный (d/acc): опасности позади, но впереди множество путей — как хороших, так и плохих .
Бутерин ввёл термин d/acc (defensive/decentralized acceleration — защитное или децентрализованное ускорение) . Он считает, что ИИ должен развиваться, но децентрализовано, чтобы избежать ситуации, когда одна авторитарная структура контролирует всё . Вероятность гибели человечества от ИИ (P Doom) Бутерин оценивает крайне низко — около 0,1 .
🛡️ Опасности нового регулирования ИИ 27:07
Уэс Рот выражает глубокую озабоченность законопроектами, которые продвигаются в ЕС и США . Согласно анализу автора, эти нормы могут наделить администраторов регуляторных органов беспрецедентными полномочиями:
- Чрезвычайные меры: возможность единолично закрывать целые направления разработки ИИ на срок до 6 месяцев .
- Силовые полномочия: право проводить рейды в офисах и даже «конскрипцию войск» (созыв ополчения) для исполнения своих решений .
- Уголовная ответственность: покупка или передача мощной видеокарты (например, NVIDIA) может быть признана преступлением, если это нарушает правила регулятора .
- Удар по Open Source: ПО с открытым исходным кодом может быть запрещено, если оно не получит одобрение правительства .
Рот призывает каждого определить свою позицию в этом конфликте, иначе решение о будущем технологий и личных свобод будет принято без участия граждан .
