В Стенфордской высшей школе бизнеса состоялась заключительная лекция известного голландского историка и писателя Рутгера Брегмана из престижного цикла Reith Lectures Би-би-си за 2025 год. В своем выступлении «Борьба за человечество в эпоху машин» ученый подверг жесткой критике современную индустрию технологий и призвал к новой моральной революции против засилья искусственного интеллекта. Историк предложил взглянуть на вызовы Кремниевой долины сквозь призму пяти вечных религиозных вопросов, переосмысленных через призму исторического опыта.
🧠 От подросткового кризиса к радикальному гуманизму 0:00
Рутгер Брегман начал свое выступление с личного признания: в 15 лет, сидя за старым компьютером Pentium 4, он пережил острый мировоззренческий кризис. Юноша написал свое первое эссе, в котором пытался доказать, что свободы воли не существует, поскольку каждый выбор предопределен генетикой, средой и не зависящими от нас факторами. Несколько лет спустя его христианская вера окончательно пошатнулась после знакомства с теорией эволюции Чарльза Дарвина. По словам Брегмана, осознание миллионов лет бессмысленных страданий живой природы лишило его ощущения, что у истории есть направляющая благая рука.
Потерю религиозных ориентиров историк переживал не как освобождение, а как глубокую утрату. Опору в этот период он нашел в трудах британского математика и философа Бертрана Рассела (1872–1970). Рассел восхитил Брегмана не только интеллектуальной строгостью, но и гражданским мужеством: он открыто выступал против Первой мировой войны, сидел в тюрьме за пацифизм и возглавлял движение за ядерное разоружение. Символично, что именно Рассел в 1948 году стал самым первым лектором цикла Reith Lectures. В своем дневнике тогдашний генеральный директор Би-би-си лорд Райт оставил во многом забавную запись:
«Послушал первую лекцию Бертрана Рассела. Он говорил слишком быстро, и у него плохой голос. Тем не менее, я написал ему вежливую записку».
По мнению Брегмана, Рассел выступал в переломный момент истории, когда человечество только что создало атомную бомбу и получило силу для самоуничтожения. Сегодня мир снова находится в аналогичной точке, поскольку технологическая индустрия строит машины, способные превзойти человеческий интеллект.
🌍 Пять вопросов религии и уроки человеческой истории 12:37
Брегман убежден, что все мировые религии вращаются вокруг пяти ключевых вопросов: кто мы, откуда пришли, куда идем, как нам жить и что свято. В своих книгах историк пытается найти ответы на эти вопросы не в теологии, а в исторической науке, что особенно актуально сегодня, когда общество охвачено цинизмом и апатией.
Переосмысляя эти вопросы, Брегман предлагает следующую историческую траекторию:
- Кто мы? Вопреки представлениям о человеке как о жестоком хищнике, Брегман защищает концепцию «выживания дружелюбных» (survival of the friendliest). Главным эволюционным преимуществом Homo sapiens, по его мнению, всегда была способность к масштабной кооперации и состраданию.
- Откуда мы пришли? Более 95% своей истории человечество провело в общинах охотников-собирателей. Ссылаясь на знаменитое эссе Джареда Даймонда 1987 года, Брегман называет переход к сельскому хозяйству «худшей ошибкой в истории человечества». Именно появление полей и заборов, по его словам, принесло с собой иерархию, королей, рабство и массовые войны.
Выходом из тысячелетней нищеты стала промышленная революция, запустившая эпоху «Великого ускорения» (Great Acceleration) после 1750 года. Однако, экспоненциально наращивая потребление энергии и численность населения, люди подсознательно остались прежним биологическим видом. Брегман формулирует это так: «Мы — обезьяны с божественными технологическими возможностями».
📉 Куда мы идем: ИИ и «выживание бесстыжих» 17:09
Отвечая на третий вопрос — куда движется человечество — Брегман указывает на пугающие прогнозы глав ИТ-корпораций, заявляющих, что создание искусственного интеллекта станет последним изобретением в истории человечества. Историк подчеркивает, что современные сложные системы ИИ не столько проектируются, сколько «призываются в мир» как чужеродный разум, который создатели не до конца понимают и не умеют контролировать.
Последствия первой волны цифровизации, по мнению докладчика, уже носят катастрофический характер:
- Показатели грамотности и математических навыков среди молодежи стремительно падают.
- Уровень подростковой депрессии, тревожности и суицидальных попыток бьет рекорды.
- Реальное человеческое общение подменяется экранами: современные американские подростки проводят на вечеринках и праздниках на 70% меньше времени, чем в 2003 году.
- В социальных сетях вроде Instagram пользователи тратят более 90% времени на просмотр контента от совершенно незнакомых людей.
Брегман цитирует недавнее исследование в журнале Nature, согласно которому алгоритмы платформ продвигают самых громких и агрессивных пользователей. Ученые пришли к выводу, что в онлайн-дискуссии активнее всего вовлечены люди с высоким уровнем психопатии и низкими когнитивными способностями.
«Это не выживание дружелюбных. Это выживание бесстыжих», — резюмирует Брегман.
🍷 Индустрия цифрового алкоголизма: новый Молох 19:00
Переходя к вопросу о том, как нам жить, историк предлагает обратиться к опыту девятнадцатого века. Он напоминает об антиалкогольном движении (движении за трезвость), которое незаслуженно забыто, хотя в свое время было одним из крупнейших демократических движений в истории. В те времена алкоголь не был безобидным развлечением — отсутствие возрастных ограничений и реклама на каждом углу приводили к разрушению семей и потере рабочих мест. Индустрия зарабатывала на человеческой слабости. Активисты требовали радикальных мер — от налогов до полного запрета, понимая под свободой не потакание зависимости, а осознанный выбор.
Сегодня, по мнению Брегмана, человечество столкнулось с новой индустрией зависимости, где вместо виски используются приложения и алгоритмы. Спикер считает, что талантливые умы современности строят «Молоха» — гигантскую машину по перехвату внимания, которая опустошает людей.
Однако Кремниевая долина, как предупреждает Брегман, рискует разбудить спящего дракона. Опросы общественного мнения на Западе показывают, что граждане настроены крайне скептически: в соотношении три к одному люди требуют жесткого регулирования ИИ, опасаясь за свои рабочие места, здоровье и демократию. Историк прогнозирует, что локальное сопротивление смартфонам в школах может перерасти в глобальное движение против технологической гонки вооружений, подобно тому как столетие назад активисты добились Сухого закона в США.
⛪ Что свято: секулярная религия и разрушенная демократия 21:54
Пятый вопрос — о том, что является священным — Брегман решает в рамках своей «секулярной религии». Для него свято все человеческое: стремление к любви, поиск знаний, сострадание, смех, дружба и дар внимания. Переосмыслив свои подростковые сомнения, он пришел к выводу, что отсутствие предопределенной свыше свободы воли должно не ослаблять мораль, а укреплять ее. Если люди действуют под влиянием внешних причин и травм, то концепция «заслуженного статуса» рушится, уничтожая гордыню и расширяя границы сострадания.
В качестве примера Брегман приводит квакеров, сыгравших ключевую роль в отмене рабства. Они верили во «внутренний свет» в каждом человеке. Историк критикует современные правые движения, которые заставляют людей сужать круг сострадания до своих племен и границ, утверждая, будто любовь — это дефицитный ресурс. Брегман настаивает на обратном: истинные реформаторы и патриоты, такие как британские аболиционисты или борцы за гражданские права в США, расширяли этот круг, делая свои страны великими.
Спикер признается, что с годами потерял интерес к спорам между верующими и атеистами, склонившись к глубокому агностицизму и благоговению перед тайнами мира. Главным критерием для него остаются дела человека, а не его догмы. Брегман убежден, что современная американская демократия сломана из-за колоссального влияния денег миллиардеров:
«То, что Илон Маск может влить сотни миллионов долларов в предвыборную кампанию и диктовать условия, стало нормой, хотя это абсолютно неприемлемо».
При этом опросы показывают, что абсолютное большинство людей приходит в ужас, когда узнает, какая безграничная власть над исходом технологической гонки сосредоточена в руках нескольких генеральных директоров ИТ-компаний.
⚔️ Дебаты в Стенфорде: между бездной и изобилием 27:49
После основной лекции последовала оживленная сессия вопросов и ответов с аудиторией, в которой приняли участие студенты и известные ученые.
Магистрантка отделения журналистики Кензи Посси спросила, как убедить рядовых пользователей отказаться от ИИ, если технологии облегчают им тяжелую повседневную жизнь и долгие поездки на работу. Брегман ответил, что лидеры ИТ-индустрии вроде Сэма Альтмана продвигают слишком поверхностное понимание свободы как «права индивидуального потребительского выбора» (например, права использовать ИИ-компаньонов или порнографию). Настоящая же свобода, по мнению историка, уходит корнями в античные идеалы гражданства и заключается в коллективной возможности решать, какое общество мы хотим построить и в каких сферах технологиям нужно сказать твердое «нет».
Специалист по искусственному интеллекту из компании Google Фред Мондрагон озвучил позицию футуристов, которые верят в наступление эпохи изобилия. Согласно их взглядам, миллиарды ИИ-роботов возьмут на себя заботу о пожилых людях, медицину и производство. На это Брегман возразил, что подобные прогнозы звучат уже сотню лет. Сто лет назад экономист Джон Мейнард Кейнс предсказывал 15-часовую рабочую неделю к 2030 году. Однако, как показал социолог Роберт Патнэм в книге «Боулинг в одиночку», освободившееся время американцы потратили на просмотр телевизора. Брегман опасается, что высвобожденное роботами время граждан будет просто поглощено индустрией цифровой зависимости.
В дискуссию вступил присутствовавший в зале Стюарт Рассел, профессор компьютерных наук из Беркли. На вопрос ведущей, ближе ли мы сейчас к изобилию или к бездне, Рассел ответил категорично:
«Мы гораздо ближе к бездне. Даже руководители технологических компаний признают, что знают, как создать AGI (сильный искусственный интеллект), но понятия не имеют, как его контролировать».
Профессор Рассел добавил, что в Кремниевой долине существует влиятельная фракция, которая считает правильным исход, при котором человечество уступит контроль над планетой машинам. Он вспомнил интервью миллиардера Питера Тиля газете New York Times, в котором тому потребовалось около семи секунд мучительной паузы, чтобы просто ответить: «Ну, думаю, да», на вопрос, должно ли человечество выжить.
Рассел привел слова главы ИИ-лаборатории Anthropic Дарио Амодеи, который открыто оценивает вероятность гибели человечества от создаваемых им технологий в 10–25%. По мнению Рассела, это эквивалентно игре в русскую рулетку со всем человечеством, на которую разработчикам никто не давал разрешения.
🇪🇺 Моральные амбиции против технологического фатализма 41:03
Часть аудитории высказала скепсис относительно масштабов угрозы. Предприниматель Джеральд Валука заявил, что ИИ пока не справляется даже с простыми головоломками, а все разговоры об опасности сильного ИИ — это очередной раздутый инвесторами пузырь. Брегман парировал это аналогией с электричеством: после его изобретения в XIX веке потребовалось около 30 лет, чтобы заводы перестроились и технология отразилась на росте производительности. Даже если развитие ИИ остановится сегодня, накопленный потенциал уже революционен.
Один из исследователей Стенфорда, Джим, предположил, что технологические лидеры назвали бы Брегмана обычным луддитом, мешающим прогрессу. Историк неожиданно согласился с этим ярлыком:
«Я думаю, что луддиты на самом деле были правы. Экономические историки подтверждают, что плоды промышленной революции начали доходить до обычных граждан только к концу девятнадцатого века. До этого машины лишь лишали мастеров заработка и ухудшали их положение».
Профессор Стенфорда и лауреат Нобелевской премии по экономике Гвидо Имбенс затронул тему различий в регулировании технологий в США и Европе. Брегман с иронией отозвался о европейском подходе:
«Европа с гордостью анонсировала свой Закон об ИИ (AI Act), но у нас нет ни одной заметной ИИ-компании. Мы стали экспертами в регулировании отраслей, которых у нас не существует. Это грустно».
По оценке Брегмана, в США мораль оказалась вне закона из-за диктата рынка, а в Европе вне закона оказалась амбициозность. Миру же необходимы «моральные амбиции» — стремление использовать талант и привилегии ради решения великих вызовов. Историк выразил сожаление, что университеты уровня Стенфорда превратились в «Бермудский треугольник талантов», где лучшие выпускники затягиваются скучной работой в консалтинговых фирмах, корпоративном праве или рекламе технологических гигантов.
В завершение встречи, отвечая на вопрос аспирантки-медика Эмили Шеффы о разграничении полезного ИИ (например, для ранней диагностики рака на МРТ) от вредного, Брегман отшутился, подчеркнув очевидность критериев: подсаживать миллионы людей на алгоритмы и доводить подростков до депрессии — это очевидное зло, а лечить рак — абсолютное благо. Историк подытожил, что вера в фундаментальную порядочность людей обязывает нас проектировать институты, города и законы, которые будут защищать человеческое внимание и достоинство от разрушительного влияния неуправляемых машин.
