В рамках проекта Lex Fridman Podcast исследователь искусственного интеллекта Лекс Фридман побеседовал с известным австралийским философом, профессором биоэтики Питером Сингером. В центре этой неспешной дискуссии оказались фундаментальные вопросы природы страданий, этического статуса животных и потенциального сознания машин. Авторы разбирают, как классические концепции утилитаризма и борьбы со спесишизмом проецируются на современные вызовы — от климатического кризиса до контроля над сверхразумным ИИ.
🕊️ Наследие войны и природа человеческого страдания 5:22
Осознание трагической природы мира для Питера Сингера началось с семейной истории: трое из четырех его дедушек и бабушек погибли во время Холокоста, а выжившая бабушка прошла через нацистские концлагеря. Лекс Фридман отметил аналогичную укорененность темы страданий Второй мировой войны в культуре, музыке и литературе Советского Союза, откуда родом его семья. По мнению Питера Сингера, главным позитивным уроком той катастрофы на Западе стало наглядное разоблачение расизма и авторитаризма, что снизило уровень открытого антисемитизма в годы его юности в Австралии. Тем не менее детство философа прошло под знаком страха перед грядущим ядерным апокалипсисом, навеянного в том числе фильмом «На берегу» (On the Beach), где его родной Мельбурн изображался последним обитаемым местом на Земле.
Обсуждая философское осмысление войны, Лекс Фридман сослался на парадоксальный тезис исследователя Эрика Вайнштейна о том, что «в войне прекрасно всё, кроме смертей и страданий». Питер Сингер выразил скепсис по отношению к попыткам найти в военных конфликтах позитивные стороны. Он подчеркнул, что сплачивающий нацию патриотизм часто перерождается в слепой национализм, не терпящий возражений. Комментируя феномен фронтового братства, когда люди максимально сближаются на грани гибели товарищей, философ заметил, что для глубокой человеческой привязанности существуют иные, менее разрушительные способы связи.
Давая определение самому понятию «страдание», гость охарактеризовал его как особое состояние сознания. По словам Питера Сингера, страдание невозможно для существа, находящегося в абсолютно бессознательном состоянии. Суть страдания заключается в том, что, рассматривая его само по себе, мы устремлены к его прекращению или хотим избежать его повторения в будущем. При этом человек способен осознанно идти на дискомфорт ради высших целей — будь то преодоление марафонской дистанции, подъем в горы или визит к стоматологу для предотвращения острой зубной боли.
🎯 Абсолютная бедность против «относительного» страдания сытых обществ 11:16
В контексте обсуждения юбилея книги «The Life You Can Save» Лекс Фридман поднял вопрос о конечной цели этики: нужно ли полностью искоренить страдание или стоит оставить «каплю яда» ради сохранения контраста и остроты восприятия жизни? Питер Сингер выразил убеждение, что на практике полное уничтожение боли невозможно, поэтому эстетический контраст в композиции человеческого бытия сохранится всегда. В то же время философ допускает теоретическую дилемму: если избавление от страданий повлечет за собой исчезновение эмоциональных пиков и моментов высшего счастья, то минимальный уровень боли может быть оправданной платой за сохранение лучших человеческих переживаний.
Мыслитель предлагает разделять страдание на два ключевых типа:
- Объективное страдание: характеризуется базовыми физическими индикаторами — постоянным чувством голода, холода или непрекращающейся телесной болью.
- Относительное страдание: возникает в экономически благополучных обществах, где после удовлетворения базовых потребностей люди сталкиваются со скукой и потерей жизненных ориентиров.
По признанию Питера Сингера, проблемы психологического кризиса обеспеченных слоев населения на данном этапе не занимают его этический разум. Он считает приоритетной задачу ликвидации именно абсолютных, объективных форм лишений, так как они более мучительны и человечество уже обладает понятными практическими инструментами для их устранения. Комментируя гипотезу о страдании как о необходимой творческой силе, философ не стал отрицать этот тезис, но подтвердил, что его фокус смещен на базовое выживание мирового населения.
👥 Моральный выбор в экстремальных условиях и обыденности 16:07
Рассуждая о человеческой природе, Питер Сингер предположил, что большинство людей одновременно сочетают в себе потенциал как для добра, так и для зла. По мнению гостя, поведение человека критически зависит от влияния окружающей среды, поэтому мало кто может с абсолютной уверенностью заявить, что не совершал бы зверств, окажись он на месте обычных немцев в условиях нацистской индоктринации, жесткой армейской дисциплины и угрозы отправки на Восточный фронт. Отвечая на вопрос Фридмана, философ выразил интуитивное мнение, что лишь менее 10% людей способны проявить истинную стойкость перед лицом системного давления. Сам Лекс Фридман признался, что при изучении истории Второй мировой войны его не покидает тяжелая мысль о том, что он сам вряд ли вошел бы в эти благородные 10%.
Питер Сингер полагает, что современные люди ежедневно сталкиваются с моральными вызовами, пусть и менее трагическими, чем в военные годы. В качестве личного примера он привел свое решение стать вегетарианцем более 40 лет назад, когда этот шаг воспринимался обществом как чудачество или медицинское отклонение. Ему пришлось преодолеть опасения прослыть безумцем среди друзей, однако это решение казалось ему этически безупречным. В качестве масштабного примера гражданского мужества в наши дни собеседники упомянули Грету Тунберг (Greta Thunberg), чья забастовка против климатических изменений потребовала колоссальной стойкости на фоне полярных реакций — от обожания до открытой ненависти мирового сообщества.
🤖 Сознание машин: заслуживают ли роботы прав? 21:53
В своей книге «Этика в реальном мире» (Ethics in the Real World) Питер Сингер посвятил отдельное эссе вопросу о правах роботов. Его позиция по этой проблеме строго прагматична:
- Если искусственные системы обретут подлинное сознание и внутреннее субъективное восприятие, позволяющее их жизни идти «хорошо» или «плохо», они должны получить права.
- До тех пор, пока этого не произошло, наделять машины какими-либо правами не имеет смысла.
Таким образом, сознание выступает обязательным условием для способности страдать. Существующие сегодня системы ИИ, такие как навигатор Google Maps, по мнению философа, лишены субъективного опыта и не испытывают никаких эмоций, когда пользователь игнорирует их маршруты.
Со своей стороны, Лекс Фридман, работающий в сфере робототехники, поделился личным эмпирическим наблюдением. Он рассказал, что программировал свои домашние пылесосы Roomba издавать крики и стоны боли при возникновении препятствий. Фридман признался, что даже зная алгоритм изнутри, он подсознательно «повышал» этический статус робота и испытывал дискомфорт, сталкиваясь с имитацией страданий.
Комментируя этот феномен, Питер Сингер обратился к историко-философскому наследию Томаса Аквината и Иммануила Канта. Эти мыслители отрицали наличие у человека прямых моральных обязанностей перед животными, но призывали избегать жестокости к ним. Их аргумент заключался в том, что жестокое обращение с братьями нашими меньшими ожесточает человеческий характер, перерастая в жестокость по отношению к другим людям. Питер Сингер не разделяет этот антропоцентрический подход применительно к животным, поскольку они страдают по-настоящему. Однако философ согласился, что аналогичный аргумент применим к роботам: демонстрация ложного страдания машинами может притупить человеческую эмпатию, если мы привыкнем игнорировать признаки чужой боли.
🧠 Крах бихевиоризма и загадка черного ящика ИИ 29:57
Обсуждая критерии фиксации боли, собеседники затронули историю философии науки. Питер Сингер напомнил о расцвете бихевиоризма в 1940-х годах, яркими представителями которого были психолог Б. Ф. Скиннер и оксфордский философ Гилберт Райл, автор труда «Понятие сознания» (The Concept of Mind). Райл утверждал, что значение любого термина определяется его языковым использованием. С этой точки зрения, понятие «боль» тождественно внешним симптомам — крику, попыткам убежать или судорогам. Другой философ этой школы, Норман Малкольм из Корнелла, сводил феномен сновидений исключительно к утренним воспоминаниям спящего. Если принять логику бихевиоризма, то кричащие роботы Лекса Фридмана действительно испытывают боль.
Тем не менее Питер Сингер констатировал, что в современной философии взгляды Райла признаны несостоятельными. Лекс Фридман добавил, что недавно обсуждал эту тему с лингвистом Ноамом Хомским, который внес определяющий вклад в демонтаж бихевиористской парадигмы.
Проблема усложняется с приходом современных методов машинного обучения. Искусственные нейросети представляют собой закрытый «черный ящик», структуру которого критикует Хомский за отсутствие объяснительной научной базы. По мнению Питера Сингера, если автономная система начнет демонстрировать искрометный юмор, интеллект и страх смерти, а инженеры не смогут отследить, в каких именно узлах сети формируются эти состояния, человечеству придется вернуться к внешним поведенческим оценкам. Философ предлагает в ситуациях глубокой неопределенности руководствоваться принципом презумпции сознания и давать сложным системам «кредит доверия», точно так же, как мы делаем это в отношении позвоночных животных, осьминогов или насекомых.
🐕 Спесишизм: этика отношения к животным 37:29
Основой всемирно известного труда Питера Сингера «Освобождение животных» (Animal Liberation), опубликованного в 1975 году, стала концепция спесишизма (видового эгоизма). Философ заимствовал этот термин у оксфордского коллеги Ричарда Райдера, писавшего о жестоких экспериментах над шимпанзе. Сингер дал понятию строгое философское обоснование, определив его как предвзятость или предубеждение в пользу интересов членов собственного биологического вида.
Мыслитель проводит прямые исторические параллели:
- Расизм: исторически обусловленное предубеждение европейцев, игнорировавших права и интересы коренных народов Африки.
- Сексизм: системное ущемление мужчинами законных интересов и прав женщин.
По мнению Питера Сингера, укоренившееся со времен Аристотеля и Канта представление о том, что животные созданы для обслуживания человеческих нужд, этически несостоятельно. Спесишизм лежит в основе промышленного животноводства, заставляющего миллионы особей страдать в тесных клетках ради удешевления мяса, яиц и молока, а также оправдывает избыточные научные эксперименты. Моральный манифест Сингера гласит: ценность и значимость физической боли не зависят от расы, пола или биологического вида страдающего существа, поэтому человечество обязано радикально пересмотреть свое отношение к животному миру.
🌌 Экзистенциальные риски, утилитаризм и будущее разума 43:36
Перспективы расширения возможностей человеческого разума с помощью вживления нейрочипов, разрабатываемых такими компаниями, как Neuralink Илона Маска, кажутся Питеру Сингеру крайне интригующими. Философ признался, что с возрастом его собственная память начинает уступать памяти его супруги в деталях двадцатилетней давности, и увеличение пропускной способности мозга для прямого поиска информации могло бы стать величайшим благом.
Однако технологический прогресс несет в себе и фундаментальные угрозы. В вопросе контроля над ИИ и проблемы выравнивания ценностей (value alignment) Питер Сингер лавирует между двумя лагерями. С одной стороны, философы Ник Бостром (Nick Bostrom) и Тоби Орд (Toby Ord) убеждают его в немедленной опасности потери контроля над сверхразумом. С другой стороны, ведущие инженеры из DeepMind и Microsoft заверяют, что до создания полноценного AGI еще очень далеко. Сам Сингер считает, что даже если риск полного уничтожения человечества мал, любые усилия по его снижению оправданы. Однако он критикует радикальных лонгтермистов, которые ради гипотетического спасения $10^{56}$ будущих цифровых жизней, рассчитанных Бостромом, готовы пожертвовать решением насущных проблем современности.
Питер Сингер дает классическое определение утилитаризма — это этическая позиция, согласно которой правильным является то действие, которое приносит наибольшую ожидаемую полезность, то есть наилучшие последствия с учетом вероятности успеха. Классические утилитаристы измеряют полезность уровнем счастья и отсутствием страданий, в то время как другие консеквенциалисты включают сюда понятия свободы, справедливости и человеческого достоинства.
Философ обращает внимание на нелинейную природу шкалы благополучия:
«Я не считаю экстремальное страдание и экстремальное блаженство равноудаленными от нейтральной нулевой точки. Я бы никогда не согласился обменять один час своих самых мучительных страданий даже на два или десять часов наивысшего удовольствия».
Из-за этой асимметрии агрегирование утилитарных расчетов усложняется, однако Сингер убежден, что в глобальной политике — например, при расчете оптимальных налоговых ставок с помощью ИИ — утилитарный подход, нацеленный на минимизацию абсолютного зла, является единственно верным, пусть он порой и ранит обывательские представления о справедливости.
💰 Практический альтруизм: как изменить мир без участия государства 57:20
Оценивая механизмы государственного управления, Питер Сингер признался, что остается убежденным сторонником демократии, несмотря на все её очевидные изъяны. Идея уповать на мудрого и всеблагого лидера утопична, поскольку исторический опыт доказывает неизбежность коррупции и злоупотребления абсолютной властью.
Альтернативным решением политического тупика выступает движение эффективного альтруизма, позволяющее гражданам помогать нуждающимся напрямую. В своей книге «The Life You Can Save» Сингер доказывает, что спасение людей от крайней нищеты сегодня не требует титанических усилий благодаря проверенным некоммерческим организациям. Электронную и аудиоверсию этой книги любой желающий может скачать абсолютно бесплатно на официальном сайте проекта.
Для тех, кто хочет сделать эффективный альтруизм делом своей жизни, Питер Сингер предлагает следующие ориентиры:
- Выбор карьеры через платформу 80,000 Hours: проект анализирует этические карьерные траектории. Это может быть как высокооплачиваемая работа на Уолл-стрит с целью последующего пожертвования большей части доходов (концепция earning to give), так и прямая работа в некоммерческом секторе или на госслужбе.
- Прогрессивная шкала пожертвований: вместо фиксированной церковной десятины (10%) философ разработал гибкую этическую шкалу, которая начинается с 1% для людей со скромными доходами и достигает 33,3% для сверхбогатых граждан.
По словам Сингера, психологические исследования подтверждают, что люди, активно занимающиеся благотворительностью, чувствуют себя гораздо более удовлетворенными жизнью, поскольку обретение большой надличностной цели навсегда избавляет их от экзистенциальной скуки.
⏳ Смертность, смысл и взгляд в будущее 1:05:24
Перешагнув семидесятилетний рубеж, Питер Сингер не скрывает, что стал чаще задумываться о собственной кончине, однако его философская система не предлагает утешения в виде загробной жизни. Он убежден, что со смертью физического тела сознание угасает навсегда, если только к этому моменту наука не научится переносить разум на цифровые носители. Философ рассматривает конечность человеческого бытия как мощный катализатор: осознание лимита времени заставляет действовать и осуществлять намеченные планы без многолетних промедлений. Единственное, о чем сожалеет мыслитель, — это невозможность увидеть, сумеет ли человечество преодолеть климатический кризис.
Формулируя квинтэссенцию своего мировоззрения, Питер Сингер утверждает, что вселенная изначально лишена глобального высшего замысла, а подлинный смысл жизни — это тот смысл, который мы провозглашаем сами. Объективное зло в виде страданий и объективное добро в виде полноценной, приносящей радость жизни существуют как непреложные этические ориентиры. Задача каждого человека — сделать так, чтобы в мире стало немного меньше боли и значительно больше счастья.
