Бен Герцель: «То, что мы называем злом, — лишь побочный эффект эволюции»

Lex Fridman 17,2 тыс. 10 мин 4 мин 26.06.2020
Главное

В новом эпизоде Lex Fridman Podcast ведущий Лекс Фридман и известный исследователь искусственного интеллекта Бен Герцель погружаются в одну из самых глубоких философских дилемм: является ли человеческая природа по своей сути доброй или злой? Собеседники анализируют истоки морали через призму эволюционной биологии, личный опыт работы в развивающихся странах и крах политических утопий.

🧬 Эволюционные корни добра и зла 0:01

Бен Герцель утверждает, что у человеческого поведения нет единой, «чистой и элегантной» целевой функции . По его мнению, то, что мы привыкли называть добром и злом, является результатом сложного переплетения биологических механизмов, сформированных в ходе эволюции.

Ученый выделяет два ключевых фактора, влияющих на формирование человеческой психики:

Бен Герцель сравнивает людей с другими представителями фауны: если муравьи или пчелы максимально смещены в сторону группового отбора, а крупные кошачьи — в сторону индивидуального, то человек представляет собой «интересный баланс» этих двух начал . С этой точки зрения, «зло» в большинстве случаев — это просто проявление индивидуального эгоизма, а «добро» — форма альтруизма, направленная на благо племени .

🌍 Парадокс сострадания: от Аддис-Абебы до развитого мира 2:49

Рассуждая о морали, Бен Герцель подчеркивает, что человеческие ценности крайне специфичны и привязаны к эволюционной истории. Мы склонны заботиться о своих детях больше, чем о двоюродных братьях, и почти не думаем о четвероюродных родственниках .

В качестве примера ситуативности человеческой морали ученый приводит свой опыт работы в Эфиопии:

По мнению гостя, это не делает человека «чистым злом», но демонстрирует баланс между эгоизмом и альтруизмом, который каждый из нас находит для себя сам .

🧪 Ирония Айн Рэнд и долгоживущие мухи 4:47

В ходе беседы Лекс Фридман затронул тему объективизма Айн Рэнд, где эгоизм провозглашается высшей добродетелью . Бен Герцель признался, что испытывает к идеям Рэнд «чрезвычайно негативное уважение», и поделился курьезной историей из своей практики .

Работая с компанией Genescient, которая занималась искусственным отбором плодовых мушек для увеличения их продолжительности жизни, Герцель столкнулся с иронией судьбы. Популяция «супер-мух», живших в пять раз дольше обычных особей, физически содержалась в помещении, арендованном у начальной школы имени Айн Рэнд в Южной Калифорнии .

Бен Герцель считает это прекрасным примером того, что «у Вселенной есть чувство юмора», когда радикальные идеи об индивидуализме соседствуют с биологическими экспериментами по продлению жизни .

🚩 Крах марксизма и гибкость культуры 6:11

Обсуждая вопрос «природа против воспитания», Бен Герцель отмечает, что хотя биологический фундамент един для всех людей, культура может радикально менять его проявления. Он приводит в пример племя яномамо в Венесуэле, чья культура сосредоточена на межплеменных войнах, и противопоставляет им мирные племена каменного века, в которых насилие является строжайшим табу .

Ученый также вспомнил свои споры с прадедушкой и прабабушкой, которые были убежденными марксистами . Они верили в «отмирание государства»:

  1. Переход от капитализма к социализму, а затем к коммунизму.
  2. Трансформация человеческого сознания в сторону абсолютной социальности.
  3. Добровольное распределение ресурсов («от каждого по способностям, каждому по потребностям») без внешнего принуждения .

Будучи подростком, Бен Герцель относился к этим идеям скептически, считая, что «люди — просто придурки», и без государственной структуры они неизбежно будут эксплуатировать друг друга . Однако сейчас его позиция смягчилась. По мнению Герцеля, культурный аспект гораздо значимее, чем он думал раньше. Он полагает, что человеческое общество способно «настроиться» на гораздо более высокий уровень сострадания и осознанности, чем тот, что мы видим сегодня .

✨ Субъективное изобилие и радостное будущее 8:45

Бен Герцель высказывает мысль, что материальное изобилие во многом является вопросом субъективного восприятия. Некоторые культуры каменного века ощущали себя живущими в полном достатке, имея лишь воду, еду, социальные связи и природу, без всяких фабрик и заводов .

В завершение беседы гость и ведущий приходят к следующим выводам:

Несмотря на биологические ограничения, Бен Герцель сохраняет осторожный оптимизм относительно того, что культура и самоорганизация могут со временем перевесить врожденные эгоистичные драйверы нашей ДНК.

💬 Цитаты

«Многое из того, что мы считаем злом, — это на самом деле просто эгоизм. А то, что мы считаем добром, — это альтруизм, работа на благо племени.»

Бен Герцель 02:21

«Я думаю, человечество способно на фундаментально более позитивный и радостный режим социального существования, чем тот, что мы имеем сейчас.»

Бен Герцель 09:10
👥 Спикеры
🔗 Упомянутые сайты и проекты
📖 Термины
Групповой отбор
Эволюционный механизм, при котором естественный отбор действует на уровне групп организмов, способствуя развитию альтруистических качеств.
Целевая функция
Математическое выражение, которое необходимо максимизировать или минимизировать для решения задачи; в контексте ИИ — основная метрика успеха системы.
Яномамо
Группа индейских племен в лесах Амазонии, известных в антропологии своим высоким уровнем межплеменной агрессии.
📊 Цифры
⚖️ Другая сторона
Наука Бен Герцель Лекс Фридман эволюционная биология SingularityNET индивидуальный отбор