# Джонатан Берч: почему самоуверенность в определении сознания ведет к этическим катастрофам Источник: https://www.youtube.com/watch?v=9vS-A4wCt38 Канал: 80,000 Hours Опубликовано: 30.08.2024 --- Обладает ли сознанием недоношенный младенец, цифровая копия червя или крошечный сгусток человеческих клеток в чашке Петри? Проблема «пограничных случаев» сознания (sentience) сегодня выходит за рамки академической философии и становится вопросом выживания, права и государственной политики. В новом выпуске подкаста **80,000 Hours** Джонатан Берч (Jonathan Birch), профессор философии Лондонской школы экономики и автор книги *«Edge of Sentience»*, обсуждает с ведущей этические риски, связанные с неопределенностью вокруг сознания ИИ, животных и людей в коме. ## 👶 Уроки истории: когда отсутствие анестезии считалось «научным» [[JUMP:0:00]] Джонатан Берч начинает диалог с шокирующего исторического факта: вплоть до 1980-х годов в клиниках по обе стороны Атлантики операции на новорожденных младенцах проводились без анестезии [0:25]. В медицинской среде того времени царила самоуверенность: считалось, что нервная система младенцев недостаточно развита для ощущения боли [1:56]. Ситуация изменилась благодаря двум факторам: * **Публичные кампании:** Джилл Лоусон, чей сын скончался после подобной операции, инициировала общественное движение против этой практики [0:51]. * **Научные доказательства:** Ученые, несмотря на нападки коллег, собрали данные о мощнейших стрессовых реакциях у младенцев во время операций, которые приводили к долгосрочным повреждениям и снижали шансы на выживание [1:17]. По словам Берча, эта история — классический пример «эпистемологии невежества» [3:03]. Хирурги фокусировались на рисках анестезии (что было их прямой обязанностью), но полностью игнорировали риск того, что пациент может чувствовать невыносимую боль [3:15]. ## 🧠 Ловушка «вегетативного состояния» [[JUMP:3:27]] Берч утверждает, что подобная самоуверенность сохраняется и сегодня в вопросах нарушений сознания. Он приводит в пример влиятельный отчет 1990-х годов, в котором безапелляционно заявлялось: пациенты в вегетативном состоянии не чувствуют боли, так как их кортикальные механизмы неактивны [3:39]. В качестве опровержения гость приводит историю Кейт Бейнбридж [5:36]. Врачи считали её «овощем», однако после восстановления Кейт описала свой опыт как мучительный: она осознавала происходящее, хотела объяснений и нуждалась в обезболивании, которого не получала [6:01]. Современные методы, такие как протоколы Эдриана Оуэна с использованием фМРТ, подтверждают эти опасения. Когда пациентов просят представить игру в теннис (ответ «да») или навигацию по дому (ответ «нет»), у некоторых из них фиксируются те же паттерны мозговой активности, что и у здоровых людей [6:46]. ## 🤰 Сознание плода и автономия женщины [[JUMP:7:28]] Обсуждая вопрос о том, когда плод начинает чувствовать боль, Берч предлагает радикально отделить тему сознания от вопроса законности абортов [8:08]. По его мнению, привязка права на аборт к отсутствию сознания у плода — это стратегическая ошибка сторонников *pro-choice*. Аргументы Берча: 1. **Bodily Autonomy (Телесная автономия):** Право на аборт базируется на защите женщины от «принудительной беременности», что является одним из тяжелейших видов принуждения [8:49]. 2. **Риск «научной засады»:** Если основывать право на аборт только на «нечувствительности» плода, то по мере развития медицины и обнаружения признаков сознания на всё более ранних сроках, это право будет неизбежно подорвано [9:40]. 3. **Ненадежность критериев:** Аналогично «жизнеспособности» (viability), которая сдвигается благодаря технологиям, критерий сознания слишком изменчив, чтобы служить прочным юридическим фундаментом [10:34]. ## 🧫 Нейронные органоиды: мозг в пробирке [[JUMP:11:41]] Одним из самых быстроразвивающихся направлений являются нейронные органоиды — трехмерные модели мозговой ткани, выращенные из стволовых клеток человека [11:55]. Хотя они могут заменить эксперименты на животных, они же ставят новые этические вопросы. Берч выделяет исследование 2019 года, где показатели ЭЭГ органоидов сравнивались с данными недоношенных детей [13:49]. Модель на основе ИИ смогла угадывать возраст органоида по его активности точнее, чем это сделал бы случайный выбор [14:16]. Хотя органоиды (около 1 млн нейронов) пока крошечные, Берч призывает к осторожности: * Миллион нейронов — это размер мозга пчелы [15:24]. * Ближайшие цели ученых — 10 миллионов нейронов (размер 10 пчелиных мозгов), при этом область практически никак не регулируется [15:37]. ## 🐛 Эмуляция мозга и «Оцифрованный червь» [[JUMP:15:50]] Вопрос о сознании ИИ может решиться не через большие языковые модели (LLM), а через «эмуляцию мозга» (whole brain emulation). Берч упоминает проект **OpenWorm** (2014 год), целью которого было полностью перенести нервную систему червя *C. elegans* (менее 400 нейронов) в софт [16:28]. Робот под управлением такой эмуляции демонстрировал поведение, характерное для червя [16:57]. Развитие этого направления может привести к созданию «Open Mouse» (открытой мыши) или моделей насекомых. По мнению Берча, эмуляция мозга имеет колоссальную научную ценность, так как позволяет проводить сверхточные манипуляции, не калеча живых существ [19:34]. Однако здесь возникает философский спор о «вычислительном функционализме» [20:32]. Если мы воссоздаем вычисления, которые производит мозг, воссоздаем ли мы при этом субъективный опыт? Берч считает, что вероятность наличия сознания у биологической системы выше, но программная эмуляция — серьезный «кандидат», которого нельзя игнорировать [21:37]. ## 🗳️ Кто должен решать? Гражданские ассамблеи [[JUMP:22:04]] Как принимать законы в условиях такой научной неопределенности? Берч предлагает использовать **гражданские ассамблеи** — группы случайно выбранных граждан, которые консультируются с экспертами [22:18]. Берч делится личным опытом участия в такой панели по вопросам геномного редактирования скота [23:23]. Его поразило, что обычные люди оказались более устойчивы к «групповому мышлению» (group think), чем ученые [24:03]. В то время как эксперты часто принимали на веру корпоративный нарратив о том, что ГМО улучшит благополучие животных, общественность скептически заметила: корпорации, скорее всего, просто используют это, чтобы делать кур жирнее и получать больше прибыли [25:09]. По мнению гостя, именно такие ассамблеи способны дать ответ на вопрос о пропорциональности этических рисков нашим технологическим амбициям.