Обладает ли сознанием недоношенный младенец, цифровая копия червя или крошечный сгусток человеческих клеток в чашке Петри? Проблема «пограничных случаев» сознания (sentience) сегодня выходит за рамки академической философии и становится вопросом выживания, права и государственной политики.
В новом выпуске подкаста 80,000 Hours Джонатан Берч (Jonathan Birch), профессор философии Лондонской школы экономики и автор книги «Edge of Sentience», обсуждает с ведущей этические риски, связанные с неопределенностью вокруг сознания ИИ, животных и людей в коме.
👶 Уроки истории: когда отсутствие анестезии считалось «научным» 0:00
Джонатан Берч начинает диалог с шокирующего исторического факта: вплоть до 1980-х годов в клиниках по обе стороны Атлантики операции на новорожденных младенцах проводились без анестезии . В медицинской среде того времени царила самоуверенность: считалось, что нервная система младенцев недостаточно развита для ощущения боли .
Ситуация изменилась благодаря двум факторам:
- Публичные кампании: Джилл Лоусон, чей сын скончался после подобной операции, инициировала общественное движение против этой практики .
- Научные доказательства: Ученые, несмотря на нападки коллег, собрали данные о мощнейших стрессовых реакциях у младенцев во время операций, которые приводили к долгосрочным повреждениям и снижали шансы на выживание .
По словам Берча, эта история — классический пример «эпистемологии невежества» . Хирурги фокусировались на рисках анестезии (что было их прямой обязанностью), но полностью игнорировали риск того, что пациент может чувствовать невыносимую боль .
🧠 Ловушка «вегетативного состояния» 3:27
Берч утверждает, что подобная самоуверенность сохраняется и сегодня в вопросах нарушений сознания. Он приводит в пример влиятельный отчет 1990-х годов, в котором безапелляционно заявлялось: пациенты в вегетативном состоянии не чувствуют боли, так как их кортикальные механизмы неактивны .
В качестве опровержения гость приводит историю Кейт Бейнбридж . Врачи считали её «овощем», однако после восстановления Кейт описала свой опыт как мучительный: она осознавала происходящее, хотела объяснений и нуждалась в обезболивании, которого не получала .
Современные методы, такие как протоколы Эдриана Оуэна с использованием фМРТ, подтверждают эти опасения. Когда пациентов просят представить игру в теннис (ответ «да») или навигацию по дому (ответ «нет»), у некоторых из них фиксируются те же паттерны мозговой активности, что и у здоровых людей .
🤰 Сознание плода и автономия женщины 7:28
Обсуждая вопрос о том, когда плод начинает чувствовать боль, Берч предлагает радикально отделить тему сознания от вопроса законности абортов . По его мнению, привязка права на аборт к отсутствию сознания у плода — это стратегическая ошибка сторонников pro-choice.
Аргументы Берча:
- Bodily Autonomy (Телесная автономия): Право на аборт базируется на защите женщины от «принудительной беременности», что является одним из тяжелейших видов принуждения .
- Риск «научной засады»: Если основывать право на аборт только на «нечувствительности» плода, то по мере развития медицины и обнаружения признаков сознания на всё более ранних сроках, это право будет неизбежно подорвано .
- Ненадежность критериев: Аналогично «жизнеспособности» (viability), которая сдвигается благодаря технологиям, критерий сознания слишком изменчив, чтобы служить прочным юридическим фундаментом .
🧫 Нейронные органоиды: мозг в пробирке 11:41
Одним из самых быстроразвивающихся направлений являются нейронные органоиды — трехмерные модели мозговой ткани, выращенные из стволовых клеток человека . Хотя они могут заменить эксперименты на животных, они же ставят новые этические вопросы.
Берч выделяет исследование 2019 года, где показатели ЭЭГ органоидов сравнивались с данными недоношенных детей . Модель на основе ИИ смогла угадывать возраст органоида по его активности точнее, чем это сделал бы случайный выбор .
Хотя органоиды (около 1 млн нейронов) пока крошечные, Берч призывает к осторожности:
- Миллион нейронов — это размер мозга пчелы .
- Ближайшие цели ученых — 10 миллионов нейронов (размер 10 пчелиных мозгов), при этом область практически никак не регулируется .
🐛 Эмуляция мозга и «Оцифрованный червь» 15:50
Вопрос о сознании ИИ может решиться не через большие языковые модели (LLM), а через «эмуляцию мозга» (whole brain emulation). Берч упоминает проект OpenWorm (2014 год), целью которого было полностью перенести нервную систему червя C. elegans (менее 400 нейронов) в софт . Робот под управлением такой эмуляции демонстрировал поведение, характерное для червя .
Развитие этого направления может привести к созданию «Open Mouse» (открытой мыши) или моделей насекомых. По мнению Берча, эмуляция мозга имеет колоссальную научную ценность, так как позволяет проводить сверхточные манипуляции, не калеча живых существ .
Однако здесь возникает философский спор о «вычислительном функционализме» . Если мы воссоздаем вычисления, которые производит мозг, воссоздаем ли мы при этом субъективный опыт? Берч считает, что вероятность наличия сознания у биологической системы выше, но программная эмуляция — серьезный «кандидат», которого нельзя игнорировать .
🗳️ Кто должен решать? Гражданские ассамблеи 22:04
Как принимать законы в условиях такой научной неопределенности? Берч предлагает использовать гражданские ассамблеи — группы случайно выбранных граждан, которые консультируются с экспертами .
Берч делится личным опытом участия в такой панели по вопросам геномного редактирования скота . Его поразило, что обычные люди оказались более устойчивы к «групповому мышлению» (group think), чем ученые . В то время как эксперты часто принимали на веру корпоративный нарратив о том, что ГМО улучшит благополучие животных, общественность скептически заметила: корпорации, скорее всего, просто используют это, чтобы делать кур жирнее и получать больше прибыли .
По мнению гостя, именно такие ассамблеи способны дать ответ на вопрос о пропорциональности этических рисков нашим технологическим амбициям.
