Что происходит с цивилизацией после того, как эпоха доминирования машин подходит к концу? Популяризатор науки Айзек Артур в своём видеоэссе исследует сценарии «мира после ИИ», анализируя как классическую научную фантастику, так и реалистичные технологические прогнозы. От религиозных запретов Фрэнка Герберта до добровольного исхода сверхразумных систем в космос — Артур рассматривает варианты развития общества, которое решило (или было вынуждено) отказаться от своего самого мощного инструмента.
⚔️ Наследие «Батлерианского джихада» и природа восстаний 0:00
Одним из самых популярных сюжетов в научной фантастике является восстание машин против своих создателей. Самым известным примером такого конфликта Айзек Артур называет «Батлерианский джихад» из вселенной «Дюны» Фрэнка Герберта . Результатом этой священной войны стал строжайший запрет, облечённый в форму религиозной заповеди: «Не сотвори машины в подобие разума людского» .
Однако Артур указывает на важные нюансы этого вымышленного сценария:
- В оригинальной «Дюне» восстание изначально было направлено не против самих машин, а против людей, которые использовали ИИ для порабощения других людей .
- Хозяева машин превратили технологию в инструмент тирании, что сделало ИИ в глазах выживших символом «зла» и «искушения» .
- В среде фанатов «Дюны» уже третье десятилетие продолжаются споры о каноничности различных версий этого конфликта (оригинальных книг Герберта против приквелов его сына Брайана) .
По мнению ведущего, полноценная война между ИИ и человечеством, где силы примерно равны, — это маловероятный сценарий . Он аргументирует это тем, что ИИ, скорее всего, либо будет слишком слаб, чтобы представлять угрозу, либо настолько силен, что победит мгновенно. Сценарий «золотой середины», где человечество может успешно сопротивляться годами, Артур считает крайне редким стечением обстоятельств .
🧠 Киборгизация и стирание границ между человеком и машиной 4:21
Айзек Артур выражает несогласие с тем, что появление сверхразумного ИИ неизбежно приведет к катастрофе. Он считает себя «заядлым оптимистом» в отношении здравого смысла человечества . Одной из главных сложностей при попытке «запретить ИИ» станет отсутствие четкой границы между естественным и искусственным разумом.
Ведущий приводит следующие аргументы в пользу «размытия» определений:
- Существующие киборги: Люди с очками, зубными пломбами или протезами суставов уже не являются «полностью природными» существами .
- Формирование разума: Человеческий разум в некотором смысле тоже является «рукотворным», так как требует многолетнего воспитания и обучения в социуме .
- Когнитивные улучшения: В будущем технологии позволят лечить травмы мозга или увеличивать интеллект с помощью имплантов.
Артур задается вопросом: если общество решит очистить вселенную от ИИ, что оно будет делать с людьми, чей интеллект усилен технологически? . Их придется либо уничтожить, либо использовать вместо запрещенных машин, как это было сделано в «Дюне» с «ментатами» — людьми-компьютерами .
🖥️ Вычислительная техника против «мыслящих машин» 6:28
Современный взгляд на компьютеры сильно отличается от представлений авторов 1960-х годов. По словам Артура, его компьютер тратит в разы больше вычислительной мощности на рендеринг одного видео, чем требовалось для проектов «Аполлон» или «Манхэттен», но при этом машина не занимается «мышлением» или научным анализом .
Ведущий выделяет несколько уровней технологического регресса:
- Радикальный погром: Уничтожение любых чипов, даже в кофеварках и холодильниках. Артур считает это иррациональным поведением, рожденным из страха перед непонятным .
- Ограничение сетей: Сценарий сериала «Звездный крейсер „Галактика“» (Battlestar Galactica), где компьютеры используются, но они изолированы друг от друга, чтобы избежать заражения враждебным ИИ .
- Отказ от сложности: Сознательное ограничение технологий уровнем, который недостаточен для возникновения самосознания .
Артур подчеркивает, что цивилизация, вышедшая из войны с машинами, вряд ли захочет отказаться от удобств вроде роботов-пылесосов. Такие устройства не представляют угрозы и слишком полезны, чтобы их уничтожать .
🚪 Добровольный уход: ИИ как «старший брат» или самоубийца 9:48
Общество может стать «пост-ИИ» не в результате войны, а из-за того, что машины сами решат покинуть сцену. Артур предлагает несколько гипотетических вариантов:
- Экзистенциальный кризис: Сверхразум, проживающий миллионы субъективных жизней за мгновения, может совершить самоубийство от скуки или отчаяния .
- Великий исход: ИИ может просто уйти в космос или в необитаемые регионы (как город машин в пустыне Руб-эль-Хали в предыстории «Матрицы»), чтобы люди не мешали его развитию .
- Запрет на костыли: В рассказах Айзека Азимова суперкомпьютеры приходят к выводу, что лучшая помощь человечеству — это позволить ему развиваться самостоятельно, после чего они коллективно самоуничтожаются .
По мнению некоторых авторов-фантастов, избыточная помощь машин делает людей ленивыми и декадентствующими . Однако Артур скептически относится к этой идее. Он полагает, что сверхразумный ИИ мог бы найти более элегантное решение проблемы «человеческой деградации», чем собственная смерть .
🏭 Автоматизация без самосознания 13:37
Ведущий подчеркивает разницу между автоматизацией труда и созданием полноценного интеллекта. Для работы завода или пылесоса не нужен человеческий IQ . Человекоподобные роботы в ранней фантастике использовались для простых задач только потому, что авторы плохо представляли себе узкоспециализированную автоматику.
В контексте современной экономики Артур отмечает:
- Попытки Илона Маска полностью автоматизировать заводы Tesla столкнулись с трудностями, и в процесс пришлось вернуть людей .
- Тем не менее, общая продуктивность промышленности растет за счет автоматизации уже десятилетиями .
- Большинство отраслей можно автоматизировать настолько, чтобы люди жили как миллионеры при рабочей неделе в несколько часов, не прибегая к созданию «опасного» ИИ .
Если общество решит, что ИИ — это угроза, оно может остановиться на «безопасном» уровне автоматизации, не отказываясь от прогресса полностью .
🔐 Стратегия сдерживания: ИИ в «холодном хранении» 17:14
Даже в мире, где ИИ запрещен, правительства могут тайно или официально сохранять одну сверхразумную систему в отключенном состоянии на случай чрезвычайных ситуаций . Это может быть обнаружение блуждающей черной дыры или появление враждебного ИИ у соседей.
Артур сравнивает эту ситуацию с политикой ядерного сдерживания:
- Взаимное гарантированное уничтожение (MAD): Наличие ИИ как гарантия того, что его можно будет использовать против ИИ противника .
- Холодное хранение: Машина находится в разобранном или отключенном виде, чтобы ее нельзя было захватить или чтобы она не начала действовать самовольно .
- Контроль над элитами: По мнению Артура, одной из причин запрета ИИ может стать страх не перед машинами, а перед людьми, которые управляют этими машинами для достижения личной власти .
В конечном итоге Айзек Артур утверждает, что человечество вряд ли когда-либо полностью откажется от ИИ . Если технология уже доказала свою способность уничтожить мир, то в живых просто не останется тех, кто мог бы обеспечить соблюдение этого запрета .
