Взаимодействие человека и машины вступает в новую фазу: от простых инструментов мы переходим к полноценному командному сотрудничеству с искусственным интеллектом. Известный футуролог Айзек Артур в своем выступлении для Лаборатории Линкольна MIT анализирует, как ИИ изменит наше общество, работу и само определение человечности, и почему «невидимые» технологии могут быть одновременно и идеалом, и этической ловушкой.
🤖 Природа ИИ и концепция «невидимой» технологии 1:44
Айзек Артур начинает с провокационного тезиса: термин «искусственный интеллект» (ИИ), возможно, не самый удачный. По мнению автора, человеческий интеллект в современном мире сам по себе является «искусственным», так как разум современного человека — это продукт многолетних инвестиций времени и энергии общества в обучение и воспитание . С развитием технологий дополнения разума грань между естественным и машинным станет еще более размытой .
Существует три концептуальных пути создания ИИ:
- Полное программирование каждой строки кода.
- Создание самообучающихся машин.
- Цифровое копирование (загрузка) существующего разума — человека или животного .
Важным аспектом является восприятие технологии пользователем. Айзек Артур подчеркивает, что идеальная машина часто является «невидимой» — она выполняет свою работу настолько эффективно, что человек перестает ее замечать . Однако он также ссылается на альтернативную точку зрения, согласно которой невидимая технология является неэтичной, поскольку скрывает механизмы своего влияния на пользователя .
В контексте командной работы (Human-Machine Teaming) автор определяет этот процесс как взаимодействие одного или нескольких людей с одной или несколькими машинами для выполнения задач . Главный вопрос здесь: в какой момент инструмент (как нож или калькулятор) превращается в полноценного напарника? .
🦾 Миф об андроидах и наследие Айзека Азимова 5:26
Классический образ человекоподобного робота, популяризированный Айзеком Азимовым, Айзек Артур считает наименее вероятным сценарием развития будущего, хотя и очень полезным для анализа . Идея андроидов-слуг мгновенно порождает страх восстания машин, что в литературе привело к созданию «Трех законов роботехники» .
Основные проблемы реализации таких правил:
- Сложность определения вреда: Машина должна понимать контекст и мораль, чтобы распознать, когда человеку угрожает опасность .
- Проблема вагонетки: В критических ситуациях (например, при управлении беспилотным авто) ИИ придется выбирать между несколькими плохими вариантами, оценивая погрешности и риски .
- Избыточность интеллекта: Чтобы быть эффективным андроидом, робот должен обладать интеллектом человеческого уровня, но, как утверждает Артур, человеческий интеллект — это как раз тот тип ИИ, в котором мы нуждаемся меньше всего, так как в мире и так нет недостатка в людях .
Айзек Артур отмечает, что Азимов оправдывал человекоподобную форму роботов дороговизной «позитронного мозга»: было логичнее переставлять один дорогой мозг в разные формы (трактор, пылесос), а так как мир построен под человека, то и робот должен быть гуманоидом . Сегодня это неактуально, так как компьютеры дешевы, а удаленное управление позволяет одному ИИ контролировать множество устройств одновременно .
📉 Автоматизация: от заводов к офисным кабинетам 8:37
Существует устойчивое заблуждение, что автоматизация угрожает прежде всего рабочим специальностям («синим воротничкам»). Однако исторически компьютеры (само слово раньше означало профессию человека-вычислителя) в первую очередь заменяли «белых воротничков» .
В рассказе Азимова «Раб корректуры» (Galley Slave) описывается робот-корректор. Автор обращает внимание на то, что современные текстовые процессоры выполняют эти функции, но мы не воспринимаем их как «напарников» . Пример помощника Microsoft Office (скрепки Clippy) показал, что люди готовы принимать автоматизацию, но часто отвергают антропоморфных ботов, которые слишком навязчиво демонстрируют свое присутствие .
Айзек Артур предполагает, что андроиды останутся нишевым продуктом из-за эффекта «зловещей долины» и того факта, что их человечность мешает им сливаться с фоном, становясь той самой идеальной «невидимой» технологией .
🐿️ Животные, киборги и специализированные системы 14:13
Вместо создания универсальных ИИ человеческого уровня, будущее может пойти по пути специализации и интеграции:
- Командная работа животных и машин: Автор приводит пример «умной» двери для домашних животных, открывающейся по чипу . В будущем возможно использование генно-модифицированных животных, управляемых ИИ. Например, белки в парках могут собирать мусор в обмен на еду из специальных автоматов .
- Экстернализация когнитивных способностей: Использование калькуляторов, письменности или книг — это уже простейшая форма сетевого интеллекта, позволяющая подключать к своим размышлениям даже давно умерших людей .
- Трансгуманизм: Машины могут быть интегрированы непосредственно в человеческое тело, создавая сущности, чье поведение может оставаться человеческим или стать совершенно иным .
В виртуальных мирах персонажи могут обладать ИИ, который «наращивает» свою сложность только в момент контакта с человеком . По мнению автора, ИИ может вообще не иметь личности в нашем понимании, а лишь надевать тысячи масок для взаимодействия .
⚖️ ИИ в роли судей, советников и корпораций 19:53
В научной фантастике компьютеры часто выступают в роли объективных судей. Айзек Артур отмечает, что ИИ уже проникает в юридическую сферу: автоматическая транскрипция заменяет стенографистов, а алгоритмы анализируют эффективность приговоров и скрытые предвзятости системы .
Однако автор предлагает рассматривать ИИ скорее как «кабинет советников», а не как единого правителя . Интересна аналогия с корпоративным правом: когда мы говорим о «Pepsi» или «Microsoft» как о юридических лицах, мы понимаем, что в суде их представляет человек. В будущем сетевой ИИ может работать по принципу «Вольтрона», объединяясь в сверхразумный коллективный разум только тогда, когда это необходимо .
🐈 Человек как домашний питомец сверхразума 21:22
Обсуждая угрозу супер-ИИ, Артур рассматривает сценарий, где люди становятся «питомцами» машин. Будучи «кошатником», автор замечает, что отношения с питомцами бывают разными: кошка не всегда приходит на зов, у нее могут быть свои задачи (ловля мышей), и мы не стремимся заменить ее роботом-крысоловом, даже если он эффективнее .
В этом контексте возникает вопрос: что именно ИИ будет понимать под «человеком»?
- ИИ может унаследовать наши предрассудки и взгляды, так как он обучается на нашей культуре .
- Существует риск наделения ИИ избыточными навыками. В фильме «Мстители: Эра Альтрона» ИИ-помощник Тони Старка способен мгновенно купить строящееся здание. Автор задается вопросом: зачем боевому костюму навыки инсайдерской торговли или покупки недвижимости? .
🗳️ Цифровое гражданство и право голоса 24:40
Если ИИ или загруженное сознание можно копировать, возникает проблема демократии. Должны ли миллион копий одного и того же разума иметь миллион голосов на выборах? .
Артур призывает к осторожности в определении того, что делает нас людьми:
- Разница в ДНК между самыми разными людьми ничтожна — это как пара тысяч измененных предложений в огромной библиотеке книг .
- В повести Азимова «Позитронный человек» герой постепенно заменяет части своего тела органическими, чтобы его признали человеком, но в итоге общество постановляет, что «настоящим» является только биологический мозг, что лишает прав любого, кто загрузил сознание в компьютер .
В завершение Айзек Артур подчеркивает, что пока мы еще «держим штурвал» цивилизации, нам необходимо решить, какое именно командное взаимодействие с машинами мы считаем желаемым и приемлемым .
