# Айзек Артур: „Идеальная технология — это невидимая технология, но в этом её главная опасность“

Источник: https://www.youtube.com/watch?v=_j7POO63UBk
Канал: Isaac Arthur
Опубликовано: 09.09.2021

---

Взаимодействие человека и машины вступает в новую фазу: от простых инструментов мы переходим к полноценному командному сотрудничеству с искусственным интеллектом. Известный футуролог Айзек Артур в своем выступлении для Лаборатории Линкольна MIT анализирует, как ИИ изменит наше общество, работу и само определение человечности, и почему «невидимые» технологии могут быть одновременно и идеалом, и этической ловушкой.

## 🤖 Природа ИИ и концепция «невидимой» технологии
[[JUMP:01:44]]

Айзек Артур начинает с провокационного тезиса: термин «искусственный интеллект» (ИИ), возможно, не самый удачный. По мнению автора, человеческий интеллект в современном мире сам по себе является «искусственным», так как разум современного человека — это продукт многолетних инвестиций времени и энергии общества в обучение и воспитание [02:43]. С развитием технологий дополнения разума грань между естественным и машинным станет еще более размытой [02:55].

Существует три концептуальных пути создания ИИ:

*   Полное программирование каждой строки кода.
*   Создание самообучающихся машин.
*   Цифровое копирование (загрузка) существующего разума — человека или животного [03:09].

Важным аспектом является восприятие технологии пользователем. Айзек Артур подчеркивает, что идеальная машина часто является «невидимой» — она выполняет свою работу настолько эффективно, что человек перестает ее замечать [04:18]. Однако он также ссылается на альтернативную точку зрения, согласно которой невидимая технология является неэтичной, поскольку скрывает механизмы своего влияния на пользователя [01:29].

В контексте командной работы (Human-Machine Teaming) автор определяет этот процесс как взаимодействие одного или нескольких людей с одной или несколькими машинами для выполнения задач [04:43]. Главный вопрос здесь: в какой момент инструмент (как нож или калькулятор) превращается в полноценного напарника? [05:11].

## 🦾 Миф об андроидах и наследие Айзека Азимова
[[JUMP:05:26]]

Классический образ человекоподобного робота, популяризированный Айзеком Азимовым, Айзек Артур считает наименее вероятным сценарием развития будущего, хотя и очень полезным для анализа [05:39]. Идея андроидов-слуг мгновенно порождает страх восстания машин, что в литературе привело к созданию «Трех законов роботехники» [06:05].

Основные проблемы реализации таких правил:

1.  **Сложность определения вреда:** Машина должна понимать контекст и мораль, чтобы распознать, когда человеку угрожает опасность [06:18].
2.  **Проблема вагонетки:** В критических ситуациях (например, при управлении беспилотным авто) ИИ придется выбирать между несколькими плохими вариантами, оценивая погрешности и риски [06:32].
3.  **Избыточность интеллекта:** Чтобы быть эффективным андроидом, робот должен обладать интеллектом человеческого уровня, но, как утверждает Артур, человеческий интеллект — это как раз тот тип ИИ, в котором мы нуждаемся меньше всего, так как в мире и так нет недостатка в людях [07:13].

Айзек Артур отмечает, что Азимов оправдывал человекоподобную форму роботов дороговизной «позитронного мозга»: было логичнее переставлять один дорогой мозг в разные формы (трактор, пылесос), а так как мир построен под человека, то и робот должен быть гуманоидом [07:56]. Сегодня это неактуально, так как компьютеры дешевы, а удаленное управление позволяет одному ИИ контролировать множество устройств одновременно [08:23].

## 📉 Автоматизация: от заводов к офисным кабинетам
[[JUMP:08:37]]

Существует устойчивое заблуждение, что автоматизация угрожает прежде всего рабочим специальностям («синим воротничкам»). Однако исторически компьютеры (само слово раньше означало профессию человека-вычислителя) в первую очередь заменяли «белых воротничков» [08:54].

В рассказе Азимова «Раб корректуры» (Galley Slave) описывается робот-корректор. Автор обращает внимание на то, что современные текстовые процессоры выполняют эти функции, но мы не воспринимаем их как «напарников» [11:20]. Пример помощника Microsoft Office (скрепки Clippy) показал, что люди готовы принимать автоматизацию, но часто отвергают антропоморфных ботов, которые слишком навязчиво демонстрируют свое присутствие [11:34].

Айзек Артур предполагает, что андроиды останутся нишевым продуктом из-за эффекта «зловещей долины» и того факта, что их человечность мешает им сливаться с фоном, становясь той самой идеальной «невидимой» технологией [11:49].

## 🐿️ Животные, киборги и специализированные системы
[[JUMP:14:13]]

Вместо создания универсальных ИИ человеческого уровня, будущее может пойти по пути специализации и интеграции:

*   **Командная работа животных и машин:** Автор приводит пример «умной» двери для домашних животных, открывающейся по чипу [14:27]. В будущем возможно использование генно-модифицированных животных, управляемых ИИ. Например, белки в парках могут собирать мусор в обмен на еду из специальных автоматов [14:52].
*   **Экстернализация когнитивных способностей:** Использование калькуляторов, письменности или книг — это уже простейшая форма сетевого интеллекта, позволяющая подключать к своим размышлениям даже давно умерших людей [17:45].
*   **Трансгуманизм:** Машины могут быть интегрированы непосредственно в человеческое тело, создавая сущности, чье поведение может оставаться человеческим или стать совершенно иным [18:15].

В виртуальных мирах персонажи могут обладать ИИ, который «наращивает» свою сложность только в момент контакта с человеком [18:57]. По мнению автора, ИИ может вообще не иметь личности в нашем понимании, а лишь надевать тысячи масок для взаимодействия [19:11].

## ⚖️ ИИ в роли судей, советников и корпораций
[[JUMP:19:53]]

В научной фантастике компьютеры часто выступают в роли объективных судей. Айзек Артур отмечает, что ИИ уже проникает в юридическую сферу: автоматическая транскрипция заменяет стенографистов, а алгоритмы анализируют эффективность приговоров и скрытые предвзятости системы [20:23].

Однако автор предлагает рассматривать ИИ скорее как «кабинет советников», а не как единого правителя [19:53]. Интересна аналогия с корпоративным правом: когда мы говорим о «Pepsi» или «Microsoft» как о юридических лицах, мы понимаем, что в суде их представляет человек. В будущем сетевой ИИ может работать по принципу «Вольтрона», объединяясь в сверхразумный коллективный разум только тогда, когда это необходимо [21:10].

## 🐈 Человек как домашний питомец сверхразума
[[JUMP:21:22]]

Обсуждая угрозу супер-ИИ, Артур рассматривает сценарий, где люди становятся «питомцами» машин. Будучи «кошатником», автор замечает, что отношения с питомцами бывают разными: кошка не всегда приходит на зов, у нее могут быть свои задачи (ловля мышей), и мы не стремимся заменить ее роботом-крысоловом, даже если он эффективнее [21:35].

В этом контексте возникает вопрос: что именно ИИ будет понимать под «человеком»?

*   ИИ может унаследовать наши предрассудки и взгляды, так как он обучается на нашей культуре [22:33].
*   Существует риск наделения ИИ избыточными навыками. В фильме «Мстители: Эра Альтрона» ИИ-помощник Тони Старка способен мгновенно купить строящееся здание. Автор задается вопросом: зачем боевому костюму навыки инсайдерской торговли или покупки недвижимости? [23:30].

## 🗳️ Цифровое гражданство и право голоса
[[JUMP:24:40]]

Если ИИ или загруженное сознание можно копировать, возникает проблема демократии. Должны ли миллион копий одного и того же разума иметь миллион голосов на выборах? [25:12].

Артур призывает к осторожности в определении того, что делает нас людьми:

*   Разница в ДНК между самыми разными людьми ничтожна — это как пара тысяч измененных предложений в огромной библиотеке книг [25:54].
*   В повести Азимова «Позитронный человек» герой постепенно заменяет части своего тела органическими, чтобы его признали человеком, но в итоге общество постановляет, что «настоящим» является только биологический мозг, что лишает прав любого, кто загрузил сознание в компьютер [26:54].

В завершение Айзек Артур подчеркивает, что пока мы еще «держим штурвал» цивилизации, нам необходимо решить, какое именно командное взаимодействие с машинами мы считаем желаемым и приемлемым [27:38].