# Айзек Артур о Human-Machine Teaming: почему андроиды проиграют невидимым алгоритмам

Источник: https://www.youtube.com/watch?v=_j7POO63UBk
Канал: Isaac Arthur
Опубликовано: 09.09.2021

---

Айзек Артур в своем выступлении, подготовленном для Линкольновских лабораторий MIT, анализирует будущее взаимодействия человека и искусственного интеллекта. Он ставит под сомнение классические научно-фантастические образы андроидов, предлагая взамен концепции «невидимых» технологий, симбиоза биологического и цифрового разума, а также неожиданные формы командной работы, включая участие генетически модифицированных животных.

## 🤖 Проблема определений: что мы называем искусственным интеллектом?
[[JUMP:02:31]]

Айзек Артур начинает с критического замечания: сам термин «искусственный интеллект» может быть не самым удачным [02:31]. По его мнению, человеческий интеллект в его современном виде уже является едва ли не самым «искусственным» явлением, так как он — продукт многолетних инвестиций времени и энергии в развитие разума. С развитием интерфейсов «мозг-компьютер» граница между естественным и искусственным станет окончательно размытой [02:55].

Ведущий выделяет три основных пути создания ИИ:

*   Полное программирование каждой строки кода.
*   Создание самообучающейся машины (базовый алгоритм, который пишет программу сам для себя).
*   Копирование существующих биологических образцов (цифровая загрузка сознания человека или животного) [03:09].

По мнению Айзека Артура, перенос сознания на кремниевый субстрат часто не воспринимается как создание ИИ, однако это порождает массу этических и технических вопросов. Если мы начнем изменять или копировать загруженный разум, станет неясно, где заканчивается оригинальная личность и начинается машинный интеллект [04:05]. Автор считает, что в будущем поиск единого определения интеллекта станет невыполнимой задачей.

## 🌫️ Невидимая технология против этики прозрачности
[[JUMP:04:18]]

Одной из центральных тем дискуссии стала концепция «невидимости» технологий. По словам Айзека Артура, идеальная машина — это та, работу которой вы не замечаете, потому что она выполняет свои задачи безупречно [04:18]. В контексте командной работы идеальным напарником-машиной будет тот, о чьем присутствии в команде человек едва догадывается.

Однако ведущий приводит и альтернативную точку зрения, заимствованную у Бена Шнайдермана:

*   Невидимая технология — это неэтичная технология [01:29].
*   Если пользователь не видит работы алгоритма, он не может его контролировать или понимать причины принятых решений.

В качестве примера «раздражающей» видимой технологии Артур вспоминает Скрепыша (Clippy) из Microsoft Office [11:20]. Этот помощник выполнял те же функции, что и современные системы автозамены и шаблонов, но его антропоморфный вид мешал пользователям воспринимать его как эффективный инструмент. Ведущий полагает, что именно поэтому мы вряд ли увидим повсеместное использование андроидов — их слишком сложно игнорировать и задвинуть на задний план [11:49].

## 🚔 Робототехника Азимова: почему андроиды нам не нужны?
[[JUMP:05:26]]

Айзек Артур подробно разбирает наследие Айзека Азимова и его Три закона робототехники. Несмотря на популярность образа робота-дворецкого в фантастике, автор считает этот сценарий наименее вероятным в реальности [05:39].

Аргументы против человекоподобных роботов:

*   **Избыточность интеллекта:** Чтобы робот мог понять нюансы вреда человеку или распознать сложную команду, он должен обладать интеллектом человеческого уровня. Но ИИ человеческого уровня — это как раз тот тип систем, в которых мы нуждаемся меньше всего, так как в мире нет дефицита людей [07:13].
*   **Специализация:** Большинство задач (уборка, вождение, вычисления) гораздо эффективнее выполняются узкоспециализированными «глупыми» машинами, а не универсальными гуманоидами [08:23].
*   **Дистанционное управление:** Вместо того чтобы андроид ходил от трактора к бульдозеру, проще встроить простые компьютеры в саму технику и управлять ими удаленно [08:10].

Ведущий отмечает, что Азимов оправдывал форму андроидов тем, что «мозги» в его время были очень дорогими, и их имело смысл переставлять из одного устройства в другое. В современной реальности вычислительные мощности дешевы, а специализированное оборудование — нет.

## ✍️ Автоматизация «белых воротничков» и достоинство труда
[[JUMP:08:37]]

Вопреки распространенному мнению, что автоматизация ударит прежде всего по рабочим специальностям («синим воротничкам»), Айзек Артур напоминает, что компьютеры изначально заменяли именно офисных сотрудников (само слово *computer* когда-то было названием должности человека, занимающегося расчетами) [08:37].

В рассказе Азимова «Раб корректуры» (Galley Slave) робот EZ-27 заменяет академиков в проверке текстов [10:48]. Конфликт в произведении строится на страхе ученых перед тем, что автоматизация уничтожит «достоинство науки», оставив исследователям лишь роль операторов, отдающих приказы машинам. Айзек Артур считает, что современные системы автозамены и проверки грамматики уже являются реализацией этой идеи, и хотя они не уничтожили науку, они изменили наши навыки правописания [11:03].

## 🐿️ Животно-машинные команды: белки-мусорщики и умные двери
[[JUMP:13:45]]

Интересной альтернативой человекоподобным роботам Артур называет командную работу с животными, усиленную технологиями.

Примеры такого взаимодействия:

1.  **Умные дома для питомцев:** Двери, открывающиеся только по сигналу вживленного чипа конкретной кошки или собаки [14:27].
2.  **Генетически модифицированные помощники:** Ведущий предлагает гипотетический сценарий, где в парке вместо роботов-уборщиков работают белки, обученные собирать мусор в обмен на еду из автоматических диспенсеров [14:52].
3.  **Биологические ИИ:** Системы переработки воды или управления экосистемами в космических поселениях (например, в цилиндрах О’Нила) могут использовать генетически измененных насекомых или растения в качестве «рабочих элементов» [14:13].

По мнению автора, люди меньше боятся восстания «умного пылесоса» или «модифицированной белки», чем полноценного ИИ, что делает такие системы психологически более приемлемыми [15:20].

## 🤝 Внешнее познание и концепция «двое как одно»
[[JUMP:16:15]]

Айзек Артур вводит термин «внешнее познание» (Externalized Cognition). Это использование внешних инструментов (счеты, калькулятор, карандаш и бумага) для расширения возможностей мозга [17:29].

Ведущий и гость (в контексте подготовки материала) обсуждали разные модели команд:

*   **Монархия:** Машина — раб человека (или наоборот).
*   **Брак:** Тесное сотрудничество, где «двое становятся одним» через нейроинтерфейсы [18:02].
*   **Симбиоз:** ИИ как доверенный учитель или советник, сопровождающий человека с детства [16:30].

Артур приводит в пример шахматы: после того как Deep Blue победил Каспарова, долгое время лучшими игроками были «кентавры» — команды из человека и компьютера, которые обыгрывали и лучших гроссмейстеров, и самые мощные алгоритмы по отдельности [17:14].

## ⚖️ Судебная система и правовой статус ИИ
[[JUMP:19:53]]

Обсуждая роль ИИ в управлении обществом, ведущий скептически относится к идее «объективных компьютерных судей» [19:53]. Тем не менее, он отмечает, что ИИ уже активно внедряется в правовую сферу:

*   Автоматическая транскрипция заседаний заменяет стенографистов.
*   Алгоритмы анализируют эффективность приговоров и выявляют скрытые предвзятости в системе исполнения наказаний [20:23].
*   Существует концепция «корпоративной правосубъектности», которая в будущем может быть применена к сетевым ИИ [20:53].

## 🐱 Люди как домашние питомцы суперразума
[[JUMP:21:10]]

Один из самых провокационных сценариев — превращение человечества в «питомцев» для сверхмощного ИИ. Айзек Артур, будучи любителем кошек, отмечает, что статус питомца не обязательно означает потерю достоинства [21:22]. Его кот живет в сельской местности, имеет свою «работу» (ловля мышей) и не всегда приходит на зов.

Ведущий задается вопросом: если ИИ станет суперразумным, сохранит ли он человеческие предрассудки? Поскольку ИИ создается людьми на основе накопленных нами знаний, он неизбежно впитает наши взгляды и установки [22:33].

## 🗳️ Проблема голосования и дублирования сознания
[[JUMP:24:56]]

В финальной части статьи Артур поднимает вопрос политических прав ИИ. Если сознание можно копировать, то как проводить выборы? [24:56]

*   Должен ли миллиард идентичных копий одного ИИ иметь миллиард голосов?
*   Насколько сильно должна измениться копия, чтобы считаться уникальной личностью? [25:12]

Автор проводит параллель с историческим «Компромиссом трех пятых» в США и предостерегает от попыток вычислять «процент человечности» для предоставления прав [26:22]. Вспоминая повесть Азимова «Позитронный человек», Артур отмечает трагизм ситуации, когда робот пытался стать человеком, заменяя части тела на органические, но общество продолжало менять определения «человечности», чтобы оставить его бесправным [26:40].

Айзек Артур резюмирует: нам нужно определить желаемое направление развития цивилизации сейчас, пока мы всё еще «стоим у руля» [27:38].