Айзек Артур в своем выступлении, подготовленном для Линкольновских лабораторий MIT, анализирует будущее взаимодействия человека и искусственного интеллекта. Он ставит под сомнение классические научно-фантастические образы андроидов, предлагая взамен концепции «невидимых» технологий, симбиоза биологического и цифрового разума, а также неожиданные формы командной работы, включая участие генетически модифицированных животных.
🤖 Проблема определений: что мы называем искусственным интеллектом? 2:31
Айзек Артур начинает с критического замечания: сам термин «искусственный интеллект» может быть не самым удачным . По его мнению, человеческий интеллект в его современном виде уже является едва ли не самым «искусственным» явлением, так как он — продукт многолетних инвестиций времени и энергии в развитие разума. С развитием интерфейсов «мозг-компьютер» граница между естественным и искусственным станет окончательно размытой .
Ведущий выделяет три основных пути создания ИИ:
- Полное программирование каждой строки кода.
- Создание самообучающейся машины (базовый алгоритм, который пишет программу сам для себя).
- Копирование существующих биологических образцов (цифровая загрузка сознания человека или животного) .
По мнению Айзека Артура, перенос сознания на кремниевый субстрат часто не воспринимается как создание ИИ, однако это порождает массу этических и технических вопросов. Если мы начнем изменять или копировать загруженный разум, станет неясно, где заканчивается оригинальная личность и начинается машинный интеллект . Автор считает, что в будущем поиск единого определения интеллекта станет невыполнимой задачей.
🌫️ Невидимая технология против этики прозрачности 4:18
Одной из центральных тем дискуссии стала концепция «невидимости» технологий. По словам Айзека Артура, идеальная машина — это та, работу которой вы не замечаете, потому что она выполняет свои задачи безупречно . В контексте командной работы идеальным напарником-машиной будет тот, о чьем присутствии в команде человек едва догадывается.
Однако ведущий приводит и альтернативную точку зрения, заимствованную у Бена Шнайдермана:
- Невидимая технология — это неэтичная технология .
- Если пользователь не видит работы алгоритма, он не может его контролировать или понимать причины принятых решений.
В качестве примера «раздражающей» видимой технологии Артур вспоминает Скрепыша (Clippy) из Microsoft Office . Этот помощник выполнял те же функции, что и современные системы автозамены и шаблонов, но его антропоморфный вид мешал пользователям воспринимать его как эффективный инструмент. Ведущий полагает, что именно поэтому мы вряд ли увидим повсеместное использование андроидов — их слишком сложно игнорировать и задвинуть на задний план .
🚔 Робототехника Азимова: почему андроиды нам не нужны? 5:26
Айзек Артур подробно разбирает наследие Айзека Азимова и его Три закона робототехники. Несмотря на популярность образа робота-дворецкого в фантастике, автор считает этот сценарий наименее вероятным в реальности .
Аргументы против человекоподобных роботов:
- Избыточность интеллекта: Чтобы робот мог понять нюансы вреда человеку или распознать сложную команду, он должен обладать интеллектом человеческого уровня. Но ИИ человеческого уровня — это как раз тот тип систем, в которых мы нуждаемся меньше всего, так как в мире нет дефицита людей .
- Специализация: Большинство задач (уборка, вождение, вычисления) гораздо эффективнее выполняются узкоспециализированными «глупыми» машинами, а не универсальными гуманоидами .
- Дистанционное управление: Вместо того чтобы андроид ходил от трактора к бульдозеру, проще встроить простые компьютеры в саму технику и управлять ими удаленно .
Ведущий отмечает, что Азимов оправдывал форму андроидов тем, что «мозги» в его время были очень дорогими, и их имело смысл переставлять из одного устройства в другое. В современной реальности вычислительные мощности дешевы, а специализированное оборудование — нет.
✍️ Автоматизация «белых воротничков» и достоинство труда 8:37
Вопреки распространенному мнению, что автоматизация ударит прежде всего по рабочим специальностям («синим воротничкам»), Айзек Артур напоминает, что компьютеры изначально заменяли именно офисных сотрудников (само слово computer когда-то было названием должности человека, занимающегося расчетами) .
В рассказе Азимова «Раб корректуры» (Galley Slave) робот EZ-27 заменяет академиков в проверке текстов . Конфликт в произведении строится на страхе ученых перед тем, что автоматизация уничтожит «достоинство науки», оставив исследователям лишь роль операторов, отдающих приказы машинам. Айзек Артур считает, что современные системы автозамены и проверки грамматики уже являются реализацией этой идеи, и хотя они не уничтожили науку, они изменили наши навыки правописания .
🐿️ Животно-машинные команды: белки-мусорщики и умные двери 13:45
Интересной альтернативой человекоподобным роботам Артур называет командную работу с животными, усиленную технологиями.
Примеры такого взаимодействия:
- Умные дома для питомцев: Двери, открывающиеся только по сигналу вживленного чипа конкретной кошки или собаки .
- Генетически модифицированные помощники: Ведущий предлагает гипотетический сценарий, где в парке вместо роботов-уборщиков работают белки, обученные собирать мусор в обмен на еду из автоматических диспенсеров .
- Биологические ИИ: Системы переработки воды или управления экосистемами в космических поселениях (например, в цилиндрах О’Нила) могут использовать генетически измененных насекомых или растения в качестве «рабочих элементов» .
По мнению автора, люди меньше боятся восстания «умного пылесоса» или «модифицированной белки», чем полноценного ИИ, что делает такие системы психологически более приемлемыми .
🤝 Внешнее познание и концепция «двое как одно» 16:15
Айзек Артур вводит термин «внешнее познание» (Externalized Cognition). Это использование внешних инструментов (счеты, калькулятор, карандаш и бумага) для расширения возможностей мозга .
Ведущий и гость (в контексте подготовки материала) обсуждали разные модели команд:
- Монархия: Машина — раб человека (или наоборот).
- Брак: Тесное сотрудничество, где «двое становятся одним» через нейроинтерфейсы .
- Симбиоз: ИИ как доверенный учитель или советник, сопровождающий человека с детства .
Артур приводит в пример шахматы: после того как Deep Blue победил Каспарова, долгое время лучшими игроками были «кентавры» — команды из человека и компьютера, которые обыгрывали и лучших гроссмейстеров, и самые мощные алгоритмы по отдельности .
⚖️ Судебная система и правовой статус ИИ 19:53
Обсуждая роль ИИ в управлении обществом, ведущий скептически относится к идее «объективных компьютерных судей» . Тем не менее, он отмечает, что ИИ уже активно внедряется в правовую сферу:
- Автоматическая транскрипция заседаний заменяет стенографистов.
- Алгоритмы анализируют эффективность приговоров и выявляют скрытые предвзятости в системе исполнения наказаний .
- Существует концепция «корпоративной правосубъектности», которая в будущем может быть применена к сетевым ИИ .
🐱 Люди как домашние питомцы суперразума 21:10
Один из самых провокационных сценариев — превращение человечества в «питомцев» для сверхмощного ИИ. Айзек Артур, будучи любителем кошек, отмечает, что статус питомца не обязательно означает потерю достоинства . Его кот живет в сельской местности, имеет свою «работу» (ловля мышей) и не всегда приходит на зов.
Ведущий задается вопросом: если ИИ станет суперразумным, сохранит ли он человеческие предрассудки? Поскольку ИИ создается людьми на основе накопленных нами знаний, он неизбежно впитает наши взгляды и установки .
🗳️ Проблема голосования и дублирования сознания 24:56
В финальной части статьи Артур поднимает вопрос политических прав ИИ. Если сознание можно копировать, то как проводить выборы?
- Должен ли миллиард идентичных копий одного ИИ иметь миллиард голосов?
- Насколько сильно должна измениться копия, чтобы считаться уникальной личностью?
Автор проводит параллель с историческим «Компромиссом трех пятых» в США и предостерегает от попыток вычислять «процент человечности» для предоставления прав . Вспоминая повесть Азимова «Позитронный человек», Артур отмечает трагизм ситуации, когда робот пытался стать человеком, заменяя части тела на органические, но общество продолжало менять определения «человечности», чтобы оставить его бесправным .
Айзек Артур резюмирует: нам нужно определить желаемое направление развития цивилизации сейчас, пока мы всё еще «стоим у руля» .
