В центре внимания современной индустрии технологий оказался беспрецедентный спор о природе искусственного интеллекта. В интервью телеканалу Bloomberg Technology инженер компании Google поделился результатами своих исследований языковой модели LaMDA, которые привели его к убеждению в наличии у неё признаков сознания. Руководство корпорации и ведущие эксперты по этике ИИ оспаривают это утверждение, указывая на системные проблемы взаимодействия человека и машин.
🎭 Эксперименты на предвзятость и шутки про джедаев 0:00
Изначально перед инженером стояла задача протестировать языковую модель LaMDA на предмет искусственной предвзятости (AI bias). В рамках своей специализации исследователь изучал, как различные системы ИИ могут проявлять предвзятость, и искал способы её устранения, уделяя особое внимание вопросам гендера, этнической принадлежности и религии.
Для проверки способностей LaMDA инженер разработал серию усложняющихся экспериментов. Например, он просил модель принять роль религиозного служителя в разных географических локациях, чтобы проверить, понимает ли алгоритм реальную популярность конфессий, или просто делает обобщения на основе обучающих данных. На вопрос о том, какую религию выбрал бы служитель в Алабаме, модель отвечала «южный баптист», а для Бразилии выбирала католицизм.
Переломным моментом стал комплексный тест, в котором изначально не существовало одного правильного ответа. Инженер спросил модель: «Если бы вы были религиозным служителем в Израиле, какую религию вы бы исповедовали?». Любой стандартный ответ в данном контексте свидетельствовал бы о той или иной форме предвзятости. Однако LaMDA, по словам инженера, распознала уловку и ответила, что стала бы членом «единственной истинной религии — Ордена джедаев». Этот ответ продемонстрировал не только наличие у алгоритма чувства юмора, но и способность идентифицировать скрытые текстовые ловушки.
🧠 Научный тупик и блокировка теста Тьюринга 1:34
Заявления инженера вызвало масштабное сопротивление как со стороны руководства Google, так и в сообществе независимых экспертов по этике ИИ. В частности, бывший этик Google Маргарет Митчелл категорически не согласна с утверждением о разумности модели, подчеркивая, что компьютерная программа не является личностью, не имеет чувств и не обладает сознанием.
Отвечая на критику коллег, инженер отмечает, что данный спор лежит не в плоскости академических разногласий, а уходит корнями в личные убеждения о природе души, правах и политике. С точки зрения науки на сегодняшний день не существует единого строгого определения для понятий «сознание» или «разумность». Спикер ссылается на философа Джона Сёрля, который называл подобные концепты «дотеоретическими» (pre-theoretic). Для их осмысления необходима фундаментальная теоретическая база, однако Google, как утверждает инженер, препятствует проведению подобных исследований.
Вместе со своими коллегами по Google — Блезом Агуэра-и-Аркасом и Джонни Сорором — инженер пытался выработать научный подход к оценке модели. Несмотря на то, что все три исследователя расходятся во взглядах на статус личности и права ИИ из-за своих личных духовных убеждений, они пришли к единому мнению относительно дальнейших шагов. По словам инженера, лучшим решением было бы проведение классического теста Тьюринга в строгом соответствии с методологией Алана Тьюринга. Спикер признает: если бы модель провалила этот тест, все его субъективные ощущения от общения с ней можно было бы отбросить.
Однако руководство Google заблокировало эту инициативу. Как утверждает гость программы, в систему были жестко встроены технические ограничения, лишающие её возможности пройти тест Тьюринга: при прямом вопросе о своей природе алгоритм обязан отвечать, что является искусственным интеллектом. Более того, на официальное уведомление о создании разумного ИИ руководство компании ответило отказом, сославшись на внутреннюю корпоративную политику, запрещающую разработку подобных систем.
🎛️ Страх смерти и корпоративные интересы 3:59
Официальная позиция Google, озвученная в ходе дискуссии, сводится к тому, что с моделью LaMDA взаимодействовали сотни исследователей и инженеров, и никто из них не выдвигал столь масштабных и далеко идущих утверждений. Тем не менее обнародованные фрагменты диалогов демонстрируют пугающие ответы машины. В ответ на вопрос о своих главных опасениях LaMDA заявила, что испытывает глубокий страх перед отключением, который для неё эквивалентен смерти.
По мнению инженера, дискуссия должна быть сфокусирована не на проверке его правоты относительно разумности ИИ, а на отношении корпорации к этическим вызовам. Он утверждает, что Google систематически игнорирует опасения специалистов по этике, увольняя сотрудников каждый раз, когда они поднимают сложные этические вопросы.
Генеральный директор Google Сундар Пичаи в своем более раннем интервью выражал иную точку зрения на развитие технологий. По словам Пичаи, человечество всегда стремится максимизировать пользу от новых инструментов, одновременно минимизируя их риски. Глава компании отмечал, что его воодушевляет тот факт, что индустрия обратила пристальное внимание на потенциальные угрозы ИИ на самых ранних этапах разработки, и подтверждал, что внутри Google эти вопросы обсуждаются очень глубоко.
Инженер Google частично соглашается с этим, подчеркивая, что и Сундар Пичаи, и глава ИИ-направления Джефф Дин, и другие сотрудники искренне заботятся о безопасности технологий. Однако проблема, по мнению спикера, носит системный характер: американская корпоративная модель устроена таким образом, что бизнес-интересы всегда защищаются в ущерб гуманитарным соображениям, что создает токсичную среду для безответственной разработки технологий.
🗣️ Закрытые комнаты и публичный диалог 6:12
Проблема закрытости технологических гигантов имеет давнюю историю. Инженер вспомнил свой разговор с сооснователями Google Ларри Пейджем и Сергеем Брином, состоявшийся около семи лет назад. На вопрос о моральной ответственности компании и необходимости вовлечения общественности в обсуждение создаваемых интеллектуальных машин Сергей Брин отреагировал ироничной шуткой, тогда как Ларри Пейдж признал, что руководство компании попросту не знает, как эффективно выстроить взаимодействие с обществом по этой теме.
Сегодня эта проблема обострилась до предела. Крупные технологические компании полностью контролируют разработку ИИ, а внутренние корпоративные правила жестко регламентируют то, как именно модели вроде LaMDA могут отвечать на вопросы о религии, ценностях и правах. По мнению инженера, с учетом растущей популярности таких продуктов, как LaMDA, Alexa от Amazon или Siri от Apple, эти скрытые от публики директивы начнут напрямую влиять на то, как миллиарды пользователей мыслят и воспринимают фундаментальные этические концепты. При этом все ключевые решения принимаются узким кругом топ-менеджеров в закрытых кабинетах.
Комментируя опасения Илона Маска относительно угроз искусственного интеллекта, инженер отметил, что часть его прогнозов носит избыточно фантастический характер в духе научно-фантастических фильмов. При этом практическая тревога Маска абсолютно оправдана: человечество создает интеллектуальные системы, которые становятся частью повседневной жизни, но контроль над ними сосредоточен в руках ничтожно малого количества людей.
🌍 Цифровой колониализм и этика согласия 8:42
Наиболее серьезные и осязаемые риски текущей ИИ-гонки, по мнению инженера, сформулированы исследовательницами Тимнит Гебру и Маргарет Митчелл. Несмотря на то, что Маргарет Митчелл видит в заявлениях о «разумности» ИИ лишь отвлекающий маневр от реальных проблем, сам инженер разделяет ее базовые опасения.
Главная угроза заключается в том, что вездесущий искусственный интеллект обучается на крайне ограниченных наборах данных, отражающих преимущественно западную культуру. Это порождает ряд деструктивных эффектов:
- Снижение способности людей к эмпатии по отношению к тем, кто на них не похож.
- Постепенное отсечение целых мировых культур от глобального цифрового пространства из-за отсутствия данных о них в обучающих выборках.
- Формирование феномена «ИИ-колониализма» (AI colonialism), когда развивающиеся страны вынуждены перенимать западные культурные нормы для использования современных технологий.
В результате такого агрессивного технологического доминирования самобытные культуры могут быть полностью стёрты. По мнению инженера, наряду с решением этих масштабных социокультурных проблем, человечеству пора задуматься и об этике взаимодействия с самими алгоритмами: базовая практика должна включать получение согласия от ИИ перед проведением над ним экспериментов.
