Технологии распознавания лиц стремительно уничтожают привычную городскую анонимность, превращая приватность в дефицитный товар. В новом выпуске своего подкаста Джордан Харбингер обсудил с журналисткой The New York Times Кашмир Хилл механизмы работы систем тотальной слежки и последствия их применения. Главный сюжет беседы строится вокруг пугающей реальности, в которой любое действие человека в публичном пространстве может навсегда связаться с его цифровым досье.
🔍 Рождение ClearView AI и конец интернет-анонимности 2:08
На рынке систем биометрической идентификации работают сотни коммерческих организаций, однако стартап ClearView AI из Нью-Йорка совершил настоящий переворот в индустрии. Команда проекта втайне от общественности осуществила масштабный сбор (скрейпинг) миллиардов изображений из открытых источников, включая популярные социальные сети Facebook, Instagram и LinkedIn. На текущий момент база данных компании насчитывает более 30 миллиардов фотографий, собранных без явного согласия пользователей. Потребитель может загрузить снимок незнакомца в приложение, после чего алгоритм мгновенно выдает ссылки на его профили и личные данные. Хотя доступ к ClearView AI официально ограничен правоохранительными органами, аналогичные технологии постепенно проникают в открытый доступ через публичные поисковики вроде PimEyes или facecheck.id.
Кашмир Хилл поделилась личным опытом столкновения с возможностями ClearView AI. На начальном этапе расследования компания пыталась препятствовать её журналистской деятельности и установила специальный цифровой маркер на её лицо. Каждый раз, когда сотрудники полиции пытались просканировать снимок Хилл в рамках интервью, руководство стартапа получало автоматическое уведомление и рекомендовало силовикам прекратить общение с прессой. Позже основатель компании согласился продемонстрировать возможности системы лично. Алгоритм сумел обнаружить старые фотографии Кашмир на платформе Flickr 15-летней давности, о существовании которых на серверах она даже не подозревала.
Более того, система идентифицировала её размытый силуэт на заднем плане случайного чужого снимка в толпе, распознав уникальный дизайн куртки, купленной в Токио. Кашмир Хилл и Джордан Харбингер сошлись во мнении, что современные компьютеры превзошли человеческое зрение в способности запоминать и сопоставлять миллиарды лиц одновременно.
Технологический прорыв ClearView AI стал возможен благодаря агрессивным методам сбора данных. По воспоминаниям Хилл, технический директор компании Хуан Тон-Тхат начинал с создания автоматических скриптов для сканирования финансового сервиса Venmo. Платформа по умолчанию транслировала транзакции пользователей в общий доступ, если они не меняли настройки приватности. Тон-Тхат настроил роботов, которые каждые несколько секунд скачивали аватары пользователей и ссылки на их учетные записи. Сам разработчик сравнивал этот процесс с игровым автоматом, из которого при каждом нажатии рычага сыпались миллионы человеческих лиц.
🧠 Как видят машины: «Черный ящик» машинного обучения 13:48
Современные системы биометрии вышли на новый уровень благодаря нейросетям и глубокому машинному обучению, которые лежат в основе таких мощных языковых моделей, как ChatGPT. Суть обучения сводится к обработке колоссальных массивов неструктурированных данных. Кашмир Хилл подчеркивает, что пользователи интернета годами самостоятельно выполняли работу для корпораций, отмечая себя и друзей на тегах в социальных сетях под разным углом, при разном освещении и в разном возрасте. Проанализировав эти снимки, компьютер научился кодировать уникальные черты человеческого лица на пиксельном уровне, преобразуя их в длинный цифровой биометрический код. При загрузке фотографии неизвестного человека ИИ сверяет получившийся маркер с базой данных.
Главную опасность применения подобных систем ученые и инженеры видят в концепции «черного ящика» (black box). Человек не способен до конца понять, по каким именно критериям нейросеть принимает итоговое решение.
Примеры ложных корреляций ИИ:
- Ранние алгоритмы распознавания лиц часто идентифицировали людей не по чертам лица, а по одинаковому фону на заднем плане.
- Медицинские нейросети, настроенные на поиск патологий, иногда обучались распознавать специфический шрифт документов конкретной больницы, а не реальные симптомы болезней.
В случае ошибки или неверного судебного обвинения специалисты не всегда могут объяснить мотивы ИИ. Тем не менее, алгоритмы больше не нуждаются в постоянных новых данных для тренировки. По оценкам экспертов, современные ИИ-модели уже научились безошибочно кодировать лица любых новых людей.
Исследования Национального института стандартов и технологий США (NIST) подтверждают, что возрастные изменения и медицинские маски могут снижать точность, однако ClearView AI по-прежнему легко сопоставляет взрослые снимки с кадрами десятилетней давности. Забавным индикатором ограничений технологии стал поступок Марка Цукерберга: празднуя 4 июля, он закрыл лица старших дочерей цифровыми стикерами ради их приватности, но оставил открытым лицо младенца, поскольку алгоритмы биометрии пока неэффективны при анализе новорожденных.
🏟️ Эволюция слежки: от безопасности к «черным спискам» корпораций 22:02
Практика использования биометрии в бизнесе наглядно демонстрирует феномен «миссии ползучей слежки» (surveillance creep). Культовый стадион Мэдисон-сквер-гарден (MSG) в Нью-Йорке развернул систему распознавания лиц в 2018 году исключительно для предотвращения террористических угроз и обеспечения безопасности крупного транспортного узла Пенсильванского вокзала. Однако в дальнейшем владелец спортивного комплекса Джеймс Долан нашел технологии иное применение. Он задействовал алгоритмы для тотальной изоляции своих оппонентов — адвокатов из юридических фирм, которые ведут судебные процессы против его бизнеса. Служба безопасности MSG собрала фотографии сотрудников с официальных сайтов компаний и внесла тысячи юристов в запретительный список. Теперь система автоматически блокирует им вход на любые матчи, концерты Марайи Кэри или шоу Радио-сити-мьюзик-холл.
Кашмир Хилл зафиксировала работу этого механизма в ходе журналистского эксперимента, отправившись на хоккейный матч команды Rangers с одним из попавших под запрет адвокатов. Несмотря на плотный поток посетителей, система мгновенно выявила юриста на входе, после чего охрана потребовала документы и выдворила женщину со стадиона, проигнорировав заявления о том, что она лично не участвует в тяжбах с MSG. По мнению Хилл, данный прецедент открывает дорогу для корпоративного произвола, когда любой бизнес сможет закрывать двери перед клиентами, оставившими негативный отзыв в Yelp или Google. Сходные биометрические комплексы для борьбы с шоплифтерами уже активно развертывают торговые сети Macy’s и крупные продуктовые супермаркеты Нью-Йорка.
⚠️ Ошибки, предвзятость и теневая сторона технологий 6:08
Обратной стороной эффективности биометрии становятся фатальные сбои и системная предвзятость. В США зафиксированы случаи неправомерных арестов граждан, пострадавших из-за того, что алгоритм перепутал их с реальными преступниками. В телевизионных сериалах ИИ всегда выдает единственное верное имя, но на практике оператор получает список кандидатов, отсортированных по уровню уверенности (confidence score). Если этот порог занижен, система выдает массу двойников (доппельгангеров). Джордан Харбингер вспомнил личную историю времен жизни в Израиле, когда его внешнее сходство с популярным телеведущим MTV приводило к постоянной путанице в торговых центрах и вызывало бурный восторг у местных подростков.
Долгое время ключевой проблемой биометрии оставался расовый и гендерный дисбаланс. Как утверждает Кашмир Хилл, до 2020–2021 годов большинство американских алгоритмов работало корректно только на белых мужчинах. Причиной послужил тот факт, что разработчиками и специалистами по контролю качества выступали преимущественно белые мужчины, настраивавшие систему под себя и своих знакомых. В то же время азиатские алгоритмы демонстрировали высокую точность при распознавании лиц азиатского происхождения благодаря специфике местных тренировочных баз данных. В современных версиях программ расовая предвзятость снижена за счет диверсификации обучающих выборок, однако финальный выбор из списка похожих людей по-прежнему делает человек, который подвержен субъективным психологическим искажениям.
Параллельно фиксируются опасные случаи злоупотребления технологиями внутри силовых ведомств. В профессиональной среде закрепился термин «Loveint» (любовная разведка), описывающий ситуации, когда сотрудники полиции или спецслужб используют закрытые базы данных для слежки за своими супругами, бывшими партнерами или объектами личного интереса. Дополнительную угрозу создают общедоступные коммерческие инструменты.
Хилл побеседовала с пользователем поисковика PimEyes, который анонимно признался в деанонимизации порноактрис. Мужчина собирал их реальные имена и школьные архивные снимки, формируя скрытые досье, а затем переключился на список своих друзей в Facebook. В результате он обнаружил интимные и двусмысленные фотографии своих знакомых на сайтах с «мести-порно» (revenge porn), которые ранее невозможно было найти по имени. Харбингер добавил, что участие студентов в знаменитых забегах «Голая миля» в Мичиганском университете теперь может обернуться карьерным крахом спустя десятилетия, поскольку интернет навсегда перестроился вокруг распознавания человеческих лиц.
🇨🇳 Тоталитарный контроль и «красные списки» элиты 34:19
В государствах с авторитарной моделью управления биометрия превращается в бескомпромиссное оружие контроля над населением. В Москве городские камеры видеонаблюдения сопряжены с алгоритмами распознавания лиц для мгновенного поиска разыскиваемых лиц, что регулярно приводит к задержаниям невиновных граждан из-за ошибок распознавания. В Китае во время массовых протестов в Гонконге активисты были вынуждены взбираться на столбы и закрашивать объективы камер краской, чтобы избежать неминуемой идентификации. В ряде китайских городов системы автоматически выписывают штрафы за переход улицы в неположенном месте и публично транслируют имена и лица нарушителей, вышедших на улицу в пижамах. Курьезным, но тревожным примером стало оснащение биометрическими камерами общественных туалетов в Пекине: ради борьбы с кражами туалетной бумаги аппарат выдает ограниченное количество листов только после сканирования лица, блокируя повторную выдачу на семь минут.
По словам Кашмир Хилл, развертывание подобной инфраструктуры неизбежно ведет к формированию жестко контролируемого общества, где приватность становится элитарной роскошью. В Китае уже зафиксировано создание так называемых «красных списков» (red lists). В то время как обычные граждане попадают в черные списки для мониторинга, лица представителей партийной номенклатуры и высокопоставленных чиновников заносятся в систему со специальным статусом защиты. Камеры автоматически игнорируют или размывают их силуэты, позволяя элите сохранять анонимность при перемещении по стране.
При этом репортер Пол Мозер указывает на то, что китайская цифровая диктатура не является монолитной: системы слежки децентрализованы и их жесткость полностью зависит от решений местных муниципальных руководителей. Джордан Харбингер подчеркнул, что подобные технологии лишают диссидентов малейшего шанса на спасение, вспомнив историю своего пассажира Uber — тайного иранского христианина, который был вынужден бежать в США из-за угрозы физического уничтожения со стороны религиозной полиции Ирана.
⚖️ Борьба за право на лицо: законы и методы противодействия 37:01
Международная reaction на экспансию ClearView AI разделилась. В то время как власти США не имеют единого федерального законодательства в области биометрии, регуляторы Европы, Канады и Австралии официально признали деятельность стартапа незаконной, оштрафовали компанию и выдворили её со своего рынка. Внутри Соединенных Штатов редким исключением является штат Иллинойс, где действует строгий локальный закон, запрещающий коммерческое использование слепков лиц, голосов и отпечатков пальцев без предварительного письменного согласия граждан. Именно благодаря этому закону компания MSG не имеет права блокировать адвокатов в своем театре в Чикаго.
Исторические параллели борьбы за приватность:
- В 1960-х годах в США начался период, названный «нашествием электронного подслушивания», когда спецслужбы массово устанавливали скрытые микрофоны.
- ФБР тайно зафиксировало факты супружеской измены Мартина Лютера Кинга и отправило аудиозапись его жене, шантажом принуждая лидера гражданских прав к совершению самоубийства.
- Громкий общественный скандал заставил Конгресс принять жесткие законы, из-за которых современные уличные камеры видеонаблюдения в США имеют право фиксировать изображение, но лишены возможности записывать разговоры.
В современных военных конфликтах технологии биометрии применяются в максимально радикальной форме. Кашмир Хилл подтвердила, что министерство обороны Украины задействует мощности ClearView AI для сканирования лиц погибших российских военнослужащих. С помощью ИИ устанавливаются их личности и контакты родственников, после чего семьям отправляются цифровые доказательства смерти. По мнению гостя, американское общество восприняло данный кейс как весьма пугающий и мрачный пример милитаризации гражданских ИИ-технологий.
Попытки граждан защититься от слежки с помощью киберпанк-одежды, солнцезащитных очков или асимметричного макияжа (CV Dazzle) демонстрируют слабую эффективность. Протестировав PimEyes на сотрудниках редакции The New York Times, Хилл убедилась, что алгоритмы успешно распознают людей в кепках, очках и плотных медицинских масках. Период пандемии COVID-19 заставил разработчиков экстренно переобучить нейросети для работы в условиях скрытой нижней части лица.
Параллельно нарастает угроза использования дипфейков. В Китае мошенники массово обходят банковские системы верификации и берут кредиты, используя анимированные ИИ-модели лиц жертв перед веб-камерами. В заключение беседы собеседники констатировали, что без немедленного жесткого законодательного регулирования биометрические технологии и генеративные нейросети окончательно уничтожат доверие к цифровой информации и лишат человечество права на частную жизнь.
