AI-носимые устройства: память, технологии и границы приватности 1:09
В последнее время технологический рынок захлестнула волна устройств, которые позиционируются как «ИИ-память» или «умные стенографы». По мнению ведущего Дэвида Пирса и его гостьи Ви Сонг, эти гаджеты представляют собой новый и крайне противоречивый класс носимых устройств, предназначенных для того, чтобы всегда находиться «под рукой». Главная идея разработчиков заключается в том, что устройство, закрепленное на одежде, записывает все разговоры пользователя в течение дня, после чего ИИ-модели создают транскрипты, резюме и списки дел.
Опыт использования: между пользой и абсурдом 4:44
В ходе тестирования устройства Be (представляющего собой кулон или браслет) Ви Сонг столкнулась с рядом странностей.
- ИИ-факты: Устройство склонно к созданию ложных утверждений, которые Сонг называет «ИИ-фактиндером» — пользователю предлагается подтверждать или опровергать абсурдные факты о своей жизни.
- Ошибки интерпретации: Из-за неспособности распознать контекст или лирику песен, устройство записывало несуществующие события, например, конфликты с несуществующими людьми.
- Эмоциональное влияние: По словам Сонг, использование устройства вызывало чувство постоянной слежки, сравнимое с работой агента под прикрытием. Она даже поймала себя на том, что стала меньше разговаривать сама с собой, опасаясь нелепых интерпретаций со стороны ИИ.
Дэвид Пирс отмечает, что устройства неплохо справляются с короткими записями встреч, но совершенно не понимают повседневную жизнь. Для него «кристаллизующим» моментом стало прослушивание того, как ИИ интерпретировал 15 минут просмотра TikTok — это превратилось в набор случайных, бессвязных фраз. Оба спикера сошлись во мнении, что существующие ИИ-модели пока лишены «мудрости», необходимой для того, чтобы отличать важное от шума.
Проблема приватности и этические дилеммы 19:21
Главная этическая сложность заключается в вопросе согласия окружающих. Ношение подобного устройства постоянно ставит пользователя в неловкое положение перед друзьями и близкими.
- Риск незаконности: Пирс подчеркивает, что в штатах с «двусторонним согласием» (two-party consent) скрытая запись разговоров может считаться преступлением.
- Паранойя: Сонг отмечает, что гаджеты делают владельца невольным «шпионом», который слышит конфиденциальные разговоры коллег, к которым не имеет никакого отношения.
- Безопасность данных: Даже если компании заявляют о серьезном подходе к приватности, сам факт того, что личный разговор загружается на сервер и превращается в текст, делает его уязвимым.
Идеальный кейс: когда это все-таки работает 28:11
Несмотря на скепсис, спикеры признают, что технология имеет потенциал, если сфокусироваться на конкретных задачах. Дэвид Пирс поделился трогательным примером: устройство записало, как его 2-летний сын радостно кричал «мусоровоз», наблюдая за машиной на площадке. Для таких моментов — сохранения конкретных, важных для пользователя событий — устройство может быть по-настоящему ценным.
