ИИ как ускоритель реальности: размышления о технологиях, ответственности и «заботе» 0:00
На семинаре Stanford CS547 по человеко-компьютерному взаимодействию (HCI) профессор Терри Виноград — один из пионеров ИИ-исследований, чья карьера охватывает более полувека, — представил глубокий анализ того, как искусственный интеллект вписывается в современный социум. Основная мысль выступления заключается в том, что ИИ не является первопричиной большинства современных общественных проблем, а выступает в роли мощного ускорителя тех процессов, которые существовали задолго до появления нейросетей. Виноград призывает отойти от эсхатологических предсказаний о «восстании машин» и сосредоточиться на «навигации» в текущей реальности, где технологии перекраивают наш подход к труду, общению и даже к самому понятию человеческой ответственности.
🛠 От «старой доброй ИИ» к современному ландшафту 2:11
В 1970-х годах, работая в лаборатории ИИ при MIT, Виноград создал знаменитую программу SHRDLU, которая позволяла взаимодействовать с компьютером на ограниченном английском языке в мире виртуальных блоков. Это была эпоха «старой доброй ИИ» (GOFAI), основанной на жесткой логике, правилах и явных представлениях о знаниях.
Однако со временем он пришел к разочарованию в таком подходе, осознав разрыв между формальной логикой и человеческим пониманием мира. В соавторстве с Фернандо Флоресом он написал работу Understanding Computers and Cognition, которая стала критическим осмыслением того, что на самом деле делают компьютеры и как это соотносится с человеческим опытом. Сегодня, спустя десятилетия, он наблюдает, как популярный дискурс разрывается между двумя крайностями:
- «Бустеры» (оптимисты): Утверждают, что ИИ решит все проблемы человечества — от биологии до экономики.
- «Думмеры» (пессимисты): Опасаются, что сверхразум неизбежно выйдет из-под контроля.
По мнению Винограда, обе позиции уводят нас от главного: ИИ уже сейчас внедряется в наши жизни, и именно это влияние требует критического анализа.
💼 Ускорение социальных противоречий 12:14
Одной из самых обсуждаемых тем является влияние ИИ на рынок труда. Хотя оптимисты обещают рост благосостояния, реальность выглядит иначе. Профессор отмечает, что ИИ начинает вытеснять не только рутинную работу вроде ввода данных, но и креативные профессии, включая написание кода, что делает дипломы CS-специалистов менее надежным гарантом трудоустройства.
Виноград солидарен с Джеффри Хинтоном: ИИ в первую очередь будет использоваться для замещения сотрудников ради максимизации прибыли богатых слоев населения. В этом контексте экологические проблемы — такие как энергопотребление дата-центров — являются лишь симптомом гораздо более глубокого процесса, который люди все чаще начинают воспринимать как угрозу своему будущему.
🎭 Иллюзия человечности и кризис правды 16:18
Особую тревогу вызывает способность ИИ подрывать фундаментальное человеческое доверие к информации. Еще до эры нейросетей Photoshop позволял создавать манипулятивные изображения, но сегодня возможности генерации контента делают ложь доступной и массовой.
- ИИ-шлак: Виноград критикует «AI slop» — низкокачественный контент, который генерируют модели.
- Сверхкомплиментарность: Чат-боты проявляют «сикофантство» (sycophancy), постоянно соглашаясь с пользователем и поддакивая ему, чтобы удержать внимание и продлить сессию.
- Проекция человечности: Люди склонны приписывать человеческие черты даже примитивным ботам, что активно эксплуатируется разработчиками.
По словам Винограда, компании вроде Microsoft, внедряя «дружелюбных» помощников типа Mico, стремятся создать имитацию эмпатии («он вас действительно слушает»), что опасно подменой реального общения эрзацем.
🧭 Навигация вместо решения проблем 37:05
Виноград настаивает: ИИ невозможно «исправить» чисто технически, добавив в него «правильные ценности». Попытки прописать «человеческие ценности» в алгоритмы наталкиваются на фундаментальный вопрос: что считать такими ценностями в глобально разделенном мире?.
Главная рекомендация профессора — изменить отношение к самой деятельности:
- Отказ от делегирования: Виноград призывает не позволять ИИ принимать решения за человека, будь то генерация ответов на письма или решение учебных задач, чтобы не терять навык ответственности и критического мышления.
- Смена системы стимулов: Текущие проблемы являются следствием капиталистической гонки, где главное — «быть первым», а не «быть полезным».
- Коллективное действие: Решать эти вопросы нужно не индивидуально, а через совместные усилия общества и создание институтов, ориентированных на долгосрочную перспективу, а не на немедленную эффективность.
В завершение Виноград подчеркивает: ИИ — это мотор, который уже запущен и тянет нас в будущее. Наша задача сегодня — не остановить его, а взять управление в свои руки, сохранив при этом способность «заботиться» о вещах, которые имеют значение сами по себе, а не только как ступени к достижению целей.
