# Можно ли доверять ИИ: мнение экспертов университета Ватерлоо

Источник: https://www.youtube.com/watch?v=FBAE3E4PSgo
Канал: Perimeter Institute
Опубликовано: 18.01.2024

---

## Искусственный интеллект: между безграничным доверием и тотальным страхом
[[JUMP:0:01]]

Профессор Донна Стрикленд и Эшли Меленбахер из университета Ватерлоо провели специальную лекцию в Perimeter Institute, посвященную проблеме доверия к искусственному интеллекту. В дискуссии приняли участие эксперты из сферы венчурного капитала, геоинформатики, экономики и социологии, которые обсудили, как сбалансировать потенциальные выгоды от новых технологий с их рисками. Главный вопрос встречи заключался в том, можно ли доверять системе, которая имитирует человеческое мышление и язык, но при этом является «черным ящиком» для большинства пользователей.

### ⚖️ Поиск баланса: между «стохастическим попугаем» и «агентом зла»
[[JUMP:15:31]]

Эксперты отметили, что современные дискуссии об ИИ часто уходят в крайности, что мешает объективной оценке технологий. По мнению Макуна Вери, общество делится на два лагеря:

*   Те, кто считает языковые модели «стохастическими попугаями» или сложными автодополнителями текста.
*   Те, кто приписывает ИИ человеческую мотивацию, намерение и способность к осознанному вреду человечеству.

Реальность, как считает Вери, находится где-то посередине: это не просто простой алгоритм, но и не «умный тостер», захватывающий мир. Лия Моррис добавляет, что существующая культура страха вокруг ИИ вредит прогрессу. С одной стороны, «эффективные альтруисты» оценивают вероятность «гибели» человечества как крайне высокую. С другой стороны, слепая вера в необходимость ускорения всех разработок игнорирует реальные проблемы неравенства доступа к сервисам, которые существуют уже сейчас.

### 🔒 Приватность, данные и «радикальные» решения
[[JUMP:19:38]]

Вопрос конфиденциальности данных остается центральным для доверия к технологиям. Лия Моррис утверждает, что проблема приватности не является новой и не была создана искусственным интеллектом, однако он ее значительно обостряет. Она предостерегает от создания «новых» законов для ИИ, которые зачастую технически невыполнимы — например, требование «права на забвение» (удаление данных из обученной модели) сродни попытке извлечь конкретные ингредиенты из уже испеченного пирога.

Анодон Сен предложил радикальный подход к управлению данными:

*   Переход к модели, где личные данные признаются собственностью индивида (имущественные права).
*   Создание «дата-рынков» или «дата-трастов», где люди могли бы получать вознаграждение за предоставление своих данных для обучения моделей.
*   По мнению Сена, если пользователь будет видеть выгоду от своего «информационного актива», он начнет относиться к его защите ответственнее.

### 💡 Информация против знаний
[[JUMP:29:30]]

Личи Фэн подчеркнула фундаментальную разницу между информацией, которую генерирует ИИ, и человеческим знанием. ИИ — это «совершенные счетные машины», которые мастерски воспроизводят закономерности, но не обладают пониманием сути.

Особое внимание эксперт уделила вопросу репрезентативности обучающих выборок:

*   Если модель обучается на исторических данных (например, 150 лет искусства), она неизбежно наследует предвзятость, исключая группы, которые были маргинализированы в прошлом.
*   По мнению Фэн, если вопрос равенства не ставится на этапе идеологии и дизайна продукта, такие системы будут воспроизводить идеологические перекосы.

### 🛡️ Угроза «плохих акторов» и роль регуляции
[[JUMP:1:05:13]]

Одним из ключевых вопросов из зала стала проблема злоумышленников, которые могут использовать ИИ для дезинформации и манипуляций. Участники сошлись во мнении, что полностью запретить использование ИИ невозможно, так как это инструмент, доступный каждому с ноутбуком.

Предложенные меры по защите:

1.  **Регулирование инфраструктуры:** Лия Моррис предлагает регулировать не сами модели, а физическую инфраструктуру, необходимую для их создания (например, производство оборудования), подобно контролю в фармацевтике.
2.  **Прозрачность:** Обязательная маркировка контента, созданного ИИ, является минимально необходимым регуляторным шагом.
3.  **Аудит данных:** Анодон Сен настаивает на проверке того, как именно обучаются модели, упоминая скандалы, когда для «очистки» данных привлекались низкооплачиваемые рабочие, работавшие в травмирующих условиях.

### 🎓 Будущее образования и рынка труда
[[JUMP:1:24:08]]

Завершая дискуссию, Личи Фэн ответила на опасения родителей студентов: как будущим специалистам дорасти до уровня профессионалов, если базовые задачи (написание кода, анализ контрактов) теперь выполняет ИИ? По мнению эксперта, образование должно сфокусироваться на критическом мышлении, а не на «перформативном» обучении. ИИ нужно воспринимать как бензопилу или калькулятор: если не понимать основы предмета, инструмент не только не поможет, но и станет опасен для самого пользователя.