Искусственный интеллект: между безграничным доверием и тотальным страхом 0:01
Профессор Донна Стрикленд и Эшли Меленбахер из университета Ватерлоо провели специальную лекцию в Perimeter Institute, посвященную проблеме доверия к искусственному интеллекту. В дискуссии приняли участие эксперты из сферы венчурного капитала, геоинформатики, экономики и социологии, которые обсудили, как сбалансировать потенциальные выгоды от новых технологий с их рисками. Главный вопрос встречи заключался в том, можно ли доверять системе, которая имитирует человеческое мышление и язык, но при этом является «черным ящиком» для большинства пользователей.
⚖️ Поиск баланса: между «стохастическим попугаем» и «агентом зла» 15:31
Эксперты отметили, что современные дискуссии об ИИ часто уходят в крайности, что мешает объективной оценке технологий. По мнению Макуна Вери, общество делится на два лагеря:
- Те, кто считает языковые модели «стохастическими попугаями» или сложными автодополнителями текста.
- Те, кто приписывает ИИ человеческую мотивацию, намерение и способность к осознанному вреду человечеству.
Реальность, как считает Вери, находится где-то посередине: это не просто простой алгоритм, но и не «умный тостер», захватывающий мир. Лия Моррис добавляет, что существующая культура страха вокруг ИИ вредит прогрессу. С одной стороны, «эффективные альтруисты» оценивают вероятность «гибели» человечества как крайне высокую. С другой стороны, слепая вера в необходимость ускорения всех разработок игнорирует реальные проблемы неравенства доступа к сервисам, которые существуют уже сейчас.
🔒 Приватность, данные и «радикальные» решения 19:38
Вопрос конфиденциальности данных остается центральным для доверия к технологиям. Лия Моррис утверждает, что проблема приватности не является новой и не была создана искусственным интеллектом, однако он ее значительно обостряет. Она предостерегает от создания «новых» законов для ИИ, которые зачастую технически невыполнимы — например, требование «права на забвение» (удаление данных из обученной модели) сродни попытке извлечь конкретные ингредиенты из уже испеченного пирога.
Анодон Сен предложил радикальный подход к управлению данными:
- Переход к модели, где личные данные признаются собственностью индивида (имущественные права).
- Создание «дата-рынков» или «дата-трастов», где люди могли бы получать вознаграждение за предоставление своих данных для обучения моделей.
- По мнению Сена, если пользователь будет видеть выгоду от своего «информационного актива», он начнет относиться к его защите ответственнее.
💡 Информация против знаний 29:30
Личи Фэн подчеркнула фундаментальную разницу между информацией, которую генерирует ИИ, и человеческим знанием. ИИ — это «совершенные счетные машины», которые мастерски воспроизводят закономерности, но не обладают пониманием сути.
Особое внимание эксперт уделила вопросу репрезентативности обучающих выборок:
- Если модель обучается на исторических данных (например, 150 лет искусства), она неизбежно наследует предвзятость, исключая группы, которые были маргинализированы в прошлом.
- По мнению Фэн, если вопрос равенства не ставится на этапе идеологии и дизайна продукта, такие системы будут воспроизводить идеологические перекосы.
🛡️ Угроза «плохих акторов» и роль регуляции 1:05:13
Одним из ключевых вопросов из зала стала проблема злоумышленников, которые могут использовать ИИ для дезинформации и манипуляций. Участники сошлись во мнении, что полностью запретить использование ИИ невозможно, так как это инструмент, доступный каждому с ноутбуком.
Предложенные меры по защите:
- Регулирование инфраструктуры: Лия Моррис предлагает регулировать не сами модели, а физическую инфраструктуру, необходимую для их создания (например, производство оборудования), подобно контролю в фармацевтике.
- Прозрачность: Обязательная маркировка контента, созданного ИИ, является минимально необходимым регуляторным шагом.
- Аудит данных: Анодон Сен настаивает на проверке того, как именно обучаются модели, упоминая скандалы, когда для «очистки» данных привлекались низкооплачиваемые рабочие, работавшие в травмирующих условиях.
🎓 Будущее образования и рынка труда 1:24:08
Завершая дискуссию, Личи Фэн ответила на опасения родителей студентов: как будущим специалистам дорасти до уровня профессионалов, если базовые задачи (написание кода, анализ контрактов) теперь выполняет ИИ? По мнению эксперта, образование должно сфокусироваться на критическом мышлении, а не на «перформативном» обучении. ИИ нужно воспринимать как бензопилу или калькулятор: если не понимать основы предмета, инструмент не только не поможет, но и станет опасен для самого пользователя.
