Ф
💬 Заметные цитаты
Уязвимость компьютерного зрения
«Если вы внедряете модель компьютерного зрения туда, где нельзя доверять входящим данным — удачи вам, она вам понадобится.»
Реалистичность атак на автопилоты
«Если кто-то действительно хочет убить вас в беспилотном автомобиле, ему проще бросить камень в машину или протаранить ее, чем ювелирно менять пиксели на дорожном знаке.»
Ложная точность нейросетей
«99% по существу неотличимо от 0%. Это просто означает, что эти модели выучили своего рода все более сложные корреляции.»
Будущее инъекционных атак
«Мы собираемся увидеть, по сути, новое десятилетие инъекционных атак.»
«Это, я думаю, на сегодняшний день самая странная атака, которую я когда-либо видел на машинное обучение.»
👥 Часто вместе с
📺 Где появляется
🧠 Ключевые концепции
- Состязательные примеры 1
- Состязательное обучение 1
- Обучение по кратчайшему пути 1
- Состязательные примеры (Adversarial Examples) 1
- Неробастные признаки (Non-robust features) 1
- Состязательное обучение (Adversarial Training) 1
- Рандомизированное сглаживание (Randomized Smoothing) 1
- Обучение коротким путям (Shortcut Learning) 1
- Промпт-инъекция 1
- Обучающие данные 1
📈 Темы
Google DeepMind1кибербезопасность1состязательные примеры1Флориан Трамер1Nicholas Carlini1промпт-инъекция1Shortcut Learning1shortcut learning1Николас Карлини1Florian Tramèr1adversarial training1Machine Learning1
