# Янник Кильчер о запретах CVPR и будущем научных публикаций Источник: https://www.youtube.com/watch?v=tDk10VTHwNo Канал: Yannic Kilcher Опубликовано: 30.06.2021 --- ## 🤖 ML News: Запреты на CVPR, реставрация Рембрандта и спад цен на GPU [[JUMP:00:00]] В новом выпуске ML News ИИ-исследователь Янник Кильчер разбирает ключевые события недели в мире машинного обучения. В центре внимания — новые ограничения на публикации конференций, успехи ИИ в области искусства, а также спорные вопросы этики и реальности алгоритмов в медицине и политике. --- ### 🚫 CVPR ограничивает продвижение работ в соцсетях [[JUMP:00:30]] На конференции CVPR 2021 было принято несколько важных процедурных решений, среди которых особое внимание привлекло «предложение номер четыре». Инициатива Майкла Блэка (Michael Black) вводит запрет на продвижение научных работ в социальных сетях во время процесса рецензирования. * **Суть запрета:** Авторам разрешается только автоматическая публикация препринтов на arXiv, если таковая настроена сервисом. Прямая реклама своих работ в соцсетях в период рецензирования теперь официально под запретом. * **Аргументация:** По мнению сторонников меры, социальные сети могут предвзято влиять на мнение рецензентов, если те заранее увидят популярную публикацию. * **Критика Янника Кильчера:** Автор канала полагает, что проблема лежит глубже: сама система рецензирования, которую он называет «тремя чуваками, читающими статью в туалете», работает неэффективно. Он утверждает, что социальные сети сегодня являются более качественным «фильтром» для интересных и значимых работ, чем закрытые конференции. Кильчер отмечает, что существующая система «кумовства», где узкий круг лиц годами публикует друг друга, препятствует прогрессу, в то время как публикация в сети выводит на свет исследования, которые иначе затерялись бы в потоке. ### 🎨 ИИ-реставрация «Ночного дозора» Рембрандта [[JUMP:08:58]] Использование ИИ позволило восстановить утраченные части знаменитой картины Рембрандта ван Рейна «Ночной дозор». * **Технология:** Исследователи использовали нейронные сети (CNN), обученные на основе сохранившейся копии оригинального полотна, чтобы воссоздать утраченные фрагменты. * **Нюансы:** Янник Кильчер отмечает двойственный характер проекта. С одной стороны, это впечатляющее достижение компьютерных технологий, сочетающее данные рентгеновских сканирований и цифровых экспозиций. С другой стороны, по его словам, важно понимать: мы лишь создали «правдоподобную» реконструкцию. У нас нет доказательств, что Рембрандт написал именно то, что было на копии, но технология позволила сделать картину визуально завершенной. ### 🏥 ИИ в медицине: надежды и разочарования [[JUMP:10:44]] В индустрии здравоохранения наблюдается поляризация результатов внедрения ИИ. * **Walmart и ритейл:** Компания внедрила ИИ-систему для подбора замен товаров в онлайн-заказах, и, по заявлениям компании, уровень удовлетворенности клиентов превысил 95%. * **Проблема сепсиса:** В противовес этому, алгоритм, разработанный для предсказания сепсиса в больницах, показал низкую эффективность и большое количество ложных тревог. Кильчер критикует подход к обучению модели: она обучалась не на физическом состоянии пациента, а на том, как часто врачи выставляют счета за лечение сепсиса. По мнению ведущего, нельзя ожидать, что ИИ будет работать лучше людей, если он просто пытается копировать их уже существующие (и несовершенные) действия. ### 🛡️ Этические вопросы и «детонирование» токсичности [[JUMP:14:36]] Кильчер обратил внимание на научную работу «De-Experts», посвященную борьбе с токсичностью в языковых моделях. * **Риск двойного использования:** Автор статьи указывает, что метод, который подавляет токсичность, можно превратить в генератор экстремальной токсичности, просто изменив один бит в алгоритме. * **Позиция автора:** Кильчер возмущен отсутствием критики этой работы со стороны «этических регуляторов». Он считает, что если бы подобный метод предложил кто-то менее «свой», его бы обвинили во всех грехах, но здесь авторы просто добавили формальное упоминание в разделе «Broader Impact». По мнению Кильчера, исследователям не стоит давать слишком много власти «этикам», пока не будет достигнута последовательность в оценке рисков разных работ. ### 📉 Коротко о главном * **GPU и цены:** Цены на графические ускорители (GPU) начали падать на фоне жестких мер Китая в отношении криптовалют. * **Deepfakes:** В Мьянме обсуждают видео с политиком как потенциальный «дипфейк», однако, по словам Кильчера, скорее всего, речь идет о низком качестве сжатия. В будущем нам всем придется пересмотреть критерии того, что считать «реальным доказательством». * **Nvidia Canvas:** Вышла бета-версия приложения, позволяющая превращать быстрые наброски в фотореалистичные пейзажи. * **Книги:** Чип Нгуен (Chip Huyen) и соавторы выпустили бесплатную книгу «Introduction to Machine Learning Interviews», полезную для подготовки к собеседованиям.