🤖 ML News: Запреты на CVPR, реставрация Рембрандта и спад цен на GPU 0:00
В новом выпуске ML News ИИ-исследователь Янник Кильчер разбирает ключевые события недели в мире машинного обучения. В центре внимания — новые ограничения на публикации конференций, успехи ИИ в области искусства, а также спорные вопросы этики и реальности алгоритмов в медицине и политике.
🚫 CVPR ограничивает продвижение работ в соцсетях 0:30
На конференции CVPR 2021 было принято несколько важных процедурных решений, среди которых особое внимание привлекло «предложение номер четыре». Инициатива Майкла Блэка (Michael Black) вводит запрет на продвижение научных работ в социальных сетях во время процесса рецензирования.
- Суть запрета: Авторам разрешается только автоматическая публикация препринтов на arXiv, если таковая настроена сервисом. Прямая реклама своих работ в соцсетях в период рецензирования теперь официально под запретом.
- Аргументация: По мнению сторонников меры, социальные сети могут предвзято влиять на мнение рецензентов, если те заранее увидят популярную публикацию.
- Критика Янника Кильчера: Автор канала полагает, что проблема лежит глубже: сама система рецензирования, которую он называет «тремя чуваками, читающими статью в туалете», работает неэффективно. Он утверждает, что социальные сети сегодня являются более качественным «фильтром» для интересных и значимых работ, чем закрытые конференции. Кильчер отмечает, что существующая система «кумовства», где узкий круг лиц годами публикует друг друга, препятствует прогрессу, в то время как публикация в сети выводит на свет исследования, которые иначе затерялись бы в потоке.
🎨 ИИ-реставрация «Ночного дозора» Рембрандта 8:58
Использование ИИ позволило восстановить утраченные части знаменитой картины Рембрандта ван Рейна «Ночной дозор».
- Технология: Исследователи использовали нейронные сети (CNN), обученные на основе сохранившейся копии оригинального полотна, чтобы воссоздать утраченные фрагменты.
- Нюансы: Янник Кильчер отмечает двойственный характер проекта. С одной стороны, это впечатляющее достижение компьютерных технологий, сочетающее данные рентгеновских сканирований и цифровых экспозиций. С другой стороны, по его словам, важно понимать: мы лишь создали «правдоподобную» реконструкцию. У нас нет доказательств, что Рембрандт написал именно то, что было на копии, но технология позволила сделать картину визуально завершенной.
🏥 ИИ в медицине: надежды и разочарования 10:44
В индустрии здравоохранения наблюдается поляризация результатов внедрения ИИ.
- Walmart и ритейл: Компания внедрила ИИ-систему для подбора замен товаров в онлайн-заказах, и, по заявлениям компании, уровень удовлетворенности клиентов превысил 95%.
- Проблема сепсиса: В противовес этому, алгоритм, разработанный для предсказания сепсиса в больницах, показал низкую эффективность и большое количество ложных тревог. Кильчер критикует подход к обучению модели: она обучалась не на физическом состоянии пациента, а на том, как часто врачи выставляют счета за лечение сепсиса. По мнению ведущего, нельзя ожидать, что ИИ будет работать лучше людей, если он просто пытается копировать их уже существующие (и несовершенные) действия.
🛡️ Этические вопросы и «детонирование» токсичности 14:36
Кильчер обратил внимание на научную работу «De-Experts», посвященную борьбе с токсичностью в языковых моделях.
- Риск двойного использования: Автор статьи указывает, что метод, который подавляет токсичность, можно превратить в генератор экстремальной токсичности, просто изменив один бит в алгоритме.
- Позиция автора: Кильчер возмущен отсутствием критики этой работы со стороны «этических регуляторов». Он считает, что если бы подобный метод предложил кто-то менее «свой», его бы обвинили во всех грехах, но здесь авторы просто добавили формальное упоминание в разделе «Broader Impact». По мнению Кильчера, исследователям не стоит давать слишком много власти «этикам», пока не будет достигнута последовательность в оценке рисков разных работ.
📉 Коротко о главном
- GPU и цены: Цены на графические ускорители (GPU) начали падать на фоне жестких мер Китая в отношении криптовалют.
- Deepfakes: В Мьянме обсуждают видео с политиком как потенциальный «дипфейк», однако, по словам Кильчера, скорее всего, речь идет о низком качестве сжатия. В будущем нам всем придется пересмотреть критерии того, что считать «реальным доказательством».
- Nvidia Canvas: Вышла бета-версия приложения, позволяющая превращать быстрые наброски в фотореалистичные пейзажи.
- Книги: Чип Нгуен (Chip Huyen) и соавторы выпустили бесплатную книгу «Introduction to Machine Learning Interviews», полезную для подготовки к собеседованиям.
