Технология Intel: как нейросети делают видеоигры неотличимыми от реальности

Two Minute Papers 888 тыс. 8 мин 2 мин 05.06.2021
Главное

Новая технология Intel: как нейросети делают видеоигры неотличимыми от реальности 0:00

В мире компьютерной графики произошел качественный сдвиг: исследователи представили новую технологию, способную превращать картинку из видеоигр в изображение, которое практически невозможно отличить от реальной съемки. Автор канала Two Minute Papers, доктор Карой Жолнай-Фехер (Dr. Károly Zsolnai-Fehér), детально разобрал этот метод, который решает фундаментальные проблемы рендеринга и временной стабильности графики.

От игровых текстур к фотореализму 0:42

Суть метода заключается в использовании нейросетевых алгоритмов, которые обучаются на наборах данных реальных городских пейзажей, таких как Cityscapes. Ранее подобные попытки наталкивались на две критические проблемы: недостаточный уровень фотореализма и отсутствие временной согласованности.

В предыдущих подходах нейросети обрабатывали каждый кадр независимо, что приводило к «мерцанию» изображения — неприятному эффекту, который мгновенно разрушал эффект погружения у игрока. Новая технология справляется с этим, сохраняя не только общую картинку, но и мелкие детали:

Неожиданная адаптация и ограничения алгоритма 4:49

Одним из самых удивительных открытий стало то, как нейросеть обобщает данные. Модель, обученная преимущественно на видеозаписях немецких городов, успешно перенесла свои знания на виртуальную Калифорнию из игры GTA 5, хотя алгоритм никогда не «видел» реальных калифорнийских пейзажей.

Однако у метода есть свои особенности, которые доктор Жолнай-Фехер называет не только ограничениями, но и возможностями для творчества:

  1. Географическая предвзятость: если в тренировочном наборе данных представлены только пышные зеленые холмы Австрии и Германии, нейросеть при попытке воссоздать сухие ландшафты Лос-Анджелеса «засадит» их деревьями.
  2. Эффект дорисовывания: авторы видят в этом потенциал для художественных эффектов, позволяющих стилизовать пространство под определенные типы местности.

Будущее разработки игр 6:01

По словам ведущего, данная технология может радикально изменить процесс разработки игр. Вместо того чтобы тратить колоссальные ресурсы на создание 80–100% готовой фотореалистичной картинки, художники смогут создавать «грубые черновики» (около 20% детализации), а нейросеть будет брать на себя всю остальную работу.

Технология уже сейчас работает в интерактивном режиме и может быть внедрена в игровой движок в качестве этапа пост-обработки. Это значит, что игрокам не придется ждать рендеринга часами — преобразование происходит практически мгновенно. Учитывая «Первый закон Two Minute Papers», можно ожидать, что через пару научных работ качество этой системы станет ещё выше.

💬 Цитаты

«Это безумная идея, и когда я прочитал эту статью, я подумал, что это в принципе не может работать.»

Карой Жолнай-Фехер 0:59

«Алгоритм никогда не видел Калифорнию, и все же он может воссоздать её из игровых кадров лучше, чем я мог себе представить.»

Карой Жолнай-Фехер 4:49
👥 Спикер
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
Временная согласованность (temporal coherence)
Свойство алгоритма обработки видео, при котором каждый следующий кадр логически и визуально продолжает предыдущий, предотвращая мерцание объектов.
Пост-обработка (post-processing)
Этап обработки графики, на котором к уже отрендеренному изображению применяются дополнительные визуальные эффекты.
Рендеринг (rendering)
Процесс генерации изображения по модели с помощью компьютерной программы.
📊 Цифры
⚖️ Другая сторона
Искусственный интеллект Intel neural networks photorealism GTA 5 Cityscapes