Видео маслом: Руина

Итог трехнедельного изучения нейронок: Nerf+EbSynth

Вначале я сделал видеосъемку с облетом вокруг исходного объекта.

Исходное видео снятое на мобильный телефон

Затем произвел раскадровку видео и прогнал через Nerf, где получил частично объемное изображение. Настроил камеру и снял рендер.

Рендер из Nerf

Полученное видео разбил на кадры. С помощью программы "Dynamic Auto-Painter PRO 7" сделал стилизацию 1, 80 и 100 кадра под акварель.

Опорный кадр 
Опорный кадр 

Следующий шаг был запуск EbSynth, по ключевым кадрам он насаживает текстуры опорного кадра. Программа очень простая в обращении и работает достаточно быстро. Рендер 100 кадров занял 2 минуты (3070 RTX).

Ну, а дальше, объединил всё в Сони Вегасе и получил конечное видео.

Итог

Основные проблемы:

1) Видны резкие изменения стиля у опорных кадров. Их можно вылечить с помощью махинаций с картой глубины. Это следующий шаг, нужно осваивать Премьер и Афтер Эффект;

2) Nerf чрезвычайно чувствителен к исходному видео. Лучше загружать меньше кадров, но с большим разрешением. Нормальные исходники получаются только при облете вокруг объекта, как попало снимать пока нельзя :(

Затрачено времени:

Съемка исходника - 2 минуты

Тренировка Nerf - 30 минут

Рендер видео 15 минут

Создание опорных кадров - 10 минут

Синтезирования новых кадров - 5 минут

Объединение кадров и их разбивка - 10

Итого: 72 минуты

А на то, чтобы заставить работать эти сетки и программы 10 часов. Как говорится, ламер - это судьба.

В целом я очень доволен результатом, огромный простор для творческих решений. Программы довольно доступны для освоения. Основная трудность их установка.

Большая благодарность дтферам за помощь, особенно @42 и @fofun ! Вы клевые!

1212
2 комментария

Yay!
Кстати по стилизации - в доках nerfstudio нашел метод с изменением стиля
https://docs.nerf.studio/en/latest/nerfology/methods/in2n.html

2
Ответить

капец куда мы идём и какие возможности

1
Ответить