Доступная виртуальная реальность: разработчик о проекте VR Stream

В начале октября российская компания Dive Into VR выпустила приложение для стриминга игр в виртуальной реальности на смартфоны. Благодаря VR Stream можно играть как в обычные компьютерные игры, так и в проекты с поддержкой Oculus Rift. Вам понадобятся только мобильный телефон и недорогая гарнитура вроде Google Cardboard.

Программист и сооснователь компании DVR Валерий Дубов подробно рассказывает, как работает технология и какие трудности встретились ему на пути от идеи до реализации.

Я занимаюсь мобильными разработками в сфере виртуальной реальности и считаю эту область наиболее перспективной и доступной для большинства пользователей. Сегодня я бы хотел рассказать о проекте VR Stream. Эта технология передает видеопоток с компьютера в мобильный телефон и преобразует картинку в режиме виртуальной реальности. По сути, мы заменяем дорогостоящие VR-устройства, вроде Oculus Rift и HTC Vive, и даем пользователям полный эффект присутствия и вовлеченности в игру.

Идея проекта родилась из моего прошлого опыта: я разрабатывал проект операционной системы в дополненной реальности. Тогда, благодаря книгам и собственной фантазии, в голове и сложилась четкая картина, как можно управлять данными при помощи собственных рук. Да-да, точно как в «Железном человеке».

Рынок AR активно развивался, и все больше людей понимало, как все это может выглядеть и работать. Железо постепенно расширяло свои возможности, так что я взялся за создание операционной системы и сделал прототип на Android: там использовалась страшная система охлаждения и Fish Eye линза.

Выглядело все, конечно, очень сырым, но я напомню — это было два года назад. Поэтому сегодняшние проекты, вроде Tilt Brush от Google или Social VR от Oculus, не производят на меня особого впечатления.

Вот пример использования Oculus и Leap Motion:

Тем не менее, Oculus и Leap Motion не укладывались в мою идею мобильности, и я столкнулся с серьезными проблемами на рынке железа — ограниченная производительность и отсутствие контроллеров вроде VR-перчаток. Я не нашел надежного решения и понял, что нужно сильно упростить идею и все-таки работать с тем, что есть (благо опыт позволял).

Пока сокращал количество «хотелок» — понял, что мощности смартфонов будет недостаточно. Впрочем, только они дают желаемый уровень удобства, так почему бы мне не поставить где-нибудь сервер и не присоединить к нему смартфон и запустить приложение? Отличная мысль!

С этого, по сути, и началась моя разработка технологии стриминга. Первый прототип был создан с помощью крутой технологии Nvidia GRID, и вроде бы это должно было решить большинство задач. Вот только работала она только с картами Nvidia Quadro. Получив желаемый прототип, нужно было масштабироваться, и тогда я столкнулся с проблемой — Nvidia юридически запретила использовать эту технологию на других картах, то есть лицензия распространяется только на Nvidia Quadro. Привет Steam с их In home streaming и Moonlight, которые все-таки используют эту технологию и не скрывают этого.

После такого «облома» я принялся изучать альтернативные решения, но все программы, которые были на тот момент, давали либо задержку в 0.5 — 1 секунду, либо очень плохое качество картинки, либо крайне низкий FPS.

Основной задачей стало получить из игры сформированную картинку и максимально оптимизировать ее для отправки по медленному Wi-Fi, не нарушая при этом лицензии. Узкое место здесь — лишнее копирование в памяти, лишние такты процессора и прерывания. Все эти операции тратили милисекунды, которые суммарно превращались в заторможенность и дискомфорт в работе. Но в итоге мне удалось достичь желаемых показателей.

С телефоном было проще — это всего лишь воспроизведение видео, и производители чипов эту задачу оптимизируют самостоятельно. Тем не менее, небольшие «допилки» все же понадобились: телефон не должен был уходить в режим энергосбережения и включать лишние буферизации для плавного воспроизведения.

В любом случае, на первом месте стоял вопрос о задержках. И вот каких показателей нам удалось достичь.

Настройки стриминга:

— 1440p90 (pixel perfect для Samsung S6)

— Bitrate 30000

Тесты проведены на компьютере 6700HQ + GTX 1060, телефон Samsung S6. Трансляция осуществлялась по воздуху, стандарт 802.11n 5 ghz. 300mbit.

Среднее арифметическое — 20.8 мс. Теперь прибавляем время, которое нужно для рендера одного кадра у игры: в нашем случае это 10 мс, так как рендер шел при 92 кадрах в секунду. Это время уже включает обновленный контроль поворота телефона и предсказания гироскопа.

Затем прибавляем время, которое требуется монитору компьютера для обновления — это 5мс. Таким образом, получаем: 20.8 + 5 + 10 = 36мс — это motion-to-photon latency (задержка между движением головы пользователя и отображением на дисплее — прим. ред.) при трансляции по воздуху Oculus-игры.

VR Stream — это инструмент, с помощью которого пользователи могут играть в привычные компьютерные игры новым способом, погрузившись в VR. Для этого достаточно иметь компьютер, который «тянет» уже существующие игры, смартфон и недорогой мобильный VR шлем, пусть даже Cardboard за два доллара.

Мы проводим тестирование существующих игр на совместимость и удобство игры в виртуальной реальности, и на основе этого пополняем список. Сейчас у нас есть уже 32 игры.

Помимо игр для Windows, с помощью VR Stream можно также запускать вещи, разработанные под Oculus, из Steam или Oculus Store, — то есть игры, уже адаптированные или созданные под VR изначально. Безусловно, ощущения от них гораздо круче за счет адаптированного интерфейса, глубины картинки и эффекта присутствия.

Сама технология состоит из двух компонентов: мобильное Android-приложение и ПК-клиент. Чтобы развиваться дальше, конечно нужны ресурсы, поэтому мы ввели монетизацию. Работает она так: пользователь получает бесплатный час игры, за который вполне можно опробовать совместимость и комфорт, ну а потом система попросит заплатить три доллара за игру.

Последнее время все только и говорят про VR. Про его перспективы, возможности, опасности, непредсказуемости и прочее. И каждый по-своему прав. Очевидно, чтобы рынок VR стал мэйнстримом, нужно вкладывать много сил и энергии в разработку софта и контента — только так можно полноценно раскрыть все возможности технологии.

Шлем виртуальной реальности не должен пылиться на полке, а его функция не должна ограничиваться демонстрацией друзьям или соседям «Американских горок». Эти штуковины способны на многое, если их правильно использовать.

VR Stream решает вполне понятные проблемы существующего рынка виртуальной реальности — расширяет базу высококачественного VR-контента и снижает входную стоимость. Причем, эта схема выгодна как пользователям, так и разработчикам — мы приводим новую огромную аудиторию, что позволяет последним быстрее окупить инвестиции, вложенные в игру и быстрее зарабатывать.

В ближайшей перспективе мы планируем прикрутить возможность запуска игр из Steam VR, а также полноценно поддерживать карты AMD.