Есть мод Ultra Plus Path tracing кажется называется. Очень популярный, но я его ещё не ставил, руки не дошли. Как заявляется автором, сильно улучшает качество картинки с трассировкой. Там множество пресетов у этого мода на любой вкус, некоторые ФПС поднимают, а некоторые графику улучшают. Короче, попробуй.