Просто особенность рендера конкретного движка. Так же вариант оптимизации, даже когда меняешь качество отражений в кб меняется эта самая пиксельность. Попробуй настойку отражений "безумие".
В ведьаке 3 вообще изменение качества отражений влияет на дальность их отрисовки, а не на их качество.