Попробуй сначала выставить fullhd(или типа того) разрешение рабочего стола с масштабированием на ГП (у nvidia есть, у amd не знаю), а уже потом пробуй менять разрешение в игре.