Сбрось весь разгон, как память так и проц. Посмотри какой результат будет на стоковых настройках, если все хорошо только потом начинай понемногу разгонять.