Как же. Прям в конструкторе можно формат задать
RenderTexture t = new RenderTexture(256, 256, 0, GraphicsFormat.R8G8_UNorm);
или
RenderTexture t = new RenderTexture(256, 256, 0, RenderTextureFormat.R8);