Другой материал, записанный во время сессий, включая одноименную песню «Houses of the Holy», был отложен и выпущен на последующих альбомах «Physical Graffiti» и «Coda». Led Zeppelin взяли название «Houses of the Holy» из терминологии, которой они обозначали огромные арены и стадионы, где они выступали с концертами. После пяти лет совместной работы они были достаточно амбициозны и уверены в себе, чтобы верить в то, что смогут решить любую музыкальную задачу; в этот альбом даже вошла свинговая версия регги «D'yer Mak'er».