Medine döneminde de Müslümanların Kudüs’e bakışı değişmemiş, kıblenin Mekke’ye çevrilmesi Kudüs’ü onların gündeminden düşürmemiştir. Hz. Peygamber’in (s.a.s.) Kudüs konusunda vurgulu tavsiyeleri dolayısıyla Müslümanlar bu şehrin çok geçmeden İslam beldesi olacağına inanmış, hatta bazıları Mekke’den önce Kudüs’ün fethedileceğini düşünmüştür. Hz. Peygamber (s.a.s.) Müslümanları Kudüs’ü ziyarete teşvik etmiş, gitmeye güç yetiremeyenlerin ise kandillerinde yakılmak için oraya zeytinyağı göndermelerini buyurarak şehrin âdeta maddi olarak da Müslümanlarca aydınlatılmasını temenni etmiştir. Anlatılanlara bakılınca, Kudüs’ün öneminin buradaki mabetten geldiği ortaya çıkacaktır. Sahabeden Ebu Zer Gifari’den yeryüzündeki ilk ve ikinci mabedin hangisi olduğu sorusu üzerine Hz. Peygamber (s.a.s.) ilk mabedin Mekke’de, ikinci mabedin ise Kudüs’te olduğunu, ikisinin yapımı arasında kırk yıl olduğunu buyurmuştur. (Müslim, Mesâcid, 2.) Kâbe ve Mescid-i Nebevi’de kılınan namazlardan sonra Kudüs’teki mabette yapılan ibadete en fazla sevap verileceğini çünkü sadece bu üç şehrin ibadet merkezi olduğunu buyurarak Müslümanları burayı ziyarete teşvik etmiştir. (İbn Mâce, İkâmetü’s-salât, 198; Beyhakî, Sağîr, C. 2, 211.) Hz. Süleyman’ın Kudüs’teki mabedi yaptıktan sonra ettiği dualardan birisinin de burada ibadet edenlerin günahlarının tamamen affedilmesi olduğunu belirten Hz. Peygamber (s.a.s.) onun diğer dualarının gerçekleştiğini ve bu duasının da gerçekleşeceğini umduğunu buyurmuştur.