İslami rivayet kültürüne göre Davud şehri genişletmiş ve Mescid-i Aksa'yı imar etmiştir. Davud'dan sonra şehrin yönetimi oğlu Süleyman'a geçmiş ve Süleyman mescidi ikinci defa yenilemiştir.
Mescid-i Aksâ, Yahudi kutsal kitabında geçen ve Hz. Davut'ın yapmak isteyip de oğlu Hz. Süleyman'nın yaptırdığı kutsal mabedin yeri olması (Süleyman Mabedi) nedeniyle Yahudilik'teki bazı ibadetlerin bu alanda yapılması zaruri hale gelmiş dolayısıyla burası kutsal sayılmıştır.
Davut, Kudüs'ü alarak burayı başkent yapmış ve Mescid-i Aksa'nın temelini atmıştır. Hz. Davut'tan (a.s.) sonra hükümdar olan oğlu Hz. Süleyman (a.s.) Mescid-i Aksa'nın yarım kalan inşaatını tamamlamıştır.
İbrahim, Lût, İshak, Yakub, Yunus, Yusuf, Davud, Süleyman, Musa, Zekeriya, İsa (a.s.)… Elbette Hz. İsmail de bu topraklarda doğdu, Sâre Ana, Hacer Ana, Meryem Ana da bu topraklarda yaşadı.
Müslümanlar için en kutsal yerlerden biri kabul edilen Mescid-i Aksa ve Kubbet'üs Sahra'nın bulunduğu Harem-üş-Şerif, Doğu Kudüs'te yer alıyor. Muhammed Peygamber'in buradan göğe yükseldiğine inanılıyor.
MS 66 yılında Romalı idarecilerin yönetimine karşı fanatik Zealotlar tarafından çıkarılan isyan sonrasında tapınak Romalı idareci Titus tarafından MS 70 yılında yıktırıldı.
Muhammed Peygamber döneminde Medine'de Müslümanların Mescid-i Aksa'ya yönelerek namaz kıldığı ve burayı kıble olarak kabul ettikleri belirtilir. Miraç olarak tanımlanan ve Muhammed Peygamber'in göğe yükseldiğine inanılan sürecin başlangıcında Muhammed Peygamber'in Mescid-i Aksa'ya geldiğine inanılır.
Bu adı, üç din tarafından da kutsal sayılan Sahra (Kaya) veya Hacer-i Muallaka (Asılı Kaya)'dan almaktadır. Zira bu büyük kubbeli yapı, söz konusu kayanın üzerine 685-691 yılları arasında Emevî Halifesi Abdülmelik b. Mervân'ın emriyle yaptırılmıştır.
Çünkü Kudüs, ilk kıblemiz, ikinci mescidimiz ve üçüncü haremimiz Mescid-i Aksa'yı bağrında barındırmaktadır. Çünkü Kudüs, İsra ve Miraç mucizelerinin gerçekleştiği beldedir. Peygamber Efendimiz (sav) Mescid-i Aksa'da bütün peygamberlere namaz kıldırmış ve Allah (c.c) nûn huzuruna buradan çıkmıştır.
1948 Arap-İsrail Savaşı'nda Batı Kudüs, İsrail tarafından ele geçirilen yerler arasındadır ve Eski Kudüs de içinde olmak üzere Doğu Kudüs, Ürdün tarafından ele geçirilmiştir. İsrail 1967 yılındaki Altı Gün Savaşı sonucunda Doğu Kudüs'ü ele geçirip sonrasında Batı Kudüs ile birleştirip Kudüs'ün tamamına hakim olmuştur.