Masjid Nabawi adalah masjid yang memiliki keutamaan kedua di muka bumi setelah Masjidil Haram di Makkah al-Mukkaramah. Tidak ada di dunia tempat yang suci (haram) selain kedua masjid itu.
Ketika Nabi Muhammad SAW memasuki kota Madinah, kaum Anshar mengelu-elukan beliau serta menawarkan rumah untuk beristirahat. Namun Rasulullah SAW menjawab dengan bijaksana: “Biarkanlah unta ini berjalan, karena ia diperintah Allah”. Setelah sampai di hadapan rumah Abu Ayyub al-Anshari, unta tersebut berhenti, kemudian Beliau dipersilahkan oleh Abu Ayyub Al-Anshari tinggal di rumahnya.
Setelah beberapa bulan tinggal di rumah Abu Ayyub Al-Anshari, Nabi Muhammad SAW mulai membangun masjid Nabawi pada tahun pertama Hijriyah (622 M). Lokasi tempat dibangunnya Masjid Nabawi pada mulanya merupakan tanah datar tempat mengeringkan kurma milik dua anak yatim yang diasuh oleh As’ad bin Zararah, yaitu Suhail dan Sahl. Keduanya adalah putra Nafi’ bin ‘Umar Tsa’labah. Tanah itu kemudian dibeli oleh Rasulullah SAW. Di areal tanah itu, terdapat juga beberapa pohon kurma dan beberapa kuburan tua. Rasulullah SAW memerintahkan penebangan pohon kurma itu dan penggalian kuburan agar lokasi tersebut dapat dibangun sebuah masjid.
Rasulullah SAW ikut serta membangunnya dengan membawa batu-batu bata. Peletakan batu pertama pembangunan masjid Nabawi dilakukan oleh Beliau. Adapun batu kedua, ketiga, keempat dan kelima masing-masing oleh sahabat Abu Bakar, Umar, Usman, dan Ali. Kemudian dikerjakan dengan gotong royong sampai selesai.
Masjid Nabawi pada mulanya sangat sederhana tanpa hiasan. Panjang masjid ini hanya 70 hasta dan lebarnya 60 hasta atau sekitar 31,5 x 27 meter. Pondasinya terbuat dari batu-batu keras, dindingnya berupa batu bata dari tanah. Pagarnya juga terbuat dari batu bata tanah yang tingginya sekitar 2,5 m. Tiang-tiangnya disusun dari batang pohon kurma, atapnya dari pelepah daun kurma, dan halamannya ditutup dengan batu-batu kecil. Kiblatnya menghadap Baitul Maqdis, karena pada saat itu belum turun perintah Allah SWT untuk menghadap Ka’bah. Pintunya ada tiga yaitu pintu kanan, pintu kiri, dan pintu belakang.
Masjid Nabawi dibuat tahun ke 1 Hijriyah. Di sekitar masjid dibangun tempat tinggal keluarga Rasulullah SAW, di sebelah Timur masjid dibangun rumah Siti Aisyah yaitu istri terakhir Rasulullah SAW, yang kemudian dijadikan tempat pemakaman Beliau dan kedua sahabatnya, Umar bin Khatab dan Abu Bakar.
Pada awalnya Masjid Nabawi tidak berlantai sebagaimana lazimnya masjid di zaman itu, sehingga tidak jarang anjing berkeliaran di sana dan para sahabat Nabi SAW shalat dengan mengenakan alas kaki. Setelah populasi kaum Muslim bertambah, pada tahun ke-8 H, masjid Nabawi diperluas hingga berukuran 100 x 100 hasta atau kurang lebih 45 x 45 meter dan tingginya menjadi sekitar 3 meter lebih.
Dari masa ke masa, Masjid Nabawi terus mengalami perluasan hingga pada 1991 luasnya telah mencapai 84.000 m2 dengan sepuluh menara dan delapan puluh satu pintu masuk. Pada masa Rasul SAW, kediaman Beliau bersama istri-istrinya terdiri dari sembilan kamar-kamar kecil dan berada di luar areal masjid. Tetapi dengan perluasan yang dilakukan, kini kamar-kamar tersebut tidak ada lagi dan semuanya telah menjadi bagian masjid. Rumah Nabi SAW sendiri sangat sederhana, bahkan hingga akhir masa kenabian, rumah Beliau hanya berupa kamar yang ditempati oleh Siti Aisyah yang luasnya lebih kurang empat kali tiga meter.
Masjid Rasulullah SAW ini berada di Madinah al-Munawwarah. Masjid Nabawi adalah masjid yang memiliki keutamaan kedua di muka bumi setelah Masjidil Haram di Makkah al-Mukkaramah. Tidak ada di dunia tempat yang suci (haram) selain kedua masjid itu.