Secara keseluruhan, masjid negara ini mampu menampung sekitar 61 ribu jamaah. Jamaah itu tersebar di ruang salat utama seluas satu hektar serta balkon empat tingkat dan sayap di sebelah timur, selatan, dan utara. Total luas seluruh tempat jemaah 36.980 meter atau hampir 4 ha.
Ide awal pembangunan ini adalah menciptakan sebuah masjid agung di negara berpenduduk muslim terbesar di dunia. Terlebih tradisi membangun tempat ibadah dalam skala raksasa sudah dirintis sejak zaman dulu melalui Candi Borobudur dan Prambanan.
Sempat terjadi polemik mengenai lokasi masjid ini. Bung Hatta yang kala itu Wakil Presiden mengusulkan tempat yang sekarang menjadi Hotel Indonesia. Alasannya waktu itu di situ tanah kosong dan dekat dengan lingkungan masyarakat muslim. Sementara Bung Karno mengusulkan di Taman Wilhelmina yang di dalamnya terdapat reruntuhan benteng Belanda dan dikelilingi bangunan-bangunan pemerintah dan pusat perdagangan.
Alasan lain dekat dengan Istana Merdeka. Posisi seperti ini mirip dengan simbol kekuasaan kraton di daerah Indonesia bahwa masjid selalu berdekatan dengan kraton atau dekat dengan alun-alun. Dalam hal ini, Taman Medan Merdeka dianggap sebagai alun-alun Ibukota Jakarta. Faktor lain, Bung Karno menghendaki masjid negara itu berdampingan dengan Gereja Katedral Jakarta untuk melambangkan semangat persaudaraan dan toleransi agama.
Setelah dilakukan musyawarah, lokasi akhirnya diputuskan di Taman Wilhelmina. Lalu diadakan lomba rancang bangun masjid, mulai tanggal 22 Februari 1955 sampai 30 Mei 1955. Dari 27 peserta yang mengikuti lomba, 22 peserta memenuhi persyaratan lomba. Setelah melalui penjurian, akhirnya dipilih lima pemenang. Sebagai pemenang pertama adalah Frederich Silaban dengan rancangan bersandi Ketuhanan.
Namun pembangunan masjid tak mulus karena adanya pergolakan politik seputar tahun 1965. Jadi semenjak pemancangan tiang pertama yang dilakukan oleh Presiden Soekarno pada tanggal 24 Agustus 1961 - bertepatan dengan peringatan Maulid Nabi Muhammad SAW - sampai dengan tahun 1965 tidak banyak mengalami kemajuan. Tahun 1966 dilanjutkan kembali dan selesai 17 tahun kemudian.
Minimalis, sarat makna
Dilihat sepintas bangunan ini minimalis. Sederhana. Berbentuk kotak, dengan kubah besar, dan menara tinggi. Namun jika ditelisik lebih jauh, banyak makna tersirat dalam bangunan ini. Untuk memasuki ruangan dalam masjid ada tujuh gerbang yang masing-masing diberi nama berdasarkan nama-nama Allah. Tujuh juga melambangkan tujuh lapis langit dalam kosmologi alam semesta Islam serta jumlah hari dalam seminggu.
Ruang utama dinaungi kubah raksasa berdiameter 45 m. Ini melambangkan tahun kemerdekaaan bangsa Indonesia. Kubah dimahkotai ornamen baja antikarat berbentuk bulan sabit dan bintang simbol Islam.
Kubah utama ini ditopang oleh 12 tiang yang disusun melingkar, dikelilingi empat tingkat balkon. Angka 12 ini melambangkan hari kelahiran Nabi Muhammad, yakni 12 Rabiulawwal. Juga melambangkan 12 bulan dalam penanggalan Islam (juga penanggalan Masehi).