Kementerian Agama adalah kementerian yang bertugas menyelenggarakan pemerintahan dalam bidang agama. Usulan pembentukan Kementerian Agama pertama kali disampaikan oleh Mr. Muhammad Yamin dalam Rapat Besar (Sidang) Badan Penyelidik Usaha – Usaha Persiapan Kemerdekaan Indonesia (BPUPKI), tanggal 11 Juli 1945. Dalam rapat tersebut Mr. Muhammad Yamin mengusulkan perlu diadakannya kementerian yang istimewa, yaitu yang berhubungan dengan agama. Menurut Yamin, "Tidak cukuplah jaminan kepada agama Islam dengan Mahkamah Tinggi saja, melainkan harus kita wujudkan menurut kepentingan agama Islam sendiri. Pendek kata menurut kehendak rakyat, bahwa urusan agama Islam yang berhubungan dengan pendirian Islam, wakaf dan masjid dan penyiaran harus diurus oleh kementerian yang istimewa, yaitu yang kita namai Kementerian Agama”.

Namun demikian, realitas politik menjelang dan masa awal kemerdekaan menunjukkan bahwa pembentukan Kementerian Agama memerlukan perjuangan tersendiri. Pada waktu Panitia Persiapan Kemerdekaan Indonesia (PPKI) melangsungkan sidang hari Ahad, 19 Agustus 1945 untuk membicarakan pembentukan kementerian/departemen, usulan tentang Kementerian Agama tidak disepakati oleh anggota PPKI. Salah satu anggota PPKI yang menolak pembentukan Kementerian Agama ialah Mr. Johannes Latuharhary. Keputusan untuk tidak membentuk Kementerian Agama dalam kabinet Indonesia yang pertama, menurut B.J. Boland, telah meningkatkan kekecewaan orang-orang Islam yang sebelumnya telah dikecewakan oleh keputusan yang berkenaan dengan dasar negara, yaitu Pancasila, dan bukannya Islam atau Piagam Jakarta.

Diungkapkan oleh K.H.A. Wahid Hasjim sebagaimana dimuat dalam buku Sedjarah Hidup K.H.A. Wahid Hasjim dan Karangan Tersiar (Kementerian Agama, 1957: 856), "Pada waktu itu orang berpegang pada teori bahwa agama harus dipisahkan dari negara. Pikiran orang pada waktu itu, di dalam susunan pemerintahan tidak usah diadakan kementerian tersendiri yang mengurusi soal-soal agama. Begitu di dalam teorinya. Tetapi di dalam prakteknya berlainan." Lebih lanjut Wahid Hasjim menulis, "Setelah berjalan dari Agustus hingga November tahun itu juga, terasa sekali bahwa soal-soal agama yang di dalam prakteknya bercampur dengan soal-soal lain di dalam beberapa tangan (departemen) tidak dapat dibiarkan begitu saja. Dan terasa perlu sekali berpusatnya soal-soal keagamaan itu di dalam satu tangan (departemen) agar soal-soal demikian itu dapat dipisahkan (dibedakan) dari soal-soal lainnya. Oleh karena itu, maka pada pembentukan Kabinet Parlementer yang pertama, diadakan Kementerian Agama. Model Kementerian Agama ini pada hakikatnya adalah jalan tengah antara teori memisahkan agama dari negara dan teori persatuan agama dan negara."

Usulan pembentukan Kementerian Agama kembali muncul pada sidang Pleno Komite Nasional Indonesia Pusat (KNIP) yang diselenggarakan pada tanggal 25-27 November 1945. Komite Nasional Indonesia Pusat (KNIP) merupakan Parlemen Indonesia periode 1945-1950, sidang pleno dihadiri 224 orang anggota, di antaranya 50 orang dari luar Jawa (utusan Komite Nasional Daerah). Sidang dipimpin oleh Ketua KNIP Sutan Sjahrir dengan agenda membicarakan laporan Badan Pekerja (BP) KNIP, pemilihan keanggotaan/Ketua/Wakil Ketua BP KNIP yang baru dan tentang jalannya pemerintahan. Dalam sidang pleno KNIP tersebut usulan pembentukan Kementerian Agama disampaikan oleh utusan Komite Nasional Indonesia Daerah Keresidenan Banyumas yaitu K.H. Abu Dardiri, K.H.M Saleh Suaidy, dan M. Sukoso Wirjosaputro. Mereka adalah anggota KNI dari partai politik Masyumi. Melalui juru bicara K.H.M. Saleh Suaidy, utusan KNI Banyumas mengusulkan, "Supaya dalam negeri Indonesia yang sudah merdeka ini janganlah hendaknya urusan agama hanya disambilkan kepada Kementerian Pendidikan, Pengajaran dan Kebudayaan saja, tetapi hendaklah Kementerian Agama yang khusus dan tersendiri”.

Usulan anggota KNI Banyumas mendapat dukungan dari anggota KNIP khususnya dari partai Masyumi, di antaranya Mohammad Natsir, Dr. Muwardi, Dr. Marzuki Mahdi, dan M. Kartosudarmo. Secara aklamasi sidang KNIP menerima dan menyetujui usulan pembentukan Kementerian Agama. Presiden Soekarno memberi isyarat kepada Wakil Presiden Mohammad Hatta akan hal itu. Bung Hatta langsung berdiri dan mengatakan, "Adanya Kementerian Agama tersendiri mendapat perhatian pemerintah." Pada mulanya terjadi diskusi apakah kementerian itu dinamakan Kementerian Agama Islam ataukah Kementerian Agama. Tetapi akhirnya diputuskan nama Kementerian Agama. Pembentukan Kementerian Agama dalam Kabinet Sjahrir II ditetapkan dengan Penetapan Pemerintah No 1/S.D. tanggal 3 Januari 1946 (29 Muharram 1365 H) yang berbunyi; Presiden Republik Indonesia, Mengingat: usul Perdana Menteri dan Badan Pekerja Komite Nasional Pusat, memutuskan: Mengadakan Kementerian Agama. Pembentukan Kementerian Agama pada waktu itu dipandang sebagai kompensasi atas sikap toleransi wakil-wakil pemimpin Islam, mencoret tujuh kata dalam Piagam Jakarta yaitu "Ketuhanan dengan kewajiban menjalankan syariat Islam bagi pemeluk-pemeluknya."

Maksud dan tujuan membentuk Kementerian Agama, selain untuk memenuhi tuntutan sebagian besar rakyat beragama di tanah air, yang merasa urusan keagamaan di zaman penjajahan dahulu tidak mendapat layanan yang semestinya, juga agar soal-soal yang bertalian dengan urusan keagamaan diurus serta diselenggarakan oleh suatu instansi atau kementerian khusus, sehingga pertanggungan jawab, beleid, dan taktis berada di tangan seorang menteri. Pembentukan Kementerian Agama, sebagaimana diungkapkan R. Moh. Kafrawi (mantan Sekretaris Jenderal Kementerian Agama), "…. dihasilkan dari suatu kompromi antara teori sekuler dan Kristen tentang pemisahan gereja dengan negara, dan teori muslim tentang penyatuan antara keduanya. Jadi Kementerian Agama itu timbul dari formula Indonesia asli yang mengandung kompromi antara dua konsep yang berhadapan muka: sistem Islami dan sistem sekuler."

Pengumuman berdirinya Kementerian Agama disiarkan oleh pemerintah melalui siaran Radio Republik Indonesia. Haji Mohammad Rasjidi diangkat oleh Presiden Soekarno sebagai Menteri Agama RI Pertama. H.M. Rasjidi adalah seorang ulama berlatar belakang pendidikan Islam modern dan di kemudian hari dikenal sebagai pemimpin Islam terkemuka dan tokoh Muhammadiyah.

Rasjidi saat itu adalah menteri tanpa portfolio dalam Kabinet Sjahrir. Dalam jabatan selaku menteri negara (menggantikan K.H. A. Wahid Hasjim), Rasjidi sudah bertugas mengurus permasalahan yang berkaitan dengan kepentingan umat Islam. Kementerian Agama mengambil alih tugas-tugas keagamaan yang semula berada pada beberapa kementerian, yaitu Kementerian Dalam Negeri yang berkenaan dengan masalah perkawinan, peradilan agama, kemasjidan dan urusan haji; Kementerian Kehakiman yang berkenaan dengan tugas dan wewenang Mahkamah Islam Tinggi; dan Kementerian Pengajaran, Pendidikan dan Kebudayaan yang berkenaan dengan masalah pengajaran agama di sekolah-sekolah. Sehari setelah pembentukan Kementerian Agama, Menteri Agama H.M. Rasjidi dalam pidato yang disiarkan oleh RRI Yogyakarta menegaskan bahwa berdirinya Kementerian Agama adalah untuk memelihara dan menjamin kepentingan agama serta pemeluk-pemeluknya

Kutipan transkripsi pidato Menteri Agama H.M. Rasjidi yang mempunyai nilai sejarah, tersebut diucapkan pada Jumat malam, 4 Januari 1946. Pidato pertama Menteri Agama tersebut dimuat oleh Harian Kedaulatan Rakyat di Yogyakarta tanggal 5 Januari 1946. Dalam Konferensi Jawatan Agama seluruh Jawa dan Madura di Surakarta tanggal 17-18 Maret 1946, H.M. Rasjidi menguraikan kembali sebab-sebab dan kepentingan Pemerintah Republik Indonesia mendirikan Kementerian Agama yakni untuk memenuhi kewajiban Pemerintah terhadap Undang-Undang Dasar 1945 Bab XI pasal 29, yang menerangkan bahwa "Negara berdasar atas Ketuhanan Yang Maha Esa" dan "Negara menjamin kemerdekaan tiap-tiap penduduk untuk memeluk agamanya masing-masing dan untuk beribadat menurut agamanya dan kepercayaannya itu" (ayat 1 dan 2). Jadi, lapangan pekerjaan Kementerian Agama ialah mengurus segala hal yang bersangkut paut dengan agama dalam arti seluas-luasnya.

Tahun-tahun berikutnya merupakan masa konsolidasi dan pengembangan kementerian. Peralihan kekuasaan kepada Pemerintah RI menjadi momentum penting untuk memperkuat posisi kementerian. Pada tanggal 23 April 1946, Menteri Agama mengeluarkan Maklumat yang isinya : Pertama, Shumuka yang dalam zaman Jepang termasuk dalam kekuasaan Residen menjadi Jawatan Agama Daerah, yang selanjutnya ditempatkan di bawah Kementerian Agama. Kedua, hak untuk mengangkat penghulu Landraad (sekarang bernama Pengadilan Negeri), ketua dan anggota Raad Agama yang dahulu ada di tangan pemerintah kolonial Hindia Belanda, selanjutnya diserahkan kepada Kementerian Agama. Ketiga, hak untuk mengangkat penghulu masjid, yang dahulu ada tangan Bupati, selanjutnya diserahkan kepada Kementerian Agama. Melalui perjuangan yang gigih dan tanpa pamrih para pendahulu kita, sejarah Kementerian Agama menyatu dengan sejarah NKRI. Bahkan dalam masa revolusi fisik dan diplomasi mempertahankan kemerdekaan, Kantor Pusat Kementerian Agama turut hijrah ke Daerah Istimewa Yogyakarta. Kementerian Agama di masa H.M. Rasjidi dapat disebut "kementerian revolusi", karena ketika awal dibentuk, Kementerian Agama sejak 12 Maret 1946 berkantor di ibukota revolusi, Yogyakarta. Dalam Maklumat Kementerian Agama No 1 tanggal 14 Maret 1946 diumumkan alamat sementara kantor pusat Kementerian Agama adalah di Jalan Bintaran No 9 Yogyakarta. Kemudian bulan Mei 1946 alamat Kementerian Agama pindah ke Jalan Malioboro No 10 Yogyakarta. Kantor ini tersedia berkat jasa baik tokoh Muhammadiyah K.H. Abu Dardiri dan K.H. Muchtar. Dalam waktu tersebut tugas-tugas Menteri Agama secara fakultatif tetap memiliki akses dengan Jakarta. Setelah berdirinya Kementerian Agama, urusan keagamaan dan peradilan agama bagi umat Islam yang telah berjalan sejak prakemerdekaan menjadi tanggung jawab Kementerian Agama. Semula hal itu berlaku di Jawa dan Madura, tetapi setelah terbentuknya kembali Negara Kesatuan Republik Indonesia yang didorong oleh mosi integral Mohammad Natsir (periode berlakunya UUDS 1950) dan penyerahan urusan keagamaan dari bekas negara-negara bagian Republik Indonesia Serikat (RIS) kepada Menteri Agama, maka secara de jure dan de facto, tugas dan wewenang dalam urusan agama bagi seluruh wilayah RI menjadi tanggung jawab Menteri Agama

Dalam perkembangan selanjutnya, diterbitkanlah Peraturan Pemerintah Nomor 33 Tahun 1949 dan Peraturan Pemerintah Nomor 8 Tahun 1950 serta Peraturan Menteri Agama Nomor 5 Tahun 1951 antara lain menetapkan kewajiban dan lapangan tugas Kementerian Agama yaitu:

1. Melaksanakan asas Ketuhanan Yang Maha Esa dengan sebaik-baiknya;
2. Menjaga bahwa tiap-tiap penduduk mempunyai kemerdekaan untuk memeluk agamanya masing-masing dan untuk beribadat menurut agamanya dan kepercayaannya;
3. Membimbing, menyokong, memelihara dan mengembangkan aliran-aliran agama yang sehat;
4. Menyelenggarakan, memimpin dan mengawasi pendidikan agama di sekolah-sekolah negeri;
5. Memimpin, menyokong serta mengamat-amati pendidikan dan pengajaran di madrasahmadrasah dan perguruan-perguruan agama lain-lain;
6. Mengadakan pendidikan guru-guru dan hakim agama;
7. Menyelenggarakan segala sesuatu yang bersangkut paut dengan pengajaran rohani kepada anggota-anggota tentara, asrama-asrama, rumah-rumah penjara dan tempat-tempat lain yang dipandang perlu;
8. Mengatur, mengerjakan dan mengamat-amati segala hal yang bersangkutan dengan pencatatan pernikahan, rujuk dan talak orang Islam;
9. Memberikan bantuan materiil untuk perbaikan dan pemeliharaan tempat-tempat beribadat (masjid-masjid, gereja-gereja dll);
10. Menyelenggarakan, mengurus dan mengawasi segala sesuatu yang bersangkut paut dengan Pengadilan Agama dan Mahkamah Islam Tinggi;
11. Menyelidiki, menentukan, mendaftarkan dan mengawasi pemeliharaan wakaf-wakaf;
12. Mempertinggi kecerdasan umum dalam hidup bermasyarakat dan hidup beragama.

Pada waktu memperingati 10 tahun berdirinya Kementerian Agama, tahun 1956, Menteri Agama K.H. Muchammad Iljas menegaskan kembali politik keagamaan dalam Negara Republik Indonesia. Ditegaskannya, bahwa fungsi Kementerian Agama adalah merupakan pendukung dan pelaksana utama asas Ketuhanan Yang Maha Esa.