Sejarah terbentuknya IPARI tentu tidak lepas dari perjuangan panjang para Penyuluh Agama itu sendiri. Dengan sejarah yang panjang dimulai dari Pasca Kemerdekaan Republik Indonesia.
Pada masa-masa awal kemerdekaan hingga 1980-an, para penyuluh agama lebih dikenal sebagai guru agama honorer (GAH). Demikian pula Peraturan Menteri Agama Nomor 10 Tahun 1952 menyebut para penyuluh agama sebagai GAH.