Apie 1620 m. Martynas Giedraitis Panemunyje įsteigė reguliariųjų atgailos kanauninkų vienuolyną (uždarytas 1832 m.). Vienuoliai turėjo bažnyčią ar bent koplyčią. Nuo 1682 m. rašyti jungtuvių metrikai (tada buvo parapija). Mauricijus Giedraitis 1682 m. bažnyčią atstatė.
1760 m. pastatyta nauja medinė bažnyčia. 1767 m. pastatyta ir įrengta prieglauda. 1780 m. pastatyta medinė klebonija. Vienuolynui 1832 m. priklausė dalis Panemunio miestelio ir Jakutiškio palivarkas su Miliūnų ir Stanionių kaimais. Panemunio dvaro dvarininkas Teofilius Komaras 1861–1863 m. pastatė naują mūrinę kleboniją. 1862 m. suremontuotas ir išdažytas bažnyčios vidus, klebono A. Eitavičiaus lėšomis įrengti 11 registrų vargonai. Dvaro dvarininkai Juozapas Komaras ir Ignas Koscialkauskis 1862 m. pastatė medinį elgetyną. Panemunio vikaras Konstantinas Piesliakas, perskaitė 1863 m. sukilėlių manifestą ir prisidėjo prie sukilimo, todėl 12 m. išsiųstas į katorgą.
1865–1869 m. apmūrytas šventorius. 1881 m. pastatyta medinė prieglauda (vėliau joje įrengta parapijos salė). Klebono Justino Senkausko rūpesčiu 1896 m. atnaujinta bažnyčia, 1901 m. pastatyta mūrinė varpinė. Joje buvo 3 varpai, 1915 m. išvežti į Rusiją (vienas 1923 m. grąžintas). 1915 m. bažnyčia sudegė. Altorius įrengtas varpinėje, prie jos 1920 m. pastatyta laikina bažnyčia.
1908–1914 m. veikė Lietuvių katalikų blaivybės draugijos skyrius. Klebono Vincento Norkaus iniciatyva 1927–1936 m. pastatyta Bistromo suprojektuota dabartinė akmenų ir plytų mūro bažnyčia. Ją 1936 m. rugsėjo 8 d. konsekravo vyskupas Kazimieras Paltarokas. Klebono Jono Nagulevičiaus (1900–1992) rūpesčiu 1936–1941 m. įrengtas bažnyčios vidus, pastatyta klebonija, ūkiniai trobesiai. Į Panemunį 1941 m. paskirtas klebonas Augustinas Liepinis (1896–1977), pedagoginių ir religinių veikalų autorius, po karo suremontavo bažnyčią.