Grigalius Masalskis ir Marija Masalskienė netoli Rudaminos dvaro 1592 m. pastatė bažnyčią ir dovanojo jai Beviršių kaimą. 1674 m. minima apleista mūrinė bažnyčia. Rudaminos dvaro savininkas Mikalojus Turčinavičius Sušickis pradėjo statyti dabartinę mūrinę bažnyčią. 1757 m. pradėtos gaminti čerpės stogui uždengti, ieškomas architektas bokšto projektui parengti. 1777 m. minima parapinė mokykla. 1797 m. bažnyčia perstatyta.
1803 m. į Rudaminą paskirtas klebonas Augustinas Polikarpas Marcejevskis (1761–1827, vėliau Seinų pavyskupis, jis konsekravo bažnyčią; palaidotas Rudaminoje), rengė jaunuolius į kunigų seminariją. Vikaras Jurgis Dailidė (1838–1864) bažnyčioje perskaitė sukilėlių manifestą, todėl areštuotas ir nuteistas mirti (1864 m. balandžio 1 d. sušaudytas).
1906 m. įsikūrė „Žiburio“ draugijos skyrius (pirmininkas kunigas P. Andriulis). 1907 m. įsteigta biblioteka – skaitykla. Klebonas Jonas Giedraitis (mirė 1910 m.) pastatė mūrinę kleboniją. Klebono Jurgio Zieniaus rūpesčiu bažnyčia 1913 m. padidinta. 1985 m. pradžioje paskirtas klebonas Juozas Zdebskis (1929–1986) bažnyčią suremontavo. Jis 1986 m. vasario 5 d. žuvo automobilio katastrofoje; palaidotas Rudaminoje, bažnyčios šventoriuje.