Apie 1757 m. Karolis Ciolkovičius Smilgių bajorkaimyje pastatė koplyčią. Šiai suirus, 1862 m. nupirkta nenauja Pabiržės kapų kopyčia ir, pakeitus supuvusius sienojus, pastatyta Smilgiuose. Įrengti 3 altoriai, tačiau pamaldos joje būdavo tik retkarčiais. 1915 m. liepos mėn. Smilgiuose apsigyveno kunigas Florijonas Juknevičius. Jis čia laikė pamaldas, pastatė prieglaudą, svirnelį.
1919 m. iškeltas. Žmonės prašė įsteigti parapiją. Smilgių kaimas bažnyčiai skyrė 15, o Toliūnų – 3 dešimtines žemės. Nors vyskupas parapijos neįsteigė, tačiau 1920 m. paskyrė kitą kunigą. Parapijos teisės suteiktos 1931 m. spalio 24 d. Po 1936 m. pradėta ruoštis naujos mūrinės bažnyčios statybai.
1939 m. išmūryti pamatai, 1941 m. – pastatyta bažnyčia, įrengta 1942 m. ir tų pačių metų birželio 22 d. vyskupo Kazimiero Paltaroko konsekruota.