По переписи в конце XIX века в Тамбове насчитывалось 682 человека римско-католического вероисповедания. В октябре 1896 года представители католической общины Тамбова, большую часть которой составляли этнические поляки, приняли решение о начале сбора средств для строительства католического храма.
Церковь начала строиться в сентябре 1898 года и была возведена в короткие сроки, с 25 мая 1903 года в ней уже совершались богослужения, хотя отделочные работы продолжались ещё несколько лет. Храм был построен в готическом стиле, из красного кирпича, богато декорирован. Одновременно с храмом рядом с ним был выстроен каменный двухэтажный дом, в котором размещалось католическое благотворительное общество, библиотека и квартира настоятеля.
В 1935 году церковь была закрыта. Долгое время здание пустовало, потом было передано Тамбовскому ремонтно-подшипниковому заводу. За время эксплуатации здания в качестве цеха оно серьёзно пострадало: были разрушены колокольни, изуродован фасад, затоплен подвал, стены сильно разъедены кислотными парами.
В конце — начале 1997 года здание, пребывающее в аварийном состоянии, было передано Церкви. Сразу же после передачи начались реставрационные работы, постепенно восстанавливающие прежний облик здания. На Рождество 1998 года в церкви Воздвижения возобновились ежедневные богослужения.
На территории храма находится скульптура Зураба Церетели «Святитель Николай Чудотворец».