Храм Воздвижения Креста Господня был построен в 1826 году вместо деревянного на народные пожертвования. Первоначально храм являлся трехпрестольным, главный алтарь которого был освящен в честь Воздвижения Честнаго и Животворящего Креста Господня, приделы - в честь Всех Святых и иконы Божией Матери "Неопалимая Купина". Церковь была расположена на территории городского кладбища и в ней проводились отпевания, поэтому в народе она до сих пор носит название Кладбищенская. 
Каменный купольный храм с трапезной имеет следующую композицию: четверик церкви, завершенный куполом на высоком барабане; трапезная, несколько вытянутая, трехъярусная колокольня. 
Архитектурный декор фасадов выполнен в стиле русской классической архитектуры. Это типичный образец церковного здания, характерного для провинциальной культовой архитектуры первой половины XIX века. 
После революции 1917 года церковь продолжала существовать как кладбищенская, а с 1923 стала приходской. Кладбище, на котором располагалась церковь, было закрыто в 1931 году. 
Храм Воздвижения Креста Господня - единственный храм Алатыря, который практически не закрывался (исключение - период 1938 - 1944 гг.). 3 ноября 1946 года храм был повторно освящен иереем Иоанном Васиным.