灵谷塔的原名叫阵亡将士纪念塔,始建于1931年是阵亡将士公墓建筑群中一个重要的组织部分。据《总理陵园管理委员会报告》记载,在率师北伐、建都南京、统一告成后,1928年国民政府“眷念前劳,凯旋者概予登庸,惨逝者追加怃恤,惟兹阵亡将士杀身成仁,尸骨遍野,忠魂无依,乃拟搜集阵亡将士骸骨,建筑公墓,安慰忠魂。”