Становление нынешнего облика мемориального кладбища в Калуге шло около 200 лет.
Ещё в начале XIX века в северной части городского Пятницкого кладбища появился участок, где стали хоронить воинские чины различных званий и сословной принадлежности. Так, в Калуге появилось воинское кладбище, где обрели покой те, кто погиб или умер за Веру, Царя и Отечество. В 1890 году среди воинских могил был построен и освящён небольшой храм из кирпича в честь Святителя Николая, где стали отпевать по православному обряду тех, кто отдал Родине свою жизнь. В годы советской власти воинское кладбище пришло в запустение. Храм был разрушен, большую часть памятных надгробий переустановили на другие могилы, предварительно затерев или сбив надписи. Проблемой перезахоронения всех погибших в Великую Отечественную войну начали заниматься только в 1949 году. Вероятно, что именно тогда в северной части Пятницкого кладбища появилась первая большая братская могила советских воинов. На следующий год после смерти Сталина вышло постановление правительства об установке памятных обелисков на братских могилах и о переносе последних из лесов и болот в места, где за ними будет легче ухаживать (в населённые пункты и к автомобильным дорогам). Первый памятник на воинской братской могиле был установлен не ранее 1954 года на современном участке №8 (в центре его северной части). На каменном пьедестале были установлены скульптуры воина Советской Армии со знаменем и женщины с венком в руках. На памятнике надпись: «Вечная слава героям, павшим в боях за свободу и независимость нашей Родины 1941-1945».
В день празднования десятилетия Победы воинское мемориальное кладбище было открыто, в центре него установили скульптурную композицию «Сталинградцы».
Очередная серьёзная переделка воинского кладбища началась перед празднованием 20-летия Победы в 1965 году. Тогда была установлена памятная стена с надписью «Вечная слава героям» и начертанными именами 700 захороненных здесь воинов. В том же 1965 году к восточной окраине воинского кладбища были перенесены останки двадцати калужан, казнённых в начале ноября 1941 года, которые с 1942 года были захоронены в Комсомольском сквере (ныне им. Воронина).
В 1985 году мемориальный комплекс подвергся очередной реконструкции: добавлена скульптурная композиция, изображающая женщину с ребёнком на руках, которую установили на месте братской могилы и первого памятника 1955 года. На рубеже XX и XXI веков мемориальное кладбище сильно пострадало от вандализма сборщиков цветного металла. Практически все надписи с именами погибших были украдены. Эта же участь постигла и два стилизованных под вечный огонь медных сооружения. Позже надписи были восстановлены на беломраморных плитах с применением гравировки и выкрашены в темный цвет. Весной 2005 года проведена новая генеральная реконструкция воинского мемориала. Теперь центральную его часть (по обе стороны от центрального плаца и проходов к стелам) занимают 64 условные братские могилы размером 6 х 6 метров каждая, обрамленные дорожным бордюрным камнем. Посреди 58 условных могил установлены надгробия со скошенным верхом. В ходе реконструкции 2005 года серьёзные изменения претерпел постамент памятника «Скорбящий воин». Плиты обрамления из светлого мрамора заменили на более крупные, из красного гранита. При этом забыли восстановить памятную надпись «Благодарная Калуга будет вечно помнить ваш подвиг». По просьбам ветеранов эту надпись вернули монументу в 2008 году.
И вот летом 2014 года - очередное изменение - на кладбище наконец построена часовня. Высота часовни – около 12,5 метров, в стиле неоклассика, она имеет свою ярко выраженную архитектуру, по образу напоминает белую взлетающую ввысь птицу…
На кладбище каждый год 21 июня в 4 утра собираются калужане, зажигают свечи, чтобы почтить память погибших.
