Композиционным центром Херсонского некрополя служит церковь Всех Святых, построенная в стиле классицизма в 1804–1808 годах и расширенная в 70-х годах XIX века. Это единственный православный храм в Херсоне, ни разу не закрывавшийся для богослужений в эпоху «воинствующего атеизма». В интерьере храма сохранился великолепный деревянный резной иконостас. Некоторые из его образов выполнены ярославскими иконописцами в начале XVIII века. Кроме того, в храме находится несколько интересных икон XVII–XVIII веков.

Старейшим памятником кладбища является надгробная плита над захоронением иеромонаха Василия, датированная 1781 годом. Сохранились также могилы 1782, 1788, 1790 годов. Поскольку Херсон был частью знаменитого «Греческого проекта» князя Потемкина, то и старейшие памятники несут в себе отпечаток античного искусства. Здесь и стилизованные «урны с прахом», и «жертвенники», и «саркофаги». Однако такие надгробия могли себе позволить лишь представители наиболее богатых слоев населения: дворяне, купцы, высшее духовенство. «Средний класс» довольствовался каменными крестами и плитами.

Среди захоронений раннего периода сохранились до наших дней и казацкие могилы. Известно, что первопроходцами в экономическом освоении нашего края в XVII–XVIII веках были запорожцы. Немало их селилось в Херсоне — город был сборным пунктом Черноморского казачьего войска, здесь же осели 40% запорожцев, возвратившихся на родину из Задунайской Сечи, а также казаки из Гетманщины. Из казацких захоронений ныне выявлены два безымянных креста запорожского типа, под которыми, вероятно, покоятся отставные черноморские казаки Никифор Канцюбера (1803) и Нестор Кущенко (1807), а также крест над могилой лохвицкого казака Якова Солохина (1813).

Немало сохранилось и могил потомков казацкой старшины, получившей при Екатерине II дворянство. Покоится здесь прах представителей родов Дорошенко, Головинских, Богдановичей, Ольховских, Прокоповичей, Оболонских, Рашевских, Полторацких, Тихоновичей и некоторых других.

Здесь же можно увидеть могилы представителей всех социальных групп населения Херсона — дворян, купечества, духовенства, мещан, крестьян. Прослеживается на кладбище и этническая палитра нашего края. Кроме украинских и российских захоронений, здесь сохранились польские, немецкие, французские, греческие, испанские. Некоторые из них датируются концом XVIII XIX веков.

По воинским захоронениям вообще можно проследить почти всю отечественную военную историю с конца XVIII века до 1945 года. Здесь нашел свой последний приют генерал-лейтенант Карл Карлович фон Краббе (1781-1854), участник Итальянского и Швейцарского походов Суворова. Интересен факт, что под началом этого гения военного искусства Краббе за один год поднялся по служебной лестнице от прапорщика до капитана, что было не так уж легко сделать. Позже Карл Карлович воевал на Кавказе, был награжден золотой шпагой с надписью «За храбрость», орденами Св. Георгия IV класса, Св. Анны I, II, III степени, серебряной медалью «За персидскую войну».