Na Górnym Przedmieściu, czyli w miejscu obecnego nowego ratusza funkcjonował cmentarz otaczający istniejący tam kościół św. Krzyża. Pierwsze wzmianki o tej nekropolii pochodzą z 1582 r. Od czasów porozbiorowych, kiedy w Olsztynie zaczęła się powiększać gmina ewangelicka, cmentarz ten posiadał wydzieloną część dla ewangelików. Kościół św. Krzyża z powodu bardzo złego stanu technicznego został rozebrany w 1803 r., natomiast cmentarz zamknięto w 1870 r. Jego zamknięcie wymusiła konieczność poszerzania granic rozwijającego się miasta.
W 1909 teren cmentarza został wykupiony przez Radę Miejską i w latach 1911-1915 wybudowano na tym miejscu nowy ratusz. Po likwidacji nekropolii św. Krzyża pojawiła się konieczność budowy nowych cmentarzy wyznaniowych. Rodzinom zmarłych zezwolono na dokonanie ekshumacji i przeniesienia nagrobków na nowe cmentarze. Na fotografii po prawej stronie za ogrodzeniem widać cmentarne krzyże oraz kaplicę cmentarną. Na wprost zlokalizowany był teatr miejski, późniejsze słynne kino „Odrodzenie”.
Tablica przed ratuszem informuje o historii tego miejsca. Na płycie czytamy: W tym miejscu wznosił się kościół Świętego Krzyża, po raz pierwszy wymieniony w dokumencie za czasów kardynała Stanisława Hozjusza 1556 rok. Kościół ten istniał już wczesnej, a przetrwał do początku XIX wieku. Na przyległej do niego nekropolii pochowano kilkanaście pokoleń mieszkańców Olsztyna i okolic. R.I.P (niech odpoczywają w pokoju).
Ale o cmentarzach, a nie o ratuszu mowa. W Olsztynie funkcjonowały jeszcze inne nekropolie. W 1812 r. król pruski Fryderyk Wilhelm wydał Edykt o stosunkach obywatelskich, który czynił Żydów pełnoprawnymi obywatelami Królestwa Pruskiego. Żydzi mieli prawo do swobodnego osiedlania się, wykonywania zawodu, odbywania praktyk religijnych oraz nabywania nieruchomości. Założyli własny cmentarz, który powstał w 1818 roku przy dzisiejszej ul. Zyndrama z Maszkowic.
W 1869 roku utworzono niewielki cmentarz ewangelicki przy obecnej ulicy Partyzantów za tzw. „Domem Kopernika”, trzeci budynek. Fotografia z 1906 r. powyżej.
W 1870 roku dokonano założenia katolickiego cmentarza św. Jakuba, przy obecnej ulicy Wojska Polskiego, na posesji zwanej Aachen Plan. Powierzchnia cmentarza wynosi obecnie 2,6 ha. Kwatery są rozdzielone alejami, które są obsadzone liczącymi już ponad sto lat klonami i lipami. Na cmentarzu tym znajduje się wykonany w stylu neogotyckim najstarszy istniejący olsztyński nagrobek Adolfa i Olimpii Schlimphów z 1848 r., przeniesiony z likwidowanego cmentarza św. Krzyża. Cmentarz w 1984 roku został wpisany do rejestru zabytków.
Na cmentarzu pochowano Jana Liszewskiego – założyciela „Gazety Olsztyńskiej”, nauczyciela, poetę, etnografa oraz Jakuba Rarkowskiego – burmistrza Olsztyna w latach 1836-1865.
Dawna kaplica cmentarna.
Cmentarz św. Jakuba w zimowym anturażu.
W 1881 r. na cmentarzu wybudowano kaplicę (obecna parafia polsko-katolicka Matki Boskiej Wniebowziętej). Znajdująca się tu ambona i ołtarz pochodzą z opuszczonego kościoła poewangelickiego w Biskupcu Pomorskim. Świątynia usytuowana jest na niedużym wzniesieniu i ściśle przylega do wspomnianego już cmentarza. Sama kaplica jest niewielkich rozmiarów, zbudowana na planie prostokąta, z dwuspadowym dachem.
W 1904 r. ze względu na brak miejsca na cmentarzu katolickim św. Jakuba, założono nowy cmentarz pomiędzy ul. Jagiellońską a ul. Rataja. Cmentarz św. Józefa ulokowano na planie litery „L” wyznaczając przy pomocy obsadzonych lipami i klonami alei głównej i prostopadłych do niej alejek bocznych regularny układ kwater. Jego powierzchnia wynosi 4,9 ha.