W połowie XIX wieku zmarłych obywateli Bytomia chowano na cmentarzu, położonym nieopodal zachodnich granic miasta. Rozwój gospodarczy - i co za tym idzie ludnościowy - Bytomia, spowodował konieczność wytyczenia nowej, większej nekropolii. Na jej miejsce wybrano działki znajdujące się przy jednym z ważniejszych traktów miejskich, prowadzącym z Bytomia do Piekar Śląskich, czyli ul. Piekarskiej.
Od 1888 roku nekropolia pozostaje pod opieką parafii Świętej Trójcy. Pierwszą część Cmentarza Mater Dolorosa (po niem. FriedhofMaterDolorosa) otwarto w roku 1868. Użytkowanie drugiej rozpoczęto kilkanaście lat później. W 1882 roku poświęcono kaplicę cmentarną pod wezwaniem Matki Bożej Bolesnej. Projektantem tej smukłej, neogotyckiej budowli był Hugo Heer – architekt wywodzący się z Bytomia, a działający w Wiedniu. Świątynia mogła powstać dzięki hojnemu zapisowi mieszkanki Rozbarku, Julianny Garus, która na ten cel przekazała 12 tysięcy marek. W zabytkowej kaplicy spoczywają najwybitniejsi przedstawiciele bytomskiego duchowieństwa. W jej wnętrzu odnajdziemy na przykład płyty nagrobne ks. Norberta Bonczyka, zwanego „śląskim Homerem”, czy ks. Wiktora Durynka. Natomiast w sąsiedztwie kaplicy znajduje się nagrobek ks. Józefa Szafranka, nazywanego „czerwonym farorzem”.
Cmentarz Mater Dolorosa jest miejscem pochówku bytomian o polskich i niemieckich korzeniach. Leżą więc tutaj obok siebie Paul Jackisch (XIX-wieczny architekt) i Georg Bruening (wieloletni burmistrz z przełomu XIX i XX wieku) oraz działacze „Rodła” (polskiej organizacji na terenie Niemiec): Antoni Józefczak czy Józef Kwietniewski. Na cmentarzu zachowało się wiele zabytkowych kaplic grobowych, mauzoleów, pomników i nagrobków z końca XIX i początków XX wieku. Do rejestru zabytków wpisano także ogrodzenie i wiele pomnikowych okazów drzew.