Żydzi odegrali ważną rolę w gospodarce i kulturze Bytomia od XVIII do połowy XX w., ale najstarsze wzmianki o ich obecności w mieście pochodzą z XIV w. W poł. XVIII w. od właścicieli bytomskiego państwa stanowego, hr. Henckel von Donnersmarcków, dostali oni grunt i prawo założenia na wałach miejskich cmentarza. Pod koniec XIX w. był on już za ciasny dla społeczności żydowskiej i założono nowy cmentarz w 1860 r. przy ul. Piekarskiej. Pod koniec XIX w. na starym cmentarzu żydowskim odbył się ostatni pochówek, a w latach 60. XX w. kirkut zniszczono, a macewy usunięto.
O starym cmentarzu żydowskim przy ul. Piastów Bytomskich przypomina dziś jedynie tablica pamiątkowa i wiekowy starodrzew, ale przez ponad 150 lat służył on bytomskiej gminie żydowskiej oraz Żydom z 14 pobliskich miejscowości. W 1732 r. Israel Böhm otrzymał od hrabiego Henckel von Donnersmarcka grunt na wałach miejskich w pobliżu Bramy Gliwickiej na założenie cmentarza. Cmentarz, który wówczas znajdował się na nie zabudowanej pochyłości wałów, wraz z rozwojem miasta zaczęły otaczać kamienice. Starodrzew, stanowił wśród nich ostoję zieleni. Bytomscy Żydzi w 1809 r. zbudowali w mieście pierwszą synagogę. Ponieważ nie wystarczała ona zwiększającej się liczbie ludności żydowskiej (w 1800 r. – 186 osób, w 1885 – 2290 osób) rozebrano ją i w 1869 r. zbudowano nową (zniszczoną przez nazistów w „Kryształową Noc” z 9 na 10 listopada 1938 r.).
Stary cmentarz żydowski powiększono w 1848 r., ale już od 1860 r. zastąpiła go nowa nekropolia przy ul. Piekarskiej. Pochówki na starym kirkucie trwały do 1897 r., potem cmentarz był nieczynny i choć władze hitlerowskie wymusiły na gminie zwrot terenu cmentarza, przetrwał on szczęśliwie czasy Holocaustu. Dopiero w 1965 r. władze miejskie usunęły kamienie nagrobne, przewożąc je na Cmentarz Komunalny, gdzie bezładnie je zrzucono. W latach 1989-1992 z inicjatywy bytomskiego oddziału Towarzystwa Opieki nad Zabytkami architekt Marek Miodoński i rzeźbiarz Stanisław Pietrusa, przy pomocy uczniów bytomskiej „budowlanki”, z zabytkowych nagrobków i ich ułomków wykonali „Ścianę Pamięci” na nowym kirkucie przy ul. Piekarskiej. Wśród 15 zachowanych płyt ze starego kirkutu są m.in. nagrobki rabinów: Freunda, Cohna i Deutscha oraz 2 macewy z XVIII w. W ich pobliżu znajduje się także pomnik Żydów holenderskich, którzy ponieśli śmierć podczas robót przymusowych na Śląsku.