Tarnowskie Góry rozwinęły się jako miasto górnicze w XVI wieku. Wtedy też wzniesiono pierwszy kościół, który służył wyznawcom protestanckim. Drugą świątynię, kaplicę, postawiono na cmentarzu parafialnym. Znajdowała się ona wówczas poza murami miasta, w okolicach Bramy Wrocławskiej (później nazwanej Gliwicką). Kaplica była wykonana z drewna, następnie - w drugim dziesięcioleciu XVII stulecia - została zastąpiona obiektem murowanym.
Kościółek powstał dzięki ofiarności niejakiej pani Goske, która w testamencie zapisała na ten cel swój dom. Środków ze sprzedaży kamienicy jednak nie wystarczyło i trzeba było kolejnego zapisu, aby rozpocząć budowę. 700 talarów przekazał wreszcie burmistrz Tarnowskich Gór – Jakub Gruzełko. Dlatego też kościół nazywano Jakubkirche, czyli kościołem Jakuba. Był to nieduży budynek z drewnianą sygnaturką na dachu. Około 1630 roku świątynię przejęli katolicy i wtedy uzyskał nowe wezwanie - kościół św. Anny.
Kościół św. Anny remontowano i przebudowywano w drugiej połowie XVII wieku oraz w latach 1846-47. Podczas tej drugiej modernizacji świątynię znacznie powiększono, dostawiono do niej także wieżę. W okresie międzywojennym kościół użytkowali żołnierze garnizonu tarnogórskiego, a po II wojnie światowej, w 1958 roku, stał się rektoratem (świątynią filialną). Niezależną parafię erygowano tu w roku 1981.
Kościół św. Anny stoi na cmentarzu przy ul. Gliwickiej; jest orientowany. Jego styl jest eklektyczny. Do nawy głównej przylega węższe prezbiterium. Od strony zachodniej wznosi się wieża na rzucie kwadratu, przykryta dwukondygnacyjnym hełmem z latarnią. Wnętrze jest jednonawowe. W prezbiterium odnajdziemy klasycystyczny ołtarz główny z XVIII-wiecznym obrazem św. Anny nauczającej Marię, oraz barokowe epitafia.