Układ urbanistyczny Gliwic jest charakterystyczny dla wielu miast średniowiecznych. Centralnym jego punktem był i jest rynek z ratuszem. Kościół zbudowano na najwyższym wzniesieniu, położonym na północny zachód od rynku, w pobliżu Bramy zwanej Czarną lub Raciborską. Początki najstarszej, miejskiej parafii sięgają czasów lokacji miasta - w połowie XIII wieku. Wtedy też musiał tutaj stanąć pierwszy, raczej drewniany kościół. Budowę typowej, orientowanej świątyni gotyckiej - kościoła Wszystkich Świętych - rozpoczęto około połowy XV wieku. Wpierw wzniesiono szeroką nawę główną z nawami bocznymi (w układzie halowym, czyli wszystkie nawy są jednakowej wysokości) oraz węższe prezbiterium. Na początku XVI stulecia zakończono budowę wieży: wymurowano ją na planie kwadratu i do wysokości około 63 m. Ściany wzmocniono skarpami.
Kaplice
Do korpusu świątyni przylegają niewielkie kaplice. Dwie z nich - pod wezwaniem Świętego Krzyża oraz Matki Bożej - są gotyckie i powstały na przełomie XV i XVI wieku; kaplica Anioła Stróża powstała w XVIII stuleciu, w stylu barokowym. Kościół Wszystkich Świętych często niszczyły pożary, dlatego gotycka polichromia zachowała się tylko w kaplicy Matki Bożej.
Wnętrze kościoła
Charakterystyczne są również gotyckie sklepienia – sieciowe i gwiaździste. Wnętrze posiada w większości wystrój barokowy. Ołtarz główny i dwa ołtarze boczne pochodzą z XVII i XVIII wieku. Barokowe są także liczne figury świętych. Organy zamontowano na początku lat 40. ubiegłego stulecia. Warto wspiąć się na taras widokowy, umieszczony na wieży kościelnej. W pogodne dni dostrzec z niej można Beskidy i Górę św. Anny.