W 1865 roku, po kilkudziesięciu latach dynamicznego rozwoju przemysłowego, wieś Katowice otrzymała wreszcie prawa miejskie. W nowym mieście wyznawcy protestantyzmu od kilku już lat posiadali okazałą, murowaną świątynię Zmartwychwstania Pańskiego, lecz katolicy wciąż musieli zadowalać się prowizorycznym kościółkiem konstrukcji ryglowej przy obecnym pl. Wolności. Na zakończenie budowy własnej fary musieli czekać do 1870 roku.
Katowiccy katolicy - Niemcy i Polacy - podjęli starania o budowę kościoła pod koniec lat 50. XIX wieku. W 1861 roku biskup wrocławski Heinrich Förster zdecydował, że budynek powstanie i wyznaczył architekta, który miał przygotować plany. Został nim Alexis Langer z Wrocławia, twórca wielu obiektów sakralnych - głównie na terenie Śląska i Wielkopolski.
Świątynię wznoszono w latach 1862-1870. W trakcie budowy, z powodu trudności finansowych zweryfikowano pierwotne plany postawienia okazalszej, trójnawowej budowli, ograniczając się do jednej nawy i kilku niewielkich kaplic po jej bokach.
Kościół Niepokalanego Poczęcia Najświętszej Marii Panny jest orientowany, na planie krzyża łacińskiego, wymurowany z jasnych ciosów dolomitowych. Dominującym elementem budynku jest wznosząca się nad kruchtą od strony zachodniej ośmioboczna wieża zwieńczona iglicą, o wysokości 71 m. Nawę przecina transept o krótkich ramionach, do którego przylega wąskie, zamknięte trójbocznie prezbiterium. Kościół jest oskarpowany i bardzo bogato zdobiony - w sposób charakterystyczny dla neogotyku. Odnajdziemy więc tutaj liczne wieżyczki, sterczyny, maswerki, maszkarony.
Wnętrze jest jednonawowe, z szeregiem kaplic bocznych po obu stronach nawy. Do naszych czasów nie zachował się oryginalny wystrój świątyni. Jedynie w transepcie możemy zobaczyć gotycki ołtarz z XV wieku. Reszta jest głównie dwudziestowieczna. Warto zobaczyć witraże projektu Adama Bunscha czy akademickie obrazy Józefa Unierzyskiego („Cykl Maryjny”).
W okresie międzywojennym, do 1940 r., proboszczem w kościele Mariackim był ks. Emil Szramek - męczennik, ogłoszony błogosławionym w 1999 roku.
