Pierwsze budowle sakralne na terenie Rudy wybudowali w XIX wieku właściciele tych ziem – hrabiowie Ballestremowie. Były nimi dwie kaplice: Matki Bożej Różańcowej i św. Józefa. Na początku XX wieku Franciszek Ksawery von Ballestrem ufundował nową, okazalszą świątynię - w 1904 roku został ukończony ceglany kościół pod wezwaniem św. Józefa, utrzymany w dostojnym stylu neoromańskim. Po dwóch latach stał się siedzibą samodzielnej parafii.
Wieś Ruda jest wspominana po raz pierwszy w dokumentach z XIII wieku. Wcześnie znane były tutejsze złoża rudy żelaza, a w XVIII stuleciu rozpoczęto prymitywne wydobycie węgla kamiennego. Pod panowaniem Prus nastąpił szybki wzrost przemysłowy, który pociągnął za sobą zwiększenie liczby ludności i rozwój cywilizacyjny. W XIX wieku Ruda znajdowała się w dobrach potężnego rodu hrabiów von Ballestrem, którzy swą główną siedzibę mieli w Pławniowicach. To oni zbudowali we wsi pierwszą świątynię – w 1869 roku stanął kościół Matki Bożej Różańcowej. Służyli w nim, sprowadzeni z Krakowa, księża jezuici (w latach 70. zostali wyrzuceni przez władze; zastąpiono ich księżmi diecezjalnymi). Wkrótce w Rudzie zbudowali Ballestremowie jeszcze niewielką kaplicę pod wezwaniem św. Józefa. Po kilkudziesięciu latach okazało się, że prywatne świątynie właścicieli Rudy nie mogą pomieścić wszystkich wiernych. Hrabia Franciszek Ksawery von Ballestrem postanowił więc ufundować większą budowlę w pobliżu kaplicy św. Józefa.
Kamień węgielny położono w 1901 roku, a całość wzniesiono w latach 1902-1904. Plany przygotowali August Menken i Jan de Poelnitz. Za wzór do naśladowania obrali oni rzymską bazylikę San Lorenzo di Campo Verano. W efekcie powstała dostojna budowla w stylu neoromańskim. Kościół zbudowano z cegły na planie krzyża łacińskiego. Od strony północnej dostawiono niesymetrycznie wieżę. Elewację ozdobiono cegłą klinkierową i elementami ceramicznymi. Wnętrze jest trójnawowe z wyniesionym ponad poziom nawy głównej prezbiterium, które zamknięto półkolistą absydą. Nad nawami bocznymi umieszczono empory; na chórze muzycznym – organy świdnickiej firmy Schlag und Söhne. Płaskie stropy zdobi barwna polichromia. Efektownie prezentują się neoromańskie detale, jak np. zdobienia masywnych kolumn, ambony czy chrzcielnicy. Warto zwrócić uwagę na spiżowe figury aniołów w prezbiterium (autorstwa berlińskiego rzeźbiarza Józefa Limburga), olbrzymi żyrandol ze 144 żarówkami i kryptę grobową Ballestremów, w której pochowano m.in. hrabiego Franciszka Ksawerego. Po wybudowaniu świątyni fundator przekazał go Kościołowi, dzięki czemu można było w 1906 roku utworzyć w Rudzie samodzielną parafię św. Józefa. Od 2010 roku kościół św. Józefa jest Sanktuarium Diecezjalnym.