Historia kościoła św. Józefa łączy się ściśle z Zakonem Franciszkanów-Reformatów, którzy w 1672 r. przybyli do Sandomierza i rozpoczęli swą działalność za aprobatą biskupa krakowskiego Andrzeja Trzebnickiego. Początkowo wznieśli kościół murowany, który uroczyście poświęcił bp Stanisław Szembek, sufragan krakowski 24 października 1690 r. Fundatorami świątyni byli: Aleksander Lubomirski starosta sandomierski i wojewoda krakowski, Jan Kurdwanowski sędzia grodzki, Piotr Opocki kasztelan wiślicki i Marcin Dębski podkomorzy sandomierski. Wielu również spośród szlachty, mieszczan i chłopów swoimi ofiarami przyczyniło się do wzniesienia świątyni. Kościół jest murowany, barokowy, orientowany, z prostokątnym prezbiterium, jedną również prostokątną nawą; prezbiterium dwuprzęsłowe, nawa trójprzęsłowa. W kościele umieszczono trzy ołtarze: św. Józefa, św. Franciszka i Matki Bożej. Kościół jest podpiwniczony; w jednej z krypt pochowano w r. 1698 Izabelę Teresę Morsztynównę, której ciało do dziś jest dobrze zachowane. Od strony południowej wybudowano trójskrzydłowy klasztor, a od strony zachodniej znajduje się dziedziniec otoczony murem z kapliczkami, w których były stacje Drogi Krzyżowej. Wygląd świątyni z czasu konsekracji przetrwał do r. 1708, kiedy to stary gont zastąpiono dachówką. W latach 1756-1766 przeprowadzono gruntowny remont: usunięto podłogę z desek a położono szwedzki marmur, wybudowano ołtarze boczne świętych: Antoniego, Józefa, Piotra z Alkantary i Rocha, zbudowano kruchtę, przebudowano więźbę dachową łącznie z wieżą, którą pokryto blachą miedzianą. W r. 1809 w czasie walki z Austriakami wybuchł pożar w pobliskim kościele św. Wojciecha, który przerzucił się na kościół św. Józefa niszcząc dach oraz wyposażenie wnętrza. W r. 1824 rekonsekracji kościoła dokonał bp Prosper Burzyński. W r. 1859 wstawiono nowe organy. W 1863 r. Rosjanie zajęli klasztor, a zakonników usunęli. Od 1864 r. opiekę nad kościołem przejęli wikariusze-rektorzy. W tym czasie zbudowano zakrystię oraz położono na kościele blachę ocynkowaną. W 1934 r. bp Włodzimierz Jasiński przeniósł parafię z katedry do kościoła św. Józefa, której proboszczem został ks. prałat Antoni Rewera, dziekan Kapituły Katedry Sandomierskiej. Zmarł w Dachau 1 października 1942 r. w 73 roku życia, w opinii świętości. Przebudował on wnętrze kościoła dostosowując je do potrzeb duszpasterskich, m.in. przesunął ołtarz główny pod ścianę absydy. W 1944 r. spłonął dach kościoła, który został na nowo zbudowany i przykryty blachą wydobytą ze spaleniska. W latach 50-tych pokryto kościół blachą ocynkowaną i odnowiono wnętrze świątyni. W r. 1980 została zrekonstruowana wieżyczka i pokryta blachą miedzianą. W latach osiemdziesiątych odnowiono wnętrze kościoła, wykonano odgromienie i tynkowanie kościoła. Wybudowano dzwonnicę wg projektu inż. Adama Abrama z 4 dzwonami (2 nowe); otwarto w podziemiach kościoła kaplicę św. Antoniego, a na zewnątrz kaplicę pogrzebową. Od 1991 r. trwają prace konserwatorskie na dziedzińcu przykościelnym. Parafia posiada akta parafialne od 1720 r. z parafii katedralnej i od r. 1934 własne.