Костел Святого Йосипа та монастир отців Лазарітов почали будувати в 1747 році за задумом градоначальника Ізяслава князя Павла Карла Сангушка. Творець проекту – королівський придворний архітектор Паоло Фонтана, який служив у ті часи у князя поручиком артилерії. У 1749 костел, виконаний у стилі пізнього бароко, був готовий. В цей же час активно велося будівництво келій для монастиря.
Поруч з костелом розташовувався палац князя Сангушко . Останній з`єднувався з храмом витонченим містком у вигляді арки. На жаль, сьогодні від палацу залишилися лише руїни. Ансамбль костелу та монастиря навіть після закінчення будівництва доповнювався новими об`єктами. Так, в 1750 році тут були встановлені водяний годинник і вівтарі авторства Фонтани, пізніше з`явився орган.
У кінці 18 століття костел був головним храмом міста. При монастирі діяли пивоварня і лазарет, а з 1800 року – мала семінарія. У 1842 обитель перестала існувати, її майно передали державі. На функціонування костелу повністю наклали заборону в 1934. Культовий заклад розграбували, орган і меблювання зламали і викинули. Будівля використовувалася як військовий склад. Костел Святого Йосипа знову передали римо-католицькій громаді лише на початку 1990-х рр.
У даний час він повністю відреставрований і є чинним.