Теперішню назву село Гвардійське носить лише з 1947 року, а до того було доволі жвавим містечком Фельштин. Засноване воно галицьким підкоморієм Миколаєм Гербуртом, який у 1584 році отримав королівську грамоту на «влаштування замку та містечка, над болотами, з яких витікає Смотрич». Була у Фельштині велика католицька громада, яка й спорудила у 1763 році величний костел. Він чудово зберігся до наших днів.
Через 20 років після створення дерев’яний костел Святого Войцеха зруйнували татари. І тільки у 1753 році почалося зведення сучасного костелу на пожертви Мар’яни Граб’янчіної з роду Калиновських. Освятили храм 26 липня 1791 року. Також було надано титул Божого Провидіння. Реконструкція храму була проведена у 1905 році. У 30-ті роки минулого століття костел скасували, влаштувавши у його будівлі майстерню. Пізніше у ньому був заснований кінотеатр, а згодом Будинок культури. Знову відкрили костел у роки Другої світової війни, але у 50-ті роки його знову закрили, віддавши приміщення відділу культури.
У січні 1990 року приміщення костелу повернули парафіянам. Тоді ж розпочався його ремонт. 1994 року було відзначено 400-ліття фельштинської парафії.
Сьогодні костелу Святого Войцеха повернули його початковий вигляд. Широка алея і ряд ступенів ведуть до підніжжя храму. Фасад двох’ярусної будівлі оснащений центральним і двома бічними входами. У п’яти нішах встановлені статуї святих і Діви Марії. Внутрішнє оздоблення вражає розкішшю і пишністю.
Село Гвардійське, що на Хмельниччині варто відвідати не лише заради місцевого костелу. Це не єдина місцева родзинка. Тут є ще один цікавий об’єкт, що віднесений ЮНЕСКО до світової спадщини людства.
За селом, в напрямку Хмелівки і Нафтулівки, стоїть непоказна, але дуже цінна металева конструкція. Це унікальна пам’ятка міжнародного значення, а саме – пункт «Фельштин» геодезичної дуги Струве. Ззовні, це невеличкий курганчик, на вершині якого стоїть зварена з металевих труб геодезична пірамідка та простенький пам’ятний знак поряд. Насправді це видатний пам’ятник людському розуму, допитливості та впертості, що цілком заслужено віднесено ЮНЕСКО до світової спадщини людства.
У 1816-1855 році за допомогою Дуги Струве, мережа якої складалася із 265 тріангуляційних вимірювальних пунктів, вимірювали форми та розмір Землі. Тоді це була новаторська науково-дослідницька робота, зараз же – пам’ятка науки і техніки. Автором ідеї став випускник Дерптського університету видатний астроном та геодезист Фрідріх Георг Вільгем Струве.
Дуга проходила від Чорного моря до Льодовитого океану (зараз це територія 10 країн). До наших днів із 265 пунктів збереглося лише 34. Із них сім розташовані на території України (три на Хмельниччині).
7 червня 2016 р. Нацбанк України навіть випустив монету номіналом у п’ять грн, присвячену 200-річному ювілею від початку вимірювань по Дузі Струве.