První zmínky o Novém Hrádku, se týkají jmenování nového faráře v Olešnici a dokazují existenci Hrádku už v roce 1354. O šest let později byl i zde jmenován farář a vybudována fara. Střídala se období vzmachů a úpadků. Doba husitská přinesla zánik fary a kostel připadl děkanství v Dobrušce. V letech 1721 - 1723 došlo k obnovení fary a dříve dřevěný kostel byl přestavěn v barokním slohu.

Oltář sv. Josefa (boční oltář vpravo) je z konce 17. století a jedná se o původní hlavní oltář. Rekonstrukce oltáře sv. Josefa proběhla v letech 2003-4.

Současný hlavní oltář s bohatou výzdobou pochází z 1. poloviny 18. století a je zřejmě dílem řezbáře z okruhu Matyáše Bernarda Brauna. Na bocích jsou sochy sv. Vojtěcha a sv. Prokopa. Hlavní oltářní obraz představuje sv. Petra a Pavla. Kazatelna je prokazatelně ze stejné dílny jako hlavní oltář. Stříška kazatelny se třemi andílky představujících Lásku - Víru - Naději. Na vrcholu jejím socha Krista. Barokní křtitelnice je pískovcová. Oltář Panny Marie, na levé straně vítězného oblouku je rokokový z 1. poloviny 18. století se sousoším Madony s Dítětem. Lavice jsou z 1. poloviny 19. století, empírové. Obrazy křížové cesty jsou z 1. poloviny 20. století jak dokazuje signatura.