Római katolikus templom

1353-ban a falu fölött felépült a pálosok zárdája, ennek romjait jelen évszázad elején még látták, a helyet barátok zárdájának nevezték. A falu birtokjoga 1647-től a Rákóczi fejedelmi családé volt. A lakosság a XVII. században már a református hitet vallotta és az ismeretlen időben felépített templom is az ő birtokukba került. De 1671-ben a katolikus hitre térő Báthory Zsófia - özv. II. Rákóczi Györgyné - a templomot visszaadta a katolikusoknak.

1693-ban a hegyaljai plébánosok azt panaszolták Fenesy egri püspöknél, hogy a reformátusok Újhelyen, Tolcsván, Bényén, Horvátiban megkísérlik visszaállítani nyilvános vallásgyakorlatukat. Visszatért tehát a református prédikátor s Telekessy püspök 1699. évi összeírása nem jelez Horvátiban katolikus plébánost.
1703 és 1705 között ugyan rövid időre megindult a plébánia működése, de az 1705. évi szécsényi országgyűlés a hegyaljai templomokat visszajuttatta a reformátusok részére.

A Rákóczi szabadságharc végén Lipót királynak 1710. márc. 5.-éről, illetve I. Józsefnek 1710. szept. 10-ről keletkezett rendelkezése azt írta elő, hogy mindazon templomokat, plébániákat, iskolákat, javadalmakat, ájtatos alapítványokat, melyeket a reformátusok Rákóczi felkelése alatt elfoglaltak, vissza kell adni a katolikusok részére.

E rendelkezés végrehajtásaként gróf Pálffy János, mint a király megbízottja 1711. szept. 26-án az erdőhorváti templomokat a parókiával együtt azon indoklással adta vissza a katolikusok birtokába, hogy a templom és a plébániaház eredetileg a katolikusoké volt, és köztudomás szerint a plébánost a felkelés alatt űzték el.

1711 után mégsem tudták működtetni az erdőhorváti plébániát. A visszakapott fa templom nem volt többé használható, rövidesen dőlni kezdett a fából épült paplakkal együtt.
1713-ban a mádi plébános szedte az erdőhorváti malom szombati vámbevételét, 1733-ban viszont már Tolcsván filliája volt az erdőhorváti katolikus lakosság, a falu birtokjoga pedig Trautson hercegségé lett.
1773 augusztusában Trautson herceg a plébánia visszaállítása iránt kezdeményező lépéseket tett: a plébános tartására évi 50 Ft fizetést rendelt regéci uradalmi pénztárából, majd plébánosnak bemutatta Kanyitzky János mádi káplánt.
1773 novemberében a tolcsvai plébános engedélyt kért az újonnan épített kápolna megáldására, december 1-én pedig Kanytzky, az első plébános elfoglalta hivatalát és jelentette, hogy hallgatóinak csak fele fér be a kis kápolnába. A paplak is alkalmatlan építmény volt. Kanyitzky halála után utódja, Hutiray András plébános 1787-ben a kegyuraságtól kieszközölt pénzen szilárd anyagból építette a jelenlegi templomot, majd a paplakot.

A harangokat Tolcsváról hozták át s eleinte a protestánsokkal közösen használták.
A plébánia templom titulusa: Szent Kereszt megtalálása.