A jáki templom és a mellette található kolostor története szorosan összefonódik, azonban a kolostorról a mai napig csak keveset lehet tudni, annyi biztos, hogy többször cserélt gazdát. Elderbach Bertold 1455-ben kapta meg, végül fia a végrendeletében Bakócz Tamásra hagyta, így a legutóbbi időkig Bakócz örököseié, az Erdődy családé volt.
Az 1532-es év sorsdöntőnek számított a kolostor életében. Abban az évben a Kőszeget ostromló törökök az épületet is megtámadták, és a templommal együtt súlyosan megrongálták. A templom elérhető magasságban lévő szobrait is ekkor fejezték le. Miután a törökök elvonultak a szerzetesek még valószínűleg visszatértek, de a kolostori élet 1562 után már bizonyosan megszűnt.
A szombathelyiek 1576-ban újították fel az elhagyott épületet. A felújítást követően 1660 és 1666 között Folnay Ferenc apát hajtott végre nagyobb építkezéseket rajta. Erre egy korábbi villámcsapás okozta károk miatt volt szükség. Ekkor az építkezés során bontották le a kolostor egy részét. Folnay a déli falat újjáépíttette, valamint a megrongálódott déli pillérsort négyzetes, durva falpillérekkel pótolta. Mivel a famennyezet leégett, helyette a két hajóban fiókos dongaboltozatot emeltetett, illetve egy emeletet is húzatott a déli mellékhajó és a sekrestye fölé. A barokk ablakok az északi falban kaptak helyet. 1733 és 1735 között a tornyok hagymasisakokat kaptak, melyek 1785-ben súlyosan megrongálódtak egy vihar következtében, végül gúla alakú téglasisakokat emeltek rájuk.
1896 és 1904 között Schulek Frigyes tervei alapján történt a templom utolsó nagyobb átépítése. A munkálatok során törekedtek a templom eredeti formájának visszaállítására. Az akkori műemléki elveknek megfelelően elmondható, hogy indokolatlanul is jelentős átépítéseket végeztek, ugyanis nem minden esetben törekedtek az eredeti részek megóvására. A felújítási folyamat során a díszkapu rossz állapotban levő faragványait kicserélték, valamint a kapu feletti timpanonba új domborművet is faragtak.
Visszaállították a tornyok eredeti magasságát is, és a barokk sisakok helyett a zsámbéki templom eredeti kősisakjait másolták le és tették rá a tornyokra. Kicserélték a sérült falszakaszokat, lebontották a déli hajó emeletét és a barokk ablakokat elfalazták. Az épület külső faragványai sem maradtak ki a felújítási folyamatból, de az eredeti faragványok egy részét a budapesti Szépművészeti Múzeumba, más részét Szombathelyre, a Savaria Múzeum kőtárába szállították. A templom homlokzati része 2013-ban újult meg, illetve 2018-ban döntöttek arról, hogy három év alatt több mint két milliárd forintot szánnak a templom teljes felújítására.
