Pierwotnie był to kościół parafialny pw. św. Jakuba Starszego. Niestety nie jest dokładnie wiadomo, dlaczego akurat św. Jakub stał się patronem kościoła. Nie jest wykluczone, że kult św. Jakuba tak powszechny w Europie w XII wieku, a szczególnie na terenie Cesarstwa Rzymskiego Narodu Niemieckiego i jego przygranicznych terenach, m. in. na Śląsku, był znany pierwszym osadnikom, którzy przybyli do Jemielnicy najprawdopodobniej z Frankonii będącej częścią cesarstwa. Jak powszechnie wiadomo centrum kultu tego świętego w Santiago de Compostela. Jednak jest mało prawdopodobne, aby w tym czasie mieszkańcy Śląska pielgrzymowali na Półwysep Iberyjski. Możliwe, że wpływ na wybór patrona mogła mieć też fundacja kościoła pw. św. Jakuba Apostoła w Nysie pod koniec XII wieku.
Pierwszy kościół, prawdopodobnie drewniany, powstał w II połowie XII lub na początku XIII wieku, niedługo po przybyciu do Jemielnicy pierwszych kolonistów frankońskich. Ta pierwsza świątynia miała za patrona św. Jakuba Starszego. Nie wiadomo, kiedy kościół został po raz pierwszy konsekrowany. Kościół murowany w stylu gotyckim powstał prawdopodobnie w XIV wieku. W prezbiterium do dziś zachowało się późnogotyckie sklepienie krzyżowo-żebrowe z podporami. Kościół prawdopodobnie został zniszczony w 1428 lub 1430 r. przez husytów. Potem mógł być odbudowany a następnie konsekrowany ponownie w 1477 r. przez wrocławskiego biskupa sufragana Johannesa Rotha (zm. 1504r.). Przeprowadzenie konsekracji zostało potwierdzone potwierdzone inskrypcją w języku łacińskim na ścianie prezbiterium po prawej stronie ołtarza głównego oraz dwunastoma zacheuszkami umieszczonymi na ścianach prezbiterium i nawy. Po kolejnych zniszczeniach w czasie wojny trzydziestoletniej, kościół został ponownie odbudowany w 1655 r. z fundacji opata Bernarda Bogaczyńskiego i burmistrza/konsula Nicolasa Jankowskiego. Nad chórem, na zachodniej ścianie kościoła, znajduje się inskrypcja potwierdzająca to odnowienie. W tym kościele znajdował się ołtarz pochodzący z 1521r. i odnowiony w 1602 r. Górna część tego ołtarza została wykonana w 1663 r. W XVII w. burmistrz/konsul Nicolaus Jankowski zlecił namalowanie obrazu olejnego św. Anny za 2 talary. Małżonka Franza von Otieslav z Kielczy podarowała haftowany jedwabny welon na kielich. Właściciel dóbr strzeleckich hrabia Caspar Colonna w 1660r. ufundował blachę, którą w 1662 r. opierzono wieżyczkę kościoła. W 1667 r. w nawie ustawiono nowe ławki. W 1668r. kościół wzbogacił się o dwa barokowe ołtarze, które własnoręcznie wykonał administrator kościoła, przeor Robert Sambucius. W 1678 r. zostały one, wraz z górną częścią ołtarza głównego i figurą Zbawiciela umieszczoną na ambonie, pomalowane i poddane złoceniu. Młodzieniec Jacob Cierlica z Jemielnicy podarował 25 talarów na złocenie górnej części ołtarza głównego, piekarz klasztorny Johann Schreiber wraz z małżonką przekazał 7 talarów na złocenie ołtarza św. Józefa, Johann Maslo na złocenie ołtarza św. Jadwigi podarował 6 talarów, a Agnes Cesarz 3 talary. Zewnętrzne ściany kościoła zostały pobielone wapnem przekazanym kościołowi przez opata. 18 października 1685 r. opat Kasper Bartholomäus konsekrował w kościele 3 ołtarze: główny ku czci Matki Boskiej i Wszystkich Świętych oraz dwa boczne: jeden ku czci św. Józefa i drugi ku czci św. Jadwigi Śląskiej. W 1686 r. z funduszu kościelnego pokryto na nowo część dachu nad chórem oraz nad dzwonnicą. W tym czasie kościół był wybrukowany kamieniem i cegłą. Na chórze znajdował się pozytyw organowy, czyli małe organy posiadające jedne manuał i charakteryzujące się brakiem klawiatury nożnej. W 1733 r. kościół po raz trzeci się palił. Na szczęście wnętrze kościoła nie uległo zniszczeniu. Straty były poważne, bo trzeba było naprawić dach, okna w prezbiterium, na górnych chórze i w sąsiedztwie ołtarza św. Jadwigi. Stopnieniu uległy też trzy dzwony. W tym samym roku sprowadzono dwa nowe dzwony z Nysy (Neisse). 18 lutego 1737 r. kościół został okradziony przez złodzieja, który wszedł do świątyni przez okno na chórze i zabrał pieniądze z puszki. Został jednak ujęty i zwrócił to, co miał jeszcze przy sobie. 17 lipca 1738 r. opat Ludwik Herde konsekrował nowy ołtarz główny i złożył w nim relikwie świętych męczenników Nicomedis, Priscae i Jucundae. Ołtarz przeniesiono do kościoła parafialnego z kaplicy św. Józefa w kościele klasztornym. Rok później ołtarz został pomalowany i ozłocony za 144 floreny. Równocześnie pomalowano wszystkie ławki i wejście na chór za 31 florenów. Stary ołtarz główny został przeniesiony do kościoła w Kielczy. W połowie XVIII w. na wyposażeniu kościoła znajdowały się: barokowy ołtarz główny z drewnianym tabernakulum ozdobionym Barankiem Wielkanocnym, późnorenesansowe stalle, barokowa ambona, dwa ołtarze boczne i ławki z 1667 r., mszał, 3 agendy, mary z całunem, srebrny kielich z napisem: A(bbas).
G(em), F(ieri), Mal(achia), A(nno) 1694 ufundowany przez opata Malachiasza Bagudę na pamiątkę objęcia przez niego urzędu, kielich z wygrawerowanymi u podstawy malowidłami scen pasyjnych, pozłacana monstrancja wykonana w 1740r. przez złotnika Johanna Georga Donatha z Wrocławia za 170 florenów z dobrowolnych datków. Na monstrancji wyryto napisy: Ecclesiae Omnium Sanctorum in Gemelnicz 1746. 13 maja 1786 r. w kościelną wieżyczkę uderzył piorun i ją zniszczył. W 1810 r. kościół był w posiadaniu kapitału w wysokości 443 i 1/3 talara oraz 326 talarów w listach zastawnych. Po przeniesieniu parafii do byłego kościoła klasztornego 1812r. dotychczasowy kościół parafialny stał się cmentarnym, ponieważ był położony na cmentarzu.
W 1820 r. nawa kościoła została pokryta nowym dachem za 89 talarów. Wtedy też przeprowadzono remont domu nauczyciela i organisty, wybudowano piwnicę oraz chlewnię za 250 talarów. 15 listopada 1821 r. młodszy z rodziny Langer z Gąsiorowic zobowiązał się dokonać napraw w kościele i na dzwonnicy za sumę 83 talarów. Podjął się wymiany zgniłych krokwi, założenia nowych rynien i łat, w szczególności jednak pokrycia gontem prezbiterium i kruchty. Kolejne prace remontowe przeprowadzono w 1826 r. Odnowiono ściany i prowadzono prace remontowe w całym kościele. W 1871 r. kościół pokryto łupkiem oraz odrestaurowano wnętrze. W latach 1935 – 1936, w trakcie remontu kościoła, na ścianach prezbiterium odkryto wspaniałe polichromie i inskrypcje z lat 1451 – 1475. Nad wejściem do prezbiterium na podłuczu tęczy odkryto postacie dwunastu apostołów w sześciu prostokątnych polach. Na ścianie północnej cykl scen pasyjnych i postacie dwóch świętych. Na ścianie wschodniej, we fragmentach, Chrystus ukazujący rany, Matka Boska Dobrej Opieki i anioł przy dawnym tabernakulum. Na ścianie południowej inskrypcja pisana minuskułą: Anno domini MCCCC LXXVII haec ecclesia est recon-ciliata feria secunda post Francisci per reverendum patrem et dominum Joannem suffraganeum wratislaviensen in honorem omnium sanctorum, co w języku polskim oznacza: W Roku Panieńskim 1477 wielce czcigodny Jan, wrocławski biskup sufran, w poniedziałek po dniu świętego Franciszka ponownie konsekrował tę świątynię ku czci Wszystkich Świętych. Ponadto na ścianach nawy i prezbiterium oraz na podłuczu tęczy 12 zacheuszków.
W latach 80. XX w. kościół został poddany kolejnym remontom. W 1981r. odnowiono i zabezpieczono mur otaczający cmentarz i kościół. W latach 1981 i 1989-1992 na dachu kościoła w miejsce łupka położono blachę ocynkowaną. Natomiast w latach 1981 i 1984 na zewnętrznych ścianach kościoła położono nowy tynk. W latach 90. Wykonano nową instalację elektryczną 380V oraz zamontowano agregat chłodniczy, który został sfinansowany przez Urząd Gminy w Jemielnicy. W prezbiterium ustawiono katafalk na trumnę, zakupiono świeczniki i żyrandol, doprowadzono wodę z wodociągu oraz założono nowe drzwi wejściowe, które wykonał stolarz Józef Burczek. Na zewnątrz położono nowe chodniki, wykonano ścieżki, zabiezpieczono stare nagrobki, wyremontowano mur przykościelny, zamontowano radiofonizację i wymalowano w środku kościół. W te prace zaangażowani byli m. in.: Walter Waloszek, Wiktor Koźlik, Siegfried Sowa, Walter Derner, Andrzej Świstak. W otoczeniu kościoła posadzono około 400 drzew i krzewów. Nie obyło się bez protestów jednego mieszkańca wsi w sprawie uruchomienia chłodni na zwłoki. Po przeprowadzeniu prac restauracyjnych, od 1995 r. kościół pełni funkcję świątyni przedpogrzebowej. W tym czasie ktoś uszkodził kilka krzyży na grobach jemielnickich kapłanów, pochowanych przy wschodniej ścianie świątyni.
Kościół jest budowlą wczesnogotycką, orientowaną, murowaną z kamienia łamanego i otynkowaną. Korpus prezbiterium pochodzi zapewne z XIV wieku, natomiast korpus nawy z II połowy XVII wieku. Kościół na zewnątrz został opięty szkarpami. Na szczycie stromego dachu siodłowego znajduje się wieżyczka z sygnaturką z 1740 r. We wnętrzu kościoła można wyróżnić prezbiterium, nawę i kruchtę. Prezbiterium ma kształt zbliżony do kwadratu a jego sklepienie jest krzyżowo-żebrowe. Swego rodzaju ciekawostką jest to, że sklepienie wykonano z drewna, na które nałożono tynk. Od południa do prezbiterium przylega zakrystia. Dwuprzęsłowa nawa jest nieco szersza od prezbiterium. Do niej od zachodu przylega kruchta a od południa kostnica, do której nie ma wejścia od strony wnętrza świątyni. Sklepienie nawy i zakrystii jest kolebkowe a kruchty kolebkowo-krzyżowe. Przy zachodniej ścianie nawy znajduje się drewniany chór muzyczny z XVII wieku. We wschodniej części prezbiterium umieszczono ołtarz główny z 1738 r. W polu centralnym ołtarza obraz Wszystkich Świętych nieznanego malarza. Po obydwu stronach obrazu umieszczono po jednej kolumnie. Obok kolumny prawej znajduje się figura św. Jana Ewangelisty a obok lewej – figura św. Jana Chrzciciela. W zwieńczeniu ołtarza napis Laudate Dominum In Sanctus Ejus, wyobrażenie Boga (oko Boga), anioły i putty. Pod obrazem tabernakulum z rzeźbami baranka i puttów. Po obydwu stronach ołtarza ulokowano stalle późnorenesansowe z około połowy XVII w. Na ścianach prezbiterium i na podłuczu tęczy polichromia gotycka z II połowy XV wieku. Po lewej stronie prezbiterium, na styku z nawą, znajduje się ambona barokowa z II połowy XVII wieku. Przy wschodniej ścianie nawy umieszczono dwa ołtarze boczne z 1668 r. w stylu barokowym autorstwa przeora Roberta Sambuciusa. Ołtarz prawy: w polu głównym obraz św. Jadwigi, pod nim w predelli obraz św. Anny, nad nim w zwieńczeniu obraz Nawiedzenie Najświętszej Marii Panny. Ołtarz lewy: w polu głównym obraz św. Józefa z Dzieciątkiem Jezus, pod nim w predelli obraz Pokłon Trzech Króli, nad nim w zwieńczeniu obraz Ucieczka do Egiptu.
Kościelne ściany dawniej ozdabiały liczne obrazy. Dwa z nich obecnie znajdują się w Muzeum Diecezjalnym w Opolu. Są to obrazy wotywne, trzystrefowe, namalowane w 1673 r. i być może pochodzą ze starego skrzydła tryptyku ołtarza. Inne obrazy z tego kościoła obecnie znajdują się w kościele parafialnym.
Staraniem ks. Proboszcza Henryka Pichena, w 2006 r. przeprowadzono konserwację średniowiecznych polichromii. Odnowiono też cały kościół i jego otoczenie. Kościół cmentarny pw. Wszystkich Świętych jest obok kompleksu pocysterskiego perłą architektoniczną na skalę europejską, stąd często jest odwiedzany przez pielgrzymów i turystów z kraju i zagranicy. Pełni tez bardzo ważną funkcję kaplicy pogrzebowej.
Źródło: P. Smykała, P. Michalik, Jemielnica - dzieje wsi i parafii, Wydawnictwo MS, Opole, Jemielnica 2014
