Po wyzwoleniu obwodu mikołajowskiego mieszkańcy zaczęli wracać do swoich domów z nadzieją, że uda im się uratować przynajmniej część dobytku. „My też, jak ludzie ze wsi Kyseliwka, nie mogliśmy siedzieć i czekać, dlatego wraz z proboszczem ks. Ołeksandrem Repinem TChr udaliśmy się do Kyseliwki, gdzie znajdował się nasz kościół Niepokalanego Poczęcia NMP. Znajdował się, bo został zniszczony. Mieliśmy nadzieję, że może coś tam zostało, że coś znajdziemy, coś zabierzemy…” – zaznaczyła s. Faustyna z Ukrainy, która wraz z proboszczem i innymi siostrami odwiedziła Kyseliwkę, gdzie przed wojną opiekowali się miejscowym kościołem.

Po dotarciu na miejsce benedyktynka misjonarka nie mogła uwierzyć w to, co zobaczyła. „Łzy popłynęły po moich policzkach, moje usta wypowiedziały Modlitwę Pańską, a w moim sercu zapanował pokój. Miejsce święte – Dom Boży – wybrany, by chwalić w nim Boga – pozostało nim. Nie było w nim nienawiści, złości, tylko jakiś żal i myśl pocieszająca, że Kościół – ludzie – pozostał żywy” – podkreśliła s. Faustyna.

Zakonnica zaznaczyła, że większość parafian modli się obecnie w kościele w Mikołajewie, ok. 55 km od Kyseliwki. „Wokół kościoła są rakiety wbite w ziemię, mnóstwo pozostałości po pociskach kasetowych. Od razu uświadamiasz sobie, jak zło nie kocha tego, co święte. Stajesz się jeszcze bardziej przekonany, że to zło wbija się na naszą ziemię, zło, które niszczy wszystko, a szczególnie niszczy to, co święte” – zrelacjonowała s. Faustyna i wyraziła nadzieję, że kościół zostanie odbudowany, jeśli ludzie wrócą do poważnie ziszczonej wsi. „Widok ten bardzo tragiczny, niesie jednak nadzieję na zmartwychwstanie” – podsumowała s. Faustyna Kovalska.

Początki Kyseliwki sięgają lat 30. XIX w. Założyli ją głównie katoliccy imigranci z ziem polskich, litewskich i białoruskich. Początkowo wieś nazywała się Polackie, w 1905 r. przemianowana na Kyseliwkę.

Mały kamienny kościół w Kyseliwce, leżącej 15 km na północny zachód od Chersonia, został zbudowany w drugiej połowie XIX w. i przetrwał dwie wojny światowe oraz reżim komunistyczny. Władze sowieckie zamieniły kościół na magazyn, a potem na miejsce naprawy traktorów. W 1990 r. kościół został zwrócony wiernym i oddany pod opiekę księży chrystusowców. W 2013 r. konsekracji kościoła dokonał ówczesny biskup diecezji odesko-symferopolskiej Bronisław Bernacki.

Od marca 2022 r. Kyseliwka była pod ciągłym ostrzałem wojsk rosyjskich. Kościół znajdujący się na linii frontu uległ zniszczeniu 2 maja. 10 listopada wieś została odbita z rąk rosyjskich w ramach ukraińskiej ofensywy w obwodzie chersońskim.

.