洛陽重鎮，中國統帥部並不想輕易放棄。爲了給守軍打氣，蔣介石又是給武庭麟發電報，又是派空軍到洛陽空投親筆信，許諾只要堅守一週,解圍的援兵一定到達。蔣委員長作風一貫如此許諾，但是卻從來沒有兌現過，到後來抗戰勝利與共產黨的內戰中，不知有多少國軍高級將領被這種許諾送進了俘虜營。並非委員長不想兌現承諾，只是每次都有“具體情況”，此次蔣委員長一邊嚴令蔣鼎文、湯恩伯收攏部隊組織反擊，一邊命令八戰區副司令長官胡宗南派部隊出潼關東援。這胡宗南又是一個以副司令長官身份總攬戰區大權的蔣介石的得意門徒。如此副職專權的事情在國軍中已經見怪不怪了。比如後來杜聿銘在東北和淮海都是“剿總”的副司令長官，卻擁有實際指揮權。這樣的安排或許對蔣控制下屬有利，但是對於戰爭的勝敗卻是百害無一利。
胡宗南部出潼關在靈寶一帶佈防,趁機收編西撤的一戰區部隊，擴充實力，如後來在第一野戰軍保衛延安過程中在榆林被擊斃的劉勘，其部隊就是此時歸入胡宗南系統的。至於增援洛陽的賠本生意，精明的胡宗南是不會做的。豫西的國軍做出了有限的反擊，僅僅使得日軍略略後退，確保關中不受日軍威脅而已，日軍本來的戰役目標也沒有攻略陝西的內容。
西面指望不上，南面卻出現了一絲轉機。首先取得戰果的部隊出人意料竟是五戰區的雜牌部隊豫南挺進軍，該部隊在豫南信陽一帶與敵獨立11旅團糾纏多年，結下了深仇，此次信陽地區日軍北進，豫南挺進軍一直在尾隨襲擾，敵軍主力西調洛陽一帶，5戰區也接到蔣介石要求反攻的命令，豫南挺進軍兵分兩路，趁虛同時攻佔上蔡、漯河兩城，再次切斷了平漢鐵路。在豫中戰場一敗塗地的情形下，此舉無疑極大地鼓舞了軍心士氣。以至到後來日本投降後，漯河、郾城都被劃入了五戰區的受降區域。受佔領漯河之勝的鼓舞。五戰區其他部隊也奮勇出擊，連克確山、遂平、西平等平漢鐵路沿線各要點。退入五戰區的湯恩伯主力部隊在五戰區的支援下也開始反攻，畢竟這些老部隊還是有些戰鬥力的。78、89兩軍從南召向東北方向反攻，連克魯山、寶丰兩城。31集團軍主力13軍從方城出擊收復了葉縣和舞陽。
面對國軍的反攻，狡猾的岡村寧次竟然不派部隊向南增援，以打通平漢鐵路爲目的戰役此時卻將主力部隊全部集中於河南境內的隴海鐵路沿線，一邊從洛陽西工和東關東西對進猛攻，一邊繼續沿隴海鐵路向西擴大戰果。21日，國軍36集團軍司令李家鈺將軍在陝縣秦家坡戰死沙場。豫西日軍空前囂張，大有進逼潼關，威脅關中之勢，這爲胡宗南採取守勢提供了充足的理由。
在豫中、豫南日軍暫取守勢，豫中日軍退到許昌防守，豫南日軍則退回了信陽，基本恢復了戰前的態勢。但，這僅僅是國軍在豫中戰役中的迴光返照罷了，岡村寧次此時的重點極其明確，那就是：攻佔洛陽。5月25日，古城洛陽終於不守。1萬8千守軍只有2千來人成功突圍進入豫西山區。自5月3日敵軍兵臨城下，到13日敵軍三路會師，再到25日城破，岡村寧次動用了包括裝甲第三師團在內的幾乎所有主力攻城和阻援，而以豫西民團改編的15軍加上川軍94師竟然孤軍堅守了3周之久，最後重要將領還突圍而去，讓岡村寧次頗爲意外。後來接替岡村寧次擔任華北方面軍司令的岡部直三郎大將到洛陽巡視，望着飄揚的太陽旗沉思許久，他想些什麼？可曾追思到當年的遣唐使到達這座當年名副其實的東京時的感受？不知道。不過他覺得洛陽這個名字對於他們的“太陽旗之國”真是太不吉利了，到此之後怎能“武運長久”？於是下令把自古以來一直注視着天下興亡的洛陽改名爲“福陽”，這種荒唐可笑的行爲當然改變不了他們失敗的命運。
卻說當時岡村寧次攻佔洛陽後，經過休整、補充，開始部署兵力要沿平漢鐵路南北對進，再次打通平漢鐵路，實現戰役的根本目標。就在這個間隙，誰也沒有注意到，有一支共產黨的小部隊乘亂越過了平漢鐵路。
這就是徐亮率領的西進部隊。
附：日軍在豫西的部分暴行
豫西淪陷後，日軍所到之處，燒殺淫掠，無惡不作，向豫西人民犯下了滔天罪行。茲舉要如下：
1、改“洛陽”爲“福陽”，強姦婦女數百人，強迫商店開門，若不從，誅其全家。濫發僞鈔，小麥每市鬥700元、食鹽每市斤650元（淪陷前不足5角），洛陽民衆過了一年多未吃鹽的日子，更有大批民衆逃亡戓餓死。
2、偃師：每日強徵民夫5000人修鐵路，不少民衆以“怠工”被處死。
3、宜陽：僅1944年5月一個內，日本製造了石陵大屠殺、水溝廟大屠殺、穆冊大屠殺、漫流村大屠殺等12次大屠殺，殺死無辜村民1580人，強姦婦女257人，被姦殺的女子最小僅11歲，她在魚泉被35個日本兵輪姦而死，被強姦的女子最小的是三鄉一董姓女孩，她被十幾個日本兵淪奸致殘！
4、潭頭大屠殺：1944年5月，日寇攻打在欒川潭頭的河南大學，將一百多名未來得及逃走的師生集體槍殺，其中包括農學院院長王直青。李某等十多個女生被姦殺。
5、洛寧：《新華日報》1944年6月20日《豫西的班班血債：一個虎口逃生的人談敵寇集體屠殺我同胞的目擊情形》記載：當年四月日寇飛機對洛寧逐村轟炸，其中將范蠡鎮炸成平地，無一人倖免。文章的作者在盧氏東張村，見到東張大屠殺後近千具屍體橫陳于山坡的情形。
6、嵩縣：日酋梅津、左子木每日捉拿村民作耙子練刺刀，死於其手下者不計其數，每日掠奪婦女輪姦，農民張光之妻等，因爲有些容貌被捉去做慰安婦。
……
以耿諄爲代表的在1944年在洛陽保衛戰中被日軍俘虜的戰俘，竟被日軍運回本土充當苦力，大多客死他鄉。