衡陽之戰膠着，日軍速勝的計劃破產了，這直接導致日本本土的東條英機內閣垮了臺，東條受命重新組閣。
當日軍第二次總攻被挫敗後，日軍在華派遣軍大感不安，橫山勇於是決心將全軍主力全部投入戰場，除繼續補充第68、第116兩師團的兵力外，還命令重炮部隊向衡陽轉進，同時下令給第40、第58兩師團分別向衡陽集結。9月1日，橫山勇佩帶着“天照皇大神宮”的神符，也由長沙乘飛機到達了衡陽郊外，親自指揮攻城大戰。
9月2日，蔣介石下決心要救出方先覺部，於是他命令桂系的第46軍即刻向衡陽攻擊前進。“小諸葛”白崇禧不願意爲了救援先覺部而折損桂系的實力，因此他只派出了46軍新編第19師。新19師遵照白崇禧的指示，一路慢慢悠悠的朝衡陽挪動着。蔣介石對桂系軍隊的陽奉陰違很是生氣，可是他對白崇禧等人又毫無辦法，只能另選部隊救援衡陽。
蔣介石再次選上了第62軍，命令他們停止撤退，重新組織兵力繼續向衡陽攻擊前進。62軍軍長黃濤懾於蔣介石的權威，不得不停止撤退，調過頭來繼續向衡陽攻擊前進。9月3日，第62軍主力佔領鐵官鋪後，繼續向衡陽西面“挺進”，沿途與日軍激戰不斷，全軍邊打邊進，最後好不容易擊破日軍的攔阻，突進到了離衡陽不遠處的雨母山。眼看着離衡陽城不遠了，黃濤一聲令下，命令部隊全部投入戰鬥，竭力攻擊。可是，62軍的弟兄們費盡力氣，督戰隊拼命督戰，還是無法衝破日軍的阻攔，勉強的拿下了雨母山。此時，第62軍已是精疲力竭了，實在是無力繼續進攻了。可是就在這欲進不得、欲退不能的時候，黃濤再次接到了蔣介石的嚴令，命令第62軍繼續攻擊，務必解救方先覺部。
第62軍已經竭盡全力了，無法在攻了，而且日軍的工事又異常堅固，62軍多次猛攻都是無功而返。可是軍令如山，黃濤還是準備去“經歷不能想象之危險與犧牲”，硬着頭皮下令再次攻擊。結果，全軍就好象撞在了鐵板上一樣，不但未能前進半步，反而遭到了更加嚴重的傷亡。62軍像老牛一樣進攻的時候，日軍正集結重兵攻其側後，第62軍陷於孤軍作戰，被迫由攻勢轉爲守勢，在雨母山一帶與日軍相持。
9月5日，日軍5個師團帶着重炮100餘門，在橫山勇親自指揮下，發起了對衡陽的第三次總攻擊。在戰前的動員會上，橫山勇瘋狂的叫囂道：“一天之內，攻下衡陽！”其實，日軍早就在9月2日起就對衡陽發動了空襲，重炮部隊也與9月3日用猛烈的炮火對衡陽城轟擊了整整一天，如今衡陽城內早已是一片廢墟了，所有的防禦工事已經不復存在了。
5日上午，日軍步兵出動，發起了正面強攻。第10軍方面，倍受壓力。每個陣地都遭受到了日軍最猛烈的攻擊。日軍投入的兵力之多、火力之猛、持續時間之久，爲開戰以來所沒有的，衡陽全城都爲硝煙所籠罩，完全分不清方向。面對鬼子發了狂的猛攻，第10軍的弟兄們以手榴彈與刺刀與鬼子們血戰。碉堡垮了，武器毀了，彈藥盡了，但只要有一個未死的士兵從廢墟中爬出來，就又拿起武器和鬼子們以命相搏。所有的官兵們都以一敵十，以百敵千，與鬼子拼殺到底，怒吼着和陣地共存亡。
9月6日中午，戰況已經發展到白熱化。設在衡陽城內中央銀行的第10軍軍部內，方先覺與部下們討論着戰況，悲痛欲絕的方先覺給蔣介石發出了最後一封電報，在電報中方先覺沉痛的說道：“校長鈞鑒，學生所部早已彈盡糧絕，敵於今晨自北門突入，學生已無可用之兵。學生決心以死報效黨國，不負校長栽培之恩。此電爲學生最後之言，願來生再爲校長建功立業！”
入夜之後，日軍的攻擊仍爲停止。衡陽城內到處都是火光和濃煙，炮聲、槍聲、喊殺聲混成一片。城內守軍的聯絡早已中斷，整個衡陽城都已是遙遙欲墜了。
所有人都寄託方先覺再次給第10軍帶來榮譽的夢想，終於完全成了泡影，第10軍戰死萬餘人，受傷8300餘人，目前總兵力已不足萬人。衡陽城已是朝不保夕了，第10軍殘部困守在衡陽城內，與外界失去了所有的聯繫。衡陽城內，只剩下一個頂樑柱，那就是方先覺了，可是他還有什麼救城的高招嗎？答案是否定的，此時的方先覺已經做好了殉國的準備，只等着那最後時刻的到來了。
衡陽城內，中日兩軍繼續在竭力廝殺着，誰也無法在最後一刻擊敗對方。戰鬥進入了考驗意志力和耐力的時候了。在這個時候，任何一方如果獲得了支援，勝負的局面都將改寫。但是，中日兩軍誰都沒有援軍。
9月7日，方先覺在痛心疾首，五內如焚中度過了一個白天。當夜幕降臨以後，在仍然激烈的槍炮聲中，方先覺召集部下們，在中央銀行的地下室內召開了緊急軍事會議。會議主要討論衡陽城內守軍的三個選擇：是突圍、死守、還是投降。面對這三個選擇，方先覺將做何打算呢？
在這內外交困的情況下，方先覺雖是頂樑柱，但他也是無力迴天了。至於下一步要如何選擇，他也是舉棋不定，只好把一一步命運的決策權交給了部下們。在會議上，部下們各抒己見，都認爲傷員衆多，彈盡糧絕，已經是無力突圍了。第190師師長葛先才認爲，除以死殉國外，只有投降以待時機了。他的這個建議一提出來，再座的衆人就都保持了沉默。
投降，當降將，這幾個字眼，以前方先覺從沒想過。但此刻一經提出，他的腦袋是“嗡！嗡！”作響，在衆人議論紛紛沉默之時，他沒吱一聲就離席了，走進了自己的內室，突然“哇”的一聲哭了起來。聽到軍長失聲痛哭的聲音，以190師569團團長李剛爲首的主戰派，慷慨激昂的說道：“就是死！也要和小鬼子們死戰到底，與衡陽城共存亡！”但以190師師長葛先才爲首的主降派卻不幹了，他們激烈的反駁道：“還是要以保存實力爲主，沒了實力，何談抗日啊？與衡陽城共存亡，完全是一句空話，命都沒了，拿什麼來什麼來救國！拿什麼來打敗小鬼子！”
就在主戰派和主降派還在激烈的爭論時，方先覺走了出來制止了部下們的爭吵。他長長的嘆了一口氣，然後說道：“事以無可爲，爲了上萬官兵的性命，還有城內百姓的安危，惟有放棄抵抗，以避免無謂之犧牲了。你們可以向日軍投降，而我則必須以死來報效黨國！”於是主降派們經過討論，向日軍提出了6項投降條件，這6項條件是：（1）要求保留第10軍建制。（2）要求日軍不殺害俘虜和百姓。（3）要求日軍給予傷兵人道待遇。（4）要求日軍立即停火。（5）要求日軍派飛機護送第10軍高級將領去南京去見汪精衛主席。（6）要求日軍妥善安置第10軍的隨軍家屬。
會後，方先覺派副官處長張廣寬與日軍聯絡，將投降條款呈送給日軍最高指揮官橫山勇。結果，這6項條件全部被橫山勇拒絕了，氣急敗壞的橫山勇嚴令各部加強攻擊，務必於天亮前全殲第10軍殘部。副官處長張廣寬灰頭土臉的回到了第10軍軍部，把情況向方先覺作了彙報。
午夜時分，突然傳來一個驚人的消息，預10師的一個團已經停止了抵抗，那着前些日子日軍散發的“通行證”投降了！這個消息立刻就在第10軍內部傳開了，許多主張投降的將領，也決定採取這樣的方式向日軍投降。但是，並不是所有的人都是願意投降的，第190師569團殘部在團長李剛和副團長李洪峰的帶領下，毅然決然的向日軍發起了衝鋒，全團800餘官兵無一人後退，全部倒在了衝鋒的路上。橫山勇在得知這一事情後，下令厚葬這些寧死不屈的中國軍人。
天亮以後，主降的190師師長葛先才帶着日軍聯絡官走進了第10軍軍部，日軍聯絡官給方先覺敬了一個軍禮，然後禮貌的對方先覺說道：“我們司令官橫山勇將軍請方軍長到司令部一敘，請方軍長跟我走吧。”方先覺怒目而視，右手悄悄的伸向腰間，準備拔出手槍自殺殉國，而手槍早已被副官處長張廣寬伸手奪下了。190師師長葛先纔對方先覺說道：“軍座，事已至此，你就帶我們走一條活路吧！”方先覺沉吟片刻，眉頭一皺，把心一橫，就跟着日軍聯絡官，走出了第10軍軍部。