駐蒙軍最終還是退了，在開戰第五天的時候全縣撤退了，此戰從開始到結束也不過持續了五天的時間，最終以日軍迅速被殲滅一路，打殘一路，丟掉一座省城而結束。
是役，綏察抗日根據地殲敵一萬五千多人，其中日軍佔到了半數左右，擊斃日軍中將一人，再次取得大捷。
儘管這次日軍傷亡慘重，但是駐蒙軍元氣未傷，第16師團和第26師團幾乎保持着全盛狀態，要不是晉察冀軍區和120師等部突然出手的話，後宮淳是無論如何也不會撤兵的。
日軍雖說從前線撤兵了，但是卻迅速向以包頭爲中心的綏西調集重兵，以防馬錚所部奪取整個綏西地區，這讓馬錚趁機一舉收復綏遠的願望落空了。
不過無所謂，現在歸綏一旦落入根據地手裡，進出包頭的主要通道被堵死了，日軍想要進入包頭的話只能繞道托克托縣、達拉特旗，路程遠了一倍有餘不說，道路還極其的難走，期間還要通過八路軍120師以及晉綏軍第35軍的防區。平時無大戰還好，一旦發生大戰，各部隊一配合的話，瞬間便可截斷日軍各部之間與綏西之敵的聯繫。
在馬錚看來，只要日軍不從綏西撤兵的話，那他們就是他家餐桌上的一盤菜，隨時可以吃掉。
但是現在馬錚人在武漢前線，還沒有時間和精力組織一場綏西會戰，況且歸綏城剛剛收復，這裡作爲僞蒙疆聯合自治政府的“首都”所在地，勢力是盤根錯節，八路軍想要在當地站穩腳跟還真不容易。因此在此之前還是不要打綏西的注意，貪多而嚼不爛啊！
8月1日，鑑於駐蒙兵團在此前的戰鬥中多次受損，令皇軍蒙羞，經大本營決定，駐蒙兵團縮編爲駐蒙軍。劃歸華北方面軍直轄。其原指揮官後宮淳中將即日起調回國，新編駐蒙軍司令官由華北方面軍司令官寺內壽一大將兼任。
駐蒙軍劃歸華北方面軍對於馬錚所部可以說是一個極大的挑戰，之前駐蒙軍勢力單薄，對付馬錚所部不管是兵力上還是其他方面都是捉襟見肘的，所以纔會讓馬錚所部屢屢重創。但是華北方面軍不一樣，這可是一個兵力在二十萬左右的大型軍事集團，一旦其決定打掉馬錚所部的話，必然會傾巢而出，到時候綏察根據地的壓力可就大了。
事實上接到大本營的命令之後。華北方面軍就準備調集大軍繼續圍攻綏察抗日根據地，不過他們這邊正在商討作戰方案的時候卻接到了大本營暫時不要在蒙疆地區進行大規模的軍事行動的命令。
日軍大本營之所以在這個時候突然下達這樣一道奇怪的命令，倒不是大本營怕了馬錚所部，而是北方出事兒了。
這裡所指的北方自然不會是華北，而是東北。
張鼓峰，位於中蘇邊界線上。這座海拔僅爲155.1米的小高地東面和北面是長池和波謝特平原，西北與沙草峰相連，西南與141.2高地相望。南面是防川村駐地，東南約2.5公里處是中、俄、朝三國的交界處。
這張鼓峰歷來是中國的領土。但是沙俄在與清政府1858年簽署《瑗琿條約》時，故意借條約不同文本偷偷把這一地區竊取。條約中文文本顯示，按條約中劃定的國界，張鼓峰是中國領土，而在條約的俄文文本則把張鼓峰劃歸了沙俄。
事實上，按照1886年琿春界約。邊境線通過張鼓峰東側山麓。另外，1909年由琿春邊務處員同駐洋館坪中國軍隊共同繪製的地圖，邊境線也是通過張鼓峰東側的長池以東地區，走向是由南到北。1911年由俄國參謀部調查並繪製的1：84000的地圖，邊境線也與1909年地圖標註的邊境線相同。1915——1920年東三省陸軍測繪局發行的地圖中。邊境線是通過比琿春界約邊境線略爲偏東的地方。
正是因爲這些依據，所以僞滿洲國認爲張鼓峰和沙草峰是自己的領土，把它劃入了琿春縣界。但是由於僞滿洲國根基未穩，且境內抗聯部隊頻頻出擊，因此對於這一帶的並界線並未重視，更沒有兵力駐守，只有少數國境警察巡視，處於半開放狀態
1938年5月，日軍動員朝鮮軍所屬的會寧部隊到張鼓蜂的姊妹峰張其峰修築碉堡，20多天後撤回。但是僅僅過了不到一個月，蘇軍突然佔領了張鼓峰，在山上構築工事，佈置鐵絲網。日本人認爲，蘇軍佔據張鼓峰等於擁有了可以控制朝鮮和中國東北的戰略要地。
而此時日軍正在進行武漢會戰的前夕，也就是正要奪取黃梅和九江兩個戰略要地。爲了避免與蘇聯的衝突，朝鮮軍司令官小磯國昭採取不訴諸武力的方針。
於是乎蘇日雙方就此事展開了談判，大本營的外交談判方針是要求蘇聯撤軍。爲預防萬一，又命令靠近這一地區尾高龜藏的朝鮮軍第19師團出動。該師團常駐朝鮮北部，其使命是準備對付蘇聯，而不是對中國作戰。
但是，大本營突然改變方針，企圖試探蘇聯約態度，即打算耍弄危險把戲。日軍大本營認爲，在張鼓峰這樣狹窄的地帶，無法出動大批軍隊，因而不會導致大規模的戰爭。即使整個師團覆滅也無關緊要，這正是向蘇聯顯示日本實力的大好時機。
7月，日本向蘇聯提出，張鼓蜂附近的哈桑湖地區屬“滿洲”領土，應劃歸“滿洲”，遭到蘇聯拒絕。
數日後，日軍鬆島伍長和伊藤軍曹等一行3人，化裝成朝鮮族農民，到張鼓峰附近偵察蘇方軍事設施。由住防川的居民金海南和高雲八帶路，進入蘇境後，讓金、高二人放哨，鬆島、伊藤等人分頭繪蘇邊境軍事設施圖。被蘇邊防軍發現後，鬆島被擊斃，其餘2人逃遁，這是張鼓峰事件的導火線。
隨後，日本向蘇聯遞交照會，以鬆島之死爲由，要求蘇軍撤出張鼓峰，否則採取措施。蘇方聲明日軍侵犯了蘇聯領土，因而開槍擊斃鬆島。
同日，日本大本營陸軍部命令駐朝鮮的日本軍司令官中村孝太郎中將集中所屬部隊待命。朝鮮軍司令官命令駐羅南的十九師團長尾高龜藏準備出兵，控制國境線，並部署步兵4箇中隊、山炮兵2個大隊和野戰重炮兵1個大隊。
7月20日，日本駐蘇大使重光葵向蘇聯政府強烈要求其撤出張鼓峰，否則由此而產生的一切後果由蘇方負責。蘇聯外交人民委員會答覆：“任何威脅嚇不倒莫斯科”。
同時爲了應對日軍可能出現的進攻，蘇軍也加強戰備，並在張鼓峰西坡構築防地。
7月29日，10名蘇軍士兵到張鼓蜂以北兩公里處構築工事，尾高下令進攻，蘇軍坦克隨即出動。尾高不向大本營報告，擅自命令佐藤聯隊出擊，攻佔山嶺地帶。隨後日軍偷渡圖們江，集結於防川屯，疏散了當地的老少婦孺，留下18歲至45歲的男子挑水、送彈藥，戰爭一觸即發
31日夜12時，日軍在朝鮮的洪儀裡向張鼓峰開炮，第一發落在張鼓峰北坡蘇聯領土上，第二發落在張鼓峰頂，第三發落在張鼓蜂西坡。日軍一個大隊於凌晨4時40分攻佔了張鼓峰。另一個大隊在炮火掩護下於晨6時攻佔了沙草峰。日軍又向哈桑湖地區進攻，張鼓峰事件終於演變成了現實的流血衝突。
由於此時外蒙古已經被蘇聯控制，而獨七師所在的綏察根據地距離外蒙古直線距離只有幾百公里，爲了避免在北方國境線一帶刺激蘇軍，因此日軍大本營纔會命令華北方面軍立即停止對該地區抗日力量的進攻。(。)