一九三八年四月，徐州會戰結束，日軍攻占了徐州，不過他們沒有實現殲滅中國軍隊主力的戰略預想，中國軍隊主力則是退守武漢，且憑藉武漢外圍的崇山峻岭以及山河湖泊展開縱深防禦，國民政府以武漢為臨時大本營指揮全國的抗戰。侵華日軍為了將中國軍隊的抵抗意志徹底打垮，便集結了三十多萬的兵力進攻武漢，於是，規模浩大的武漢會戰便打響了。
兵事網——武漢會戰，中日國運的分水嶺，抗日戰爭也由此進入相持階段
按照日軍的計劃，日軍以岡村寧次第11集團軍為東路軍，溯長江西進；以東久邇宮稔彥王第2集團軍為北路軍，沿大別山北麓進攻，兵分兩路展開鉗形攻勢，計劃於武漢會師。日軍東路軍於長江沿岸遇到了我國軍隊的頑強阻擊，而且他們一整個師團差點被我軍於萬家嶺地區殲滅，所以日本東路軍的進展並沒能使他們滿意，於是便迫切地希望在北線戰場能夠打開突破口，好策應東路軍的進攻。
一九三八年九月二日，北路日軍第二軍之第13師團，直逼大別山峽口的富金山，富金山戰役正式打響。富金山處在固始南部史河南岸，當葉(家集)商(城)公路要衝，東連六安、合肥，西通潢川、信陽，山勢險峻，戰略位置十分重要，要是該地區被日軍所占領，那麼他們便能夠長驅直入，直接把中國軍隊武漢外圍防線給洞穿。
13軍團屬於日軍的一個精銳師團，曾經在南京戰役裡面重創中國軍隊，更是南京大屠殺的元兇之一。對於日軍的突然襲擊，國民政府命宋希濂率領第71軍前往防守阻擊（第71軍由第36師以及88師這兩大德械師組成，在南京保衛戰的時候便跟日軍第13師團有過交手），國民政府這樣的布置，也能夠看出富金山的重要性。宋希濂在抵達了富金山以後，便把指揮部安置在了山上的千年古剎妙高寺裡面。
九月八日，日軍在對富金山國軍陣地展開了長時間的空襲以後，便開始對富金山國軍陣地進行攻擊，且還增調了第16師團增援13師團去攻打富金山。於是，在富金山的前線，出現了日軍用兩個師團打擊國軍一個軍的局面，而且日軍在火力方面還有兵力方面都占據了優勢（敵我雙方兵力的對比差不多的二比一），所以日軍非常有信心，準備要在兩天時間裡結束戰鬥。
當天，日本第10師團開始攻占固始縣城，且派出了一個聯隊的兵力南下去攻打富金山以西的武廟集，嚴重威脅富金山陣地側後。宋希濂馬上就把預備隊88師523團緊急調遣至日軍南下必經之路的坳口塘設伏，殲滅了四百多日軍，並迫使日軍退回固始。就這樣，日軍的偷襲計劃破滅了。
日軍只得把自己的主攻方向改成了富金山國軍的正面方向，集結了第13師團以及16師團的主力，全力猛攻國軍正面陣地。面對日軍的猛烈進攻，國軍傷亡慘重。到了九月九日的時候，將可以開槍的輕傷員加上去，還能夠戰鬥的兵力就只還有千餘人。宋希濂親赴陣地進行動員：「36師要永遠站著，絕不能趴下，狠狠地打，弟兄們才能死而無憾。」最終，36師浴血奮戰，堅定地守在富金山陣地，力保陣地不失，而擔任主攻富金山任務的日軍第13師團也是傷亡過半，只得撤出戰場進行休整。
九月十一日凌晨，日軍再次對富金山陣地展開了大規模進攻，他們從富金山跟石門口的戰線結合部突破國軍防線。在這般危急的情況下，第36師師長陳瑞河親自帶領所部所有可以參與戰鬥的戰士對抗日軍，國軍官兵們奮勇拼殺，前赴後繼，跟日軍展開白刃戰，戰況十分慘烈。不過由於第36師已經進行了連日的血戰，隊伍減員很嚴重，在對上日軍那如潮水般的進攻以後，還是杯水車薪。到了下午十六時，36師除控制著富金山主峰制高點外，其他陣地全部失守，36師自己也陷到了日軍重圍之中，日軍則是想要將這支國軍精銳給全殲了。為了將最後的德械師精華保住，宋希濂指揮部隊從富金山右翼發起反擊，吸引日軍的主力，策應36師進行後撤。
富金山戰役從九月二日日軍進攻，到九月十一日國軍撤出戰場，打了整整十天。國軍以一個軍的兵力阻擊日軍的三個師團，在對上比自己多數倍的敵人的時候，國軍戰士浴血奮戰，死戰不退，給日軍帶去了重創，將我國軍人的威風打了出來。日軍那時候的隨軍記者記錄著：「此役由於受到敵主力部隊宋希濂軍的頑強抵抗，傷亡甚大，戰況毫無進展，我軍遇到強手，束手無策，實為中國事變（七七事變）以來最苦的一戰」。據統計，日軍三個師團戰死了四千多人，屍體皆「運葉家集焚化，臭聞十餘里。」傷亡人數更是達到了萬人以上。國軍同樣付出了十分慘重的代價，德械師第36師也從一萬餘人銳減到了八百人，可以說是傷亡殆盡，為德械師寫下了最後的榮光。