中國工農紅軍第二軍團勝利完成第二次國內革命戰爭的歷史任務後，於1937年8月25日，奉中央軍委命令改編為國民革命軍第八路軍一二○師三五八旅，下轄第七一五團(原紅四師改成)、第七一六團(原紅六師和紅二十八軍改稱)。
改編後即於9月2日在陝西省富平縣莊裡鎮舉行抗日出征誓師大會，隨即出征，東渡黃河，開赴抗日前線，肩負起抗擊日本侵略者的偉大歷史使命。從1937年9月至1945年9月，在整整八年的浴血奮戰中，遵照黨中央的戰略部署，第三五八旅大體經歷了以下幾個鬥爭階段：
創建晉綏抗日根據地，開展敵後游擊戰爭（1937.7-1938.12）
部隊渡過黃河後，即由晉南北上，於9月23日到達山西北部的神池縣八角堡地區集結。此時正值日寇從雁北、察南大舉進攻之際，隨即擔負起配合國民黨軍防守雁門關及其東西長城各要隘之任務。在忻口會戰中，側擊敵後方，破壞敵交通，使敵交通運輸陷於癱瘓，對穩定忻口防禦起了極其有利的作用。接著為配合反攻太原，襲擊了太原飛機場和火車站，切斷同蒲路北段。
後為粉碎日軍對晉西北的10路進攻，連續收復7座縣城，擊退了敵人的進攻。在配合反攻綏遠的戰鬥中，部隊開入雁北，積極開展敵後游擊戰爭，大量牽制了敵人。接著，又打退了日寇對晉西北的第二次進攻。與此同時，又派出部隊深入敵後，廣泛開展游擊戰爭。組成宋時輪支隊，深入雁北，爾後轉到冀東地區打擊敵人；組成李井泉支隊，北上綏遠，開闢大青山敵後抗日根據地。
在晉西北，部隊抽出相當數量幹部和部分主力部隊，開展根據地的各項建設工作，穩定社會秩序，積極宣傳群眾，建立群眾組織和地方政權，發動群眾廣泛開展游擊戰爭。經過同兄弟部隊一起一年多的共同艱苦努力，晉綏根據地初具規模，成為陝甘寧邊區的有力屏障和黨中央聯繫各根據地的咽喉要道，在抗日戰爭以至解放戰爭中都起了極為重要的作用。
挺進冀中、轉戰晉察冀（1938.12-1940.1）
1938年10月，日軍調集兵力開始對冀中抗日根據地實施大規模圍攻。為了打退日軍進攻，鞏固冀中根據地，幫助整訓新部隊和擴大本身力量，我七一五團、七一六團隨一二○師師部開赴冀中。
1939年元月到達冀中時，正值日寇向冀中區開始第三次大規模圍攻，部隊立即投入了反圍攻戰鬥，同冀中區部隊一起將敵擊退。2月上旬又打退日寇第四次圍攻。3月下旬，敵又開始了第五次大規模圍攻，於4月初又被我打退。在日寇大舉進攻的同時，國民黨河北反動民軍司令張蔭梧也妄圖消滅我冀中區部隊，由冀南北上向我圍攻，我軍當即予以還擊，並將進犯之敵全部殲滅，狠狠打擊了頑固勢力。
經過連續幾個月的戰鬥，取得了一系列重大勝利極大地鼓舞了冀中人民的抗日熱情，受到了冀中人民的熱烈歡迎和愛戴。部隊也在鬥爭中不斷得到發展和壯大，由原來的兩個團，迅速發展成獨立第一、第二兩個旅，並派出幹部和建制連隊組建了第三支隊。同時用以老幫新的辦法，先後幫助二、三、四、五、六支隊，整訓了部隊，使這些新部隊得到迅速成長，軍政素質有了明顯提高，大大增強了戰鬥力。
1939年8月，奉八路軍總部命令，我部隊除留二、三、四、五、六支隊繼續堅持冀中區的鬥爭外，主力轉赴晉察冀邊區休整，9月初到達晉察冀邊區。9月27日，日寇第八旅團三十一大隊偷襲我晉察冀邊區領導機關，部隊當即予以圍殲，經過六天五夜的激戰，將進攻之敵全部殲滅在陳莊地區，創造了山地運動殲滅戰的範例。接著於11月初開始，參加了晉察冀的冬季反掃蕩，至12月8日，反掃蕩取得了勝利。
鞏固擴大晉西北抗日根據地（1940.2-1943.6）
1940年2月，為打退國民黨反動派發動的第一次反共高潮，部隊奉命由晉察冀返回晉西北。在這裡，渡過了抗日戰爭極端困難的艱苦歲月。由於日寇的殘酷掃蕩，國民黨反動派的經濟封鎖，自然災害的侵襲，根據地幾乎到了沒有飯吃，沒有衣穿的地步。
為了鞏固晉西北抗日根據地，把抗日戰爭進行到底，部隊從1940年6月起，先後進行了1940年的夏季反掃蕩、秋季反掃蕩、百團大戰、冬季反掃蕩，1941年的春季反掃蕩、夏季反掃蕩、秋季反掃蕩、冬季反掃蕩。與此同時，為了渡過難關，減輕人民負擔，認真貫徹了中央關於精兵簡政、開展生產運動等一系列指示，部隊先後兩次精減，並在邊戰鬥邊整訓的情況下，自力更生，開展了大生產運動，增加了收入，改善了生活，增強了體質，減輕了人民負擔。
1942年，為粉碎敵人的總體戰，在黨的一元化領導下，抽出力量，以部隊骨幹為主力組成武工隊，並與廣泛的群眾鬥爭相結合，打擊外出活動之敵，捕捉漢奸，拔除敵據點，陷日寇於被動挨打的局面。1948年進一步貫徹了中央「把敵人擠出去」的方針，反蠶食鬥爭取得了偉大勝利，晉西北抗日根據地得到了進一步鞏固和發展。
保衛黨中央、保衛陝甘寧邊區（1943.7-1945.8）
1943年5月，國民黨反動派發動了第三次反共高潮，調集了60萬大軍包圍陝甘寧邊區，妄圖分.9路閃擊延安。我三五八旅即奉中央命令開赴陝甘寧邊區，保衛延安、保衛黨中央，部隊於6月下旬集結於延安南邊之鄜縣蔭蘆河地區。
由於我黨對國民黨反動派的進攻作了充分的準備和有力的揭露，加上國際國內的道義壓力，國民黨統治區隴南又民變蜂起，蔣介石陷於孤立被動的地位，不得不把對邊區的進攻暫緩了下來。針對這種形勢，我三五八旅部隊即在黨中央身邊，邊和兄弟部隊一起警惕地守衛著延安的南大門，邊開展了1943年與1944年轟轟烈烈的大生產運動、大練兵運動和整風運動，從而使部隊得到了全面鍛鍊，從思想上、組織上、軍事上、物質上都有了很大提高，部隊兵強馬壯，出現了一個嶄新局面。
與此同時，邊界反頑鬥爭也取得了很大勝利，對敵人的一系列偷襲、摩擦、擾亂、破壞進行了有力的反擊，特別在爺台山戰鬥中，乾淨、徹底、全部地消滅了進犯之國民黨頑固軍，取得了重大勝利。
爺台山戰鬥後，根據中央原來的命令，部隊立即東渡黃河，舉行大反攻，先後進行了柳林、蘆家莊、離石諸戰鬥，殲滅了大量日偽軍，贏得了抗日戰爭的最後勝利。