1935年11月底直羅鎮戰鬥勝利結束後，2團在原住地稍事休整，就經過5天行軍，轉到了宜川縣秋林鎮以北數十里的村莊駐紮。2團住在附近8、9個小村子裡，梁興初帶著團部和重機槍連，住在一個塬上的一排窯洞裡。2團在這裡住了一段時間，進行休整和訓練，而梁興初則跟著上級領導開始考慮和前期偵察，準備東渡黃河到山西作戰。
1935年12月29日，總部給101去電要求他到瓦窯堡開會，1936年1月2日，101帶著偵察參謀曾思玉和騎兵偵察連一個手槍班前往開會，會後沒回軍團部，又趕赴黃河沿岸清澗到延長一帶偵察，在黃河沿岸待了13天。1月31日總部開會決定東渡黃河，同日左權又帶人到黃河沿岸繼續偵察。2月11日，101又帶著1師、2師、4師的師長和各團長，帶領偵查人員到黃河邊繼續看地形，確定渡河點，梁興初也跟著一路。梁興初碰到101時，101問他在甘肅鎮原縣三岔鎮負的傷好了沒有，他說沒有，101對他說：「那你就一邊工作，一邊養傷吧。」
梁興初他們這些師、團長，分成幾個小組，帶著偵察科長和參謀，化裝成陝北老鄉，穿著棉襖褲，頭扎白布手巾，肩上扛個筐子，手裡拿個小鋤，沿著黃河延長、延川、吳堡3縣偵察。因當時是一年最冷的時候，本來計劃是等黃河結冰直接走過去，但1935年冬天是暖冬，冰層不厚，只有乘船過河，從渡口強渡過河。在那裡，梁興初他們和老鄉們打成一片，和老鄉關係極好，一起吃小米飯、窩窩頭，喝麵條湯。在老鄉幫助下，他們把沿線所有的地方都仔細看了一遍，連很少有人知道的羊腸小道在老鄉幫助下也找到並親自走了一遍，有時候，晚上他們還偷偷摸過河去，偵察對岸敵人的據點和火力配備，畫上地圖，再回到河這邊來。
梁興初這次偵察在黃河邊走了有七、八十里路，發現了閻錫山軍隊弱點，就是他的兵力分散在各個地方，還經常看到晉軍士兵穿著大衣，背著槍睡大覺，素質不高。最後101將強渡地點選在陝北綏德縣溝口村，對面就是山西柳林三交古鎮。
2月20日20時，紅1軍團從綏德縣溝口開始強渡黃河，紅5團曾國華帶領24名突擊隊員第一批強渡成功，隨後紅2師順利過河。開始2團作為2師後備隊，因晉綏軍戰鬥力不高，沒有撈上大仗打，後來最大的一次硬仗是與關麟征的25師在山西大寧縣打的堡村崾阻擊戰。
4月17日紅2師從隰縣午城鎮方向進入大寧縣太德塬，25師也跟到了太德塬，18日晨戰鬥就在龍吉村馬王廟附近打響，先是紅2師向永和桑壁鎮北撤，紅5團作為後衛在後阻擊，邊打邊撤，到了堡村崾一帶，因地形好就在此阻擊25師，戰鬥到下午3點，25師一部從堡村西南下溝經燕家河迂迴，對5團進行合擊，給5團造成一定損失，領導就讓梁興初帶2團換下5團，要求把25師頂住。
梁興初帶2團上去後，利用大寧各處稱呼「崾」的地形，構築堅固工事，頑強抗擊了三天，到第三天晚上接到命令才隨2師向西南方向撤退，把敵人引向西南，以便主力從西北永和縣黃河渡口回陝北。梁興初就率2團撤退，快速向吉縣前進，天快亮的時分，來到離吉縣十幾里路的地方，看到山坡上有敵人的一個連在放連哨，於是斷定吉縣駐有部隊，向師部匯報後，當時劉亞樓生病了，鄧華主任和參謀長熊伯濤命令2團擔任後衛掩護，掩護全師向西轉移。梁興初觀察地形，估摸敵人只有1個連百來人，相距不到1里，當機立斷決定趁其不備把它消滅，就命令1連和3連摸上去，不到20分鐘就把這個連包圍繳械投降了。天亮以後，2團在後也撤退了，因吉縣敵人消息不明，也不敢出城追擊，2團順利追上師部，隨後安全渡過黃河。
回到陝北後，在5月14日,紅1方面軍在延川縣大相寺召開團以上幹部會議，總結東征經驗,部署西征任務，梁興初也參加了會議。在會上，批評1軍團的本位主義時，也揭發了紅2團的一件陳年舊事。那是直羅鎮戰役後，2團的傷員，包括1個副連長、4個排長、10幾個戰士被送到延長的後方醫院治療，傷好後醫院不讓他們回2團，要留在醫院分配工作。本來這是那時傷員安置的正常程序，但2團幹部戰士有點戀家，梁興初和2團政委知道後，上報師部同意後，就派人去接人結果沒接出來，然後梁興初倆人就帶上一個排，去醫院強硬的把傷員要回了2團。
會上這件事被捅出來後，參會人員眼光都盯向2團的領導，幸好師長劉亞樓站出來說這事是他同意的，把責任承擔下來，但是梁興初還是受到了處罰，就是在會上站了一會兒，後來才叫他坐下。從這件事上看，梁興初和戰友關係好，性格隨和，戰友可以叫他外號「梁大牙」，但其實他也是有性格的，有時也是一個「刺頭」。