1975年8月，時任武漢軍區副司令員的張震接到老首長粟裕談話，上級準備到他到總後勤部任職。對於後勤工作沒有經驗的他，從大局出發出發，認為不合適，但得知是鄧小平點將，希望他到任後把總後勤工作抓起來，他也不再推辭了。
總後勤部部長為張宗遜，副部長有8位，包括他在內，把他擺在第一位，擔任黨委副書記，協助部長抓全盤工作，壓力不小。但是他相信，大家緊密團結起來，是可以把後勤工作做好的。
可在實際工作中，各種問題迎面而來，讓他也倍感無力？
自大運動以來，林、江先後插手總後勤工作，總後勤建設遭到破壞，許多傳統丟了，影響到後勤各項工作順利展開。
上任一個多月後，總後黨委確定在1976年召開全軍後勤工作會議，並在即將召開的全軍訓練工作會議上發言，重點就是後勤在未來作戰中地位，如何搞好戰爭物資準備等。
隨著工作展開，總後機關對幹部的看法不盡一致，有的甚至截然相反。他剛到後勤，還不完全熟悉一些問題，想儘快抓一下總後機關幹部隊伍建設。
1976年，反擊右傾翻案風運動起來，機關內部也開始動起來了。把已經穩定好的局面，給再次攪渾。
這樣的情況並沒有維持多久，四人幫被粉碎，按照中央的統一部署，他和總後黨委其他人，投入揭批都在。開始時，一些有牽連的人遮遮掩掩，不願講出真實情況，也有人聯繫總後實際，有些還進行人身攻擊。總之，情況很亂。
為了集中去抓揭批查工作，甩掉歷史包袱，堅決把揭批林、江結合起來。他同一些領導交換意見，看法不一樣，有人說他是「兩箭齊發」，「另搞一套」。
那時候的總後工作不好做，在此之前原政委郭林祥曾經信心滿滿要解決總後的現狀，只可惜在工作中與總後個別領導意見不同，加上四人幫的干預，工作進展很慢，甚至穩定的局面隨著運動又亂了。
到1975年，他離開總後勤，那裡的情況也沒有太多變化。
張震作為一名軍事幹部，來負責總後全盤工作，工作上得不到領導班子統一，如何展開工作？如果不能儘快結束揭批查，總後勤的工作就無法儘快走上正軌。為此，他給鄧小平寫信匯報情況和自己的想法。他要求對有錯誤的班子要堅決改組，有問題的人一個也不留，要把運動搞好，也要有一定時限。
1977年，上級把曾經的老搭檔王平調來擔任政委，與他一起解決總後的撥亂反正。經過兩人的配合，總後工作逐步走上正軌。