張須陀，字果，弘農閿鄉（今河南靈寶市）人，其先人張溫乃東漢司空太尉，孫堅、董卓、陶謙都曾於他手下做事，其祖父張思，西魏中書舍人，北周陝州刺史、三崤鎮守大使、南陽郡公。祖上牛人巨多，所以張須陀文武全才，號稱隋煬帝基石。
開皇十七年（597年），昆州（治所在今雲南昆明）刺史、羌族首領爨翫舉兵反隋，張須陀跟隨行軍總管史萬歲前去進討。因功被授任儀同，賜物三百段。仁壽四年（604年），漢王楊諒在并州作亂，張須陀這次從隋朝功勳楊素平定叛亂，再次加官進爵，被功勳加開府。
這次平叛成了人生重要的轉折點，楊素是隋朝開國功臣，文武全才，號稱「英傑之表」，中國歷史上傳奇人物，在這次跟隨中學到了很多東西，尤其是自己性格上的缺陷得道改善，明白只有勇猛是不夠的，還需要智慧，而這次開府，讓他學會觀察和培養了一批自己的得力助手，包括秦瓊和羅士信都是他的得意干將。
大業六年（610年），大業六年（610年），張須陀為齊郡（治所在今山東濟南）丞。此時是隋煬帝第一次用兵高句麗，致使百姓失業，加上饑荒，糧食的價格飛漲。張須陀決定開倉放糧，賑濟災民。官屬都認為：「必須等待陛下的詔敕，不能夠私自開倉賑糧。」張須陀則說：「今陛下在遠方，派遣使者往來，必定要一年的時間。百姓有倒懸之急，如果等待報告上去，百姓就要填坑去。我如果以此獲罪，雖死無恨。」於是先斬後奏，開倉放糧。隋煬帝得知後，並沒有責備張須陀。（《隋書》）
之後的幾年時間裡，先後平定王薄、裴長才、石子河等反賊，在大業十年（614年），更是以少勝多，擊敗左孝友十萬大軍，威震東夏，因功升任齊郡通守，領河南道十二郡黜陟討捕大使。
大業十二年，張須陀被任命為滎陽通守，率其精銳部隊前往討伐翟讓，此時的瓦崗寨經過幾年的操作，又有李密的加入，已經成為中原地區最強的起義軍之一，可惜在張須陀的面前還是不堪一擊，前後被張須陀所部擊敗高達三十幾次，張須陀這次可謂威震中原，緩解了隋朝大運河的壓力。
只可惜，這次笑到最後的不是他。