岑彭大約生於公元前15年。王莽建立新朝後，岺彭剛好成年，到了新朝末年，岑彭當上了棘陽（河南省新野縣）縣長。棘陽屬於南陽，所以，岺彭和劉秀其實離得不遠。
當新朝末年，各地紛紛起義時，劉縯、劉秀兄弟也拉起一支隊伍在南陽起兵了，劉縯的隊伍起兵後，不久就拿下了棘陽，
岑彭呢，抵抗了幾下，眼看不敵，於是就帶著家屬投奔了前隊大夫（南陽太守）甄阜。
甄阜因岑彭丟了城池責難他，把他的家人拘禁了起來，讓他戴罪立功。岑彭沒辦法，只好率領自己原來的賓客組成的臨時隊伍，同隨後追來的劉縯部隊繼續作戰。
不久後，過於自大的甄阜，傾城之力與劉縯決戰，想學當年的韓信，搞個北水一戰，把劉縯一仗打沒，結果卻被劉縯給包了餃子，甄阜戰死，岑彭這時也受了傷，逃到宛城，與原甄阜副手嚴說共同守城。
漢兵圍城了好幾個月，最後城中糧盡，人民相食。岑彭於是和嚴說一起，獻城投降。此時，劉縯手下的好多人，都建議把岑彭殺了，因為之前就是他在堅持固守，讓漢軍打浪費了很多時間。
但劉縯勸大家， 劉縯認為岑彭這完全是因為各為其主所致，算是個忠義烈士，應該封賞，這樣，後來的人才會來投。
就這樣，更始帝遂封岑彭為歸德侯，並讓他在劉縯手下打仗。
過了沒幾個月，更始帝因為害怕劉縯功勞太大，對他產生猜忌，設計殺害了劉縯。
劉秀也害怕了，緊急的向更始帝請罪，也不敢有過多的要求。於是，劉縯手下的人，大多被分散到其他的大將手下。
岑彭和劉秀於是就分開了，劉秀後來去河北招附。岑彭則是到了大司馬朱鮪的手下做校尉，跟隨著朱鮪打仗。
後來跟著去攻打楊州，擊殺了州牧李聖。隨後又隨軍平定淮陽城，朱鮪推薦岑彭當了淮陽都尉。
再後來淮陽的鎮守徭偉反叛，岑彭又率兵進擊徭偉，大破其軍，因功升任潁川太守。岑彭本欲去潁川上任，但恰巧此時，舂陵人劉茂起兵自立，攻占了潁川。岑彭因此不能到任，只好帶著麾下數百人暫時依附河內太守韓歆。
更始二年，公元24年秋，劉秀率領大軍在射犬（今河南省沁陽縣東北）一帶擊敗農民軍之後，開始同更始帝決裂，乘勢進入河內郡，準備收服已經歸順更始政權的河北各縣。
韓歆得報，最初準備閉門堅守。但岑彭極力勸說韓歆歸附劉秀。因為，因岑彭曾是劉秀的大哥劉縯的部下，深知劉秀的能力與為人。
可是韓歆卻拒絕了岑彭的勸說。不久，劉秀率領軍進至懷縣，韓歆見劉秀兵強馬壯，知道大勢已去，開城投降。
劉秀召見岑彭敘舊，岑彭趁機給劉秀分番了一番形式。
說：「今赤眉入關，更始危殆，權臣放縱，矯稱詔制，道路阻塞，四方蜂起，髃雄競逐，百姓無所歸命。竊聞大王平河北， 開王業，此誠皇天佑漢，士人之福也。彭幸蒙司徒公所見全濟，未有報德，旋被禍難，永恨於心。今復遭遇，願出身自效」(《後漢書·岑彭列傳》)。此一番忠心表白下來，劉秀大喜，跟他深相結納。韓歆曾經想著要固守，劉秀此時想要殺掉他，此時的岑彭趁機對劉秀說，說韓歆是南陽地區的正直君子，可以收為己用。劉秀於是赦免了韓歆，讓他當了鄧禹的軍師。岑彭來到劉秀麾下，第一次出手，根本沒用武力，當時更始政權手下一個大將軍呂植屯駐在淇園（南省鶴壁市）。劉秀準備拿下，岑彭出馬，一番勸說下，呂植投降了。劉秀很高興，能動口的不用動手，於是，劉秀任命岑彭為刺奸大將軍，派他督察各營。後來岑彭跟隨劉秀的大軍平定河北。等到建武元年（公元25年）六月，劉秀在河北登基後，任命岑彭為廷尉，仍拜歸德侯，行大將軍事。岑彭最初是在劉秀的手下，跟隨著劉秀的大部隊做戰，建武二年到建武三年，進軍荊州，岑彭先逼降許邯，後來與賈復，吳漢，耿弇一起討伐叛將鄧奉，經過大半年的戰鬥，最終在劉秀的親征下，鄧奉兵敗被殺。
接下來，岑彭獲得了獨立領軍做戰的機會，這也開始了他軍事生涯真正的輝煌。
要知道在新朝末年，除了劉秀外，還有大大小小十幾支起義軍。在荊襄地區有一支自稱楚離王的軍隊據守，楚離王叫秦豐，手中有十餘萬精兵強將！
建武三年（公元27年），劉秀任命岑彭為征南大將軍，率三萬人馬去征討秦豐。
而當時，秦豐剛剛招降了延岑。延岑也曾經是一支義軍，曾多次擊敗赤眉軍，戰鬥力不俗，秦豐很是欣賞。
岑彭一到楚地，剛剛圍住鄧縣（此時秦豐正在鄧縣），延岑迅速趕來支援。第一次獨立帶兵征戰的岑彭，面對著做戰經驗豐富的延岑，有點畏手畏腳，所以兩軍相持數月不能拿下。
數月未拿下，劉秀有點坐不住了，他寫信責怪岑彭。岑彭害怕了，這一害怕，馬上有了一條絕妙的破敵之計。
第一步暗渡陳倉，他先放出話去，說第二天要進攻另一個戰略要點山都縣。 然後呢，讓大部隊假裝走正道往那裡進發，自己帶著奇兵去渡過沔水，去了到山都縣的必經之路——阿頭山口，設下埋伏，因為他預料敵軍要在來的路上堵他，就這樣，趕來堵截的山都縣張場部隊被突襲了。 張揚本人很倒霉的剛一開戰就被一支冷箭射死!
第二步調虎離山，滅了張場以後，，岑彭還沒待楚軍反應過來，就又馬不停蹄的直奔楚軍老巢黎丘城而來。很快擊敗了留守的部隊，秦豐聞知，急忙率主力趕來求援，就這樣，楚軍主力就被吸引到黎丘城下，這回他原來圍困的鄧縣又空虛了，留守的漢軍發起了進攻。於此同時，原來阻擊延岑的朱祐先是假裝撤退，在延岑趕去增援鄧縣的路上伏擊，一戰而全殲延岑所部，主將延岑不知下落。之後，這支由朱祐所率領的漢軍直取鄧縣。還是一次漂亮的圍點打援。
第三步.空營伏擊，連續的失利讓秦豐很是著急，此時大將蔡宏就因此給秦豐提出了一個絕妙的主意，那就是夜襲。可他哪裡知道，等待他的是岑彭的口供陣。岑彭料到會夜襲，早就有了準備。於是當蔡宏夜襲摸到漢軍營地的時候，卻發現這是個空營。背後是漢軍像潮水一樣從四面向楚軍包圍了過來。最後，楚軍大將蔡宏被陣斬。秦豐敗走。
楚離王秦豐最後只能被圍困在黎丘城中，岑彭留人在此看守，而自己帶軍隊在荊襄境內南征北戰。最後，不僅秦豐率最終留下的千餘人投降。此戰，岑彭總共斬殺楚軍九萬餘人，而且整個荊襄地區再次插上了漢家的旗幟，岑彭也因戰功被封為舞陰侯。劉秀也因為荊襄之戰，對岺彭十分賞識，建武六年（公元30年），劉秀召岑彭入京，幾次接見歡宴，厚加賞賜。