永熙元年（532年）三月，爾朱聯軍二十萬人屯兵鄴城以南，向高歡發出了挑戰。
此時高歡手下大約有步兵三萬，騎兵兩千，主要由三部分構成：
高歡的懷朔系人馬，葛榮的六鎮殘部和河北漢人豪強部隊。
這些部隊都是久經沙場，戰鬥力極強的亡命之徒，雖然人數不多，但個個都能以一當十。反觀爾朱聯軍雖然人多勢眾，但各懷鬼胎，難以形成強大戰鬥力。
爾朱兆的部隊最強悍，但在廣阿之戰中元氣大傷，至今未恢復。爾朱天光調不動賀拔岳、侯莫陳悅的關中派部隊，只得率本部人馬出戰。爾朱度律和爾朱仲遠的部隊雖多，但成份複雜，戰鬥力較弱，四部總計十幾萬人，號稱二十萬。這四大佬如果單獨對付高歡，確實勝算不大。
爾朱世隆也是因為這一點才把爾朱家族的全部家底拿出來投入大戰，但也犯下了致命錯誤。後世有人批評爾朱世隆把精銳集中到一起被高歡一鍋端，犯了低級錯誤。
高歡親率大軍屯駐紫陌（今河北臨漳西），爾朱兆自領三千騎兵偷襲鄴城西門，結果沒有占到便宜，倉促撤退。
三萬對二十萬，實力過於懸殊，高歡隨機應變帶兵渡過漳水，在韓陵山（今河南安陽韓陵鎮）布下圓陣，牽來牛驢堵塞歸路，將士們沒有退路，只能拼死一戰。
決戰開始前，爾朱兆出陣質問高歡為何背叛自己。
高歡答道我們當初同心協力，共保皇上，如今皇上（指孝莊帝）何在？
爾朱兆說：孝莊帝妄殺天柱大將軍（爾朱榮），我是為大將軍報仇！
高歡斥責道：天柱大將軍在世時你又是怎麼做的，何況君叫臣死，臣安敢不死，何來報仇之說！今天你我恩斷義絕！
說完下令進攻。
爾朱兆也不甘示弱，一馬當先突破高歡中軍，企圖中央突破後前後夾擊，一度占了上風。但爾朱度律等人見爾朱兆這麼愛出風頭，心中不爽，不願爾朱兆專功，因此沒有很好的配合。這樣就給了高歡喘息之機，迅速收縮戰線，穩住陣腳，命令埋伏的騎兵出擊。
爾朱聯軍被沖亂了陣腳，爾朱度律的部將賀拔勝，爾朱仲遠的部將杜德、王則見爾朱氏內訌不斷，索性陣前倒戈，投降了高歡。爾朱聯軍全線瓦解，兵敗如山倒，史稱韓陵之戰。
此戰中高歡先敗後勝，戰況最激烈時高歡親率500騎兵獨抗爾朱大軍。高敖曹等親信率軍左右夾擊，各軍奮起直追，無不以一當十。高歡甚至下令切斷退路，告訴將士後退只有死路一條，只有奮勇直前才有生路。
韓陵之戰和之前的廣阿之戰都是高歡創業道路上的標誌性事件，影響深遠。
但韓陵之戰並沒有全殲爾朱家族，除了前面提到的幾位投降外，大部分將領都安全退出戰場，所以準確說韓陵之戰是擊潰戰，而非殲滅戰。但經此一戰，爾朱氏好不容易組建的聯盟再次瓦解，四分五裂。爾朱兆逃回晉陽，爾朱仲遠逃往江南，爾朱天光和爾朱度律隻身逃回洛陽。
爾朱兆逃命途中想起當初慕容紹宗建議他殺掉高歡，他沒有採納，不禁追悔莫及。這小子捶胸頓足：「真後悔不聽紹宗之言，以致於今天。」
各地觀望的諸侯見高歡大破爾朱氏，紛紛改換門庭，投入高歡陣營，雙方力量對比發生了重大變化。
爾朱氏的潰兵一路西逃，草木皆兵，風聲鶴唳，率先逃回洛陽的賈顯度，賈顯智、斛斯椿等人好不容易才穩住神兒。幾個人一商量，這爾朱氏看來是玩不下去了，咱哥幾個不能給那幾個混蛋陪葬，樹挪死，人挪活，索性咱反了吧！
幾個人一拍大腿，說干就干。
當時洛陽城裡的爾朱世隆接到敗報後，立即奏請節閔帝元恭派人挑選敗兵保衛洛陽，但元恭沒有同意。他不得不私下派心腹陽叔淵趕到北中城，收編退回來的敗兵鎮守北中城。
斛斯椿等人跑回來後不能進城，便向陽叔淵奏道：「爾朱天光的部下都是關西人，他們打算洗劫京城，遷都長安，不可不防，將軍還是讓我們進城駐守，以防不測呀。」
這番話糊弄住了陽叔淵，便放斛斯椿等人進城，結果這幫人一進城便殺死爾朱世隆派來的人。占據北中城
，截斷了洛陽城中爾朱世隆和其他爾朱大佬的聯繫，使得爾朱世隆不知道前方的情況。在此之前，洛陽城中的爾朱彥伯提出自己去守衛黃河上的北中城，但爾朱世隆不同意，這事兒就吹了。
沒多久，爾朱天光、爾朱度律領著潰兵狼狽逃到河橋，這哥倆不知道賈顯智、斛斯椿那幫人已經反水。他們到達河橋後，才發現斛斯椿已經反了，便準備進攻北中城。
怎奈天降大雨，城外泥濘不堪，不得不放棄攻城逃走。不久二人在渡河時被人生擒，押送斛斯椿處。
到這個時候，爾朱聯盟已經完蛋了。被綁了兩個，爾朱兆逃回晉陽，爾朱仲遠逃往江南，只剩下坐困洛陽的爾朱世隆和爾朱彥伯兄弟了。
抓了爾朱天光和爾朱度律後，斛斯椿馬上命長孫稚回京向節閔帝元恭報告，另一面又派賈顯智、張勸率騎兵趕回洛陽抓捕爾朱世隆等人。
大隊騎兵風塵僕僕進了洛陽城，進城後直奔爾朱世隆府邸，將他當場拿下。長孫稚此時尚在宮中，他向節閔帝元恭匯報了高歡韓陵大破爾朱聯軍的情況，並向他傳達高歡誅殺爾朱氏的決心。
此時只剩下爾朱彥伯還沒有落網了，他這會兒剛好在禁中值班，元恭派人去通知爾朱彥伯，意思是你能跑就趕緊跑吧。
爾朱彥伯大驚失色，急忙逃出宮，不過很快便被人擒獲，押送閶闔門外，和爾朱世隆一起被斬首。死後懸首斛斯椿門外的樹上，不久被取下來連同爾朱天光、爾朱度律兩人一起送給高歡處置。
至此，龐大的爾朱集團只剩下爾朱兆還在苟延殘喘，下一步就是對他的終極追殺。