說起北涼，我們還得從盧水胡這支部族講起，盧水胡這個族群活動於中國西北部，主要分為三大部：涇渭流域的安定盧水胡，河西走廊的臨松盧水胡、河湟谷地的湟中盧水胡。安定郡是盧水胡的發源地，境內有盧水（又名瀘水）向東南流入涇河，自古便是羌戎雜居的半農半牧地帶。盧水之名源於殷商時代的西戎盧方，盧方是以現在的甘肅平涼崆峒山為根據地的部落方國。
武王伐紂之後，西戎盧方和西遷涇渭流域的彭人部落逐漸融合成為彭盧戎，活動於現在的甘肅東部和寧夏南部。彭人部落源自大彭氏國，大彭氏國位於徐州，是夏商時代的諸侯，曾經稱霸一時，後被商朝中興之主武丁滅國。大彭氏國亡國後，部分彭人投奔商朝的敵國西戎，在涇渭流域定居下來，與周人、盧人毗鄰，並加入周人的滅商戰爭，對此《尚書·牧誓》有生動的描寫。彭人、盧人除了在涇渭流域的彭盧戎外，還有隨周人東遷內地的，被周王朝封為子爵之國，稱為彭國、盧國，但都在春秋時期亡於楚國。
留居西戎故地的彭盧戎則在春秋時期為義渠戎國所滅。當義渠戎國在公元前272年亡於秦國後，彭盧戎的遺民開始受到華夏族的影響，成為半戎半夏的宗族，不少人改用漢姓，彭姓是其中之一。秦漢以來，彭盧戎的遺民廣泛吸收其他部族的加入，比如匈奴、月氏、貲虜、雜胡、秦胡、羯族、氐羌乃至漢族等等，並最終以「盧水胡」這一民族共同體的形象登上了歷史舞台。
隨著盧水胡被中央政權徵調到其它地區，其活動區域從陝甘寧交界處的涇渭流域逐漸擴大到甘肅河西走廊、青海河湟谷地一帶，涇渭流域的安定盧水胡是其本部，河湟谷地的湟中盧水胡以及河西走廊的臨松盧水胡則是其遷徙後的別部，2006年青海出土的「安定左佰長」銅印就是這段遷徙歷史的明證。
從東漢開始，盧水胡作為僱傭軍曾多次出征西域和匈奴，鎮壓各地起義，是漢代河西士兵的重要來源。盧水胡僱傭軍中也有因軍功被漢族朝廷啟用，而徹底漢化的。這群生活在祖國西北的族群在活躍了四、五百年之後於南北朝時期漸漸與其他民族一道融入了漢族之中。
盧方是商代的重要方國，叛復無常，殷墟婦好墓中曾經就出土過一件帶有盧方字樣的大玉戈。戈長38.6厘米，厚0.6厘米，上面刻有「盧方皆入戈五」字樣。意為盧方首領入貢商王五件玉戈。
商末周初，盧方加入了周武王伐商的行列之中。《尚書·牧誓》中記載「嗟！我友邦冢君御事，司徒、司馬、司空，亞旅、師氏，千夫長、百夫長，及庸，蜀、羌、髳、微、盧、彭、濮人。稱爾戈，比爾干，立爾矛，予其誓。」
關於《牧誓》中的茹水河即為古代的盧水，是盧水胡聚居地
盧、彭二族的具體位置，根據西漢著名的經學家孔安國對《尚書》的考證，是在西漢國都長安的西北，也就是在涇渭流域的西北部，這一代毗鄰周人的周原，與周和西戎的關係密切，現在的地圖上仍可找到涇渭流域的兩條河流——茹水河（又名茹河、茹水）、葫蘆河，很可能就是盧人和彭人的故園。盧人彭人比鄰而居，在周代漸漸融合為一族，被稱之為「彭盧戎」，是太原（古地名，範圍涵蓋甘肅慶陽和寧夏南部）五戎（義渠戎、郁郅戎、烏氏戎、朐衍戎、彭盧戎）之一。
以彭盧戎為核心的盧水胡於西漢時期開始出現在漢文典籍中，最初被稱為盧水士民（見於居延漢簡）。當漢族於漢代形成穩定的民族共同體後，盧水士民由於與漢族的生產，生活方式不同也被稱為盧水胡。盧水胡人驍勇善戰，作為僱傭軍活躍於東漢至南北朝長達四、五百年的歷史中，最輝煌的時期是以北涼的建立為標誌的。其中最為耀眼的人物便屬於沮渠蒙遜。
385年，呂光征西域班師回朝途中，沮渠蒙遜的叔父沮渠羅仇歸附了後涼，被呂光任命為西平太守，建忠將軍、尚書。同年沮渠麴粥被命為三河太守。
397年5月，段業自稱大都督、龍驤大將軍、涼州牧、建康公，建元神璽，建都駱駝城（今甘肅高台縣南22公里處）。399年2月，段業改稱涼王。
後涼龍飛二年（397年），沮渠蒙遜的伯父沮渠羅仇、沮渠麴粥跟隨後涼主呂光征討河南，呂光的前軍打了大敗仗，沮渠麴粥對哥哥沮渠羅仇說：「主上年老昏昧、驕橫放縱，諸子之間結黨為伴互相傾亂，不時還有進讒之人。現在我們軍敗將死，正是最容易遭受猜忌的時候，難道我們能不防備嗎！我們兄弟二人向來是他們所畏懼的人，與其死於山溝，不如率領軍隊開往西平，到時候振臂大呼，平定涼州就不在話下。」
但是沮渠羅仇卻說：「論道理確實是像你說的那樣，但是我們家族世代效忠，為一方之人所信賴，寧可人負我，我不負人。」此後不久，呂光因沮渠羅仇和沮渠麴粥戰敗為藉口將其二人殺害。沮渠蒙遜聽聞兩位叔叔被殺悲傷不已。哭著對大家說：「當年漢朝國運中道衰敗，我的先祖輔佐竇融，使河西得到安寧。如今呂王昏庸，暴虐無道，我豈可不繼承先祖安定時局的志向，而讓兩位伯父抱恨黃泉呢！」於是沮渠蒙遜殺了呂光的中田護軍馬邃、臨松令井祥而進行盟誓。十天時間，沮渠蒙遜人馬聚集一萬多。
神璽二年（398年），段業派沮渠蒙遜攻打後涼重鎮西郡（今甘肅永昌西）。
之後王德以晉昌，孟敏以敦煌向段業投降。段業封沮渠蒙遜為臨池侯。當時呂弘逃離張掖，準備往東逃跑，段業準備去追擊呂弘。沮渠蒙遜勸說道：「已經逃跑的將領就不要去追擊，窮寇勿追，這是兵家的重要道理。不如放他前去，以後再圖攻取。」段業說：「敵人一旦放走，以後恐怕追悔莫及。」於是率領軍隊前去追擊，結果被呂弘打敗。段業因為有沮渠蒙遜相救才免於一死，感嘆說：「我不能聽張子房的話，以至於到了這個地步！」同年，段業修筑西安城，讓他的將領臧莫孩為太守。沮渠蒙遜說：「臧莫孩有勇無謀，知進忘退，這是給他修築墳墓，不是修築城池。」段業不聽從沮渠蒙遜之告。不久臧莫孩被呂纂打敗。沮渠蒙遜害怕段業容不下自己，經常隱藏智慧躲避段業。
神璽三年（399年），段業僭稱涼王，改元天璽，任命沮渠蒙遜為尚書左丞，梁中庸為右丞。
神璽三年（399年）四月，呂光派他的兩個兒子呂紹、呂纂攻打段業，段業向南涼禿髮烏孤求救，禿髮烏孤派他的弟弟禿髮利鹿孤以及楊軌救援段業。呂紹因為段業等的軍隊強盛，想從三門板沿著山勢往東。呂纂說：「依靠山勢，自己軍隊的弱勢就容易顯示給對方，是自取失敗的做法，不如結成陣向前衝擊，對方就一定恐懼，不敢出戰。」呂紹便率領軍隊向南開進。段業準備攻打。沮渠蒙遜勸諫說：「楊軌憑恃著騎兵強大，有乘機而動之心。呂紹、呂纂兵在死地，他們一定會為求生存而死戰。不打，就有泰山一樣的穩固，出戰，就危若累卵。」段業說：「你說得對。」於是按兵不動。呂紹也難以交戰，各自領兵回去。
天璽三年（401年），段業因忌憚沮渠蒙遜的英武，所以想要遠離他，就任命沮渠蒙遜的堂叔沮渠益生為酒泉太守、沮渠蒙遜為臨池太守。段業的門下侍郎馬權才智出眾，氣度非凡，謀略超群。段業讓馬權代替沮渠蒙遜為張掖太守，馬權很受段業的親近和重用，經常欺侮沮渠蒙遜。沮渠蒙遜也忌憚和怨恨馬權，於是就對段業詆毀馬權說：「天下之事何足擔憂，應該擔憂的只是馬權。」段業於是殺了馬權。
沮渠蒙遜對沮渠男成說：「段業愚昧，不是救治亂世的人才，他聽信讒言、喜歡諂媚，沒有鑑別真假的能力。我畏懼的只有索嗣、馬權，現在他們都死了。我沮渠蒙遜打算廢除段業，奉你為王，如何？」沮渠男成說：「段業一個人寄居他鄉，是我們立他為國君的，他有了我們二人，就好像如魚得水。他既然重用我們，我們還要背叛他，這樣做不祥。」於是計劃作罷。沮渠蒙遜既已被段業忌憚，心裡不安，請求為西安太守。段業也因為沮渠蒙遜心有大志，害怕發生突然的變故，便答應了他的請求。
沮渠蒙遜為尋找起兵的藉口，便約沮渠男成一起祭奠蘭門山，並故意派司馬許咸報告段業說：「沮渠男成打算謀反，答應在得到假期的時候作亂。如果他請求去祭奠蘭門山，臣下的話就應驗了。」到了約定的時間，果然如此。段業把沮渠男成抓了起來，命令沮渠男成自殺。沮渠男成說：「是沮渠蒙遜想要謀反，早先已經告訴臣下了，臣下因為和他是同族兄弟的緣故，沒有說出來。他因為臣下現在還活著，擔心部人不聽從他，就和臣下約定日期祭山，反而來誣告臣下。臣下如果死了，沮渠蒙遜一定很快就會發兵叛亂。請陛下放出假話說臣下已經死了，公開臣下的罪惡，沮渠蒙遜一定會作亂，臣下馬上去討伐他，事情沒有不成功的。」段業不同意。沮渠蒙遜聽說沮渠男成死了，哭泣著對大家說：「沮渠男成忠於段業，卻被冤屈殺害，諸君能夠為他報仇嗎？況且州境戰亂，似乎不是段業所能對付得了的。我當初擁戴他的原因，認為他是陳勝、吳廣那樣的人，他卻聽信讒言，猜忌很多。殺害忠良，我們豈能安心地旁觀，使百姓遭受災難。」沮渠男成向來對人有恩德，大家都悲憤哭泣而聽從了沮渠蒙遜的話。到達氐池時，軍隊超過了一萬人。鎮軍臧莫孩率領部下歸附沮渠蒙遜，羌胡大多起兵響應。沮渠蒙遜軍隊駐紮在侯塢。
同年五月，沮渠蒙遜到了張掖（今甘肅張掖西北），田昂哥哥的兒子田承愛打開城門讓沮渠蒙遜進城，段業身邊的人全都潰散。段業請求回到家鄉與家人團聚，但沮渠蒙遜最終殺了段業。
天璽三年（401年）六月，梁中庸、房晷、田昂等人推舉沮渠蒙遜為使持節、大都督、大將軍、涼州牧、張掖公。沮渠蒙遜建立北涼，大赦境內，改年號為永安。
當時後秦姚興派將領姚碩德到姑臧去攻打後涼呂隆，大破後涼軍。
天璽三年（401年）七月，沮渠蒙遜派從事中郎李典拜訪姚興，以通和好。同年九月，沮渠蒙遜因呂隆已經投降姚興，酒泉、涼寧二郡又反叛降於西涼李暠，於是就派建忠將軍沮渠掣、牧府長史張潛到姑臧去見姚碩德，請求軍隊迎接，率領郡人往東遷移。姚碩德非常高興，任張潛為張掖太守，沮渠摯為建康太守。張潛勸沮渠蒙遜往東遷移。沮渠挐私下對沮渠蒙遜說：「呂氏還在，姑臧還未攻取，姚碩德糧盡，就要返回，不能久留。為什麼要離開故土，受制於人！」輔國將軍臧莫孩說：「建忠將軍的話說得對。」沮渠蒙遜便殺了張潛，發布文告說：「孤德行淺薄，愧逢時運，沒有能夠弘揚大道，掃清妖孽，使得奸賊作亂東京，窮凶極惡的入侵擾西部邊地，戰車多次開動，干戈不能收藏，農夫錯過了務農的季節，百姓沒有糧食。可免除各種徭役，專門從事農業生產，明立法規條令，一定要做到地盡其利。」
永安三年（403年），姚興派使者梁斐、張構等人任沮渠蒙遜為鎮西大將軍、沙州刺史、西海侯。當時姚興也任南涼禿髮傉檀為車騎將軍，封廣武公。沮渠蒙遜聽到後，不高興，對梁斐等人說：「禿髮傉檀位居上公，但是我卻封了侯，為什麼？」張構回答說：「禿髮傉檀狡猾不仁，歸順還未立大功，聖朝給他加封重爵的原因，是要褒揚他歸於善道的大義而已。將軍忠誠之氣直貫白日，功勳高於當世的人，應該入朝佐政，匡扶皇室，怎麼可以不相信呢。聖朝的封爵一定和功勳相稱，官職不會超越德行，例如尹緯、姚晁輔佐開創基業，齊難、徐洛是開國元勛猛將，他們都是官位才二品，爵位是侯伯。將軍憑什麼要位居他們前頭呢？竇融情真意切地極力謙讓，不想居官在老臣之上，為何將軍忽然有這種問話！」沮渠蒙遜說：「朝廷為什麼不把張掖封給我，卻要另外遠封西海呢？」張構說：「張掖，是在已劃定的範圍之內的，將軍已經擁有。把遙遠的西海封授給你的原因，就是要擴大將軍的封國而已。」沮渠蒙遜非常高興，接受了封任。
永安七年（407年），沮渠蒙遜率領三萬步兵騎兵攻伐禿髮傉檀，屯駐在西郡。大風從西北方來，雲有五種顏色，不一會兒白晝昏暗。軍隊到了顯美（今甘肅武威境），遷了數千戶人回來。禿髮傉檀在窮泉追上了沮渠蒙遜，沮渠蒙遜準備攻打禿髮傉檀。將領們都說：「賊人已經建立了營寨，不能打了。」沮渠蒙遜說：「禿髮傉檀認為我們從遠方來，人馬疲敝，一定會輕敵而不加防備，趁著他們的軍營還沒有修築好，可以一鼓作氣把他們消滅。」沮渠蒙遜進擊，打敗了禿髮傉檀，乘勝追到姑臧，胡人、漢人投降的有一萬幾千戶。禿髮傉檀恐懼，請求講和。
沮渠蒙遜答應了禿髮傉檀而回。禿髮傉檀往南逃到樂都（今青海樂都），魏安人焦朗占據姑臧自立為王，沮渠蒙遜率領步兵騎兵共三萬人攻打焦朗，打敗了焦朗，又寬赦了他。沮渠蒙遜在謙光殿賞賜文武將士，頒賜金、馬各有不等。由於敦煌人張穆通曉經史，才思文采極佳，越級提拔為中書侍郎，把機密的事務交給他。任命其弟沮渠摯為護羌校尉、秦州刺史，封為安平侯，鎮守姑臧。十多天後沮渠摯去世，又任命他的從祖沮渠益子為鎮京將軍、護羌校尉、秦州刺史，鎮守姑臧。
永安十二年（412年）十月，沮渠蒙遜遷都姑臧。同年十一月，沮渠蒙遜即河西王位，大赦境內，改年號為玄始。設置官僚，如同呂光為三河王的舊例。修繕宮殿，建起城門樓觀。立其子沮渠政德（後被殺）為太子，加鎮衛大將軍、錄尚書事。
玄始二年（413年），禿髮傉檀前來攻打，沮渠蒙遜在若厚塢將其打敗。禿髮傉檀的湟河太守禿髮文支占據了湟川，護軍將軍成宜侯率領軍隊降服了禿髮文支。沮渠蒙遜任禿髮文支為鎮東大將軍、廣武太守、振武侯，任成宜侯為振威將軍、湟川太守，任殿中將軍王建為湟河太守。沮渠蒙遜頒下書說：「古代的聖哲帝王順應期運治理亂世，無不首先謀略邊遠的地方，然後發揚光大純樸之風。孤雖然才智不足以平定禍難，職任在於匡救時世，但是狡虜禿髮傉檀憑據著舊京與我們對抗，夷夏的人民都受到他禍害。東苑那次屠殺，比從前長平之難還要殘酷，邊城的禍害，比獫狁還要深。經常想到百姓的無辜，所以沒有閒暇的時候，身體因為披著甲冑奔波而疲倦。雖然搗毀了禿髮傉檀的巢穴，但是他還沒有投降。禿髮傉檀的弟弟禿髮文支追循項伯歸附漢朝的大義，占據著禿髮傉檀的重鎮，請求為我們的臣子。從西平往南，城市一個連一個地歸順。惟有禿髮傉檀像一隻走投無路的野獸，死守樂都。四肢已經失落，他的命豈能長久地保住！四面八方已經響應，統一的日期不會遙遠，很快就可以放馬金山，老百姓永得安寧。可布告遠近，讓他們全都知道。
玄始四年（415年），沮渠蒙遜派將領去湟河運糧食，自己率領軍隊攻克了西秦廣武郡（治今甘肅永登）。因為糧食運輸接不上，從廣武去了湟河，越過浩亹。西秦乞伏熾磐派將領乞伏魁尼寅抵抗沮渠蒙遜，沮渠蒙遜打敗並殺死了他。乞伏熾磐又派將領王衡、折斐、麴景等人率領一萬騎兵占據勒姐嶺，沮渠蒙遜邊戰鬥邊前進，大敗他們，俘獲了折斐等七百多人，麴景逃回。沮渠蒙遜讓他弟弟沮渠漢平為折衝將軍、湟河太守，帶領軍隊回來。
乞伏熾磐率領三萬軍隊襲擊湟河，沮渠漢平力戰固守，派司馬隗仁在晚上出擊乞伏熾磐，殺了數百人。乞伏熾磐準備率兵返回，派老弱先走。沮渠漢乾的長史焦昶、將軍段景秘密地送信招引乞伏熾磐，乞伏熾磐又向前攻打沮渠漢平。沮渠採納焦昶、段景的勸說，反綁雙手出城投降。隗仁率領一百多名勇士盤據在南門城樓上，三天沒有攻下來，寡不敵眾，被乞伏熾磐俘獲。乞伏熾磐憤怒，命令殺了隗仁。段暉勸諫說：「隗仁遇到危難，奮不顧身，這是忠臣。最好寬宥他，用來激勵群臣。」乞伏熾磐便把隗仁囚禁而回。隗仁在乞伏熾磐那裡的第五年，段暉又為他極力請求，隗仁才得以返回姑臧。
公元433年（義和三年）四月，沮渠蒙遜病重，北涼國內貴族和大臣們共同商議，認為沮渠蒙遜世子沮渠菩提年紀幼小，決定立沮渠菩提的哥哥沮渠牧犍為世子，並加授沮渠牧犍為中外都督、大將軍、錄尚書事。
不久，沮渠蒙遜去世，沮渠牧犍繼位，下令大赦境內，改年號為永和（一作承和）。冊立兒子沮渠封壇為世子，授撫軍大將軍、錄尚書事。沮渠牧犍派使節前往北魏，請求任命。
當初，北魏太武帝拓跋燾派李順迎娶沮渠蒙遜的女兒為夫人，正巧趕上沮渠蒙遜去世。沮渠牧犍聲稱尊照父親（叔父）沮渠蒙遜臨終遺意，派左丞宋繇，護送他的妹妹興平公主到北魏，拓跋燾封興平公主為右昭儀。
公元433年（永和元年）四月，拓跋燾又派李順授任沮渠牧犍為使持節，侍中，都督涼州、沙州、河州三州以及西域羌戎各地軍事，車騎將軍，開府儀同三司，領護西戎校尉，涼州刺史，封為河西王。同時又任命宋繇為北涼國右宰相。沮渠牧犍因無功勞而得到北魏朝廷的封授和賞賜，於心不安，就留下李順，上表請求拓跋燾授予他安西或平西將軍一類的稱號，就足夠了。拓跋燾下詔，措辭溫和、委婉地拒絕了他。
公元434年（永和二年），沮渠牧犍派人出使南朝宋，呈上奏章，報告他已繼位。宋文帝劉義隆下詔，任命沮渠牧犍為都督涼秦等四州諸軍事，兼任征西大將軍、涼州刺史，封河西王。
公元437年（永和五年），拓跋燾把妹妹武威公主嫁給沮渠牧犍娶為妻，派他的丞相宋繇前來進表致謝，並進獻馬五百匹，黃金五百斤。
公元437年（永和五年）十二月，沮渠牧犍派他的將軍沮渠旁周到北魏京師平城（今山西大同）來朝貢，拓跋燾就派侍中古弼、尚書李順賜給他相應等級的侍臣衣服，並徵召沮渠牧犍的兒子沮渠封壇來北魏侍奉拓跋燾。沮渠牧犍就派遣沮渠封壇來平城朝見拓跋燾。同時，沮渠牧犍遣使前往南朝宋都城建康（今江蘇南京），呈獻各種書籍以及敦煌人趙撰寫的《甲寅元歷》，並索取雜書數十種。
公元439年（永和七年），拓跋燾派遣尚書賀多羅出使涼州，觀察北涼國內的動靜虛實。賀多羅回來說，沮渠牧犍雖然表面對北魏稱臣納貢，但內心卻叛離乖張。 公元439年（永和七年）六月，拓跋燾領兵親自前往征討沮渠牧犍。 拓跋燾詔令大臣們發布文告，歷數沮渠牧犍的十二大罪狀，並且勸沮渠牧犍投降北魏。
公元439年（永和七年）八月，魏軍渡過黃河，沮渠牧犍聽說北魏大軍前來的消息，很是吃驚。隨後，他採用左丞相姚定國的計謀，不肯出城迎接，卻派人向柔然請求救兵。沮渠牧犍又派他的弟弟征南大將軍沮渠董來率兵一萬多人，在城南出城迎戰魏軍，北涼軍戰敗而退。
公元439年（永和七年）八月初四日，拓跋燾到達姑臧，派遣使者曉喻沮渠牧犍，令他出來迎接。沮渠牧犍聽說柔然派兵到善無侵犯騷擾，僥倖希望拓跋燾率軍返回，就加固防守。沮渠牧犍兄子沮渠祖越城出來投降，把城內的情況全都告知魏軍，拓跋燾就領各路兵馬攻城，沮渠牧犍的另一個侄兒沮渠萬年率領部下又來投降北魏。攻魏軍占了城池之後，沮渠牧犍同他的左右文武官員全部反縛自己，向拓跋燾當面請罪投降，拓跋燾令人解開他們的束縛。於是，將涼州民戶三萬餘家遷到平城。
沮渠牧犍投降北魏之後，拓跋燾還是把他當作妹夫來看待。沮渠牧犍的母親去世以後，用王太妃的禮儀厚葬她。拓跋燾又為沮渠蒙遜的墳墓設置了三十家守墓之人。後來又改授沮渠牧犍為征西大將軍，河西王的稱號不變。
太平真君八年（447年），沮渠牧犍的親信和守衛府庫的人告發沮渠牧犍偷盜之事，太武帝就令人進行追究，搜查沮渠牧犍的家中，找出了他所藏匿的全部珍寶器物。又有人告發沮渠牧犍父子家中藏有許多毒藥，前後暗中用毒藥殺死一百多人；沮渠牧犍的姐妹都懂得巫術的邪門左道，經常聚集在一起干荒淫佚樂之事，毫無羞恥慚愧的顏色。
拓跋燾本來對沮渠牧犍就沒啥好感，拓跋燾便詔令司徒崔浩在武威公主的宅第賜死沮渠牧犍。沮渠牧犍同武威公主訣別，徘徊很久，自殺身亡，朝廷用藩王的禮儀埋葬了他，給他定諡號為哀王。
太延五年（439年）九月，北魏攻滅北涼後，北魏太武帝拓跋燾派鎮南將軍奚眷襲擊張掖；派鎮北將軍封沓進攻樂都。沮渠無諱的兄弟沮渠宜得（一作沮渠儀德）燒毀倉庫，向西逃往酒泉，投靠沮渠無諱；沮渠安周則向南逃往吐谷渾。封沓裹脅數千戶居民而回，奚眷則繼續進攻酒泉，沮渠無諱與沮渠宜得一道，招集殘部投奔晉昌，接著前往敦煌投奔堂弟敦煌太守沮渠唐兒。拓跋燾命令弋陽公元絜（一作元潔）駐守酒泉 ，武威、張掖兩城也分別派遣將領駐守。
太延六年（440年）正月二十日，沮渠無諱讓沮渠唐兒留下駐守敦煌，自己與沮渠宜得率軍圍攻北魏占領的酒泉。元絜輕視沮渠無諱，出城與沮渠無諱軍對話，沮渠無諱將其生擒。正月二十三日，元絜部隊相繼固守，沮渠無諱依然包圍酒泉。 三月，因酒泉城中糧盡，沮渠無諱於是攻取酒泉。
四月二十三日，沮渠無諱繼續進攻北魏所占領的張掖，張掖守將禿髮保周屯駐在刪丹。四月二十九日，拓拔燾派撫軍大將軍、永昌王拓跋健率領各路兵馬，討伐沮無渠無諱等人。
五月十八日，沮渠無諱再次包圍張掖，但未能攻克，於是撤退固守臨松。拓跋燾也不再舉兵進攻，只是下詔命讓沮渠無諱投降歸順。
八月二十九日，當時北魏永昌王拓跋健鎮守涼州，沮渠無諱派其中尉梁偉前往拜訪拓跋健，請求奉送已擁有的酒泉，並釋放俘虜的北魏將領元絜以及統帥和士兵到拓跋健的軍中。
太平真君二年（441年）正月二十日，拓跋燾派遣兼鴻臚卿持節冊封沮渠無諱為征西大將軍、涼州牧、酒泉王。 四月（一作五月），沮渠唐兒背叛沮渠無諱，沮渠無諱留下堂弟沮渠天周鎮守酒泉，親自與沮渠宜得率軍討伐沮渠唐兒。沮渠唐兒率領一萬多人出城迎戰，結果軍隊大敗，沮渠無諱捉住沮渠唐兒並將其處死，重新占據敦煌。北魏朝廷擔心沮渠無諱早晚是邊疆的隱患。四月二十八日（一作七月），拓跋燾派鎮南將軍、南陽公奚眷圍攻酒泉。
十月，當時酒泉城內發生饑荒，城內的糧食吃盡，有一萬多人餓死，守將沮渠天周殺掉自己的妻子，將她的肉分給戰士們充飢。
十月二十二日，城內食物斷絕，奚眷於是攻克酒泉城 ，俘虜沮渠天周，押送到平城處死。當時，北魏兵勢很盛，沮渠無諱部眾發生饑荒，懼怕不能保全自己，想率眾向西渡過沙漠以避其鋒芒。
十一月，沮渠無諱派沮渠安周率領五千人向西進攻鄯善國。鄯善國王比龍恐懼打算投降，正巧北魏的使臣趕到，勸說比龍抵抗固守。沮渠安周連續進攻鄯善，都未能攻克下來，於是只得撤軍，固守已占據的東城。
太平真君三年（442年）四月，沮渠無諱率領一萬多部眾放棄敦煌，向西與沮渠安周會合。沮渠無諱還沒有到達，而鄯善王比龍由於害怕，便率領四千部眾向西逃到且末，比龍的嫡長子向沮渠安周投降 ，沮渠無諱乘機占據鄯善 ，但其士卒在過沙漠地區時因乾渴而死亡的人超過一半。
當初，後西涼君主李寶的舅舅唐契從晉昌逃奔伊吾。同年七月，唐契攻打高昌太守闞爽，闞爽聽說沮渠無諱已到鄯善，於是派使節詐降沮渠無諱，表面上表示願與沮渠無諱共同攻打唐契，但實際是想讓沮渠無諱與唐契相互攻打。八月，沮渠無諱留下侄子沮渠豐周（《魏書》則記載是沮渠安周）駐守鄯善，自己率軍從焉耆的東北部直撲高昌，前往援救。沮渠無諱還沒有到達，柔然已派軍隊救援高昌，殺死唐契，唐契的部眾投靠沮渠無諱，而闞爽則緊閉城門拒絕會見沮渠無諱。
九月，沮渠無諱派將領衛興奴（一作衛崿）夜襲高昌，血洗全城，闞爽投奔柔然。沮渠無諱占據高昌。同年，沮渠無諱派常侍汜俊帶著奏表出使南朝宋，並進獻地方特產。南朝宋皇帝宋文帝劉義隆下詔任命沮渠無諱為使持節、散騎常侍、都督涼河沙三州諸軍事、征西大將軍、領護匈奴中郎將、西夷校尉、涼州刺史、河西王 ，高昌北涼政權建立
太平真君五年（444年）六月，沮渠無諱因病去世，其弟沮渠安周繼立。
太平真君五年（444年）六月，沮渠無諱去世，沮渠安周繼位。沮渠安周繼位後，奪取沮渠無諱兒子沮渠乾壽所統率的軍隊，焉耆部落首領車伊洛趁此機會派人前去遊說沮渠乾壽，沮渠乾壽於是率領他手下五百多戶投奔北魏。
同年九月十二日，南朝宋皇帝宋文帝劉義隆任命沮渠安周為使持節、散騎常侍、都督涼河沙三州諸軍事、領西域戊己校尉、涼州刺史、河西王。
太平真君十一年（450年），車伊洛西去襲擊焉耆，留下他的兒子車歇固守車師城。沮渠安周率領柔然兵從小路偷襲他們，攻克車師城。車歇逃到父親車伊洛所在地，父子兩人共同收集殘餘部眾，保衛焉耆鎮。
太安五年（459年），沮渠安周向南朝宋奉獻地方土產。
和平元年（460年），柔然攻克高昌，殺死沮渠安周，高昌北涼政權滅亡。
北涼自段業397年開國至439年降魏計四十三年；沮渠無諱440年被封酒泉王至沮渠安周460年被柔然所殺計二十年。北涼共歷五主，六十三年。