奴兒干都司，對於現在人來說是一個相當牛的名字，雖然這裡沒有江浙那樣富庶，也沒有京城那樣人員密集，但它管轄的區域是明朝所有行省里最大的，幾百萬平方公里的奴兒干都司管轄了包括今天的庫頁島、斡難河、外興安嶺等地，一下子讓明朝的疆域無限放大，也鑄就了建立他的永樂帝所創立的永樂盛世。
不過奴兒干都司存在只有短短几十年，相對於中原王朝來說，奴兒干都司這裡都是苦寒之地，管理耗費財力太多，因而在明宣宗時期開始逐步放棄奴兒干都司，這一放棄直接導致了明朝領土的縮小，也減弱了明朝對邊境地區的控制，也為日後建州女真的崛起和明朝的滅亡埋下了伏筆。
一直以來，中原王朝對於遼東的管理都不上心，真正第一次將這裡納入統治之下的就是唐朝，方式就是通過冊封當地的首領設立都督府，比如當時的黑水都督府、渤海都督府、室韋都督府等等，但對這裡開發其實並不是很高，直到遼朝和金朝的時候才大規模開發遼東地區，尤其是金朝，在這裡東設了上京、東京兩個京，外加曷蘇館、隆州、咸平三個路，這一時期遼東人口倍增。
但金末與蒙古的拉鋸戰爭導致遼東人口極劇的減少，尤其是金朝滅亡後，繁華一時的上京已經連平常州縣的人口都不如，元末農民起義的戰火更是波及遼東地區，數年的交戰讓本來脆弱的遼東更是雪上加霜。
明朝建立後想要在當地設立衛所，但遼東當地連湊滿一個衛的人都沒有，只有蓋州衛有一半的遼東本地人，其餘的衛所都是從江淮和山東渡海過去的軍戶，因此在明朝初期根本無法設立府州進行統治，只能靠實行衛所這種軍管方式進行對遼東半島的統治。
後來明太祖想要嘗試設立府進行直接控制，開設兀者野人乞例迷女直軍民府，但沒多久卻失敗了，只能再次廢府遷衛。
朱棣稱帝後，對北方蒙元殘餘勢力繼續進行打擊，在多次遠征蒙古後朱棣決定在北方建立軍事重鎮，治所就選擇在了元朝的征東元帥府，駐紮地在奴兒干城，永樂九年（1411年），奴兒干都司正式建立，以東寧衛指揮康旺為都指揮同知，千戶王肇舟為都指揮僉事，統屬其眾。
奴兒干都司設立後，恢復了奴兒干通往內地的驛傳，而且設立衛所，駐紮明軍，三年一輪，來拱衛北部邊境，當地很多元代故臣多歸降明朝，也威懾了蒙元勢力，讓蒙元參與勢力不敢侵犯明朝。
不過奴兒干都司和其他羈縻衛所不一樣，這裡的官員都是流官體制，官員和明軍的俸祿、糧餉都需要遼東漢人區域供應，整個奴兒干都司管轄的區域中氏族和部落林立，社會發展水平低下，而且互相隔絕，幾乎很少聯繫，因此明朝對於當地的統治是缺乏深厚的和社會基礎的。
同時奴兒干都司是對東北諸衛沒有管理權的，奴兒干都司其實就是類似於明初用於招撫西番的陝西行都司，目的就是招撫，上傳下達朝廷的命令，然後將集結於都司城的東北各衛首領帶到京城去朝貢。
可以說這樣體制的奴兒干都司能設立已經很不容易了，畢竟當地沒有城市，也沒有可以編戶齊民的對象，更別談稅收、兵源了，只能通過明朝動用大量的大量財力物力穿梭在廣大的遼東區域，與當地的土著酋長們打交道，當他們臣服於大明的統治，因此巡撫奴兒乾的時候，都需要耗費明朝相當大的人力和物力。
雖然永樂盛世明朝強盛，但永樂時期頻繁的對外軍事行動極大的消耗了國力，且士紳階層壯大，讓明朝的稅收日益銳減，所以明仁宗和明宣宗即位後開始實行趨於保守的政策，沒有強大的財力，就無法支持奴兒干都司的巡撫，同時奴兒干都司的流官性質、複雜的氏族和部落林立也是一個沒有盡頭的無底洞。
而且奴兒干都司的設立離不開在東北女真諸部的歸附和支持，早在明太祖的時候就放棄在女真地區設立流官軍政機構的計劃，實行女真內遷的政策，將內遷的女真人安置於東寧、三萬、遼海等衛。
到了永樂時期，繼續內遷女真人，並且注重啟用內遷的女真人進入奴兒干都司，還利用女真部落的力量來鎮撫當地部族，但女真內遷和歸附都是需要大量的金錢的，一旦沒有賞賜或者無法提供對奴兒干都司的財力支持，這些內遷的女真人又會回到深山老林去，失去女真的支持，明朝對當地部族的控制就更加衰弱。
所以在明宣宗時期開始逐步廢止奴兒干都司，內遷奴兒干都司到開原，並且撤出全部兵力，東北區域完全交給女真部落管理，採取原先的羈縻政策，這也是為什麼奴兒干都司廢棄後東北諸衛仍然保持了存在，而且一直到明朝嘉靖、萬曆年間還在不停地設立羈縻衛所的原因，可以說奴兒干都司的意義就相當於明朝駐東北的一個辦事處，並不是一個總體的一級管理機構。
雖然明宣宗開始逐步廢除奴兒干都司，但真正廢棄的應該是明英宗，自明英宗之後，所有的明實錄里都沒有關於奴兒干都司的記載，取而代之的則是黑龍江諸部。
原先東北的諸衛從開始集結在都司城進京朝貢，現在改為在開原集結，然後奔赴京城朝貢、請襲或者敘職，這就是明朝管理東北的一種方式，而且這種方式一直延續到清朝時期。
至於後來為什麼徹底失去對遼東的管轄呢？這是因為女真在東北逐漸發展壯大，本來向明朝進貢的各個衛所或者部落在朝貢途中紛紛被女真強大的部落所阻攔，他們在交通要道上設立城寨阻止偏遠衛所或者部落入京朝貢，或者選擇在遼東馬市進行貿易，甚至還會搶奪沒收這些衛所或者部落的官印、敕書，這也是明憲宗時期成化犁庭的一個重要原因。
但成化犁庭後，女真又漸漸恢復實力，繼續劫掠這些衛所部落，尤其是嘉靖時期，這種情況越來越常見，導致很多偏遠的衛所或者部落失去了朝貢的機會，也漸漸地和明朝失去了聯繫，最終明朝徹底失去對這裡的控制。
奴兒干都司的土地其實並不是直接全部放棄的，最開始是因為財力不足以支撐奴兒干都司龐大的招撫活動而選擇退出，但依舊進行羈縻統治，但在外的遼東女真雖然開始還是臣服於明朝的統治，但明朝對女真的管轄顯然力不從心，加上瓦剌的崛起，明朝對這裡的統治越來越弱，直接導致建州女真的崛起，最終入主中原。