府兵制與募兵制的最大區別是編制的靈活度。
府兵制採取的是固定編制，比如某州，有府兵七千，那麼無論是否戰時，它都維持著七千的常備數量，這七千士兵在非戰時可能僅僅有一千在輪換作訓，剩餘六千則務農，但基本的數量是不會變的，這也意味著養兵餉銀數量也基本維持著固定的數量。
而募兵制則更加靈活， 需要了，便可多招募，不需要了，便遣散回鄉。同樣一州，在非戰時可能僅僅擁有一千常備兵士，每年的募兵量也不會太大，除非面臨戰爭，朝廷完全可以根據需要制定一個州募兵多少。從靈活性上來說，募兵制顯然擁有著府兵制所無法比擬的優點，因此我們可以看到後世一直到現代，很多國家實行募兵制。
另外，從對朝廷的角度來說，募兵制要比府兵制可控。府兵制極易造成地方異動，養兵為患，唐朝中晚期的動亂就和府兵制有著很重要的關係。也即是說府兵制極容易造成地方將領培養私軍。而募兵制由於整體的規劃是由朝廷的兵部制訂，糧餉也由朝廷提供，在很大程度上抑制了地方勢力。
但募兵制雖然靈活，但對於士兵的作訓卻比不上府兵制優秀。府兵制的好處是能夠長期維持高水準的作訓條件，士兵的對於軍營的歸屬感也比較重。而募兵制則是典型的僱傭關係，因此造成各地情況差別極大。