山西稱為「表里山河」，除了黃河流淌其中以外，呂梁山和太行山的包夾同樣功不可沒。在兩山之間依次分布著幾個大型盆地，而臨汾盆地和運城盆地靠南端，其西側直面黃河，故而古時稱為「河東」。
從地理上看，河東與陝西的關中平原之間僅隔一條黃河，如果將陝北高原、秦嶺和太行山視為盆地的邊緣的話，河東與關中更像一個整體，因而運城盆地歸屬陝西似乎更為合適。
然而在實際的行政劃界當中，從來沒有哪個朝代願意將河東與關中劃為一體，就像沒有人願意將漢中劃歸四川一樣。原因很簡單，一旦河東併入陝西，關中就具備了自成一系的地勢，在大一統王朝內部，勢必加劇地方割據的風險。
當河東與關中分屬不同軍事勢力時，關中最好的結局也不過是勉強自保，要想挺進中原根本就是痴人說夢。春秋時期，秦穆公東進受阻，很大程度上就是因為河東之地被晉國牢牢占據，每當秦軍試圖通過崤函通道逐鹿中原時，都不得不防備河東晉軍抄其後路。
從地勢上講，崤函通道是太行山南部一段東西走向的山體與秦嶺合夾而成的一條走廊，該走廊與黃河流向一致，而黃河北岸正是河東。因此從理論上說，只要河東仍被晉國控制，任何想要進出崤函通道的軍隊都會遭到晉軍的前後夾擊。
公元前628年，秦穆公貿然出兵襲擊鄭國，結果導致秦晉之間爆發崤之戰，秦軍三位主帥被俘，幾乎全軍覆沒。自此之後，秦國舔舐傷口並暗中蟄伏，發誓要拿下河東以掃清進軍中原的後患。
河東之地有部分地區在呂梁山脈上，相對關中有著居高臨下之勢，從戰略上關中面對的是河東的俯衝攻擊。或許有人會認為兩者之間隔著黃河天險，但黃河冬季會結冰，一旦戰爭在嚴冬打響，河東的軍隊走著就能過河。南北朝時期，北周與北齊隔黃河對峙，初時北齊強而北周弱，所以到了冬天北周就開始鑿冰；後期形勢逆轉，鑿冰的一方又變成了北齊。
戰國時期同樣如此，韓趙魏三家分晉之後，盤踞河東的魏國最先演化為一個強勢的軍事集團，彼時黃河對岸的秦國自保尚且不易，根本想不到有朝一日能掃滅六國。
商鞅變法之後，秦國逐漸崛起，而秦軍的第一個動作就是攻下河東，因為這個地方如果拿不下，所謂爭霸天下就是一句空談。
魏晉之後，鮮卑拓跋氏入主中原並建立北魏，但很快北魏分裂為東西兩部，後各自演化為北齊和北周。由於初期北齊占據著中原膏腴之地，故而在國力上對身處關隴的北周形成碾壓之勢，與此同時北齊高氏皇族的戰略眼光也獨具一格。齊軍將進攻重點放在河東地區，指望通過占領河東完成對北周的釜底抽薪，而當失去河東之後，就出現了北周軍隊沿黃河鑿冰的一幕。
河東的易手使得戰爭的天平開始向北齊傾斜，北周宇文氏的覆滅似乎已經變得不可逆轉，此時北齊發生內亂，北周就此迎來翻盤的機會。由於齊國鮮卑貴族堅持不肯漢化，致使其內部的民族矛盾愈演愈烈，於是北周抓住時機奪回河東，攻守之勢旋即逆轉。公元576年，周武帝攻入鄴城，北齊滅亡，北周遂得以統一北方。隨後楊堅取代宇文氏建立隋朝，河東單獨設郡，儘管其後幾經更改，但卻始終未與關中劃歸一處。