如果有人問你，上海的關帝廟在哪裡？相信很多人都回答不出來，這是因為關帝廟是座小廟，廟雖小年代卻不少。上海的關帝廟位於原南市區（今黃浦區）人民路小北門大境路口，道光16年有個叫陳鑾的兩江總督為關帝廟題寫了「大千勝境」的一塊匾額，老百姓就開始把它叫做大境廟，其實它以大境命名已有400多年歷史。明嘉靖三十二年，上海鄉民為了抗禦倭寇侵擾，建築城牆，並在北城分別設置了萬軍、制勝、振武、大境4座箭台。後來又在原箭台處改建了4座廟宇，關帝廟即其中之一，由此可見是先有箭台，後有廟宇。因為大境廟地勢比周圍民房高出許多，所以也稱為「大境閣」。廟內除了供奉三國關羽關君侯的神像外，兩側還設財神殿和月老殿。所以大境關帝廟成了男女老少都喜愛去的地方。
民國元年，上海城牆被拆，在原城牆遺址上建成了上海唯一的環形馬路——國民路（解放後因忌諱民國兩字，便改成了人民路，一直沿用至今）。或許是關老爺顯靈，關帝廟竟然神奇地被保留了下來，因此，它的基座——上海舊城牆（的箭台）也得以保存至今。
大鏡關帝廟是上海正一派著名的道觀。據說道教主要分為兩大派，正一道的道士可以在家修行，不戒葷腥，還可娶妻生子。另外一派就是全真派，全真道講究清修，其道士必須出家，吃素。上海的道觀（像城隍廟，虹廟等）都屬於正一派，與現在的職業和尚一樣，他們在廟裡是和尚，回到家裡就是一個普通的凡人。
民國元年，道教六十二代天師張元旭來滬，在此廟舉行世界宗教大會歡迎儀式，並在此廟召開道友大會。民國23年，道教六十三代天師張恩溥又在此廟召開正一派道友大會。但到20世紀40年代，該廟香火漸趨冷落，當家道長便只得以出租房屋來維持廟裡的日常開支。解放後，南市區的道士們公舉該廟為茶會處，每天上午道士們在此聚會，還將它作為經懺（對外承辦道場）業餘統一接洽處。60年代後，該廟被改作某工廠的生產車間。90年代，上海市文物管理委員會撥款200萬元，南市區人民政府又集資700餘萬元，合資對大境關帝廟和古城牆進行整修。1995年10月，整修工程完工，對外開放。現大境關帝廟是上海道教協會所在地，並與白雲觀相依為鄰，成為上海的一個宗教旅遊景點。