揚州始建於2500年前，春秋時是「邗越」，秦漢時又稱「廣陵」，「江都」，隋煬帝就曾在江都自縊了斷自己罪惡的一生。西漢初期，這裡就一直是劉姓諸侯的封地。時至今日，在今天揚州東北20公里的地方，有一座高約40米的「小金山」，這裡曾開採出了大量的金砂，因此被稱之為「小金山」。山上有座「狗頭廟」，被當地百姓奉為神山。
據《廟山考古記》記載，廟山里出土了大量的狗骨頭，而做狗肉的鼻祖正是劉邦麾下的大將樊噲。狗頭廟就是劉邦病故後，百姓為祭奠他設立的祭壇。不過也有一種說法是，狗頭廟是為紀念吳王劉濞的兒子所建立的。據《漢書》載道，劉濞的兒子與太子（漢景帝）下棋時發生了真摯，被漢景帝用棋盤砸碎了頭顱而亡，因此寺廟被稱之「狗頭廟」。在廟山的東西兩側有著兩座海拔50多米的小山，分別北臨長江，南接蜀岡，與狗頭廟成三足鼎立態勢，是一塊絕佳的風水寶地。
1988年的冬天，當地百姓為燒磚取暖，意外的在狗頭廟的南面挖出一座古墓。當地文物隊迅速趕到，對古墓進行了保護性挖掘，在隨後的發掘中，又發現了多座漢代大墓。墓中出土了不少的國家級一級文物，如果獸紋銅鏡，原始瓷鍾等百餘件珍貴文物。根據出土的文物和墓葬規格判斷，這是一處漢代諸侯墓。既然南面有墓，那與之相鄰的西面山上是不是也有墓葬？為此文物隊用探測儀器進行了探測，過來也發現西面山上也有大型墓葬。
這座墓葬南北長約42米，東西寬約20米，深度達16米的大型木質結構墓葬，是講述迄今為止發現的最大木質墓葬。專家分析，此墓有可能是就是吳王劉濞的墓，因為西方時期諸侯死後墓葬會用大規模的木質結構做建築，以此推斷出墓葬主人就是劉濞。由於不能主動發掘未被破壞的古墓，因此考古隊只能對著廟山「望墓興嘆」。雖然不能發掘，但專家還是根據勘探結果推斷出了廟山大墓的墓主人可能就是西漢吳王劉濞。
吳王劉濞是劉邦哥哥劉仲的兒子，劉邦稱帝即位後，大封自己親戚為諸侯王，將年僅20歲的劉濞封為沛侯。後來發生了九江王英布叛亂，劉濞便跟隨劉邦一塊剿滅叛軍，平叛成功後就加封他為吳王，成為了漢初最大的諸侯國。