該遺址在浦東新區高橋鎮東北2公里處，因明永樂十年(1412年)所築烽堠墩“寶山”而得名。據志載，土山高約96米，南北與東西均長300米許。明初，此處地名為清浦，有鹽場、清浦寨，扼長江口，督海上漕運的平江伯陳选瑄奏請築土山作為江海航向標識。明嘉靖三十一至三十四年間(1552～1555年)倭寇來犯，在長江口登岸，盤踞寶山，劫掠附近村鎮。明萬曆四年(1576年)遂在山之西麓築城，城牆高8米餘，周長約490米，有四門，設敵樓，外有城壕。明萬曆十年(1582年)受海潮侵襲，土山坍入江口，清康熙八年(1669年)城全部坍沉。清康熙三十三年(1694年)另築寶山城，在舊城西北1.5公里處，距今高橋鎮2公里，占地4萬餘平方米，方形，設四門，縱橫十字街，有守備署、城隍廟，廟內供奉陳瑄。

清雍正三年(1725年)，分嘉定縣東北四鄉設寶山縣，縣治設於吳淞所，即寶山縣城、今寶山區政府所在地，此寶山城遂稱老寶山城。

老寶山城已有三百餘年的歷史，在近百餘年間逐漸荒廢，今僅留南門殘垣，城隍廟舊屋尚存。