この場所には紀元前10世紀頃、ソロモン王によりエルサレム神殿（第一神殿）が建てられた。しかし、紀元前587年、バビロニアにより神殿は破壊される。その後、紀元前515年に第二神殿が再建されるが、西暦70年に今度はローマ帝国によりエルサレム攻囲戦が行われ、再び神殿は破壊される。イスラム教王朝の時代に、残されたエルサレム神殿の石壁の上に更に石垣を築きその上に岩のドームなどが築かれた。現在も残るエルサレム神殿の外壁（神殿の丘の西側外壁の一部）がユダヤ教の聖地嘆きの壁である。

ヨルダン支配下の東エルサレム(1948年〜1967年)では、イスラエル人は旧市街への立ち入りを禁じられていた。現在、神殿の丘はイスラエルの実効支配地域内にあるが、管理はイスラム教指導者により行なわれている。そのため、ユダヤ人とキリスト教徒は神殿の丘で宗教的な儀式を行う事を禁止されている。2000年9月28日、右派リクードのアリエル・シャロン党首が神殿の丘を訪問し、これに反発したパレスチナ市民によりアル＝アクサ・インティファーダ（英語版）（第二次インティファーダ）が引き起こる。この暴力の応酬によりキャンプ・デービッド合意は事実上、破綻している。