漢高帝時期，先把秦的離宮興樂宮改建為長樂宮，後來在長樂宮以西建築了未央宮，在未央宮以北草創了北宮，在長樂與未央之間是長安軍械大庫所在地，稱武庫。到漢惠帝時，長安城牆才基本完成修築，並建立西市。
早期的國都長安，隻利用秦時的舊宮加以改造，並以此為基礎加以配套工程完善，從東到西，太倉、長樂宮、武庫和未央宮，形成一橫排的大小建築群，布局也都是坐西朝東，加上漢惠帝時期的城牆，基本上形成了早期長安的規模。
當時長安城內，南部和中部除了宮殿外，還有宗廟、中央官署、三輔官署及各種倉庫，這樣一來，城中剩餘的空間就很小了。加之諸侯、大臣、富豪的住宅，長安城內沒有什麽空地。因此，後來長安的發展，逐漸越出漢惠帝城牆的界限，開始向外發展，這樣一來，早期長安逐步成為廣義長安的內城。長安城的擴建，與帝國政治經濟的恢複、發展是密不可分的。
建章宮是漢武帝時期建造的一個大型宮殿群，性質上雖屬於離宮，但日後逐步具有政治性辦公職能。它位於長安城西，在直城門外的上林苑內，其宮殿樓台之多，遠非長樂、未央所能比擬，號稱“千門萬戶”。
據說，漢武帝修建建章宮的理由是源於一場宮廷火災和一個荒誕不經的南方風俗。太初元年（前104 年），未央宮附近有名的柏梁台失火被焚。
事後有一個南粵巫師站出來告訴漢武帝，他說：“在他的老家，失火之後要建一座比失火建築更大、更華麗的建築將火魔活活氣死後，就可保平安無事。”
漢武帝聽完這話，便信以為真。在太初元年（前104 年）開始興建建章宮。由於其設計規模宏大，加之長安故城中用地緊張，因此選址在故城以西。實際上，漢武帝是把建章宮當成他的新皇宮來興建的。從建章宮的布局來看，從正門圓闕、玉堂、建章前殿和天梁宮形成一條中軸線，其他宮室分布在左右，全部圍以閣道。宮城內北部為太液池，築有三神山，宮城西麵為唐中庭、唐中池。