公元581年2月，杨坚受禅代周称帝，国号大隋。由于杨坚是以北周旧臣取而代之建立的新王朝，故隋初仍以汉长安城为都。

然而这只是权宜之计，这座自汉兴以来已历780年之久的旧都城已不再适合新的大一统王朝的需要。首先，汉长安城历时已久，城中宫宇朽蠹，供水、排水严重不畅，污水往往聚而不泄，以至生活用水多受污染，水质咸卤，难以饮用。

其次，汉长安城北临渭水，由于渭河不时南北摆动，都城有被水淹的危险。据《隋唐嘉话》记载：“隋文帝梦洪水没城，意恶之，乃移都大兴。”

因此杨坚决定在东南方向的龙首原南坡另建一座新城。开皇二年（582年）起，在宇文恺的主持下，仅用一年左右的时间就建成了宫城和皇城。

开皇三年（583年），隋王朝迁至新都，因为隋文帝早年曾被封为大兴公，因此便以“大兴”命名此城。隋炀帝继位后，开凿运河连接大兴和扬州。

大业九年（613年），动用10余万人在宫城和皇城以外建造了外郭城，城市的总体格局至此基本形成。

李渊起兵造反，攻大兴城建立唐朝，在此定都，并更名为长安，改大兴宫为太极宫。因太极宫地势较低，而长安城盛夏气温很高，异常燠热，使得住在太极宫有“湫湿”，唐太宗李世民决定在长安城北禁苑中的龙首原高地，为其父李渊修建避暑行宫，最初叫做永安宫。

不料工程进行到一半，太上皇李渊就溘然长逝，永安宫的建造随之中断。后来唐高宗李治又以未完成的永安宫为基础，进行大规模的再建工程，使之不再是一座离宫别殿，而是作为象征帝国无上皇权而使用的正式皇宫，并改名大明宫。

太极宫很快就被大明宫所取代。中唐时期随兴庆宫的修建又带来街东里坊的变迁。

唐代长安城的经济和文化发展得十分迅速。在盛唐时期，长安城一直充当着世界中心的地位，它已是当时世界上最大最繁华的国际大都市，人口约有50万（有资料显示，长安城的人口极胜阶段超过100万）。

安史之乱后逐渐衰落。唐末黄巢攻入长安，城市遭到严重破坏。天祐元年（904年），朱全忠挟持唐昭宗迁都洛阳，并把宫室拆毁，屋木也一起运走。

后来，驻守长安的佑国军节度使韩建认为城广人稀，不利于防守，于是对城市进行改筑，缩为“新城”，也就是五代、宋、金、元的长安城。

至此，有着325年历史的隋大兴唐长安城便宣告废弃。