由于唐代前期实行府兵制度，所以在朝廷设立十六卫。十六卫的名称，唐代前期变化甚多，到唐玄宗开元时方大体上固定为左右卫、左右骁卫、左右武卫、右左威卫、右左领军卫、左右金吾卫、左右监门卫和左右千牛卫。

其中前十二卫均管辖府兵，只有后四卫不辖府兵，负责京城和宫殿诸门警卫以及皇帝的贴身宿卫。每卫设大将军一人和将军二人统率，下有长史、录事参军总管各卫日常事务，仓、兵、骑、胄四曹分别负责俸禄、给养、考绩、宿卫、马匹、兵械等具体事务。

十六卫直接统属于皇帝，但他们没有调兵的权力。需要命将出征时，一般由皇帝和宰相议定后，颁发诏令到兵部，由兵部再发下符契，与诏令一起同时颁下各折冲府或州郡发兵。

除十六卫外，东宫官中还仿照十六卫建制设有十率府，各设率一人，副率一至二人统管，下辖一定数量的府兵，作为太子的禁卫部队。

以上十六卫总称为南衙诸卫，因其官署均在长安、洛阳两京宫城之南的皇城内。

唐高宗时，由宫城北门玄武门禁军发展而来的北衙禁军开始兴起，逐渐取代南衙请卫的职能。南衙诸卫则由于府兵制的废弃，逐渐成为闲司，其长官大将军、将军也变为武官升迁的官阶，不再拥有实际职权。

最先设置的北衙禁军是左右羽林军，玄宗时设左右龙武军，肃宗时又设左右神武军，以上称为北衙六军，各设置大将军一人、将军三人统率。

唐代宗时再以神策军列入北衙禁军行列，德宗以宦官任神策军左右护军中尉统率，因此神策军势力迅速发展，凌驾于北衙六军之上。

唐代后期，北衙六军的大将军、将军等职也逐渐成为武官迁转的官阶，实际并无兵权。