"冰为溪水玉为山"——玉山是个古老、美丽、文明的地方。位于江西省东北部，是江西省的东大门。介于东经117°52＇至118°25＇和北纬28°30＇至28°59＇于之间。

东界浙江省开化、常山、江山三县市，南接广丰，西南邻上饶，北毗德兴。东西宽75公里，南北长远62公里，总面积1731.2平方公里,辖21个乡、镇、库，总人口53.8万。

闽浙赣三省交界处，素有"两江锁钥，八省通衢"之称。古老的玉山唐（周）证圣年（695年），分衢州的须江（今江山市）、常山和饶州的弋阳三县市之地设玉山县，以境内有怀玉山而得名，隶江南道衢州，有1300多年的历史。

明洪武四年（1371年），因漕运不便，从江浙行省改隶江西行省。民国三年（1914年），省下分道，玉山隶豫章道。1945年5月玉山解放初，属赣东北行政区，后属上饶地市（专）区至今。

1952年，浙江省江山县官溪乡的内村、外村、后山、中店4个行政村和南坞乡的大桑园、周家墩、黄坳3个政村划归本县管辖。