先秦时期，分为九州，甘肃省境大部属雍州、凉州，旧称雍凉之地。

商朝时期，周朝的祖先周部落居于泾河、渭河流域，周文王灭商以前，战败了西戎混夷，把境域扩展到密（今甘肃省灵台县）。

这一时期，甘肃境内有羌方、共、密等方国部落。

西周时期，秦人的祖先在省境东部，即天水地区定居下来，开始了由游牧经济向农业经济的缓慢过渡，而游牧生活仍占据主要的地位。

春秋时期，秦国在己被征服的邽戎、冀戎地区，设邽县（天水麦积区南）、冀县（今甘谷县），这是中国历史上建立最早的两个县。

战国时期，秦国的疆域已达今甘肃的东南部。秦惠文王时期，秦国多次兵伐义渠，平定西部诸戎。秦昭王时，设置陇西郡、北地郡。

秦朝时期，甘肃地区仍属于陇西郡和北地郡，今甘南东南隅之一部属汉中郡。

西汉时期，在陇西郡和北地郡基础上，增设武威郡、酒泉郡、天水郡、安定郡、武都郡。公元前111年，分武威郡置张掖郡，析酒泉郡置敦煌郡。

公元前81年，从天水、陇西、张掖3郡各分出2个县建立金城郡，自此，甘肃共设置十个郡，甘肃属凉州刺史部。

东汉时期，行政区划大体上是沿袭西汉建制，增设张掖属国和张掖居延属国两个少数民族管理区，隶属凉州，省境南部边缘的一小部分地区分属益州。

三国时期沿袭东汉建制，大部分地方属曹魏，南部的部分地区属蜀汉。

西晋时期，隶属凉州、秦州和雍州。

西晋末到十六国时期，跨境或在甘肃境内先后建立的割据政权有：后赵、前秦、后秦、前凉、西秦、后凉、南凉、北凉、西凉，各占有约当今甘肃一部之地。

南北朝时期，甘肃先后为北魏、西魏、北周的统治地区。

隋朝时期，省内共设16郡，76县，公元617年，武威郡鹰扬府司马李轨举兵反隋，占领河西，建大凉国，归附于东突厥。

唐朝时期，李轨被李渊所灭，甘肃境分属关内道、陇右道和山南道，共辖22州。公元764年，包括甘肃在内的河西、陇右被吐蕃占据。

公元849年，唐重占秦、原、安乐、维、扶、河、渭等州。公元851年，张议潮占据包括甘肃在内的河西、陇右，归附于唐朝，唐朝再次占据甘肃。

北宋时期，西夏统治河西时设有甘肃军司，这是最早出现的甘肃之名。

元朝时期，设甘肃等处行中书省，辖黄河以西七路二州，黄河以东地区为陕西兴远路。

明朝时期，省境属陕西布政司、陕西都司、陕西行都指挥使司。

清朝时期，设陕西右布政司，后改甘肃布政司，行政中心从巩昌（今陇西县）迁至兰州市，辖今甘肃、新疆、青海、宁夏省区部分范围。

公元1884年，新疆建省。

中华民国元年（1912年）甘肃省境又划分为七道，辖今甘肃、内蒙古西部、青海北部和东部一些地方、外蒙古西南边、宁夏。

民国十六年（1927年），撤道为省，民国十八年（1929年）分出青海和宁夏两省区。其行政区域大体与今相同