先秦時期，全國分為九州，甘肅省境大部屬雍、梁二州，舊稱“雍梁之地”。漢代在省境置涼州，後設武威、張掖、酒泉、敦煌等10 郡。唐代改郡為道，元代始設甘肅行中書省， 明代廢省設司，清代設甘肅布政司。1949 年8 月26 日成立甘肅行政公署。1950 年1 月8 日，甘肅省人民政府成立，甘肅省名沿用至今。

甘肅建省約有700 多年的歷史；縣的建制早于省的，從春秋時開始萌芽算起，迄今己達2200餘年。北宋初期西夏統治河西時設有甘肅軍司（駐甘州，今張掖市甘州區）。這是最早出現的甘肅之名。但作為地方行政區劃名稱，元代才正式設置甘肅省。省名的命名，系西魏、唐代曾置甘州（今張掖市）、肅州（今酒泉市）的第一個字合成。簡稱甘。因省境的大部分在隴山之西，故亦稱隴西、隴右，或簡稱隴。
　　甘肅位于黃河中、上遊。遠古時期這裡的氣候比現在溫暖、濕潤，是個稀疏的草原環境。低凹地豐富的水源，高山茂密的灌木叢，台地上疏鬆的黃土，灌木、草地上生活的多種動物，為原始人類生存提供了天然適宜的環境。因此，這裡是我國歷史上經濟開發，特別是農業墾殖和古代文化發展較早的地區之一，是形成中華民族燦爛文化的重要發祥地。根據考古發掘的大量文物證明，遠在一二十萬年前的舊石器時代，我們的先民就在這塊地方生息、繁衍，利用簡陋的石器頑強地同大自然作鬥爭。建國以來，先後在鎮原縣姜家灣、寺溝口、黑土梁，慶陽縣巨家□，環縣樓房子和劉家岔處，發現了舊石器時代中、晚期的石器、骨器、動物化石和早期人類用火的遺蹟。屬于新石器時代的文化遺蹟，己發現的有1000處，其中著名的有受仰韶文化影響而發展起來的以洮河、大夏河和湟水中下遊為中心，處于母系氏族公社階段的齊家文化；還有晚于齊家文化，發現己有銅器，己經進入原始社會末期或奴隸社會早期的辛店、寺窪和卡窯文化。古代傳說中的四千年前的炎帝（號神農氏）、黃帝（號有熊氏，又號軒轅氏）也起于西北。近幾年來，我省考古工作者在省境東部秦安縣大地灣發現並挖掘了一處距今7800至4500年的新石器早期文化遺址，出土文物8000餘件，其中發現的7000年前的地畫、5000年前的混凝土和一座建築面積達450 平方米的原始社會會堂式宏偉建築，系國內首次發現。這處遺址堪與西安半坡村遺址相媲美。這裡發現的罕見的三足缽、三足罐珍品，比仰韶文化半坡類型要早1000多年。大地灣遺址的發現，為研究史前史特別是研究古代建築、文字起源和人類生活提供了重要的資料。