汉代以前，天峻为羌地。

汉平帝元始四年（公元4年）王莽诱卑禾羌献地，置西海郡，天峻归西海郡辖地，王莽地皇二十三年（公元23年）西海郡废，复为羌地。

东晋十六国时，为鲜卑己弗部（又称己弗勿敌国），北魏太武帝神鹿年间，天峻地区成为吐谷浑属地。

隋炀帝大县五年（公元609年）年破吐谷浑国，在其故地设置郡县、其中西海郡治吐谷浑故都伏俟城，领宣德、威定二县，天峻地区为宣德县地。隋亡，吐谷浑复其故地。

唐高宗龙朔三年（公元663年）吐蕃攻败吐谷浑，天峻地区改属吐蕃国。

北宋初，这里曾为吐蕃角厮罗地方政权辖区。

蒙古宪宗蒙哥三年（公元1253年）置吐蕃待处宣慰司（治河州），天峻地区为吐蕃等处宣慰司辖区，属宣政院。

明前期为西宁塞外四卫之一的罕东卫属地。后罕东卫西迁，这一带属尕甘利都司，明正德七年（公元1512年）年，东蒙古吐默特部进入青海破四卫，天峻遂为东蒙古诸部牧区。明崇祯十年（公元1637年），又成为厄鲁特蒙古和硕特部首领顾实汗辖区。

清雍正三年（公元1725年）编定青海蒙古29旗，天峻东部为和硕特北前旗驻牧地，西部为和硕特北右末旗驻牧地，录钦差办理青海蒙古番于事务大臣（统称西宁办事大臣）管辖。清咸丰初年，藏族部落汪什代海部迁至天峻县境驻牧。

民国六年（1917年）天峻地区录都兰理事，民国十九年（公元1930年）为都兰县管辖，称都兰县第二行政区。

1949年9月5日西宁解放，10月16日，青海省军政委员会任命王本巴为都兰县长，王德海、丹科为副县长，10月30日王本巴一行30多人到达汪什代诲部落干1户丹科家，向欢迎的群众宣讲了政策，汪什代海(天峻)遂为解放，

1950年，天峻被划为都兰县第二区。

1953年8月，根据中共中央西北局兰州会议精神，都兰县升格为专区级民族联合自治政府，天峻升县级自治区，10月3日海西地委决定经省委批准成立中国共产党天峻工作委员会，11月19日至24日召开天峻藏族自治区筹备协商会议，正式成立“天峻藏族自治区”人民政府筹备委员会。

1954年7月25日，天峻藏族自治区（县级）正式成立，录海西蒙、藏、哈萨克族自治区（专区级）。

1955年7月1日，根据国务院批复海西自治区改为自治洲，天峻自治区改为天峻县，自治区人民玫府改为县人民委员会，主席、副主席改称县长、副县长。

1955年6月成立下环仓、上环仓、扎查3个区，委派3区委书记和区长。

1958年6月，天峻县建立10个乡级政权，3个区随即撤销。9月，天峻县实现人民公社化，10个乡改为10个人民公社，9月15日，10个人民公社合并为天棚、江河、快尔玛、木里、苏里5个公社，后将木里公社化为两个公社即木里，织合玛公社。

1962年9月，6个公社调整为15个公社，成立江河、快尔玛、苏里3个区，其中11个公社由3个区领导，4个公社县直接领导。

1963年3月，经州上批准，天峻行政建置设1个区(苏里区)，11个乡，其中9个乡为县直属乡。

1967年12月，天峻县革命委员会成立，设4个办事组。

1968年7月，各乡先后恢复公社建置，原公社改为大队。

1984年，结合人民代表大会换届选举，进行乡、社分设工作，天峻县划分为12个乡，63个牧业合作社。

2001年2月21日，撤销天棚、关角2乡，合并设立并命名为新源镇（镇政府设在天峻县县城）；将生格乡政府驻地迁至野马滩（青新公路451千米处）。2001年底，天峻县辖1个镇、10个乡，62个村（牧）委会。

2005年，天峻县调整乡镇行政区划：撤销尕河乡，并入苏里乡。撤销木里镇，设立木里镇，镇政府驻地和镇区行政区划范围不变，实行镇管村体制。撤销江河乡，设立江河镇，镇政府驻地和镇区行政区划范围不变，实行镇管村体制。2005年，天峻县从原有的乡镇十乡一镇，成为三镇七乡，为新源镇、江河镇、木里镇、快尔玛乡、织合玛乡、苏里乡、阳康乡、龙门乡、生格乡、舟群乡。