出土文物表明，早在六七千年前的新石器时代，黄河两岸的台地上已有人类活动。秦以前，贵德地区属“羌戎地”。

公元前60年纳入西汉郡县版图，金城郡下设河关县，辖今贵德县及附近地区。

东晋太元十四年（389年），后凉在今贵德县置浇河郡。

北周建德五年（576年），在原浇河郡故地设廓州。

隋大业三年（607年），改廓州为浇河郡。

唐武德二年（619年），改浇河郡为廓州，移治今化隆群科。

北宋大观二年（1108年），设积石军。

南宋宝祐元年、蒙古蒙哥汗三年（1253年），蒙古灭金后在河州（今甘肃临夏）设置吐蕃宣慰使都元帅府，置贵德州宣慰司，“贵德”地名首次出现。 

元朝至元八年（1271年），正式设贵德州，属陕西行省河州路。 

明洪武三年（1370年），改贵德州为归德州。明洪武八年（1375年），改归德州为归德守御千户所。永乐四年（1406年），改为河州卫所辖中左千户所，隶临洮府。

清初，贵德守御千户所隶于陕西都司河州卫，雍正四年，裁河州卫，遂隶于临洮府。乾隆三年（1738年），归德所由临洮府改隶西宁府。乾隆五十六年（1761年），归德复改为贵德厅，设抚番同知。 

民国二年（1913年），贵德厅改为贵德县，隶属甘肃省。民国十七年（1928年），青海建省，贵德隶属青海省。 

1949年9月18日，贵德解放，同日成立中共贵德县委和县人民政府。 

1953年12月，海南藏族自治区（后改为州）成立，贵德县由省属改为州属县。