靈寶市歷史悠久，由靈寶和甘香兩縣合並而成。靈寶縣始建於漢代丁原三年(公元前114)，後改稱漢弘農縣、隋桃林縣、唐天寶元年靈寶縣。甘鄉縣歷史上稱為戶縣，北魏時更名為鄭光的戶城縣，隸屬西恒農縣。北周屬弘農郡。隋黃凱初屬陜西省。開十六年(596年)廢，後復。
唐三年(760)，改為縣。大歷四年(769)，恢復為護城郡。北宋熙寧四年(1071)，廢入靈寶郡，元豐六年(1083)復置。元世祖致遠二年(1265)，棄入甘鄉；1954年撤銷鄉縣，並入靈寶縣。