秦朝以前屬於東湖。西漢初，匈奴擊敗東湖，建立奴隸制政權，由左賢統治。東漢時，在大興安嶺北部深山老林中狩獵的鮮卑拓跋部南遷至大澤(今呼倫湖)，這是鮮卑部落的地盤。隋屬遼西十衛部落。
唐，下轄衛都督府，河北道石。遼、大興安嶺以東地區屬上京路東北路管轄，嶺西地區屬敵獵德聯合軍連管轄。
晉，嶺東屬蒲、魯管轄，嶺西屬東北路管轄。元時，實行分封制，靈溪封地為合作國哈薩爾，靈洞封地為葉爾欽。元十五年(1288)，諸王封地並入行省，陵西歸嶺北省和魯林管轄，嶺東歸中書省泰寧路管轄。
明，靈溪屬慈兒前湖南河管轄，靈洞屬河管轄。
清代，嶺西屬呼倫貝爾副總指揮衙門管轄，嶺東屬布撒主衙門管轄。雍正十年(1732)，索倫(鄂溫克族)等民族從大興安嶺以東的布紮地區遷至呼倫貝爾草原，在索倫左右兩翼建八旗。左邊的四旗駐紮在俄國邊境地區，大興安嶺以西地區是其管轄範圍。同年，清政府加強邊境管制，在齊齊哈爾至呼倫城設置10支(國內5支)。光緒二十九年(1903)，中東鐵路通車，巴林至牙克石間建有10火車站。此後，人口逐漸增加，並聚集到村莊。
1912，靈溪屬呼倫貝爾地方自治政府管轄，靈東屬布西管理局管轄。1920年，嶺西歸呼倫貝爾道音辦事處管轄，嶺東歸西布撒辦事處管轄。65438年至0929年，嶺西屬呼倫貝爾市籌備辦管轄，嶺東屬鴨綠江縣管轄。
1931“九壹八事變”後，侵華日軍占領中國東北，建立滿洲國。東北分為19省，牙克石大興安嶺以西地區屬興安北支管轄，嶺東屬興安東支管轄。1934年，嶺西屬北興安省索倫旗管轄，嶺東屬東興安省布特旗管轄。
1936，索倫旗設置牙克石街。1945 10日寇投降後，牙克石街道由索倫旗劃出，成立街道辦事處，直屬呼倫貝爾自治政府管轄。1946年8月，中國領導下的人民民主政權——牙克石街道政府成立。
1947年5月，內蒙古自治區聯合政府成立，嶺西隸屬呼倫貝爾盟政府，嶺東概括為溫木仁盟政府。1949年4月，嶺東屬呼倫貝爾文娜牧仁盟布特旗，嶺西屬索倫旗。
1949 65438+10月1，中華人民共和國成立。1950 1月以牙克石街道為基點，劃定了索倫旗管轄的紮洛木德努圖克、棉都河管轄的努圖克、博克圖布特旗管轄的努圖克，成立了西貴圖旗人民政府，隸屬呼倫貝爾市納溫牧仁盟。
1953年4月，西貴圖旗隸屬內蒙古自治區東區行政公署。1954年4月，西貴圖旗隸屬呼倫貝爾盟。
1955 1，西貴圖旗人民政府更名為旗人民委員會。
1958 10，旗人民委員會與大興安嶺林業管理局合並，在西貴圖旗稱為大興安嶺林區人民政府。1962年8月，單獨成立，改稱西貴圖齊人民委員會。
1967 12、西貴圖齊革命委員會成立，隸屬呼倫貝爾盟革命委員會。
1969年8月，西貴圖旗與呼倫貝爾盟壹起被劃入黑龍江省。1979年7月，調回內蒙古自治區。
1980 1月，撤銷西貴圖齊革命委員會，成立西貴圖齊人民政府。1983 10 10月10經國務院批準，撤銷西貴圖齊人民政府，成立牙克石市人民政府，並於1984 10 10月正式實行市建制。
200110，國務院批準撤銷呼倫貝爾盟，設立地級呼倫貝爾市，牙克石市隸屬呼倫貝爾市。