三國:武元興元年(264)，改方齡縣為臨浦縣。7月，交接州設在廣州，上林縣隸屬於廣州玉林縣臨浦縣和桂林縣潭中縣。
晉:太康元年(280)，武帝吳平。太康年間(280-289)，臨浦縣改名為方齡縣。上林縣隸屬於方齡縣和潭中縣。東晉時，在榆林郡下新設新林郡。上林縣是新林縣和潭中縣。宋齊依舊。
梁:梁武帝大同三年(537)，建立龍州，新林縣屬龍州馬平縣。還置州(後改名南定州)方齡縣，上林縣是馬平縣的新林縣和方齡縣的方齡縣。陳還在。
隋:九年(589)，廢為房陵郡。方齡縣仍屬玉林縣。黃凱十二年(592)，設馬平縣，離石庵縣，上林縣屬方齡縣，西北屬馬平縣。
唐朝:武德四年(621)，蕭縣被平，周放(即南州)設沅陵(陵)房縣，吳語、上林、支格、零陵(陵)房縣、瑯琊、四幹、合水劃歸零陵(陵)房縣。縣轄上林洞上洞(有上下兩洞)(“上”是壯語“洞”的近音，“林”是壯語“水”的諧音，“上林”是泉水流出的洞，即水出來的地方)，故名。它是這個縣的名字的開始。貞觀八年(634)，南州改為成州(今上林縣大豐鎮)。天寶元年(742年)，澄州改為合水縣，甘源元年(758年)復置澄州，轄上林(今澄泰鄉古城村所在地)、吳語(今澄泰鄉姜娜村所在地)、直閣、合水兩縣，府屬上林上林縣。上林縣和吳語縣都在今天的上林縣(吳語縣在今天的李三和澄泰鄉)。合水縣的壹部分在今天的上林縣(山姆、古樓、梁娜、長圩、沁水、李米等喬仙鄉的村莊)。貞觀初，轉嶺南道。鹹通三年(862)，嶺南分為東西兩路。嶺南西路分為桂冠、壇冠、榮冠。上林縣李嶺南西路譚關。五代:屬南漢，建築不變。
宋:開寶五年(972)，葛、吳語、合水三縣廢，並上林郡。又廢李詠上林郡成州。開寶六年(973)，改稱成州。端公二年(989年)廢成州，上林郡劃歸賓州。宋初，廣南路轉道道三年(997)。廣南路分為廣南東路和廣南西路，後轉入廣南西路。治平四年(1067)，上林縣治革土地劃歸婺源縣(今武鳴縣)。
元:上林郡屬賓州，元十三年(1276)設綏靖部。至元十六年(1279)改夏祿總務府，為廣西兩江道宣威部，廣布直隸湖。鄭智二十三年(1363)，宣慰司晉升為廣西書省，賓夕法尼亞直隸。
明:上林縣原籍賓夕法尼亞州。洪武二年(1369)十月，劃歸廣西書省柳州府。洪武四年(1371年)，昆、白山(原葛縣)分臨縣、婺源縣(現前者屬都安瑤族自治縣，後者屬馬山縣)。洪武九年(1376)，書省廣西改為廣西成宣，賓州仍屬柳州府。
清朝:順治初上林縣仍劃歸柳州府，雍正三年(1725)賓州升為直隸府，隸屬上林、黔江、來賓、武宣四縣。雍正十二年(1734)，賓州直隸州降為散州，上林縣改為右江道思恩州。鹹豐七年(1857)八月，李金貴率農民起義攻占上林縣，改上林縣為澄江縣。同治元年(1862)，李金貴病死，不久清軍攻克，改上林縣。
民國成立後，上林縣名沿清不變，原為廣西南寧路。民國15 (1926)年，廢道在直隸廣西省政府。民國29年(1940)，屬武鳴行政監察區。民國31 (1942)年並入區，屬廣西省第四特區。民國4年(1915)，牯嶺土司地27個村劃歸上林縣管轄。民國二十二年(1933)，上級鄉劃歸龍山縣(今馬山縣)。民國二十四年(1935)，斯隆、鄒偉劃歸賓陽縣。
中華人民共和國成立後，上林縣劃歸南寧專員公署。1951變更為賓陽地區。1956，廣西壯族自治區成立，直隸自治州。1958年，廣西壯族自治區成立，改為南寧地區專員公署。1971，隸屬南寧地區行政公署。從1952到10，上林縣北部的蘭家、古棚、安良、北更、馬蹄、四季6個鄉劃歸忻城縣。1953年，馬山縣富蘭鄉弄蔔村屬本縣管轄。1956，忻城縣龍門鄉內石村劃歸本縣。1958年冬，上林縣與賓陽縣合並，更名為林斌縣。次年夏，上林、賓陽分封，恢復上林郡。