樺甸是古肅慎部族的故土，其后裔女真等部族相繼生息繁衍于此。唐玄宗開元元年（713年），粟末首領(lǐng)大祚榮受唐冊封為左驍衛(wèi)大將軍、忽汗州都督、渤?？ね?，后人專稱其為渤海，“渤海國”名稱由此而來。其子孫因襲唐朝典制，傳至十一世大仁秀、十二世大彝尊（835年）在轄境內(nèi)完成五京十五府六十二州一百余縣的建置，成為遼東盛國。輝發(fā)河故道南岸的蘇密甸子（粟末的音轉(zhuǎn)）系沖積盆地，平坦開闊，近山傍水，“為水陸之要沖”，境東有綿亙四十余里的張廣才嶺為屏障，渤海國在此設(shè)長嶺府治，領(lǐng)瑕、河二州，建有具備府治規(guī)模的蘇密古城（即那丹佛勒城），是當時營州道上的重鎮(zhèn)。樺甸即渤海王朝長嶺府屬地。

清光緒三十三年（1908年1月29日）御批設(shè)縣，定名樺甸，為吉林府所轄。設(shè)治后，歷經(jīng)清代、中華民國、東北淪陷及國民黨占領(lǐng)時期，直至中華人民共和國成立以后，行政區(qū)劃變動繁復，1988年5月25日經(jīng)國務院批準撤縣設(shè)市。改革開放以來，全市經(jīng)濟與社會發(fā)展迅速，現(xiàn)已成為吉林省東部山區(qū)的經(jīng)濟強縣（市）之一。