隋唐時期，黑龍江流域與長白山地區的主要居民是靺鞨。靺鞨分粟末、黑水、白山等部。唐武德年間（618～626），粟末靺鞨紛紛歸附，唐設慎州、黎州安置他們。總章元年（668），粟末靺鞨首領乞乞仲象和乞四比羽率部移居營州（今遼寧朝陽），並有部分白山靺鞨和高句麗人隨同前往。唐於該地設置營州都督，先後設置十七個羈縻州，以安置靺鞨諸部及其他民族。萬歲通天元年（696），契丹人在李盡忠、孫萬榮率領下反叛唐朝，攻陷營州。營州一帶靺鞨人也卷入反唐戰爭。為分化反唐勢力，唐冊封靺鞨首領乞四比羽為許國公，粟末靺鞨首領乞乞仲象為震國公。但他們拒不受命，率其眾離開營州，返回靺鞨故地。唐命契丹降將李楷固率兵追擊，乞四比羽被殺。乞乞仲象死後，其子大祚榮率粟末靺鞨打敗李楷固，合並了乞四比羽部眾，收容高句麗的遺民後，東渡遼河，返回靺鞨故地，據今長白山、牡丹江上遊一帶，樹壁自固，築城以居。這就是最初的都城，後稱為舊國，其地在今吉林敦化縣敖東城。聖曆元年（698），大祚榮以其父乞乞仲象曾被唐封為震國公之故，自立為震國王。粟末靺鞨遷居營州後，受到唐封建經濟文化的影響，返回故地後收撫靺鞨部眾及高句麗、夫餘等族人，在短短幾年間強大起來，有編戶十餘萬、甲士數萬人。中宗複位後，遣使前往靺鞨撫慰。大祚榮派次子入唐為質子，宿衛京師，與唐朝正式建立臣屬關係。開元元年（713），大祚榮遣使入唐，請求雙方在邊境開展貿易。唐朝也派使冊封大祚榮為左驍衛大將軍、渤海郡王，以其所領之地設忽汗州，加授忽汗州都督，又稱渤海都督。從此，不再以靺鞨為號，專稱渤海國。這個渤海政權傳世十六，曆國二百二十餘年，一直延續到五代後唐明宗的天成元年（926），才被契丹主耶律阿保機所滅亡。
渤海極盛時疆土遼闊，東至於海，西接契丹，北抵黑龍江，南和新羅接壤。全國分置五京、十五府、六十二州、一百三十八縣。其官製大抵是模仿唐朝的，為了避免和唐官職名稱相同而略做變動。渤海國經濟文化發達，與唐朝始終保持著非常友好的關係。