1898年，伊藤博文第三次組閣。他本想拉自由黨領袖板垣退助、進步黨領袖大隈重信入閣，建立所謂的舉國一致內閣，強化其統治基礎。但因板垣、大隈爭奪內務相要職，預定計劃落空。其後伊藤製定的預算案和增加地稅案，被自由、進步兩黨議員控製的議會否決，伊藤粗暴的解散了議會。這一行徑立即激發了民黨的反政府情緒，促進了自由，進步兩黨的聯合。6月22日，兩黨召開合並大會，組成憲政黨，聯合對抗政府。這屆短命的內閣，在民黨打擊下，不到半年便告瓦解。

在對付民黨上，伊藤軟硬兼施都歸失敗，他痛感“雇傭兵不可靠，必須有自己的禦林軍。”因此他在辭掉首相後，不顧山縣有朋等人的反對，不惜辭官納爵，也要親手建立一個政黨。

1900年，伊藤博文巡遊日本各地，發表演說28次，闡述了他舉國一致主義和建黨宗旨。同年9月15日，以伊藤為總裁的立憲政友會宣布成立。該黨以官僚政客為基幹，剛一成立，就瓦解了憲政黨（前身是自由黨），分裂了憲政本黨（前身是進步黨），擁有會員100萬人，成了勢力最大的保守政黨。

10月，伊藤博文再次出山，以政友會骨幹為班底，組成“政友會內閣”。正象他希望的那樣，此次內閣提出的以增加非直接稅為特點的預算，在政友會控製的眾議員順利通過。但出乎意料的是，預算案卻被一貫支持政府立場的貴族院所否決。伊藤奏請明治天皇命貴族院休會。這是內閣以來首次命令貴族院休會。接著伊藤故伎重演，再次請出天皇聖旨，迫使貴族院接受了提案。

然而新建立的政友會還不能盡如人意，總裁的絕對權威一時還難以確立，政友會內閣也沒有能做到意見統一。身為政友會副總裁的大藏相渡邊國武，反對政府募集公債的政策，堅持削減乃至取消募集公債，並主張放棄國營企業。伊藤無力調解內閣分歧，隻好再次辭職。