維新後，伊藤博文積極主張把“歐美各國之政治製度、風俗習尚、教育、生產”的“開明風氣”移入日本,使日本進入“開明諸國之行列”。新政府成立之初，伊藤就向木戶孝允提出廢封建諸藩，立府縣之製。1869年2月，又草擬“國是綱要”，詳細闡述設郡縣，統一兵力、財力及發展教育的好處。 1869年5月，伊藤博文任會計官權判事。 7月，又任大藏少輔。8月，兼任民部少輔。任職中，大力推進改革，其中尤以修建鐵路和改革貨幣製度的成績最為顯著。
9月，英國公使提出幫助日本修建第一條鐵路(東京——橫濱)，伊藤表示同意。經政府批準，伊藤全權與英國交涉借款事宜。當時反對者甚多。伊藤不顧反對，堅持己見，經英國東洋銀行借款100萬英鎊(合488萬日元)，並從1870年4月起動工修建鐵路。於1872年9月完工，正式通車。以此為開端，其他鐵路幹線陸續修建，加速了日本交通運輸的近代化。
1870年10月，伊藤提出建立新的統一的貨幣製度，並於同年12月赴美考察，向大藏省提出有關金銀貨幣的鑄造法、新紙幣發行法等建議。日本政府根據這些建議，於1871年5月，發布新的貨幣條例和造幣章程。不久，伊藤回國，又負責監督新貨幣的鑄造及新貨幣製度的實施，推進了日本資本主義的發展。
1871年11月，伊藤博文以副使身份，參加由右大臣岩倉具視率領的使節團。曆時近兩年，訪問歐美10多個國家，參觀考察了金融、商業機構、軍事工業、重工業和輕紡工業部門以及文化教育設施等。訪問中,伊藤更加深切感到，必須用西方先進的科學技術，推進日本資本主義的工業。1873年9月，伊藤回國。10月,任工部卿。他領導工部省，大力“勸獎百工”。大力修建鐵路，創辦國營企業，引進西方先進生產技術和設備，改造和擴建了佐渡金礦、生野銀礦和三池、高島等煤礦以及赤羽機器製造廠、深川水泥廠、品川玻璃製造廠、兵庫和長崎造船廠等，70年代中期起，扶持三菱會社等航運企業與英、美等國輪船公司開展國際航運競爭，又采取多種示範與保護措施，把出口工業轉向民間，使“殖產興業”達到了新階段。為日本的產業革命和資本主義工業化奠定了物質基礎。
1877年，以西鄉隆盛為代表的封建武士，發動了大規模的武裝叛亂。伊藤堅決主張平定叛亂。他曾派人去山口縣，征募壯兵1,300多人,軍夫7,600餘人,送往前線，支援政府軍。 1878年5月，伊藤博文成為內務卿。在政府中的地位與作用進一步提高，成為由薩摩、長州藩出身的下級武士組成的藩閥官僚政府的核心成員。