日本天保十一年出生於長州藩熊毛郡束荷村。幼名利助,後改稱利介、利輔、俊輔和舜輔。父林十藏，母名琴。其父原在村務農，後去萩城謀生。不久，入伊藤武兵衛家做工。武兵衛年老無子，收十藏為養子，博文即隨父母入伊藤家。
伊藤博文自幼備嚐辛苦，其父外出打工時，伊藤隨母寄居外祖父秋山家，過著貧困的生活，那是他是個喜歡惡作劇的頑童，村裏的孩子叫他餓鬼大將，胡說利助。[2]11歲時曾寄宿於寺院，後又在藩士福原等家作侍童，平時做雜役，閑時習文識字。16歲往相州服役，守衛邊防。次年返回長州，他先是投奔來原良藏，後入鬆下村塾，受教於改革派下級武士的領導人吉田鬆陰門下，深受吉田器重。1858年10月，伊藤去長崎，入幕府辦的炮術傳習所，學習軍事。1859年6月回長州，認識了桂小五郎。10月，隨從桂小五郎一起去江戶。
十九世紀六十年代的日本正處於社會變革的大動**時代。幕府與西方列強簽訂的不平等條約，不僅加深了封建幕府體製的固有矛盾，而且使日本麵臨著淪為半殖民地的嚴重威脅。為反對西方列強的侵略和幕府的妥協態度，以薩摩、長州等西南藩為中心的下級武士階層，與豪農巨賈結成聯盟，開始了尊王攘夷。伊藤博文登上政治舞台後，即投入尊王攘夷運動。1862年12月12日夜，伊藤與久阪玄瑞、高杉晉作等十幾名誌士，潛入品川禦殿山新建的英國公使館周圍。伊藤在前麵開路，手持木鋸，鋸斷使館四周的木柵欄，其他人隨即魚貫而入，扔出自製的燃燒彈。隨後,伊藤等人返回附近住處，徹夜痛飲，沉醉於攘夷的狂熱之中
1863年5月，伊藤同井上馨等5人，受長州藩派遣，去英國留學。他親眼見到西方資本主義國家的物質文明，思想發生變化，認識到僅僅憑著一股保衛民族獨立的熱情去盲目攘夷，決非上策，隻有開國，向西方學習，才能成就倒幕大業。 在英期間，了解到薩英戰爭爆發，1864年6月，伊藤同井上回國。此時正值英法等四國聯合艦隊攻打下關前夕，伊藤即力勸藩主毛利敬親不可攘夷。指出，與其空費國力，不如將此力用於恢複王政，以完成國內統一。後因藩主執意攘夷，終發生四國艦隊炮擊下關事件。不久，幕府第一次討伐長州，藩內保守派即向幕府表示“恭順”。1865年初，高杉晉作等改革派下級武士起兵，奪得藩政，伊藤堅決支持。伊藤是從攘夷到“開國進取”轉變的先行者和促進者。
1866年1月，薩、長兩藩下級武士結成倒幕聯盟。6月，幕府第二次討伐長州。伊藤前往石州，準備參戰,抗擊幕府。後受長州藩之命，去長崎向外商購買輪船，以對付幕府的海軍，但未成功，又轉往上海。8月底買回兩艘輪船。此時，征長戰事以幕府失敗告終。
在同幕府鬥爭中,倒幕派勢力不斷壯大。1867年10月14日，朝廷向倒幕派發出討幕密詔。同一天,幕府將軍德川慶喜提出“大政奉還”。12月9日(陰曆),天皇發表“王政複古”大詔令，宣布廢除幕府製，建立新政府。伊藤得知討幕消息後，即從長崎來兵庫，欲與長州藩諸隊一起戰鬥，後因故回長州。1868年1月初又來兵庫，1月13日，被明治新政府任命為外國事務交涉員。在木戶孝允、大久保利通和細田道一的領導下負責處理外交事務。後又任外國事務局判事、大阪府判事兼外國官判事、兵庫縣知事。