北宋崇寧二年（1103年），嶽飛出生於河北西路相州湯陰縣（今河南安陽湯陰縣）的一個普通農家。傳說嶽飛出生時，有大禽若鵠，飛鳴室上，故父母給他取名飛，字鵬舉。
宣和四年（1122年），童貫、蔡攸兵敗於契丹，河北官員劉韐於真定府（今河北正定縣）招募“敢戰士”以禦遼（一說是為征遼）。嶽飛應募，經過選拔，被任命為“敢戰士”中的一名分隊長。20歲的嶽飛自此開始了他的軍戎生活。賊寇陶俊、賈進在相州作亂，嶽飛請命前去除害。嶽飛表現突出，帶領百騎騎兵，用伏兵之計，生擒二賊以歸。
這年嶽飛的父親嶽和病故，嶽飛辭別劉韐，離開軍隊，趕回湯陰為父親守孝。宣和六年，河北等路發生水災，嶽家生計艱難，嶽飛為了謀生，又到河東路平定軍（今山西平定縣）投戎，被擢為偏校。
金滅遼之後，大舉南侵攻宋。嶽飛目睹了金人入侵後人民慘遭殺戮、奴役的情形，心中憤慨，意欲投軍，又擔憂老母年邁，妻兒力弱，在兵亂中難保安全。嶽母姚氏是位深明大義的婦女，積極勉勵嶽飛“從戎報國”，還為嶽飛後背刺上“盡忠報國（後世演義為‘精忠報國’）”四字為訓。嶽飛牢記母親教誨，忍痛別過親人，投身抗金前線。
北宋靖康元年冬，康王趙構到相州，於臘月初一日開河北兵馬大元帥府，嶽飛隨同劉浩所部一起劃歸大元帥府統轄。劉浩為元帥府前軍統製，趙構命他南趨濬州（今河南浚縣西北）、滑州方向以作馳援開封的疑兵，自己則率領元帥府主力北上大名府。
嶽飛奉劉浩的命令，帶一支三百人的騎兵小隊往李固渡進行偵察，在侍禦林與金兵遭遇，嶽飛殺死敵將，擊退金軍。在滑州南的遭遇戰中，嶽飛奮勇當先，又以百騎殺敗金軍。兩次小戰，嶽飛的勇敢和武藝便得到顯露。
劉浩軍至濬州渡黃河受阻，隻得追隨元帥府人馬北上。這時副元帥宗澤也趕到大名，趙構不納宗澤全力援救開封之言，與汪伯彥等又繼續向東平轉移，隻與宗澤一萬人馬往援開封。嶽飛隨劉浩部隸屬宗澤，這是他初次成為宗澤的部將。宗澤率部眾進軍開德府（今河南濮陽），與金軍十三戰，每戰皆捷。嶽飛英勇奮戰，以軍功遷為修武郎。
靖康二年（1127年）二月，嶽飛隨軍轉戰曹州，他身先士卒，直貫敵陣。宋軍以白刃近戰打敗金軍，追奔數十裏。嶽飛因功遷武翼郎。劉浩的兩千兵馬進駐廣濟軍定陶縣的柏林鎮後，元帥府又命他改隸黃潛善，不再讓宗澤指揮此軍。這時黃潛善掌握著三萬六千人馬，卻隻知保存實力，按兵不動，使隻有二萬五千人的宗澤陷入孤軍奮戰的境地。宗澤雖取得了一些勝利，隊伍卻也有不少損耗，難以傷及金軍元氣。
是年四月，金軍從已被洗劫一空的汴京城撤出，滿載著金帛、珍寶北上，徽宗、欽宗二帝和皇室成員、機要大臣、百工等三千餘人都做了俘虜。北宋就此滅亡，史稱“靖康之恥”。
五月初一，康王趙構在應天府（今河南商丘）即位，是為南宋高宗，改元建炎。趙構雖起用了抗戰派名臣李綱為左相，但仍舊對投降派黃潛善、汪伯彥等人頗為器重。趙構采取黃潛善等避戰南遷的政策，預備南行“巡幸”，欲退避到長安、襄陽、揚州等地。時年25歲的嶽飛得知這個消息，不顧自己官卑職低，披肝瀝膽，向宋高宗趙構“上書數千言”，其略雲：
陛下已登大寶，社稷有主，已足伐敵之謀。而勤王之師日集，彼方謂吾素弱，宜乘其怠擊之。黃潛善、汪伯彥輩不能承聖意恢複，奉車駕日益南，恐不足係中原之望。臣願陛下乘敵穴未固，親率六軍北渡，則將士作氣，中原可複。
然而，他的耿耿丹心隻換得“小臣越職，非所宜言”八字批語，並且被革除軍職、軍籍，逐出軍營。