和尚原慘敗，金軍非常不甘心，他們一心想著複仇。為此，紹興二年（1132年）底，金陝西經略使完顏杲率軍十餘萬，繼續在川陝向南宋大舉進攻，為了進展順利，金軍繞開和尚原，企圖從宋軍防守薄弱的饒鳳關（今陝西石泉西北）入川。饒鳳關是連接秦楚蜀的道路，東南有一百多裏，人煙稀少，但它是入陝的重要關口之一，地理位置十分重要。

十二月，金軍攻破商州（今陝西商縣）。次年正月初九，金兵為了迷惑金州守兵，聲稱要攻取漢陰，守將王彥果然中計，分兵據守漢陰周圍要塞，金兵因此乘隙攻陷金州（今陝西安康）。宋知興元府（今陝西漢中）劉子羽聞金州失陷，估計金兵要攻擊饒鳳關，急派統製官田晟率兵扼守饒鳳關，以阻金軍來路，並向吳玠緊急求援。此時的吳玠已經兼任川陝宣撫處置使司都統製，接到消息後，吳玠當即率兩千精騎自河池（今甘肅徽縣）日夜兼程300裏趕在金兵之前到達饒鳳關。

到了饒鳳關，吳玠顧不上休息，一麵緊急籌劃城防，一麵派人給金軍主帥完顏杲送去一顆黃柑，附語：“大軍遠來，聊逢止渴。今日決戰，各忠所事。”本來已經準備進攻饒鳳關的完顏杲大驚，叫道：“吳玠，你怎麽來得這麽快啊（爾來何速耶）！”完顏杲以為吳玠做了準備，遲遲不敢進攻，吳玠乘機抽調人馬，增援饒鳳關。

紹興三年（1133年）二月初五，完顏杲終於下定決心進攻饒鳳關，金軍人披重甲，開始登山攻關。此時，宋軍早已做好了充分準備。吳玠令所部及前來增援的洋州（今陝西洋縣）義士與王彥所率領的八字軍三萬餘人，憑借險要地勢，以強弓勁弩，輪番發射，頑強堅守六晝夜，金軍傷亡慘重，被迫停止攻擊。到了十一日，吳玠的部下居然出了個叛徒，有個因為怯戰險些被吳玠殺了的小軍校溜出饒鳳關投降了金兵，並乘夜引導部分金軍自蟬溪嶺繞到饒鳳關後偷襲宋軍郭仲荀部，攻破了郭仲荀的大營，然後居高臨下進攻饒鳳關，同時完顏杲率金軍從正麵進攻。宋軍腹背受敵，紛紛潰逃，吳玠用刀砍了幾個最先逃跑的士兵，想組織宋軍反擊，但宋軍潰逃太多，吳玠無奈，隻得撤退，收餘部退守西縣（今陝西勉縣西），而王彥則率軍奔達州（今四川達縣市）。十三日，興元府被金軍攻破。劉子羽在撤退時放火焚城，率餘部退至三泉（今陝西寧強西北）。興元府隻剩下一片廢墟，金軍什麽便宜也沒占到。

金軍雖然取得了一定的勝利，但由於所帶糧草不多，而當地人民也積極配合宋軍堅壁清野，使得金軍糧食供應非常緊張，時間一長，他們不得不開始殺馬充饑。不久，軍中又爆發瘟疫，大量士兵相繼死去，金主帥完顏杲終於待不下去了，決定撤退。這一切都在吳玠預料之中，於是他回師河池，準備斷金軍的歸路。果然，四月初，在金軍北撤的時候，吳玠乘機派兵於武休關（今陝西留壩東南）襲擊金軍後隊，金軍不備，被斬及墜澗死者數千人，殘餘部隊丟棄所獲輜重而去。金軍撤退到和尚原後，當地守將吳璘和增援的楊從義率軍又重挫金軍，並不斷掩殺金兵。這下，完顏杲再也沒有攻打和尚原的心思了。隨後宋軍一路強殺奪回了漢中和金州。此時吳玠因功進檢校少保。

饒鳳關之戰後，吳玠認為和尚原距離四川太遠，為保守仙人關（今甘肅省徽縣東南），收縮兵力全力防守，遂主動放棄和尚原等營寨，移師駐守仙人關，在關右側築壘，稱“殺金坪”，並在地勢險要處築隘，設置第二道防線，嚴陣以待；而其弟吳璘則領軍駐守於不遠處的七方關（今康縣東北），隨時待援。仙人關西臨嘉陵江，南接略陽北界，北有虞關緊接鐵山棧道，是關中、天水進入漢中的要地，也是由陝入川的重要咽喉。

紹興四年（1134年）二月，經過短暫的準備，金軍大舉入侵南宋，由金軍主帥金兀術率領金和偽齊十萬人馬，分三路進犯，攻破和尚原，轉趨仙人關。金軍意在一舉攻占仙人關，打開進入蜀川的大門，占領蜀川，進而沿長江東下消滅南宋王朝，入主中原。金軍從鐵山（今徽縣南，亦名青泥嶺）開始鑿山開道，循嶺東下，向仙人關而來，吳玠兄弟率軍據險死守。

三月，金兵開始進犯仙人關，吳玠首先率萬餘人迎擊金兵。與此同時，其弟吳璘也由七方關晝夜兼程來援，在路上遇到金兵，轉戰七晝夜後才與吳玠會合。金兵進攻越加猛烈，但都被吳玠兄弟一一擊退。金兵改用雲梯攻壘，吳玠派楊政指揮刀槍手阻擊，並撞碎金兵的雲梯，以阻擊金軍攻壘，又令士兵持長矛刺殺敵人。吳璘見戰鬥愈來愈激烈，形勢非常緊張，為鼓舞士氣，他用刀在地上畫了一道線，對將士們說：“我與你們一道堅守此地，決不後退，若誰後退，定斬不饒！”於是他身先士卒，全力擊殺敵人，大大激發了將士們的勇氣，個個奮勇當先。金兵見正麵攻不下宋軍堡壘，就將大軍分為兩隊從東西兩麵夾擊宋軍。吳玠指揮宋軍左擋右阻，與金兵苦戰，由於連連激戰，加上人數對比處於劣勢，宋軍將士顯露疲態，於是吳玠主動放棄第一道防線，退守第二道防線。金兵步步緊逼，連續急攻，金兀術還令士兵披重鎧兩層，用鐵鉤相連，魚貫而上。吳玠與其弟督軍死戰，以勁弓強弩大量殺傷金軍，金兵屍骸枕藉，仍然冒死進攻。

堅持到第三天，金兵筋疲力盡，吳玠乘機反擊，反擊奏效後，他又乘勢擴大戰果，派張彥等將劫橫山寨，殺敵千餘人，又命王俊於河池設伏兵，再敗金軍。金軍被迫退回鳳翔府。

當晚，吳玠在四麵山上燃起熊熊烈火，將整個山嶺、溝穀照得燈火通明，並令士兵將戰鼓敲得驚天動地；同時派王喜、王武諸將率精兵銳卒，持長刀、大斧，分紫、白二色旗幟，猝然殺入金兵大營。一時間，金軍陣腳大亂，潰不成軍，金將韓常被亂箭射傷左眼，僥幸逃脫。金兀術看招架不住，領殘兵連夜逃走。此前，吳玠已遣統製張彥在橫山截擊金兵，又令統製王俊領一支人馬埋伏於河池，扼住金兵退路。金兵敗退的時候又遇張彥、王俊截擊，慘敗，死傷無數。金兀術率殘部退回鳳翔分兵屯田，作長久打算，數年間不敢輕易攻打入蜀門戶仙人關。至此，金軍南下的企圖徹底破滅。

吳氏兄弟因屢敗金軍，聲威大震，名揚隴蜀，朝廷下詔拜吳玠為檢校少師，任命他為川陝宣撫使，領二鎮（奉寧、保靜）節度使。

紹興五年（1135年）十二月，南宋進行軍製改革，設行營護軍以統主力部隊，吳玠所部由地方軍“四川宣撫司軍”首次被編為朝廷直屬的主力部隊，編為行營右護軍，右護軍成為南宋的西北長城。此後，川陝邊境宋金雙方大體都以守為主，相對平靜。

吳玠與敵對壘數年，為減輕民眾負擔，幾次淘汰冗員，緊縮開支，實行屯田，開發水利，發展當地的農業生產。因此，他深得隴蜀人民的敬佩和擁戴。

紹興九年（1139年），宋高宗以吳玠功高，授開府儀同三司，晉升為四川宣撫使。不久吳玠病重，卒於仙人關，年僅47歲。宋高宗贈吳玠少師，錢三十萬，後諡武安。宋孝宗淳熙三年（1176年），追封吳玠為涪王。