赤壁大戰的失敗是曹操一生最慘痛的失敗，然而，曹操並未一蹶不振，而是快速重振旗鼓，將視線轉移到自身的統治上，對內，他采取了一些措施，在同孫權爭奪淮南、堅守合肥、加強東方防線的同時，也派兵前往西北關中、隴右，爭取控製關西地區，以此鞏固自己的統治。
他要做的第一步是奪取關中，彼時的關中還處於混戰割據的狀態，而對於曹操來說最大的威脅就是馬超和韓遂。
馬超（176—222年），字孟起，扶風茂陵（今陝西省興平市）人，漢伏波將軍馬援的後人，馬騰的兒子，少年成名，曹操曾多次征召馬超入京為官，但都被馬超拒絕。而後馬騰入京被封為衛尉，馬超就統領了馬騰的部隊。
韓遂（？—215年），原名韓約，字文約，涼州金城郡（今甘肅省蘭州市）人。東漢末年軍閥、將領，漢末群雄之一。
韓遂最初聞名於西州，被羌胡叛軍劫持，並推舉為首領，於是以誅殺宦官為名，舉兵十萬叛亂。先後與皇甫嵩、張溫、董卓、孫堅等名將抗衡，引起天下**。後接受朝廷招安，擁兵割據一方長達三十餘年。
韓遂曾與馬騰結為異姓兄弟，後來二人關係破裂。袁紹、曹操相爭之際，馬騰、韓遂被鍾繇說服，依附於曹操。馬騰入京後，其子馬超統領部隊，推舉韓遂為都督，起兵反叛曹操。
曹操深知，馬超、韓遂雖然表麵上臣服於朝廷，實則各懷異心，想割據稱雄。
赤壁之戰後的第二年，也就是建安十四年（209年），韓遂派遣他的心腹閻行出使曹操，曹操給了他優厚的待遇，任命他為益州郡太守。閻行借此機會讓他父親到許都，也就是自願送人質給曹操，表示忠誠，讓曹操放心的意思。回到西北見了韓遂，閻行傳達曹操教令說：“謝文約（韓遂）：你開始起兵獨立，自有迫不得已的原因，這我是知道的。你應當早一點來，我們共同匡輔朝廷。”閻行接著對韓遂說：“我也覺得應該這樣，將軍您興軍已經三十多年，民眾和士兵都已經窮困疲憊，所處的地域又這樣狹小，確實應該早一點歸附。這就是我出使時在鄴城，自請讓老父親到許都去的原因，真覺得將軍也應該派遣一個兒子前去，以表示忠心。”韓遂說：“暫且還可以再等待觀望幾年！”不過，韓遂不久還是派遣了一個兒子，和閻行的父母一起去了許都。
不過，即便如此，曹操還是想徹底消滅馬超和韓遂的勢力。但此二人在名義上還是接受朝廷的封官的，曹操貿然去攻打他們也不是師出有名，曹操也過不了輿論這一關，曹操正在思考如何對付他們。這天，司隸（鍾繇）讓曹操給他三千兵馬，以討伐漢中張魯的名義進入關中，迫使關中諸將送更多的人質，曹操讓尚書令荀彧向了解關中情況的尚書衛覬征求意見。衛覬說：“西方諸位將領，偏安一隅，沒有什麽大誌向爭奪天下，如果國家給予他們豐厚的待遇，他們得到了自己想要的東西，是不會有太大的變故的，如果冒然發兵進入關中，說是討伐張魯，但張魯在深山之中，道路不通，關中諸將必然疑心我們是在征討他們，牽一發而動全身，一旦他受到驚動，關東地區人多勢眾，我們恐怕難以占據優勢。”
這一番話著實給了曹操一番啟發，他從中找到了攻打關中的借口：以征討張魯為由，引誘諸將叛亂，然後師出有名討伐他們。
建安十六年（211年）三月，曹操派司隸校尉鍾繇討伐張魯，令夏侯淵軍前去，與鍾繇會合。
丞相倉曹屬高柔勸曹操說：“大軍西進，韓遂、馬超會疑心我們要進攻他們，一定會互相煽動。應當先平定了三輔，隻需在各地區發下檄文，就可以平定漢中。”曹操不聽，果然如高柔所說，馬超、韓遂、侯選、程銀、楊秋、李堪、張橫、梁興、成宜、馬玩十人起兵叛亂，共有十萬餘人據守潼關。曹操派安西將軍曹仁統率各將領抵抗，讓他們堅守營寨，不要出戰；讓曹丕防守鄴城，奮武將軍程昱協助曹丕處理軍務；任命門下督徐宣為左護軍，統領各部；任命樂安人國淵為丞相府的居府長史，管理留守事務。
七月，曹操親率大軍攻打馬超等人。屬下勸說：“函穀關以西的士兵擅長使用長矛，不挑選精銳的部隊做前鋒，是抵擋不住的。”
曹操說：“我早有安排。他們雖然善用長矛，我會讓他們的長矛無法刺殺。你們就等著看好了。”八月，曹操到達潼關，與馬超相對安營紮寨。
曹操希望馬上控製局勢，暗中派遣徐晃、朱靈率領步兵、騎兵四千人前往黃河以西紮營。閏八月，曹操從潼關向北渡過黃河，大軍先渡，曹操與一百多名勇士斷後。這時馬超率領一萬多名士兵進攻，箭像雨點一樣飛來，曹操仍然坐在折凳上不動。
許褚扶曹操上船，可船上士兵都被箭射傷，死了，許褚左手舉起馬鞍為曹操抵擋亂箭，右手撐船。校尉丁斐把曹軍攜帶的牛馬放出來引誘敵人，馬超的屬下及士兵都爭先恐後去爭搶牛馬。曹軍渡過西河，沿河開鑿甬道，並向南推進。馬超等人退守渭口，也就是渭水流進黃河的入口。
曹操表麵擺出陣仗，暗中卻用船載著士兵進入渭水，修築浮橋，再趁夜另派士兵到渭水南岸紮營。馬超等人連夜進攻，卻遭到伏兵，馬超等人大敗，到渭南駐軍，派使者前去割地求和，曹操不答應。
九月，曹操率大軍渡過渭水。馬超等人屢次挑戰，曹操都不與他們交戰；並一再求和，要割地並送兒子做人質。
賈詡覺得不妨假裝答應，曹操問他下一步怎麽辦，賈詡說：“離間他們。”曹操點頭大笑，曹操與韓遂是舊識，韓遂求見曹操，曹操就答應了。他們騎著馬聊天，聊了很久，說起舊友、往事，相談甚歡。
當時，當地的關中人與胡人都來看熱鬧，很多人前來圍觀，曹操笑著對他們說：“你們來看曹操嗎？曹操也是人，並不是有四隻眼睛兩張嘴的怪物。”過後，馬超等人問韓遂：“你們說了些什麽？”韓遂說：“什麽都沒談。”馬超等人懷疑韓遂。
有一天，曹操給韓遂寄去一封信，並把信圈改塗抹了很多，弄得就像是韓遂改過一樣，馬超人等因此更加懷疑韓遂。
曹操與馬超等人約定日期交戰。曹操先派小部隊挑戰，過後，才派精銳騎兵夾擊，大獲全勝，斬殺了成宜、李堪等。
韓遂、馬超、楊秋三人逃走，將領們問曹操說：“當初，敵軍據守潼關，卻不防守渭水之北的道路。但您不從黃河以東進攻馮翊，反而在潼關附近等了許久才北渡黃河，為什麽？”
曹操說：“敵軍據守潼關，如果我軍進入河東，敵軍反會駐守各處渡口，我軍則無法渡河。我故意派大軍進軍潼關，敵軍也就在那兒集中防守，西河的戒備鬆懈，所以徐晃、朱靈兩位將軍能夠輕易奪取西河。隨後，我再北渡黃河，敵軍無法與我爭奪西河，因為已經有兩位將軍在那裏駐軍了。我聯結車輛，打下木柵，開鑿甬道往南推進，既為備戰，也為示弱。渡過渭水後修築營壘，敵人挑戰而堅守不出，是想麻痹敵人，因為敵軍沒有修築營壘，而隻是請求割地。我答應他們，是為了使他們驕傲輕敵。同時，我們養精蓄銳，一旦進攻，就迅雷不及掩耳。用兵之道，貴在多變。”諸將聽完，個個點頭稱是。
關中各將領紛紛率軍前來支援馬超，曹操很高興。部下將領覺得奇怪，就問他原因，曹操說：“關中地域遼闊，如果他們各自據守關隘險要，我們想征服他們，需要花費一兩年；如今他們自己集中在一起，人數雖多，但相互之間誰也不服誰，軍隊沒有主帥，可以一舉消滅，比分而擊之要容易多了。所以我見他們來，就很高興。”十月，曹操從長安出發，攻打楊秋，包圍安定。楊秋投降，曹操恢複他的爵位，讓他留下來安撫百姓。
曹操想繼續西進，追擊馬超、韓遂，再將割據在涼州的其他勢力一並加以解決，將隴右也控製在自己手上。可出乎意料的是，在河間（今河北獻縣東南）爆發了以田銀、蘇伯為首的農民起義，波及幽州和冀州兩個地方，曹操怕這一戰會導致後防不穩，隨即命張既為京兆尹，讓夏侯淵鎮守長安，自己則率軍東歸。張既用懷柔的政策招集流亡難民重返家鄉、重建家園，很受百姓的擁戴。
建安十七年（212年）七月，為了肅清關中地區的剩下殘餘勢力，曹操派夏侯淵領兵消滅在藍田（今陝西藍田西南）的餘眾，此時，梁興在馮翊一帶聚眾生事，郡守鄭渾一方麵鞏固城防，防止敵人突然入侵，一方麵發動群眾追捕敵人，並且，給予嚴明的賞罰，與吏民建立盟約，同時，運用優厚的條件對敵人進行招撫，瓦解敵人內部。梁興退守鄜城，夏侯淵在此時受曹操命令領兵前往協助鄭渾痛擊敵人，鄭渾率吏民首先登上敵城，斬殺了梁興及其餘黨。
至此，關中地區全部被曹操平定。
此時馬超已經兼並了隴右的所有叛軍，聲勢浩大，引兵包圍了涼州治所冀城。同時，漢中的張魯又派大將楊昂帶領一萬多人援助馬超。
冀城被圍攻八月有餘，夏侯淵因為各地平叛問題，一直無法脫身，也無法馳援冀城。涼州刺史韋康實在扛不住，準備開城投降，楊阜勸說無用，最終還是選擇了獻城投降，馬超進城，直接殺了韋康。
馬超此舉直接激怒了冀城的眾多將領及文臣，馬超留下來的楊阜更是成為了他以後的噩夢。
馬超順利占據冀城後，將韋康的兵馬全部收入囊中，同時兼任並州牧，宣布自己獨掌涼州軍事大權。夏侯淵終於意識到了事態的嚴重性，放下其餘地方，引兵匆忙奔襲冀城。大軍行進至距離冀城二百多裏的地方時，馬超突然引兵殺了出來，夏侯淵戰敗。當他準備重整旗鼓，再次援救冀城時，後方的汧縣氐族又舉兵反叛，夏侯淵就這樣陷入了在戰場中疲於奔命的尷尬境地。
建安十八年（213年）八月，楊阜的妻子病逝，楊阜以此為借口離開冀城。一路上，他積極聯絡各地守軍，他表弟薑敘被成功拉攏。他們派遣說客說服了在冀城的趙衢、尹奉等人，有了內應之後，事情變得順利起來。
趙衢、尹奉勸說馬超，應立即開戰，馬超剛離開冀城，他的家屬就被趙衢、尹奉斬殺，冀城也城門緊閉，徹底切斷了他的退路。
雙方在鹵城展開廝殺，馬超大敗，衝出一條生路，南下投靠漢中的張魯。建安十九年（214年）春天，在漢中休整了一段時間的馬超，憑借張魯的兵力東山再起。他北上直撲祁山堡，將這裏重重包圍。事態緊急，薑敘連忙向夏侯淵求援。
夏侯淵再度出手，為了防止像上一次那樣被馬超突襲，夏侯淵開始分兵推進戰線。
張郃統領五千騎兵，沿渭水行進，作為前鋒；夏侯淵緊隨其後，督運糧草，作為後軍。果不其然，大軍剛行進至渭水河口，馬超便帶領幾千名氐羌士兵前來攔截。
不過，也許是馬超意識到了夏侯淵未在軍中，害怕被夏侯淵突襲，兩軍並未交戰，馬超果斷引兵撤退。
張郃乘勝追擊，收複這些氐羌族士兵，收獲了不少的軍用物資。等到夏侯淵趕到祁山一帶時，危機已經解除。可是馬騰、韓遂這兩人始終是這塊地方上的毒瘤，不解決始終是個問題。
夏侯淵下令留下一部人馬看守糧草器械，自己帶領輕兵突襲長離，他順利奇襲長離，燒毀羌人居住的村子，斬殺了不少當地的羌人。
夏侯淵的主動進攻，迅速聯動了整個戰場。在興國的韓遂此時無法再淡然了，因為他的部下有很多是羌族士兵，他們聽聞自己的族人被夏侯淵斬殺也無心再待在軍營中，紛紛離開韓遂大營，回救羌族老鄉。
韓遂無奈，隻能帶領大軍共同奔赴長離救援，夏侯淵身邊部將看到韓遂帳下密密麻麻的大軍，馬上向夏侯淵請示安營紮寨、挖掘壕溝，以圖再戰。夏侯淵下令擂鼓迎戰，猛衝韓遂陣營，突入韓遂中軍，奪取了韓遂的指揮旗，大敗韓遂，韓遂退往羌中，夏侯淵繼續拿下興國、高平、屠各。
十月，曹操派夏侯淵趁勢**平整個涼州，將涼州徹底控製在手中。此時涼州一帶的割據勢力僅剩下了枹罕的宋建。宋建在黃巾起義之後，趁勢在涼州作亂，霸占枹罕三十多年，是當之無愧的土皇帝。夏侯淵攻城一個多月，拿下枹罕，結束了涼州最後一位土霸王的統治。
至此，曹操用了不到四年的時間，將關西地區的敵對勢力一個個消滅了，這也是他統一西北地區的重大勝利。