吳佩孚提出撤換懲辦曹鍈的要求讓曹錕很為難。礙於手足之情，曹錕僅免去曹鍈二十六師師長職務，委張國熔繼任。吳佩孚見內部一切準備妥當，立即分遣軍隊，向北前進。這時，直方的軍隊有王承斌所轄的二十三師，原駐保定附近；張國熔的二十六師，回駐馬廠南麵；張福來的二十四師，在四月中開駐涿州；第十、第十五兩混成旅和第二、第三兩補充團駐紮琉璃河附近；其餘如第三師和第十二、第十三、第十四三混成旅都奉調北上，進駐涿州、良鄉、清河等處。馮玉祥這方麵，包括馮玉祥統轄的第十一師、胡景翼的暫編十一師、吳心田的第七師、劉鎮華的鎮嵩軍、張之江的第二十二混成旅、張錫元的一旅、陝西陸軍第一、第二兩混成旅，都已出潼關進駐鄭州一帶，軍勢浩大。前衛哨兵和奉軍愈接愈近，大有一觸即發之勢。吳佩孚坐鎮保定，指揮調度，十分從容。一天，正在研究軍情，忽然接到張作霖四月十九日發出的一通電報：
……統一無期，則國家永無寧日，障礙不去，則統一終屬無期。因而作霖簡率師徒，入關屯駐，期以武力為統一之後盾。凡有害民病國，結黨營私，亂政幹紀，剽劫國帑者，均視為統一和平之障礙物，願即執殳先驅，與眾共棄……吳佩孚見了這份電報，笑道：“張賊想以武力統一中國，真是自不量力。自古說‘兵凶戰危’，照他這樣好武黷兵，豈有不敗之理？”於是吩咐秘書白堅武：“咱們不必理會他，那天直隸省議會不是也有一份電報嗎？你隻要做一份回答省議會的電報，表明我們的態度就可以了！”又對參謀道：“咱們的軍隊，已差不多調齊了，應該趕緊決戰才是。我想另外擬一份電稿，拍給江蘇、江西、湖北、山東、河南、陝西各督軍和玉祥，叫他們跟我聯名發一個通電，催張作霖立刻和我們決戰，你看妥不妥？”參謀、秘書唯唯照辦。
這時，直軍已集結有十二萬人，吳佩孚決定以洛陽為根據地，大隊集中鄭州，分三路進軍：第一路沿京漢路向保定前進，迎擊長辛店一路的奉軍，以京、津為目的地；第二路側重隴海路，聯絡江蘇的兵力，以防止安徽馬聯甲的舊部和浙江盧永祥的襲擊，另外分出一支軍隊沿津浦路北上，和東路張國熔聯絡，攻擊奉軍的根據地；第三路是馮玉祥的部隊和陝軍，集中鄭州、洛陽一帶，堅守根據地，兼為各方援兵。
調度完畢後，忽然接得間諜報告，說：“奉軍因戰線太長，已改變戰略。大隊集中軍糧城，總司令部設於河北落垡，總司令由張作霖自己兼任，副總司令是孫烈臣。東路軍分為三個梯隊，從京奉、津浦一帶向靜海前進，永定河一帶還有很多援軍，據說有五個補充旅、九個混成旅。總計兵力有十二萬五千人，都打著鎮威軍的旗號，向南方前進。”吳佩孚見奉軍已改變戰略，不得不將直軍的布置略為調整。
奉、直戰事愈迫愈緊，全國大部分地區都焦急萬分，其中最著急的要算河南、河北數千萬百姓。他們因禁不住軍隊的攪擾和摧殘，而奔走呼號，求免戰亂之苦。此外便是大總統徐世昌，因關係到自己的地位，倒也確實有些著急。還有各國公使，唯恐戰事影響治安，累及外國人，接連向外交部遞了三個警告書。於是，徐世昌迫於內外壓力，下了一道命令，命張作霖、吳佩孚二人立刻移調軍隊。
民國六年以後，曆任總統的命令都走不出都門。現在奉、直雙方兵連禍結之時，一紙空言能有什麽效力？盡管這時奉、直成為敵人，但痛惡徐世昌的心卻不謀而合，奉方想擁出段祺瑞，直方想捧起黎元洪。各有各的計劃，誰還顧及到徐大總統？
徐總統的命令下達後的第二天，兩軍非但沒有撤退，反而愈加接近。同時，張作霖宣戰的電報也到了各省。第三天夜裏，西路便在長辛店開火了，接著東路馬廠、中路固安也都發生激戰。吳佩孚見戰事重心在西路，便親赴長辛店督戰。前敵指揮董政國見總司令親自到來，進攻格外猛烈，士兵氣勢也倍覺勇猛。奉軍張景惠見直軍奮勇直撲，傳令炮兵隊用排炮掃射，卻沒料到吳佩孚早有準備，令軍士們都埋伏在樹林中。那炮火雖然猛烈，卻對直軍沒有造成太大的損害。雙方鏖戰了一天一夜，奉軍把所有的炮彈都放完了，後方接濟又沒有到，炮火突然稀少起來。吳佩孚向董政國道：“敵方炮火已盡，我們不乘此機會進攻，更待何時？”董政國得令，當下命掌號兵吹起衝鋒號來。直軍奮勇而進，奉軍死命抵敵，雙方又戰了好久。戰到後麵，奉軍越來越抵抗不住，而且兵心也散亂下來。直軍見敵軍陣線將破，更加奮勇，奉軍正要退卻，梁朝棟帶的大隊援軍趕到，奉軍聲勢頓壯。梁朝棟命兵士用機關槍向直軍掃射，直軍傷亡慘重，吳佩孚傳令立即撤退。奉軍乘勢一直追到良鄉附近，直把直軍逼進城中。
奉軍想過去抄擊，不料剛到城邊，便踩中直軍事先埋好的地雷，當場炸死幾百人。張景惠慌忙傳令，退回長辛店。吳佩孚見奉軍退去，援軍又趕到，便立即傳令進攻，誰知奉軍大隊援軍卻先從側麵攻擊過來。吳佩孚見狀對董政國道：“敵軍氣勢正盛，炮火又猛，我們先暫時退回良鄉，再設計破他吧！”董政國雖然沒明白什麽意思，但軍令所在，自然遵令而退，改攻為守。張景惠乘勢進逼，吳佩孚又傳令退軍涿州。
這時恰好王承斌從中路趕到，王承斌是西路司令，由於吳督軍西路，所以王兼管中路，聽說西路屢退，連夜趕來。吳佩孚見了王承斌，笑道：“我軍正待勝敵，你來幹什麽？”王承斌怔了一怔，不覺笑道：“特來慶賀。”吳佩孚握著王承斌的手，大笑道：“你以為我何故屢退？因為我已探悉敵軍的軍實彈械都在三家店，所以詐退誘敵，然後分兵去三家店，焚燒他的輜重，使他救應不及。我們再從正麵向前急攻，豈有不能破敵之理？你來得正好，可代我擋住正麵，我這就領兵去破三家店！”頓時，王承斌對吳佩孚的戰略佩服得五體投地。
張景惠見直軍屢次退敗，涿州必然旦夕可下，於是進攻得十分猛烈。王承斌本是直方一員戰將，自然竭力抵抗，不讓奉軍得一點兒便宜。支撐了兩天，忽然見奉軍急忙退兵，王承斌知道吳佩孚攻擊三家店已經得手，張景惠要回去救援，便傳令追擊。奉軍支持不住，隻好退回長辛店。王承斌克複良鄉，正要繼續進逼，忽然見北麵遠遠有一軍隊到來，頓時十分驚訝，連忙派人偵察。得知是吳總司令的軍隊從三家店回來，不覺十分驚疑。兩人見了麵，王承斌忙詢問三家店的事情，吳佩孚道：“我軍已圍住三家店，正要攻下，卻不防敵軍第二十七師全部從豐台開來，我軍兩麵受敵，損失不少呀！還好良鄉已經克複，我軍正好乘戰勝之威，分三路進攻，以防敵軍夾擊。”商議已定，當下董政國率領本部，為左翼進攻三家店；王承斌為右翼，進攻豐台；佩孚擔任中鋒，進攻長辛店。
這時，張景惠率領一師扼守長辛店，忽然遇到吳佩孚親自督兵進攻，便和梁朝棟、鄒芬奮勇抵抗。梁朝棟奮不顧身，指揮兵士衝擊，想不到炮火無情，忽然一顆子彈飛來，穿進他的前胸。隻聽梁朝棟“哎喲！”一聲，栽倒在地。主將一死，隊伍自亂。吳佩孚乘勢衝鋒，奉軍紛紛潰退。張景惠遏止不住，隻得拍馬而逃。鄒芬還想死戰，不料左腿中了一彈，負傷逃走了。直軍大獲全勝，占領了長辛店。張景惠退到盧溝橋紮營，查點將士，梁朝棟已死，鄒芬受傷，士兵們死傷更是多不勝數。張景惠不禁異常激憤，又抽調了幾旅援軍，誓死奪回長辛店。真是一人拚死，萬夫莫當，一場惡戰，果然把直軍擊退，收複了長辛店。吳佩孚被迫後退幾十裏路，到大灰場駐紮。當下，他想抽調援軍，卻探悉左翼還在相持之中，無法抽調，但若從別處調兵，又擔心遠水救不了近火。正在徘徊時，忽然士兵進來報告說，馮玉祥率領本部隊伍到來，吳佩孚不禁大喜。馮玉祥見了佩孚，問及戰事情形，吳佩孚說了一遍，馮玉祥沉吟了一會兒道：“敵軍驍勇，隻能用抄襲的辦法才能獲勝。如果敵軍來攻，請總司令在對麵抵抗，我率領本部從側麵抄過去夾擊，這樣可好？”吳佩孚大喜道：“如果用抄襲之計，最好從榆垡過去，可惜那裏的地勢我還不怎麽熟悉。不如你替我在這裏應付一切，我到榆垡察看形勢，再作計議。”馮玉祥點頭同意。不久，吳佩孚從榆垡回來對馮玉祥道：“榆垡地勢不錯，如由此渡河包圍奉軍，必勝無疑。隻可惜王承斌已被我派去援助中路張福來，一時調不回來，而且奉軍炮火太猛，我軍進攻也很不容易，不知玉祥可有萬全之策？”
吳佩孚向馮玉祥問破敵之計，馮玉祥想了想，道：“奉軍炮火雖猛，但不能持久，我們不妨設計誘殲。可令我帶來的老弱殘兵為先鋒，敵人見了必然輕進，等他們身入重地，炮彈不繼，然後請大帥抄到他們背後去，那時敵人前後不能救應，必然大敗。我們乘勢進攻，就可以奪回長辛了。”吳佩孚稱好，當下依計行事。兩軍交戰，奉軍見直軍人少，戰鬥力弱，果然仗著炮火之威，拚命前進，一點兒不設防備。直軍邊戰邊退，退了好幾十裏。這邊吳佩孚已抄到奉軍背後，與馮玉祥前後夾攻，奉軍大敗，急急衝出重圍，逃奔豐台。吳佩孚剛克複了長辛店，不想張作霖又加派了幾旅救兵，讓張景惠重奪長辛。吳佩孚奮勇抵禦，一日之間屢進屢退，長辛店得而複失九次，最終因吳、馮二人都是武勇絕倫的大將，張景惠抵擋不住再次敗退。此時，奉軍中路也遭遇失敗，許蘭洲陣亡，張作相雖然善戰，但終究不是王承斌、張福來的敵手，節節敗退。奉軍西路受牽動，不能再戰。張景惠率領本部第一師和第二十八師退往南苑，卻被駐京的直軍一、九兩師擊潰。
奉軍東路，開始時屢次得利，連占大城、青縣、霸縣等處，無奈因張學良受傷，不能猛進，等到西路失敗的消息傳來後，士無鬥誌，全部潰散。李景林隻得率領全軍兩萬餘人退保良王莊、獨流等處。不料直軍進占落垡，乘勢猛攻，李景林支持不住，隻得撤退。中途又遭遇直軍李景林軍炮火截擊，損失慘重，等到退回山海關時已所剩無幾。張作霖見戰事一敗塗地，隻得把司令部移到灤州，以圖再舉。與此同時，一麵收拾殘軍，一麵補充軍實。
吳佩孚探知消息，隨即也集中兵力，進行了一番布置。吳佩孚的前鋒和奉軍稍稍接觸了幾次，場場勝利，灤州附近的地方占領了不少。與此同時，吳佩孚命令海軍總司令杜錫珪截擊奉軍的歸路。杜錫珪原本沒打算助吳，後因薩鎮冰南下，說服蔣拯北上討奉。蔣拯欣然答應，於是海軍加入了直方。
張作霖戰敗以前，知道徐世昌屈於直軍武力之下，對自己沒有好處，已通電獨立，東三省政事由東三省人民自主，不受政府節製，與長江及西南各省一致行動，同時暗地聯絡河南趙倜、趙傑兄弟，慫恿他們獨立。趙倜因河南的直軍太多，怕畫虎不成反類犬，一時不敢輕動，但又怕將來直軍戰敗，對不住奉方。左思右想，隻得宣告中立，以免得罪任何一方。不料，就在宣告中立的那一天，奉軍敗退軍糧城。趙倜頓覺十分懊悔，擔心吳佩孚要和自己過不去，正左右兩難時，忽然接到報告說中央查辦奉、直戰爭罪魁的命令已下。趙倜不知查辦的是些什麽人，急忙細瞧，共有兩道命令：第一道是敕令奉軍出關；第二道命令才是查辦罪魁，葉恭綽、梁士詒、張弧等人被奪職，勳位、勳章也一並被剝奪，並交由法庭依法訊辦。
趙倜看完，歎息道：“事無曲直，兵敗即罪，葉、梁等都是奉方的人，假如直方戰敗，這些人恐怕都是功臣了。”話雖然這麽說，他心裏卻在盤算著如何與直派聯絡。因擔心趙傑不知進退，做出什麽不可挽回的意外舉動，趙倜急忙拍了個電報給趙傑，令他不要輕舉妄動。然而，趙傑在前一天已經闖下了一場大禍。原來，靳雲鶚的軍隊駐紮鄭州，因直、奉大戰，形勢吃緊，所以開拔北上助戰。沒料到，剛到和尚橋便遇著趙傑的軍隊，靳雲鶚毫無準備，慌忙應戰，抵抗了一陣，便敗退待援。等到趙倜電報到時，已經來不及了。靳雲鶚退至武勝關後，立即電告曹錕、吳佩孚以及直係各督軍，請求支援。吳佩孚見了這電報，便批交馮玉祥辦理。田中玉、陳光遠、張文生、齊燮元等人分別致電馮玉祥和趙倜，願意出麵調停。馮玉祥知道趙氏兄弟已被奉方收買，因而不肯善罷甘休，他一麵請趙倜製止趙傑進攻，一麵派兵援救靳雲鶚。趙倜見事已決裂，便和左右商議道：“馮玉祥如果真心調停，就不該派兵前來，顯然他已不放心我了。要是由他削平老二，我的勢力不就更薄弱了嗎？到了那個時候，他必然會大舉攻我。眼下不如乘他不備，暗地在半路襲擊，打他個措手不及，總比坐以待斃好。”左右都慫恿他用武力解決。於是，趙倜派兵埋伏在中牟附近，專等馮玉祥的軍隊到來。馮玉祥一麵派兵前進；一麵另派精銳，繞出中牟，以備萬一。趙軍一見馮軍便槍炮齊發，不防馮軍的別動隊從後包抄過來，兩麵夾攻，趙軍抵擋不住，敗回開封。這時，曹錕、吳佩孚還不知道趙倜攻擊馮軍的事情，所以在電呈徐世昌的時候，隻談及趙傑攻打鄭州的事情。徐世昌在直軍全權支配下，自然下了一道“削奪趙傑官職，依法訊辦”的命令。
命令才剛發出，趙倜截擊馮玉祥的報告又到了，徐世昌隻好下令查辦趙倜，改任馮玉祥為河南督軍，陝西督軍一缺由劉鎮華兼署。與此同時，又頒布了一道查辦張作霖的命令，將其蒙疆經略使、東三省巡閱使等職銜一律裁撤。調任吳俊升為奉天督軍，馮德麟為黑龍江督軍，袁金鎧為奉天省長，史紀常為黑龍江省長。河南方麵，趙倜、趙傑毫無抵抗之力，自然是逃之夭夭。
張作霖雖然戰敗，但在東三省的實力並未消減。徐世昌總統的命令頒布不到一天，東三省的省議會、商會、農會、工會等團體領袖為了巴結張作霖，立刻發電，否認張作霖免職命令。吳俊升、馮德麟、袁金鎧、史紀常等自然也通電否認。張作霖在灤州方麵，因前鋒屢次戰敗，海軍又圖謀襲擊後方，所以不敢逗留，支撐了幾天便退出灤州。直軍乘勢占領古冶、開平、窪爾裏等處。此時，吳佩孚的目光已從軍事轉移到政治上麵，所以沒有再大舉進攻了。
起初，曹錕想請王士珍出來組閣，於是聯絡吳佩孚、田中玉、陳光遠、李厚基、齊燮元、馮玉祥等人，一齊請王士珍出山，收拾時局。王士珍鑒於時局糾紛並未完全解決，吳佩孚又有別種用意，辭謝不同意。吳佩孚和左右商議，決定擁護黎元洪出山，以恢複法統為名來號召天下。舊參議院議長王家襄、眾議院議長吳景濂，見國會有複活的希望，自然歡喜。他們在吳佩孚門下已經活動很久了，此時見吳佩孚要恢複法統，王家襄便竭力攛掇道：“南北分裂，實起於法統問題，大帥主張恢複法統，實是謀國的妙計。國會恢複，黎元洪複職，南方護法的目的已達到，當然情願歸命中央。那時統一中國的首功，除了大帥，還能是誰？美國華盛頓的功勞也不過如此而已。”吳景濂道：“大帥在戰前就想奉黎元洪複位，但由於外交團的反對，大帥才沒有實行。現在，奉軍已一敗塗地，中央的事情，隻要大帥一開口，誰還敢說半個‘不’字？何況恢複法統，原是為國為民，並不是為自己謀利益，國民正求之不得呢！大帥如果肯做這樣的義舉，全國人民竭力擁護還來不及，誰還反對呀？”吳佩孚道：“我早已想過，恢複法統有兩件事最重要，一是恢複國會，一是請黎元洪複職。隻不知先做哪件才好。”吳景濂道：“不用說，自然要先恢複國會。總統是由國會產生的，不恢複國會，總統便沒根據了。”吳佩孚道：“這件事，我已示意長江上遊總司令孫傳芳，請他做個發起人。他已拍過一次通電，你們見過沒有？”王家襄道：“這事是吳議長向我說的，卻不曾見過原電。”吳佩孚便把孫傳芳的原電找出來，遞給王家襄，隻見電文中寫道：
鞏固民國，宜先統一，南北統一之破裂，既以法律問題為厲階，而要想統一，即當以恢複法統為捷徑。應請黎元洪複位，召集六年舊國會，速製憲典，共選副座。非常政府，原由護法而興，法統既複，異幟可消。倘有擾亂之徒，應在共棄之列。
王家襄看完電文道：“這也奇怪，傳芳這電報說得很切實，為什麽竟一點兒響應也沒有？”吳佩孚道：“這也沒什麽好奇怪的。你想，我們內部自己都沒決定確實可行的辦法，怎麽會有人注意？既然你們兩位都讚成先恢複國會，等我稟明老帥，和各省督軍聯名發一個通電，征求國民對於恢複國會的意見就是了。”吳景濂笑道：“這是好事，誰不讚成？何必征求別人的意見。”吳佩孚道：“話雖這麽說，但總不能不這樣做。而且我主張發電時，還不能單說恢複國會，必須要夾在召集新國會和國民會議聯省自治兩大問題裏一起說，這才不落痕跡。”隨後王家襄、吳景濂都唯唯稱是。隨後王家襄又道：“北方的事情總算告一段落了，南方的事情，也需注意才好。聽說廣東政府已下令，令李烈鈞攻贛，大帥也該電飭老陳加緊準備才好。”吳佩孚道：“不要緊，南方政府免了陳炯明的職，陳炯明難道會就此罷手嗎？你看著，用不了多久，廣東必然發生內爭。那時，對內就夠他們忙的了，他們還能打江西嗎？”吳景濂答道：“大帥料敵如神，當然不會有錯，我們哪裏預見得到呢？”王家襄忙道：“你我要是能預見到此，雖不能和大帥一般威震四海，也不致默默無聞了。”說得吳佩孚哈哈大笑。吳景濂、王家襄退出去後，二人商議道：“大帥不肯單提恢複國會，恐怕將來還會有變卦，我們必須趕緊設法才好。”兩人決定先去見曹錕，請他先準議員自行集會。曹錕問吳景濂，吳佩孚的意見怎樣。吳景濂道：“吳大帥非常讚成，不過要我們先稟明老帥，老帥不答應，他是不敢叫我們做的。”曹錕聽了這話，歡喜道：“他就是我，我就是他，我倆原是不分彼此的。既然他這樣說，你們隻管先去集會便是，何必再來問我。”吳景濂、王家襄兩人得了這兩句話，十分歡喜，便又一起去見吳佩孚，說老帥令他們先行集會。