張敬堯督湘以後，所施行的舉措多半違背民眾意願。湖南省為南北中樞，居民多傾向南方，不願附北，再加上張敬堯作威作福，為民眾所不齒，所以湘人都想將張敬堯攆出湖南。就連湘中紳宦熊希齡也常通電示意，不滿張敬堯。張敬堯卻自恃有段派撐腰，安然坐鎮湖南三年，無人能動他。第三師長吳佩孚久戍湘南，為張敬堯做一南門守吏，大感不值，而且手下士兵屢有歸意，當下吳電告曹錕，請他代為轉達中央，撤防北返。然而政府因南北和議未告成，沒有批準吳的要求。吳佩孚更加煩悶，自然與敬堯常有齟齬，並常常攻擊段派行為。這些言行無非為了撤防計劃。張敬堯忍耐不住，密電政府，保薦張景惠、張宗昌、田樹勳三人，請政府從中挑選一個到湖南接辦湘南防務，同意吳北返。政府不肯依從，並電致曹錕轉慰第三師，讓他們安心戍守，鞏固湘防。
誌大言大的吳佩孚連遭兩次打擊，更不肯低首下心，容忍過去。過了幾天，湘南傳出一篇電文，聲言張敬堯的罪狀，要將他驅逐出境。電文最後的署名共有數軍，第三師也赫然在列。張敬堯偶然翻閱報紙看到此電，又氣又怕，自知兵略不及吳佩孚，湘南一帶幸虧由他守著，自己才安穩地度過三年，假如吳軍撤回，南軍必乘隙進攻，反使自己為難。當下張急電中央，取消吳撤防的原議。政府本來就不願撤回吳佩孚，至此又電致曹錕，讓他代為攔阻吳軍北返。吳與張勢不兩立，恨不得立即北還，於是請曹錕轉達政府，措詞極為懇切，稱：“湘鄂一役，各將士出生入死，傷亡的需要憫恤，勞瘁的也需慰安。據各旅長呈請，有的患咯血，有的患濕疾，悲慘情狀，目不忍睹。今戍期已久，將士們天天望著北還，大有急不能待的情形。”政府接到複電，不得已想了一個變通的辦法，同意駐湘吳軍先撤退三分之一，以後陸續撤還。吳佩孚不同意，認為全部調回與一部分調回，範圍雖有廣狹之分，但總需由他軍接防，何必多費手續。於是，吳再次電達中央，說：“戍卒疲苦，萬難滯留，請準予全部撤回，以慰眾望。”中央不同意，命曹錕阻止。哪知吳佩孚已決意撤防，不等曹錕的命令下來，就已報明開拔日期，全營北返了。盡管湘南民眾竭誠挽留，但終歸無效。
吳佩孚先派參謀王伯相北上，料理駐兵地點。王伯相複電說，舊有營房已被邊防軍占據。吳佩孚不禁大怒，立即電致曹錕，請他促令邊防軍退讓，隨即啟程北上。段祺瑞仇視吳佩孚，說他自由行動，目無中央，責成內閣總理靳雲鵬嚴加黜罰。靳與吳有師生關係，自然袒護吳，靳雖為段派中人，卻與徐樹錚不和。小徐出內閣後，攫得外蒙歸附的功勞，報知老段。老段更加寵愛小徐，常對靳雲鵬道：“樹錚眼光究竟比你遠大。你不要說我受製於樹錚，也不要與他為難，須知我讓他出一風頭，實為儲養人才。我看現在無人能超過樹錚，如果他能做一個偉人，也不枉我一番提拔啊！”靳聽了越加怏怏不樂，從此與老段也有嫌隙。徐總統早就想與靳結好，於是漸漸合成一派。二人本想統一南北，聯合南方人士抵製段係，偏偏和議不成，南方也鬧得雞飛狗跳。於是靳想聯合吳佩孚，作為外援。但段祺瑞資格最老，儼然一太上總統，靳有所動作，必須報告，就是老徐做事，也必到府學胡同中找段祺瑞請教。總統府中秘書吳笈孫每天往返，也跑得很不高興，常有怨言，徐、靳二人又怎能不心存芥蒂呢？
吳佩孚撤防北返，段派歸責靳雲鵬。靳雲鵬打算托病辭職，先去謁見段祺瑞，說病魔纏身無法辦事。段祺瑞冷笑道：“如果真的患病，暫時休養也無不可，但不能說是被排擠才辭職，怨及他人。”靳雲鵬碰了一鼻子灰，起身走了。第二天，靳提出辭職書，投入總統府。徐總統才得到靳的相助，怎麽肯批準？隻批了十天的病假，總理一職暫由海軍總長薩鎮冰代理。才過了幾天，便接到湖南警報，南方譚延闓軍隊趁吳佩孚撤防，攻入湖南，連破耒陽、祁陽、安仁防線，占據衡山、衡陽、寶慶等縣。湘督軍張敬堯無法抵禦，飛書求援。徐總統本不願張敬堯督湘，隻因段派一力助張，隻好令他久任。此次張敬堯的敗報到了北京，徐總統大概看了一下，便令送往府學胡同，聽候老段解決。段祺瑞當然袒護張，決定派本係中的吳光新率部援湘。複議陳入總統府，徐總統又遲延了兩天。張敬堯節節敗退，湘鄉、湘潭、郴州等地先後失守，南軍進逼長沙，張敬堯又不能固守，竟棄城出走嶽州。退到嶽州後，張敬堯不得已據實呈報。徐總統立即下令剝奪張敬堯職銜，派王占元為兩湖巡閱使，吳光新為湖南檢閱使，收複重鎮。然而南軍步步緊逼，非常厲害，軍中又有健將趙恒惕，南軍自是橫厲無前，占據長沙後，又乘勝進攻嶽州。喪師失地的張敬堯一聽南軍進迫，照著老法子，逃之夭夭。嶽州剩了一座空城，被趙軍占去。張敬堯逃入湖北，暫住湖北省魚縣，再次將敗狀呈報中央。於是，徐總統下令，命張敬堯將手下軍隊立即交由兩湖巡閱使王占元接管，並命張敬堯交卸後，迅速來京，聽候查辦。
查辦不過徒有虛名，張敬堯仍羈居湖北，並未赴京。吳光新擔任湖南督軍兼署省長，接管張敬堯後任。去了一個段派又來了一個段派，仍然是換湯不換藥。而且吳光新的戰略不比張敬堯的強到哪裏去，嶽州、長沙怎麽可能驟然規複呢？就是駐湘的北方軍隊，也陸續退出湘省，隻有湘西仍有第十六師混成旅據守。後來益陽、沅江又被南軍攻占，混成旅長馮玉祥守不住，隻好由常桃退至湖北省境內。湘南全省被南軍占領。
第三師師長吳佩孚撤防北返，令部眾暫駐洛陽。隨後吳前往保定謁見曹錕，晤談了好幾次，決定召開保定會議。曹錕雖然名義上為主席，實際上卻是吳佩孚一人主張，曹錕並沒有什麽能耐，不過倚老賣老。曹錕籍隸天津，因在家排行第三，多稱為曹三爺。曹家從事販布生意，曹錕生性魯直，但嗜酒好色。相傳，曹錕販布時，每得餘利，便去換酒買醉，在街頭遇到鄉村少婦，不論美醜，均要調笑一番。往往有頑童跟隨著他，乘隙竊錢，曹即使沒有喝醉也不與之計較。有人勸他警惕一些，曹反而笑道：“他不過貪我微利，我所失甚微，快意卻不少，隨他去吧。”這番言語為他博得一個“曹三傻子”的諢名。所謂庸人多厚福，曹三投入軍伍後，竟得到袁世凱的賞識，說他樸誠忠實，是可用之才，因此年年升官。洪憲時代，曹錕已為第三師長，奉袁令鎮壓雲南叛亂。平亂時，曹錕逗留漢皋，整天擁著名妓花寶寶，沉浸在溫柔鄉裏，並不著急衝鋒陷陣，導致袁氏最終失敗。後來征湘一役，幸虧有吳佩孚替他效力，充作前驅，才得以一往無前，馬到成功。而後吳留駐湘南，曹卻大唱凱歌，回任四省經略使。好在曹也知道吳佩孚是個好幫手，所以竭誠優待，對吳言聽計從。
這次吳佩孚北返，獨倡保定會議，無非想嶄露頭角，竭力與段派抗衡，隻因名義上不便發表，所以他借追悼將士的虛詞，號召各省區師旅長官會集保定。各軍官應召到來，先由八省聯盟代表開一談話會，議定三條辦法：一、擁護靳雲鵬內閣，不反對段祺瑞；二、各省防軍一律撤回原防地，唯獨南軍暫時例外；三、宣布安福派罪狀，通電政府，請求解散安福部。第二天，除原八省外又加入五省，成為十三省同盟。總計長江流域七省，除了湖南，黃河流域六省，加入新疆，都已有軍閥聯合，與吳佩孚通同聲氣。於是，京、保一帶眾說紛紜，安福派驚慌失措，索性造出種種流言，到處散布。徐總統得此謠傳，不禁生疑，暗想直、皖兩派愈爭愈烈，一旦發生政變，於己就太不利了，不如先請一中間人從中和解，或許可以冰釋前嫌。此時，除直、皖兩派外，要算東三省巡閱使張作霖最有勢力，可以與直、皖首領晤談。於是，徐總統發一密電，敦促張作霖入京，調停時局。
張作霖一看密電，兩眼直發光。張一直想染指中原，擴張勢力，現在正好趁機展足。當下張作霖毅然受命，乘車入都，前往總統府報到。徐總統當即接見，談及直、皖兩派衝突情形。張作霖不等徐把話說完，便表示願擔當調停人。此外，張作霖元帥有意替張勳解釋。對此，徐總統支吾應對，無非說是直、皖事情解決，就能替張勳幫忙。於是張作霖欣然退出，立即前往保定。
曹錕聽說張作霖元帥遠道而來，忙派人去迎接。等張作霖到署後，曹錕特設盛宴，為他洗塵，陪坐的就是吳佩孚及各省、區代表。席間由張作霖提出，直、皖應和平解決。曹錕對答數語，都是些模棱兩可的話。唯獨吳佩孚挺身起座道：“佩孚並沒有想要爭戰，隻是現在國事危急，人心震動，外交失敗，內政不修，正是岌岌可危的時候。而那幫安福派卻還是醉生夢死，媚外誤國，隻圖一己私利，不顧全國輿論，抵押國土，喪失國權，引狼入室，為虎作倀。同是炎黃子孫，為何全無心肝到這般地步？試想國已垂亡，家將曷寄；皮且不存，毛將焉附？存亡危急，關係呼吸。我等身為軍人，食國家俸祿，當為國家效力！我部下子弟雖不敢說久經訓練，有勇知方，但大義所在，卻是奮不顧身，力捍社稷，嶽州、長沙往事可證。無論何黨何派，如不知愛國，專尚陰謀，即使佩孚不願過問，隻怕部下義憤填膺，並力除奸，一時也沒辦法阻止。”張作霖聽了，徐徐答道：“吳師長也太性急了，凡事都可磋商，何必暴動兵戈，害及生靈？”曹錕在一旁勸佩孚坐下，從容商議。吳佩孚這才坐下邊飲邊談。盡管張作霖一再勸解，吳佩孚依然無動於衷。散席後，曹、張兩人與各省代表商決調停辦法，一是挽留靳雲鵬總理，二是內閣局部改組，三是撤換王揖唐議和總代表之職，四、五兩條是安插邊防軍與對付西南軍。張作霖剛要開口，吳佩孚從旁插入道：“照此辦法，仍屬迂緩，什麽時候才能永息政爭？就像剜肉補瘡，有何益處？我認為不能從根本上解決問題，終非良策。”張作霖道：“什麽叫作根本解決？”吳佩孚道：“不解散安福部，不撤換王揖唐，不罷免徐樹錚，事情終是難辦。佩孚也誓不承認。”張作霖道：“王揖唐已打算撤換，其餘兩條仍需酌議。”吳佩孚憤然道：“段祺瑞錯就錯在誤信安福部，安福部的黨魁就是徐樹錚。小徐不去，即使解散安福部，也是斬草不除根。”張作霖見他如此執拗，默然不答。曹錕插口道：“夜已深了，明日再議吧！”吳佩孚等人隨即告退，張作霖便在曹經略使署中留宿一晚。