袁紹官渡之戰兵敗逃回到冀州後，陸續平定了各處的叛亂。不久，袁紹發病，死於建安七年（202年）夏五月二十八日。由於袁紹平素有德政，去世之時，河北百姓沒有不悲痛的，市裏巷間揮灑著眼淚，如同失去親人一般。
袁紹一死，就涉及繼承權問題。袁紹有三個兒子，大兒子袁譚、二兒子袁熙、小兒子袁尚，袁紹繼妻劉氏，獨愛幼子袁尚，在袁紹還健在時，常在袁紹麵前誇這個小兒子，而袁尚本身也是相貌堂堂，很受袁紹喜歡，袁紹有心栽培他為繼承人，但眾人欲立長子袁譚為繼承人，逢紀、審配一向因為驕傲奢侈使袁譚反感，辛評、郭圖都同袁譚親近而與審配、逢紀有矛盾，審配等人害怕袁譚繼位以後辛評等人為害自己，就假托袁紹的遺命，擁戴袁尚為繼承人。
袁譚不能繼位，於是自稱車騎將軍，駐屯黎陽。袁尚不給袁譚增兵，並派逢紀跟隨，但之後因審配拒絕袁譚增兵的要求，而令逢紀被殺，二人更生嫌隙。
建安七年（202年），曹操攻打袁譚。袁譚向袁尚求救。袁尚害怕袁譚得到士兵後不還，留審配留守，自領士兵救援。同時派河東太守郭援、並州刺史高幹、南匈奴單於欒提呼廚泉共攻河東，並與關中諸將馬騰等人聯合出兵。曹操派鍾繇對抗，鍾繇派張既勸說馬騰支持。
馬騰成功被說服，並派馬超、龐德救援鍾繇。鍾繇趁郭援渡河時攻擊，大破郭援。龐德更將郭援斬首。南單於見郭援被殺，主動投降。高幹向曹操投降。
建安八年（203年），曹操攻取黎陽，大敗袁尚和袁譚，二人退守鄴城。曹操追擊到鄴城，並收割麥田。此時，曹軍諸將都希望乘勢消滅袁氏殘餘勢力。曹操依從郭嘉之計，撤軍任由袁尚與袁譚自相殘殺。
袁譚對袁尚說：“我方鎧甲不精，所以上次被曹操打敗。眼下曹操撤退，人人想著回家，趁著他們沒有過河，出其不意發兵進攻，可以徹底擊潰曹軍，這個計策不可失去。”袁尚因懷疑而沒有同意，既不給袁譚增派兵力，又不給更換鎧甲。袁譚大怒，郭圖、辛評借此機會對袁譚說：“要將軍的父親把將軍過繼給哥哥做後代的，都是審配用來構陷您的。”袁譚覺得有道理，就率兵攻打袁尚，雙方在外城城門交戰，袁譚戰敗，就率領部隊退回南皮。
別駕王脩率領官吏百姓從青州來援救袁譚，袁譚想回去再攻打袁尚，問王脩：“您有什麽主意？”王脩說：“兄弟好比左右手，假如一個人準備同人格鬥而弄斷自己的右手，說‘我一定勝你’，像這樣行嗎？丟掉兄弟情分而不相親，天下還有誰同他親近？近來有人從中挑撥離間造成爭鬥，用來謀取一時的利益，希望您堵住耳朵不要聽。要是殺掉幾個阿諛奉承的手下，兄弟重新親近和睦，來抵擋四方的敵人，可以橫行天下。”袁譚拒絕；劉表亦寫信給袁譚勸他與袁尚和好，但袁譚仍不接受。
袁譚部下劉詢此時則在漯陰叛變，諸郡響應，唯獨東萊太守管統拋棄妻兒到南皮支持袁譚。之後袁尚大舉進攻，袁譚兵敗退回平原。袁尚圍城，袁譚於是派遣辛毗向曹操求援，但辛毗見曹操時反而建議曹操應以此機會吞並河北，曹操於是派大軍攻袁尚，袁尚立即退兵回救鄴城。此時袁尚部下呂翔、呂曠叛變歸順曹操，袁譚卻暗中刻將軍印綬意圖招降他們二人。
曹操知道袁譚並非一心歸順自己，但為了不讓袁譚再與袁尚聯手，於是讓其子曹整娶袁譚女兒為媳婦以安其心。曹操還封其為青州刺史。
建安九年（204年），袁尚再攻平原，命蘇由、審配守鄴，曹操攻鄴，蘇由欲叛，事敗出逃。曹操破尹楷、沮鵠，韓範、梁岐、張燕投降，皆獲封賞。袁尚得知鄴城危急，率領一萬餘人回救鄴城，命李孚入城通知審配聯合攻擊，但遭曹操迎麵攔截，袁尚被擊敗，逃到漳水彎曲處紮下營寨，曹操又將其包圍，尚未合圍，袁尚害怕，派陰夔、陳琳求降，曹操不答應。袁尚隻好回頭逃奔藍口，曹操再次進兵，很快包圍了袁尚。袁尚的部將馬延等人臨陣投降，部眾徹底潰亂，袁尚逃往中山。
曹操收得袁尚的輜重，獲得袁尚的印綬、符節、斧鈸和衣服物品，拿給城內的人看，城內守軍沮喪崩潰。不久審配的侄兒審榮引兵入城，審配被斬。袁尚命牽招向高幹求援，被拒絕，牽招投降曹操。
這裏，還要交代另外兩位人物的命運。
陳琳，字孔璋，建安七子之一，頗具文采，初為何進主薄，後避難冀州，袁紹讓其掌管典籍文章，曾寫了一篇《討賊檄文》，這篇討賊檄文，把曹操的“惡”描述得淋漓盡致，文筆和刀劍一般，筆筆都寫得激**人心。哪怕不知道曹操的人，讀了也會不由得對曹操心生厭惡。
這篇檄文對曹操的評價，隻是片麵的一小部分，畢竟討賊檄文的目的是討伐敵人，從而用來激昂軍士鬥誌的，自然不會說曹操好話。但已經勝利的曹操對於曾經討伐自己的陳琳卻並沒有“翻舊賬”，隻是開玩笑說：“你曾為袁本初寫檄文，隻管列舉我的罪狀就是了，為什麽還要把我的父親和祖父寫上呢？”陳琳告罪，但曹操知道各為其主、身不由己的道理，便不予追究，後來，他因愛惜陳琳的才華，還命其為司空軍謀祭酒。
然而，同樣是投誠的許攸，就沒有陳琳的好運了。
曹操攻破鄴城後，占領冀州，許攸立有功勞，但許攸自恃功高，屢次輕慢曹操，每次出席，不分場合，直呼曹操小名，說：“阿瞞，沒有我，你得不到冀州。”曹操表麵上雖嘻笑，說：“你說得對啊。”但心裏頗有芥蒂。一次，許攸出鄴城東門，對旁人說：“這家人沒有我，進不得此門。”有人向曹操告發，於是許攸被收押，最終被殺。
曹操在進入鄴城後，還去祭拜了袁紹。
當天下午，曹操大宴群臣，眾人不醉不歸。次日一早，眾人便在曹操的邀請下，來到一代霸主袁紹的墓前，進行祭拜。當然還有一個劉夫人，她是袁紹的妻子，至於甄夫人，她的身份有些微妙，此時已然是曹丕的夫人，曹操的兒媳婦。
得知曹操要去祭拜袁紹，從人很快準備了豬牛羊三牲，這是用“太牢”的規格前來祭祀，畢竟袁紹做過大將軍，最主要的是袁紹曾經是曹操最要好的朋友。
袁紹的墓地在鄴城西郊（今臨漳縣西）部，南麵瀕臨黃河，西麵靠著太行山，依山傍水，顯示出一代霸主曾經有過的廣闊胸襟，盡管袁紹昔日是曹操的對手，不過曹操的心裏對袁紹很敬佩。曹操按照昔日的規格，在袁紹墳上親手栽了一棵柏樹，因為天子墳高三仞、植鬆樹；諸侯半之，栽柏樹。而他向袁紹倒酒的時候，仿佛看到少年袁紹英俊的麵龐，頓時曹操熱淚縱橫。
在祭奠袁紹後不久，曹操下令歸還在戰爭中繳獲的袁紹的財物、奴仆，並用上好的米來賞賜給袁紹遺孀，此外還規定，袁紹家人的開銷，由朝廷專供。並且考慮到戰爭對河北人民造成的巨大創傷，曹操親自下令冀州百姓減免租稅：河北罹袁氏之難，其令無出今年租賦。自此，河北之民無不感念曹操的恩惠。
在曹操包圍鄴城的時候，袁譚背叛曹操，趁機抄掠攻占了甘陵、安平、勃海、河閑，進攻在中山的袁尚。袁尚戰敗，逃到故安投奔袁熙。
建安十年（205年），袁熙部下焦觸、張南叛變，袁熙和袁尚逃到烏桓。
建安十年（205年）正月，曹操興兵進攻南皮，袁譚奮力抵抗，終於在曹操急攻之下戰敗，袁譚披頭散發，死命打馬逃跑，追趕他的虎豹騎士兵料想他不是一般人，加緊追趕。袁譚從馬上掉了下來，回過頭來說：“喂，放我過去，我能夠使你富貴。”話沒說完，頭已落地。這時候曹操殺了郭圖等人，將他們的妻子兒女也殺了。
建安十二年（207年），田疇幫助曹操偷襲柳城，袁熙、袁尚與蹋頓、遼西單於樓班、右北平單於能臣數萬騎在白狼山遇到曹操大軍。曹操大將張遼在白狼山之戰斬殺蹋頓，袁尚又與袁熙帶著幾千親兵投奔遼東的公孫康。
逃到遼東後，袁尚同袁熙商量說：“現在到遼東，公孫康必然見我，我一個人為兄長親手殺了他，並且占領遼東，還可以用來擴大自己。”公孫康心裏也打算捉住袁尚來邀功，就事先在馬棚裏麵安排了精強勇猛的士兵，然後出來邀請袁尚、袁熙。袁熙心中起疑，不想進去，袁尚強迫他進去，袁熙就同他一道進去。還沒來得及坐下，公孫康就喝使伏兵捉住他們，讓二人坐在結冰的地上。袁尚對公孫康說：“沒死的時候，忍受不了寒冷，能給我們坐席嗎？”公孫康說：“你的頭顱馬上就要走萬裏路，要席子幹什麽用！”於是砍下二人的腦袋送給曹操。
自此，曹操經過二十年的南征北戰，從陳留起兵，終於一統北方。