戰亂頻繁，給人民造成的直接後果就是民不聊生，山東、河北地區本來就已發展到百萬之眾的青州黃巾軍和河北黑山軍，更是迅猛地發展起來。
191年秋，以於毒、五鹿、李大目、白繞、眭固等為首的黑山農民軍，開始以迅雷之勢，向冀州的中心地帶鄴城推進，並隨時可能渡過黃河進攻兗州，而同時，青州的黃巾軍渡黃河向北，兩支軍隊的人數可達百萬，一旦順利會師，將會對整個黃河流域乃至中華大地的政治局勢起到決定性的影響，此時，各地的豪強們也放下了內部矛盾，開始聯合抗擊農民軍。
麵對這種情況，袁紹產生了兩種想法：一是要用圍追堵截的方式來阻止兩支農民軍會師，但同時又想利用這一時機將自己的勢力擴充到兗州，讓青、兗、冀三州形成三角陣勢，進而全麵掌控整個黃河中下遊地區。
初平三年（192年），黑山軍攻打兗州。兗州太守王肱憑城力戰，卻難以抵擋，棄城而逃。黑山軍人多勢眾，攻勢淩厲，對冀州形成了威脅。曹操意識到機會來了，向袁紹提出親自帶兵平叛，以此掃除威脅冀州的隱患。而袁紹剛坐上冀州牧的位子，一來害怕黑山軍和黃巾軍襲擾冀州，二來想借勢在鄰居家按上一個釘子。兩人各懷目的，一拍即合，曹操順理成章地可以在黃河南岸大展拳腳了。
曹操率領曹仁、曹洪、夏侯惇、夏侯淵等人，進駐兗州東郡。很快，黑山軍白繞部攻占郡治濮陽，曹操利用地形，適時出擊，將其擊敗，奪回濮陽。袁紹聞訊大喜，直接任命曹操為東郡太守。曹操雖取得首勝，但他在兵力和局勢上均處於弱勢，將麵臨黑山軍和黃巾軍的雙重考驗。
初平三年（192年）春季，曹操屯軍頓丘（今河北清豐），黑山軍首領於毒乘機進攻東武陽，曹操收到情報後，並不是派兵援助東武陽，而是率軍直指黑山軍的基地西山，對於曹操的這一決定，將領們都感到詫異，曹操說：“於毒知道我攻擊他的老巢，一定會趕來救援，那東武陽的包圍自然解除，如果他不回來支援，那我們就繼續攻占他的基地，於毒就更不能動搖東武陽了。”於毒收到情報後，果然往回撤退，而在撤退的途中遭到曹操大軍的狙擊，於毒大敗，曹操更進一步，抵達內黃（今河南內黃），再大破黑山軍眭固部眾以及南匈奴流亡單於欒提於扶羅一部，東郡才得以保留。
曹操在東郡的幾次戰役中嶄露頭角，讓很多謀士看到了他的才能，一時間，不少謀士投到他的麾下，其中就有荀彧、李典、典韋。
荀彧（163—212年），字文若，潁川潁陰（今河南許昌）人。東漢末年政治家、戰略家。
荀彧出身潁川荀氏，荀子之後。其祖父荀淑知名當世，號為神君。荀淑有八子，號稱八龍。荀彧的父親荀緄曾任濟南相，叔父荀爽曾任司空。荀緄忌憚宦官，於是讓荀彧娶中常侍唐衡的女兒為妻。因為荀彧年少時有才名，才得以免於別人的譏議。後來南陽名士何顒見到荀彧，大為驚異，說道：“這是王佐之才啊！”
永漢元年（189年），被舉孝廉，任守宮令（掌管皇帝的筆、墨、紙張等物品）。九月，董卓廢少帝劉辯，立獻帝劉協。十一月，董卓自為相國，讚拜不名，入朝不趨，劍履上殿。
荀彧棄官歸鄉，對父老說：“潁川是四戰之地，如果天下有變，那就會經常受到侵略，應該早離去，不能久留。”但鄉人們多懷戀故土，不願離去。當時的冀州牧韓馥派人接荀彧，卻無人相隨。荀彧隻得獨自將宗族遷至冀州避難。
到冀州後，冀州已為袁紹所得，袁紹見荀彧來，待之為上賓。荀彧弟荀諶和同郡辛評、郭圖都在袁紹手下。荀彧卻認為袁紹最終不能成大事。
初平二年（191年），荀彧離開袁紹投奔曹操。曹操見荀彧來投，大悅，說：“這是我的子房啊！”於是任荀彧為別部司馬，荀彧時年二十九歲。
曹操慧眼識英才，在以後曹操的統一大業中，荀彧是不可或缺的謀臣和功臣。
李典，字曼成。山陽郡钜野縣（今山東巨野）人。
李典自幼好學，不樂兵事，起初治民，後來從軍。曹操為東郡太後後，李典跟隨其父李乾投到曹操麾下，後成為曹操手下一員大將。
典韋，陳留己吾（今河南商丘市寧陵縣己吾城村）人。
典韋相貌魁梧，膂力過人。本屬張邈，曾單手舉起牙門旗。
初平年間，涼州董卓禍亂朝野，陳留太守張邈與曹操舉義組成反董聯盟軍，征典韋為軍士，隸屬於司馬趙寵。軍隊的牙門旗又長又大，沒人能舉得動，典韋一隻手就把它舉了起來。趙寵對他的才幹和力氣很是驚訝。
興平年間，張邈與曹操決裂，並伺機偷襲曹操。典韋轉投曹操，隸屬於夏侯惇，隨夏侯惇四處征戰，數次殺敵有功，被拜為司馬。
典韋武藝卓越，被史學家潘眉評價為：雄武壯烈，不在張遼、許褚之下。
在中平五年（188年），青州、徐州又出現了大規模的黃巾起義軍；在初平二年（191年），青州黃巾北上與公孫瓚相遇，結果被擊潰；在初平三年（192年），青州黃巾向西進入兗州。青州黃巾軍如此頻繁活動的根本在於與冀州、並州之間活動的黑山軍匯合。黑山軍號稱“百萬”，青州黃巾也號稱“百萬”，也許這兩個數字有誇張之嫌，但足以說明兩股勢力不容小覷。
此時袁紹已經雄踞冀州，袁紹明白，如果青州黃巾真的與黑山軍匯合，那麽對自己來說應該是一個不小的威脅。為了緩和這種威脅，其將渤海郡交給公孫瓚，這一舉動看似懦弱，其實是讓公孫瓚幫助自己抵擋黃巾軍向黑山軍所在的太行山脈行進的趨勢，結果公孫瓚真的與青州黃巾撞在一起，客觀上幫助了袁紹。
袁紹和公孫瓚相持的時候，劉岱曾經在二者之間猶豫不決，最後聽從程昱的建議選擇了袁紹。換言之，袁紹和劉岱是同盟的關係。青州黃巾進入兗州，兗州刺史劉岱不聽濟北相鮑信的建議，貿然出兵討伐黃巾軍，結果兵敗戰死。兗州無主，秩序混亂。兗州城隨時可能被黃巾軍攻破而生靈塗炭。
劉岱貿然出兵的原因，可能有輕敵的主觀心態，也可能是為了阻止青州黃巾進入冀州，與黑山軍匯合對抗袁紹，使袁紹陷入腹背受敵的局麵。
可惜劉岱沒能夠阻止青州黃巾，自己也死於亂兵之中，東郡太守曹操（王肱對黑山軍不利，曹操取代了他的位置）進入兗州，消滅了青州黃巾，並以此為基業逐漸成為北方的霸主。在曹操戰勝黃巾軍的過程中，謀士陳宮起到了不小的作用。
陳宮，字公台，是呂布帳下首席謀士。足智多謀，為人性格剛直烈壯，年少之時和海內名士多有交往。天下大亂之時，陳宮投靠曹操，成為其心腹。
袁紹當時正與公孫瓚爭鬥，為了穩固後方，派遣曹操進入兗州東郡地區，對付黑山軍和黃巾軍。結果曹操表現出極強的軍事才能，主動出擊黑山軍和黃巾軍，連戰連捷，一舉擊潰盤踞東郡的黑山軍和黃巾軍，使得常年受黑山軍和黃巾軍襲擾的東郡得以安寧。
唯有曹操能夠打敗黃巾軍，保護兗州百姓。懷著這個想法，陳宮主動找到曹操說：“刺史劉岱戰死，兗州現在沒有主持軍政大事的人了。我們和朝廷的聯係又斷絕了，我請求替你出馬說服兗州的官吏，迎請主公做兗州牧。利用兗州的人力物力作為資本進而圖謀天下，這是成就霸王問鼎中原的偉業啊！”
之後，陳宮真的遊說兗州的別駕、治中說：“現在天下分裂、群雄割據，而我們兗州現在沒有能夠主持大事的人。東郡太守曹操，是治理國家的人才，如果迎他作為兗州牧，一定可以讓兗州百姓安寧。”鮑信等人對陳宮的建議表示讚同。
於是曹操成為兗州牧，有了自己的根據地。從此把陳宮視為心腹。曹操能夠執掌兗州，是陳宮的謀劃。這個時候的陳宮，對曹操是很佩服的，所以盡心盡力地輔佐曹操。
兗州東接青州、徐州，西連豫州，北通冀州、幽州，南下江淮，屬下有陳留、東郡、東平、任城、泰山、濟北、山陽、濟陰八個郡，轄區包括今山東西南部、河南東部的廣大地區。
曹操不僅得到了兗州這塊地盤和軍隊，更得到了有名的謀士程昱。
程昱是曹操麾下最為出色的五大謀士之一，程昱是兗州東郡人，劉岱任兗州刺史時曾征召程昱被程昱婉拒，等到劉岱死後曹操入主兗州再次征辟程昱時，程昱卻一口答應，程昱將行之時，他的鄉人十分疑惑，說他：“怎麽你前後的行為如此相背？”程昱卻隻笑而不應。程昱初至之時，曹操便跟他談論大事，十分高興，以程昱為壽張令。
曹操占據兗州，是他勢力發展的重要一步，從此，他以兗州為大後方根據地，相機而動，而當下最重要的事就是對付青州的黃巾軍。
對於青州的黃巾軍，曹操是十分重視的，因為這關係到他能否在兗州站穩腳跟，在與鮑信商談此事時，他分析，黃巾軍雖然號稱百萬大軍，但其中老少婦孺占大多數，真正擅長殺敵的不到十萬，而且這些士兵缺乏組織性和紀律性，作戰能力不強，雖然己方軍隊人數少，但經過係統性的軍事訓練，個個精兵強將，因此，曹操對這一戰很有信心。
四月時，曹操和鮑信率軍東下迎擊，在壽張附近就與黃巾軍碰麵，兩軍對壘，黃巾軍的表現完全出乎曹操的預料，這些黃巾軍戰鬥能力很強，幾個回合後，曹軍傷亡不少，曹操認為不能硬拚，所以下令收兵、再做打算。
經過仔細分析和考慮，曹操決定采取突然襲擊的方式。壽張城處於濟水和汶水附近，有個很開闊的平原，黃巾軍就在無鹽與壽張之間的平原上安營紮寨。對於黃巾軍的分析，曹操也隻是大致判斷，要了解他們的具體情況，還是應該親自去敵軍陣地上觀察，於是，他決定與鮑信以及一部分騎兵深入敵軍內部，可以說，這是一種極為危險的行動。
當他們行至汶水時被敵軍發現了，黃巾軍隨即趕來，曹操和鮑信隻好匆忙應戰，但敵眾我寡，作戰不利，情勢危急下，鮑信安排一眾騎兵護衛曹操離開，而自己則帶剩下的騎兵浴血奮戰，曹操順利逃出，而鮑信卻戰死沙場，時年四十一歲，鮑信是曹操的至交好友，鮑信的死讓曹操十分痛心。
曹操認為黃巾軍得勝後驕傲輕敵，一定會放鬆戒備，於是，他親自領兵進擊，發揮騎兵的優勢與敵人展開一戰，這是黃巾軍遇到的最為激烈的戰鬥，他們逐漸失去戰鬥能力，曹軍趁勢用騎兵突襲，黃巾軍大敗。
這場戰役以後，雙方實力發生變化，也都在考慮以後的策略。對於曹操來說，老百姓都是“官逼民反”、沒了活路才鋌而走險的，他不能對這些老百姓趕盡殺絕，並且，百姓是殺不完的，即便是一時用武力將他們驅趕走，百姓在無法生存時還是會卷土重來，於是曹操決定采用兩種手段結合的方法，一方麵用武力繼續鎮壓，另一方麵用安撫的方式。從黃巾軍方麵來說，他們常年飽受戰鬥之苦，且當下實力也無法和曹軍正麵戰鬥。在這些黃巾軍中，有些是青州濟南人，他們對曹操在濟南的為人處世有些了解，在他們看來，曹操並非那些胡作非為的貪官汙吏，曹操能打擊地主豪強、能體恤百姓疾苦，並不是百姓的敵人，因此，他們也勸曹操能收兵，隨後，曹操向黃巾軍發出了勸降書，但黃巾軍沒有接受，曹操便發動進攻，對其施加壓力。
這年寒冬十二月，黃巾軍才抵達濟北，天氣寒冷，軍隊補給供應不上，此時，曹操再次督促黃巾軍投降。談判後，黃巾軍數十萬人降曹，曹操決定既往不咎，並對這一支軍隊進行改編。《三國誌·魏書·武帝紀》中有：“青州黃巾眾百萬入兗州……信乃與州吏萬潛等至東郡迎太祖領兗州牧……追黃巾至濟北。乞降。冬，受降卒三十餘萬，男女百餘萬口，收其精銳者，號為青州兵。”
曹操從黃巾軍中挑出三十多萬精壯之士將其改編為軍隊並稱為“青州兵”。對於原黃巾軍之中的那些老弱病殘缺乏作戰能力的，曹操將他們安排在鄉間從事生產。
從此，曹操不僅有了兗州這一根據地，還掌握了一支龐大的軍隊，他從鎮壓黃巾軍起義中擴大了自己的軍事和政治實力，這為他以後統一北方奠定了堅實的基礎。