曹操陳留起兵的同時，袁紹已經到達了河北，董卓自知袁紹勢力不可小覷，便企圖拉攏他，讓他做渤海（今河北南皮東北）太守，羽翼豐滿的袁紹怎麽會答應呢？
於是，初平元年（190年），袁紹在河北聯合冀州牧韓馥，並聯絡關東（函穀關以東）州郡一起聲討董卓，同時，參與其中的有另外十七路人馬，因為袁紹家世顯赫、聲名遠播，大家一致推舉袁紹為盟主，袁紹自稱車騎將軍，他還給其他將領授予官職，其中，曹操被授予奮武將軍一職。
在盟會上，眾將領細數董卓暴行，決心同盟除暴、複興漢室，盟會結束後，祭祀殺生、大宴三天，宴會上，袁紹安排了各路人馬，比如，駐軍河內的是袁紹與河內軍長，而負責後勤供應的則是冀州州長韓馥，後將軍袁術則駐軍魯陽（今河南魯山）。曹操擁有五千人馬，但是沒有根據地，在軍隊給養方麵，不得不受限於陳留軍長張邈的幫助，在軍隊指揮上，也受他管製，因此，曹操和張邈都駐紮在酸棗。一時間，天下豪傑，都唯袁紹馬首是瞻，唯有鮑信告訴曹操：“不是所有人都有智謀，能撫平這亂世的人是你，才能與地位不相符，即便再強大，最後也會坍塌，這些人也許是上天派來為你開路的吧。”
袁紹集結天下英雄豪傑建立聯軍的消息很快傳到了京城，董卓聽後驚恐萬分，他做了兩手準備，一麵調動軍隊嚴密把守洛陽，另一麵不顧大臣們的反對，準備遷都長安，他還命人將洛陽城中的地主豪強叫到一起，給他們安上一個罪名，然後全部處死，並沒收他們的財產。隨後，他將整個洛陽城中的百姓，共有百萬之多，全部驅趕到長安。
要知道，洛陽和長安之間相距三百五十公裏，路途遙遠，中間有崤山、華山，道路險阻，很多人體力不支、跟不上大部隊，但是隻能無奈往前走，因為董卓命兵在後用繩子驅趕，因此有很多人因為疾病和饑餓而死在了路上，道路兩旁不斷有屍體出現。董卓自己則是留在了洛陽，然後一把火燒了皇宮、民宅、街道，原本熱鬧又繁華的洛陽，頓時成了一片焦土，火勢蔓延了方圓三百公裏。
這年三月五日，漢獻帝長途跋涉抵達長安，因為董卓還未抵達，朝廷內外大小事便由司徒王允主持，王允在董卓手下隱忍，也深受董卓信任。
袁紹可能沒想到，因為他起兵反董，董卓便殺了他的叔叔太傅袁隗、太仆（主管車馬交通事宜）袁基以及其他袁家老小，甚至連嗷嗷待哺的嬰兒都未被放過，一共五十幾條人命被害，一時間血流成河，慘不忍睹。
董卓留守洛陽，迎擊前來討伐自己的關東軍，關東軍雖然陣容強大，但是各路勢力的首領都是熱衷於割據稱雄的大豪強，彼此並不團結，又各自懼怕董卓的涼州軍團強悍實力，都隻想保存自己，因此，大家各懷鬼胎，誰也不願意當出頭鳥。
有一次，各路將領在袁紹的大營開會，曹操對大家說：“大家起兵，為的是討伐董卓。現在董卓劫走天子，燒毀宮室，全國人心惶惶。這正是消滅逆賊的好時機，為什麽還要猶豫不決呢？”
盡管曹操說得慷慨激昂，大家可一點也不熱心。連盟主袁紹都不想動，誰還願意先動手呢？
曹操看出他們隻想保存實力，不想打董卓，心裏很生氣，就決定單獨帶著五千人馬，向成皋（今河南滎陽汜水鎮）進兵。所以便率兵向西，準備進駐成皋，張邈也派衛茲領兵隨軍。
董卓聽到曹操向成皋進兵，早已派大軍在汴水（在今河南滎陽西南）邊布好陣勢。曹操的人馬剛剛到汴水，就遇到董卓部將徐榮的攔擊。
徐榮兵多，曹操兵少，兩下裏一交戰，曹操的人馬就垮了下來。曹操騎著馬往後撤走的時候，肩上中了一箭；他趕緊拍馬逃奔，又是一支箭，射傷了曹操騎的馬。那馬一受驚，把曹操掀了下來。
後麵徐榮的追兵呐喊聲越來越近。正在危急的時候，曹操的堂弟曹洪將馬給了曹操，曹操不接受，曹洪便說：“天下可無洪，不可無君！”便讓曹操上馬，自己徒步追從，趁夜逃走。而徐榮見力戰了一日，酸棗又不是易攻之地，便率領兵馬回去。
曹操損兵折將，回到酸棗，再看看他的同盟軍，不但按兵不動，將領們還每天喝酒作樂，根本沒想討伐董卓。他滿心氣憤，跑到袁紹他們擺酒宴的地方，指責他們說：“你們以起義兵為名，卻在這裏猶豫觀望，讓天下百姓失望。我真替你們害臊呢。”
曹操經過這一次討伐戰鬥，覺得跟這些人一起，根本成不了大事，但是自己的軍隊損傷太多，需要休養生息、進行補整，於是就和曹洪、夏侯惇等人前往揚州（今安徽淮水和江蘇長江以南）一帶招募人馬，準備重整旗鼓。在揚州刺史陳溫、丹陽（今安徽宣稱）軍長周昕的支持下，募集了四千多人，不料到龍亢（今安徽懷遠西北）集合時，新兵發生暴亂，火燒了曹操的營帳，曹操持劍斬殺了叛亂的幾十人。曹操從大火中逃了出來，但是依然追隨自己的隻剩下五百人，後來又招募到一千多士兵，加上曹洪的家兵以及汴水之戰中剩下的士兵，共三千餘人。曹操帶著他的這支隊伍繼續北上，這次，他並不是在酸棗、兗州和“老上司”會合，而是直接到河內去找袁紹了。
不久後，酸棗的聯軍因為糧草不足和內訌而解散，兗州刺史劉岱和東郡郡長橋瑁互相仇視，兩軍火並，劉岱派王肱在東郡當郡長。曹操率領自己的部下到了袁紹處後，得到了元帥的熱情款待，一次，二人在閑聊時，袁紹問曹操：“如果我們討伐董卓失敗了，你覺得我們以後往哪個地方發展勢力呢？”
曹操沒有直接回答，而是反問袁紹：“您覺得該怎麽發展呢？”
“我想南靠黃河，北憑燕、代（今河北北部以及山西東北部），兼有戎狄（指烏桓）之眾，向南一步步奪得天下，你覺得這樣如何？”
曹操答：“我想依靠天下人的智力取勝。”
但是袁紹並沒有將曹操的計謀放在心上，而是心中另有計劃，這年年底，袁紹提出一個新方案——另立新帝。原來，袁紹擔心自己在與董卓硬拚時戰敗，便找了一個借口：漢獻帝年幼，又為董卓所困，不知是生是死。打著這樣的借口，他同冀州牧韓馥一起謀立“宗室賢俊”的幽州牧劉虞為帝，然後讓人私刻玉璽，派人送去幽州劉虞處，勸他稱帝。
袁紹在與曹操商量此事時，曹操認為此舉不妥，董卓的罪行人人皆知，在起兵反董卓時同盟軍依靠百姓，這是因為同盟軍是正義之師，漢獻帝年幼，又受到董卓脅迫，有什麽理由廢掉他呢？如果這樣，豈不是其他人也可以效仿，那就天下大亂了。
被曹操否決後，袁紹隻好求助於他的堂弟袁術，誰知道袁紹的心思一下子就被袁術洞穿了，袁術怕擁立新帝對自己不利，因此竭力反對，而劉虞本人也不同意，這樣，袁術想要擁立新帝的想法便破滅了。
這件事過後，冀州牧韓馥看到天下豪傑都唯袁紹馬首是瞻，心存妒火，便暗中減少糧草的供應，打算讓袁紹的部隊因糧草不足而自行完結，此時，正遇上韓馥的部下麴義叛變，韓馥派兵鎮壓，反而被擊敗，袁紹抓住此機遇與麴義結交，之後又聯絡幽州降虜校尉公孫瓚南下進攻冀州，乘機脅迫韓馥將冀州割讓出來，自此袁紹割據河北，成為黃河中下遊一股不可小覷的力量。
190—191年，原來一同討伐董卓的盟軍已經完全進入混戰狀態，他們你爭我奪，自相殘殺，開啟了一場曠日持久的大混戰，加上之前董卓的遷都之亂，百姓也遭受到了極大的痛苦。
除了參加討伐董卓的關東諸軍外，其他地方的一些地方武裝集團也割據一方，各自發展勢力。
到197年以前，各地區的主要武裝割據勢力分別是：
遼東（今遼寧一帶）被公孫度占據；
幽州（今河北北部）被劉虞和公孫瓚占據；
冀州、青州和並州（今河北中南部、山東東北部和山西大部）被袁紹占據；
南陽（今河南西南部）被張繡占據；
揚州一部分（今淮河下遊南部、長江下遊北部）被袁術占據；
徐州（今蘇北、山東東南部）被陶謙、劉備和呂布先後占據；
孫策占據江東（今長江下遊以南）；
荊州大部分（今湖北、湖南）被劉表占據；
益州（今四川、貴州和雲南北部）被劉璋、劉焉占據；
漢中（今陝西南部）被張魯占據；
司隸（今陝西中東部、河南西部）被董卓、李傕、郭汜等先後占據；
涼州（今甘肅、寧夏和青海湟水流域）被馬騰、韓遂占據。
這些勢力為了擴大自己的人口和土地範圍，互相傾軋，展開了接二連三的兼並戰爭，而此時占據兗州的曹操，在其中的力量無疑是弱小的，他當下要做的就是擴充自己的實力。