一般王朝覆滅後，幸存的皇室成員往往會振奮祖宗餘烈，割據地方，延續國脈。但隋朝的情況比較特殊。
首先，隋朝沒有安置強有力的藩王勢力。皇帝遇刺後，沒有強有力的藩王能夠出頭重續皇統。其次，江都政變幾乎將隋朝近支皇室一網打盡。隋文帝楊堅的四兒子楊秀，在楊堅生前被廢為平民，理論上不算是皇室成員了。但楊廣即位後，依然把弟弟楊秀帶在身邊，杜絕內患。宇文化及弑君叛亂後，不敢馬上自立，需要推舉一位新皇帝。楊秀是江都之內與楊廣血緣最近的人，在血統上最有資格繼承帝位。宇文化及也有意立楊秀為帝，但遭到了部下的一致反對。結果，楊秀和他的所有兒子也都被殺了。
總之，楊廣之後，楊家沒有拿得出手的人來複辟隋王朝。
不過楊廣死後，天下還是出現了三個以隋朝正朔自居、各自標榜正統的政權。第一個是李淵在關中扶持的代王楊侑（楊廣之孫）政權，沿用隋朝旗號。第二個是宇文化及等人在江都推出秦王楊浩（隋文帝三子楊俊的兒子，楊廣之侄）為新皇帝，繼承了隋朝出巡江都的小朝廷的一班人馬。宇文化及把持朝政，任命司馬德戡為禮部尚書，裴虔通為光祿大夫、莒國公，裴矩為侍內。第三個是洛陽的越王楊侗（楊廣之孫）政權。隋煬帝的死訊傳到洛陽後，王世充與留守大臣元文都、盧楚等人奉越王楊侗為新皇帝，仍稱隋朝。楊侗以王世充為吏部尚書，封鄭國公，賦予征戰討伐大權。
這三個政權抬出來的都是隋煬帝楊廣的晚輩，都是傀儡 （越王楊侗的情況稍好一點）。三個可憐的皇子皇孫，仿佛就是隋王朝的三名棄兒。王朝的主船已經在巨浪中沉沒，剩下三條小舢板被不懷好意的大浪推著，勉強前行。
江都的近衛官兵們殺死隋煬帝楊廣以後，紛紛整裝要回老家。宇文化及決定取道徐州，進入山東，然後再西進返回關中。計議停當，宇文化及裹挾著隋朝殘餘勢力，帶上隋煬帝的蕭皇後等人北上。這是當年四月的事情，而當時江淮地區勢力最大的起義軍是杜伏威領導的。之前，杜伏威在投奔的士紳支持下建章立製，經略江淮。他的政權隻征收極輕的賦稅，並且嚴懲貪腐，得到了江淮百姓的支持。
杜伏威原本可以乘著江都隋軍倉皇撤退的有利時機，給予隋軍致命的打擊，就算不能徹底消滅宇文化及這股隋朝殘餘勢力，至少也能占領江都等地以壯大自己。但杜伏威等人顯然沒有做好隋朝驟然滅亡的心理準備，不知道如何應對“後楊廣時代”的到來。思前想後，杜伏威竟然在八月時向洛陽的越王楊侗小朝廷上表稱臣，接受了隋朝的官爵。要說農民軍起事，沒有清晰的政治規劃還真是不行。像杜伏威這樣的，不僅白白浪費了天賜良機，還“模糊了鬥爭視線”，嚴重挫傷了手下農民兄弟的鬥誌。
倒是李子通先下手為強，圍攻江都。駐守江都的陳棱，兵微將寡，向杜伏威及另一支農民軍沈法興部求援。杜、沈都派兵來救援，卻不能通力合作。李子通派人偽裝成杜、沈兩部兵丁，引誘雙方自相殘殺。陳棱困守無望，最後投降了李子通。李子通占領江都後，勢力大壯，集中力量消滅了沈法興，占領了東南沿海，自稱皇帝，建立了“吳”政權，後遷都餘杭（今浙江杭州）。
再說北上的宇文化及等人，他們沿著運河一路平安到達了徐州，舍舟登陸，暫作逗留。
江都政變的核心人物司馬德戡這時候率領後軍，給宇文化及打掩護。但司馬德戡心中很不滿：“憑什麽你率大軍在前麵逃命，我就要殿後當炮灰啊？”於是，他聯絡趙行樞、李本、尹正卿、宇文導師等人謀劃除掉宇文化及。可惜司馬德戡把江都政變的那套經驗照搬了過來，把一件原本應該秘密進行的事情搞得人人都知道了。結果計劃沒開始，知情的許弘仁、張愷就向宇文化及告發了司馬德戡。
得知司馬德戡叛變，宇文化及不動聲色地派弟弟宇文士及以遊獵為名來到後軍。司馬德戡還不知道事情已經敗露，出營參謁，被逮了個正著。宇文士及接著將司馬德戡的黨羽也一網打盡，帶去見宇文化及。宇文化及質問司馬德戡：“我們相約同心協力，共定海內，出於萬死。現在事情剛剛有些眉目，原本想與你同享富貴，你為什麽要造反呢？”司馬德戡說：“我殺昏君楊廣的本意，是不堪忍受他的暴虐毒害。我們辛辛苦苦擁立了你，想不到你比楊廣更壞。怎麽能不殺你呢？”宇文化及無顏以對，下令縊殺司馬德戡。宇文化及這一支勢力剛成立不久，便發生了內訌，可謂出師不利。
稍作整頓後，宇文化及引兵繼續北上，留下裴虔通鎮守徐州。
宇文化及的隊伍人數很多，但缺衣少糧，亟須補充物資。宇文化及決心攻占一個大糧倉，補充休整。隋朝的兩大糧倉——洛陽的洛口倉和衛州的黎陽倉——此時都在李密瓦崗軍的手裏。洛陽，宇文化及是不敢去的。他不願意去摻和李密和王世充兩大勢力的混戰，於是發兵十餘萬去進攻黎陽倉。李密不敢怠慢，親自率領步騎二萬，趕去迎戰宇文化及。
洛陽的越王政權見李密和宇文化及打起來了，決定調整策略。李密是造反者，是敵人；宇文化及是逆臣，是殺害先帝的凶手，是更大的敵人。兩害相權取其輕，洛陽方麵的元文都、盧楚等大臣決定先消滅宇文化及，給楊廣報仇。剛好當時李密放鬆了對洛陽的包圍，去找宇文化及打架了，這就為雙方聯合起來對付共同的敵人提供了可能。元文都等人讓楊侗派人授予李密太尉、尚書令的官職，封他為魏國公，並承諾消滅宇文化及後，李密可以入朝輔政。李密可能是出於緩和與洛陽的關係、避免兩麵受敵的考慮，接受了洛陽的任命，還遣使致謝。
如此，李密也得以專心對付宇文化及。他判斷宇文化及是來搶糧的，利在速戰，所以決心不與他交鋒，就堵在宇文大軍前進的道路上，打算拖住他們。果然，宇文化及督軍晝夜猛攻黎陽倉，而守倉的瓦崗軍大將徐世勣拚命死守，硬是沒讓十萬大軍攻下來。
李密估計宇文化及著急了，跑到陣前數落他說：“你的祖上原本是匈奴人的奴仆破野頭氏，父兄子弟深受隋室厚恩，富貴累世，你的弟弟還娶了公主為妻，榮華富貴，無人可比。國家多難，你們本應該更加效忠王朝；主上失德，你們本應該冒死勸諫。現在倒好，你們率眾造反，躬行殺虐，枉害無辜，必將誅及子孫，為天地所不容！你們還不如速速投降於我，尚可保全家族。”李密深知宇文家的往事，對宇文化及兄弟三人現在的情況分析得透徹，擊中了宇文化及的痛處。
宇文化及聞言默然，俯視良久，瞋目大叫：“現在是在和你談廝殺之事，何必作書生之言？”李密轉頭對隨從說：“宇文化及是個平庸懦弱的人，忽然要圖帝王大業，也就是趙高之流，成不了大事。我折根棍杖就能趕跑他。”
宇文化及明白隻有得到黎陽的糧草，自己才能轉敗為勝，於是加緊督軍大修攻城器具，晝夜猛攻黎陽倉城。這時，黎陽倉守軍與李密率領的精銳部隊裏應外合，一起把宇文化及的攻城器具都給燒了。大火燒了一天一夜，可見宇文化及造了多少器具。
器具燒完了，宇文化及的糧草也見底了。李密探知後，假裝要和他談和。宇文化及信以為真，大喜，認為談和後就可以向李密買糧食了。於是，宇文化及對越來越少的糧食不加控製，任由士兵們敞開了肚子吃，反而加速了糧草的匱乏。剛好這時李密部下有個人犯了罪，逃亡到宇文化及的陣營，將李密假和談、真備戰的陰謀和盤托出。宇文化及非常生氣，但為今之計，也隻能寄望在決戰中戰勝李密。倉促之間，宇文化及決定向瓦崗軍發動總攻，兩軍戰於童山之下。混戰中，李密被流矢射中，堅持作戰，最終大敗宇文化及的十萬大軍。宇文化及帶著殘部向北逃往魏縣（今河北大名西南），劫掠沿途州縣，而宇文部下的許多隋朝官員、兵將紛紛投降了李密。
當初宇文化及進攻黎陽的時候，把輜重、老弱都留於東郡，留代理刑部尚書王軌守衛。宇文化及大敗後，王軌獻城投降李密。於是，隋朝的基本框架和許多遺老遺少，現在也就歸入李密囊中。留在東郡的蘇威也隨眾投降，而李密因蘇威德高望重，又主動投降，非常禮遇他。
按照之前李密和洛陽朝廷約定的條件，李密打敗宇文化及就可以入朝輔政了。李密也有引兵西進、前往洛陽的意思，便先派記室參軍李儉帶著於弘達——絞死楊廣的凶手之一，獻給越王楊侗，順便探探洛陽方麵的口風。事情進展順利，楊侗任命李儉為司農少卿，派他回去召李密入朝輔政。
於是，李密意興風發，喜氣洋洋，要去洛陽上任。但他趕到溫縣的時候，洛陽方麵突然傳來王世充誅殺元文都、盧楚等人，已經獨霸朝政的壞消息。李密知道自己比王世充晚了一步，不得不怏怏地回到老巢金墉城。
王世充表麵上靠窺測隋煬帝楊廣顏色，阿諛奉承才獲得寵信，看似是一般佞臣，實際上背地裏勾結豪強，聚斂人心，野心日益膨脹。
王世充掌握著洛陽的軍隊，是擁戴楊侗為帝的核心人物。王世充沒想到楊侗還真把自己當皇帝了，不跟他商量，就聽信元文都等人的意見，確定了聯合李密的策略，而且還承諾讓李密入朝輔政。對此，王世充很憤怒：李密來了，自己往哪裏擺？
當李密打敗宇文化及後，遣使告捷洛陽，洛陽城內一片歡呼聲，王世充卻對麾下諸將說：“元文都之輩，刀筆小吏而已。我看現在如果讓李密入朝，我們必為李密所管轄。我們人人與李密混戰多年，殺其父兄子弟，前後不計其數。大家一旦成為李密的部下，還有什麽好果子吃嗎？”部下官兵一下子就被王世充挑撥起來，反對朝廷召李密入洛陽。
元文都知道部隊的情緒後，大驚，與盧楚等人商量，認定是王世充使壞，便謀劃著把王世充引進宮中，埋伏士兵除掉他。大家定好了謀殺的日期，分頭準備去了。不料參與其中的將軍段達秘密讓女婿張誌把整個計劃告訴了王世充。
王世充連夜發兵圍攻宮城，而元文都則派將軍費曜、田世闍等人出宮與王世充交戰。費曜的軍隊不是對手，王世充很快就攻入城內，捉住盧楚，並將其殺死。來到楊侗的寢宮門前，王世充令人叩門進言：“元文都等人想劫持皇上投降李密，段達知道後告訴了臣。臣入宮是誅殺奸臣，不敢謀反。”元文都當時在楊侗身邊，聞言，帶著楊侗來到幹陽殿，招呼衛兵保護。經過一場肉搏，元文都也被亂軍殺死了。楊侗隻好下令打開大門，迎王世充入殿。
王世充把宮中所有的衛兵都換成自己的人，才敢進入幹陽殿。見到楊侗後，他頓首流涕，懇切地說：“元文都品行惡劣，想暗中算計臣，危及國家。事情緊急，臣才出此下策。”楊侗能說什麽呢，隻有點頭。王世充接著暗示楊侗，任命自己為尚書左仆射、總督內外諸軍事，又將自己的哥哥王惲安排為內史令，入居禁中，監管楊侗。
王世充擅權後，重賞將士，加緊打造刀杖器械，洛陽城中士氣大振。
當時，王世充麵臨的問題也和宇文化及一樣：沒有糧食。李密占著大糧倉，糧草富裕得很，王世充就和李密提議，用布匹交換糧食。李密不同意，但他部下的邴元真等人想從貨物貿易中謀取私利，不斷來勸李密答應。最後，李密點頭同意了。之前東都洛陽缺糧，許多人都失去了信心，不斷有人歸降李密。每天都有數百人逃出洛陽，投奔瓦崗軍。現在洛陽源源不斷地獲得糧草，人心穩定了下來。李密見每天來歸降的人越來越少，非常後悔，隨即又下令禁止賣糧食給洛陽。
李密也有他的困難，即地盤內沒有武器庫，士兵們的裝備得不到及時補充與更新。同時李密下達的戰鬥命令越來越多，給予的賞賜越來越少。為了招降納叛，李密對前來歸降的人很重視，待遇很高，相對冷落了老部下。漸漸地，李密在瓦崗軍內的聲望下降了，許多將士都開始抱怨他了。
王世充覺得時機成熟，傾城而出，向李密宣戰。李密倉皇應戰，遭到大敗，從金墉城隻率萬餘人逃向洛口倉。他的部將裴行儼在衝殺之中，中流矢墜馬。程咬金已經跑遠，見狀返身前去營救。他連殺數人，逼退了追兵，抱起裴行儼上馬撤退。程咬金的戰馬載不動兩個人，跑得特別慢，很快就被王世充軍追上。程咬金不忍將裴行儼丟下，遲疑間被一槍刺中，長槍穿胸而過。程咬金忍住劇痛，回身折斷長槍，快速將執槍之人斬於馬下。如此壯舉，嚇得追兵紛紛勒馬遠看，不敢繼續追趕。程、裴二人終於安全返回本軍。
李密逃入洛口倉，與守軍邴元真合兵一處，要和王世充再戰。李密與眾人商議後，決定等王世充的部隊渡洛河之時，半道截擊。但李密派出去的偵察騎兵不稱職，沒有把握住時機通知李密，等瓦崗軍整軍出戰的時候，王世充全軍已經安然渡過洛河了。李密知道沒有勝算，主動帶軍逃跑。最後，邴元真投降，將洛口倉獻給了王世充。在李密陣營中的蘇威也跟著投降了王世充，回到他的故土洛陽。
經此一戰，王世充聲威大震。這是武德元年（618）九月間的事情。