七月初一，唐軍舉行了隆重的誓師大會，然後在李世民的率領，正式討伐王世充。
此戰，李靖仍然作為李世民最重要的軍事參謀，隨軍出征。
七月十九日，李世民達到新安。這是洛陽西部的一座城池。
王世充聞唐軍來襲，命魏王王弘烈守襄陽(今湖北襄樊縣)、荊王王行本守虎牢、宋王王泰鎮守懷州(今河南沁陽)、齊王王世惲負責洛陽南城、楚王王世偉守洛陽寶城、太子王玄應守洛陽東城、漢王王玄恕守含嘉(洛陽城北)、魯王王道徇守曜儀(洛陽宮城北)，王世充親自率主力迎戰。
此時羅士信作為全軍的先鋒，率部圍攻慈澗（洛陽城西部的一個戰略要地），王世充之子王玄應前來救援。
雙方剛一照麵，王玄應就被羅士信一槍刺落馬下，王玄應的部將連忙一擁而上救回他。不久，羅士信又攻取硤石堡，進圍千金堡。
當時，千金堡的王世充守軍堅守不降，並大罵羅士信是個反複小人。
羅士信一聽大怒，於是連夜派一百多人懷抱幾十個嬰兒來到千金堡下，讓嬰兒啼哭呼叫，謊稱是從東都過來投奔羅總管的，又故意說：“我們弄錯了，原來這裏是千金堡！”
然後匆匆離去。守軍誤以為羅士信已經撤離，城下是洛陽來的百姓，便出兵追趕。
羅士信早已帶兵在路邊埋伏，趁機衝入堡內，將堡中守軍屠殺殆盡。
七月二十六日，秦王李世民率領小隊騎兵親自出來偵查敵情，結果和王世充大軍不期而遇，當時道路狹窄，避之不及，王世充大軍隨後掩殺過來，情況萬分危急。李世民左右馳射，箭不虛發，射死對方幾十個士兵，俘獲左建威將軍燕琪，王世充大軍才不再追趕。
等李世民回到自己營壘的時候，因為蓬頭垢麵，把守寨門的士兵已經完全認不出這是秦王了。於是不允許他進寨。
李世民自己脫去甲胄，高聲喊話，才得以進入。
第二天，李世民親帥五萬大軍進攻慈澗。王世充看唐軍勢大，估計不敵，於是主動撤退，回到洛陽城。
為了掃清洛陽城的外圍，切斷王世充的糧草供應，李世民派行軍總管史萬寶自宜陽南據龍門，將軍劉德威自太行東圍河內，上穀公王君廓自洛口斷其餉道，懷州總管黃君漢自河陰攻回洛城；李世民自己帶領唐軍主力屯於北邙山，大軍連營十幾裏，對王世充形成了包圍。
由於唐軍的巨大優勢，再加上王世充早已經不得人心，鄭國各地守將竟然紛紛不戰而降。七月，張公瑾降；八月，鄧州降；九月，田瓚以所部25州降，時德睿以所部7州降；十月，大將張鎮周降，郭慶以管州降，魏陸以滎陽降，王要漢以汴州降。才三個月的時間，洛陽周圍郡縣全部落入李世民手中，洛陽成了一座孤城。
王世充看洛陽城危機，就想和李世民講和，於是帶兵在青城宮列隊，隔著一條河對李世民說：“隋室傾覆，唐帝關中，鄭帝河南，世充未嚐西侵，王忽舉兵東來，何也？”
李世民派宇文士及回答他說：“四海鹹仰皇風，唯公獨阻聲教，為此而來！”
用現在的話說就是，四海之內大家都願意歸順唐朝，隻有你小子不聽話，為了這個而來。
王世充說：“相與息兵講好，不亦善乎！”
宇文士及說：“奉詔取東都，不令講好也！”
傍晚，各引兵還。
在雙方對峙期間，唐軍內部也出現了一些意外情況。九月，和尉遲敬德一起降唐的尋相和劉武周手下的其他一些舊將相繼叛變逃走，唐朝諸將對尉遲恭也懷疑起來，認為尉遲恭必叛，就乘李世民不在軍中，把尉遲敬德關押起來，準備殺死他。
李世民回營後，聽說尉遲敬德被關押，非常生氣。
行台左仆射屈突通、尚書殷開山都勸李世民說：“敬德驍勇絕倫，今既囚之，心必怨望，留之恐為後患，不如遂殺之。”
世民曰：“不然。敬德若叛，豈在尋相之後邪！”
立即命令釋放尉遲敬德，然後把他引入自己的臥室內，以示沒有戒備之心，賜給尉遲敬德一筐黃金說：“丈夫意氣相期，勿以小嫌介意，吾終不信讒言以害忠良，公宜體之。必欲去者，以此金相資，表一時共事之情也。”
大意是大丈夫處事，講究的是意氣相投，有共同的理想和價值觀，不要介意小小的嫌疑，我是不會聽信別人的讒言殺害忠良的，您一定要體諒我的心意。你一定要離開我，請拿上這些金子，就算是我們兄弟一場，我對你的饋贈。
尉遲敬德非常感激，從此以後，對李世民更是忠心耿耿。
九月十八日，李世民和尉遲敬德帶領五百騎兵登上北邙山上的魏宣武陵。
王世充率領步騎一萬突然到達，一下子就把李世民包圍了。
王世充大將單雄信引槊直趨世民，眼看著李世民就有生命危險，因為憑單雄信的實力，一旦和李世民交手，估計不出三招，李世民必然凶多吉少。
就在這千鈞一發之際，隻見尉遲敬德躍馬挺槊大呼：“休傷秦王！”
隻一槊，就把單雄信刺落馬下。
兩個頂級殺手對決，以尉遲敬德的勝利而結束。
當然，單雄信並沒有受傷，隻是墜馬而已。說明他手疾眼快，以主動墜馬躲過了尉遲敬德的刺殺。
毫無疑問，能從尉遲敬德的馬槊下逃生，安然無恙，單雄信此人的武功，也可見一斑。
王世充的士兵見尉遲敬德如此彪悍，連名將單雄信也不是對手，於是個個膽寒，不敢上前交戰。
尉遲敬德於是保護李世民破圍而出。
李世民和尉遲敬德此時正在興頭上，不僅沒有借機逃跑，反而帥騎兵衝入王世充的戰鬥隊列中，幾進幾出，如入無人之境。
此時屈突通已聞訊率大隊唐軍趕到，大敗王世充軍，活捉其冠軍大將軍陳智略，斬首一千餘級，俘獲排槊兵六千。
李世民對尉遲敬德感慨地說：“公何相報之速也！”
賜敬德金銀一篋，自是寵遇日隆。
尉遲敬德有一個非常突出的本領，就是非常善於躲避馬槊，他每次單獨衝入地陣中，敵軍一擁而上，紛紛用馬槊刺之，但誰也不能傷到他，他往往還能空手對方的馬槊反剌之。
這個時候齊王元吉正好跟隨李世民圍困洛陽，他也以善於使用馬槊頗自負，聽說尉遲敬德有這個本事，就不服，於是就想和尉遲敬德當場比試比試。
為了不在比試中傷害對方，李元吉提出，雙方把刀刃去掉，然後再決勝負。
尉遲敬德說：“敬德謹當去之，王勿去也。”既而元吉刺之，終不能中。
秦王世民問敬德曰：“避槊與奪槊，孰難？”
敬德曰：“奪槊難。”
乃命敬德奪元吉槊。
元吉操槊躍馬，誌在刺之，敬德須臾三奪其槊；元吉雖麵相歎異，內甚恥之。
由此可見，尉遲敬德果然是超級殺手，連一向自負的李元吉，在他手下竟然一敗塗地，根本不在同一個量級上。他收拾李元吉，幾乎易如反掌，而單雄信，卻可以輕易躲過尉遲敬德的刺殺，毫發無損，說明兩個人的武功不相上下，都是當時超一流的高手。
當初，李密大敗，邴元真投降王世充，非常得寵。王世充任命邴元真為滑州行台仆射。
濮州刺史杜才幹是李密的舊將，他心裏非常痛恨邴元真當初叛變李密，於是就帶領手下的士兵假裝投降了王世充。
這個時候，邴元真正是他的頂頭上司，有一次，邴元真恃其官勢，親自到杜才幹的地盤視察，杜才幹出城迎接，把邴元真請到自己的州府衙門就坐，然後伏兵四起，抓住他說：“你本來就是個庸才，魏公李密把你提拔到最重要的崗位上，你不建毫發之功，還犯下了滔天之禍，今來送死，是你命中應該的！”
遂斬之，派人帶著邴元真的首級到了黎陽，在李密的墓前進行了祭奠。
此後，他以濮州投降了唐朝。
武德四年(621年)正月，屈突通與竇軌帶兵巡營，與王世充大軍突然遭遇，雙方展開激戰，唐軍眼看就要支持不住，一敗塗地。
李世民聽聞消息，立即和李靖、程咬金、尉遲敬德、秦瓊等人帶領最精銳的騎兵玄甲軍火速救援，由於唐軍個個奮勇爭先，王世充大敗，其騎將葛彥璋被生擒，此戰被唐軍殺死六千多人，王世充帶領餘部逃回洛陽。
此前，為了加強唐軍的快速突擊能力，李世民從全軍騎兵部隊中精心挑選了一千多人，這些都是精銳中的精銳，可以以一當十，這些騎兵身穿黑衣玄甲，分為左右隊，由秦瓊、程知節、尉遲敬德、翟長孫四人分別統領，每次作戰時李世民親自率領作為前鋒使用，所向披靡，攻無不克，敵人十分畏懼。
二月十三日，李世民移軍青城宮(今洛陽市西北)，營壘還未修好，王世充即率軍2萬出洛陽方諸門，憑借舊馬坊一帶的殘垣斷壁、溝溝坎坎，依托穀水河抵禦唐軍。
看王世充軍聲勢甚大，憑險據守，唐軍諸將皆有懼色。
李世民於是就帶著李靖等人登上北邙山的北魏宣武帝陵，站在高處觀察敵情。
這個時候李靖看到，王世充帶領大軍，從緊固的營壘中出來了，正在列陣。
李靖立即對李世民說：“秦王，戰機已到，可以立即發起進攻了。”
李世民點點頭，立即命令屈突通帶領步卒五千渡過穀水發動進攻，並交代他說：“一旦雙方交兵立即釋放煙火”。
交兵後，屈突通命令部下釋放煙火，李世民見煙起，親率騎兵南下，與屈突通合力奮擊。王世充也率部殊死抵抗，其部多次被唐軍衝散，又迅即聚合。雙方激戰半日，王世充漸漸不支，被迫退兵。
李世民縱兵追擊，直到城下，斬俘七千人趁勢包圍洛陽。
這次戰鬥中，驃騎將軍段誌玄作戰時馬倒被擒，敵軍兩將抓著他的發髻，要將他帶走。在渡洛水時，段誌玄縱身跳起，將二人拉墜馬下，奪得馬匹馳歸。
數百人在他後麵追趕，但是都不敢逼近。段誌玄最終奔回唐軍。
此戰之後，洛陽成了一座孤城，王世充不得已隻能據城自守。
這個時候王世充才明白，自己確實小看了李世民，以為他不過是個24歲的毛孩子，能有什麽過人的本事，戰勝劉武周和宋金剛，也不過是運氣好而已。
現在經過多次交手，他才知道，李世民這個人不簡單，按說一個二十四歲的年輕人，不可能有這麽深刻的洞察力，戰場上瞬息萬變，他竟然屢次都能準確地把握到戰機，化險為夷，轉敗為勝，這也太神奇了！
王世充畢竟也是久經沙場的老將，一向以足智多謀著稱，他據此判斷，李世民的身邊一定有高人，這個高人之所以高，不是說他武功高強，像單雄信、尉遲敬德、秦瓊那樣，有萬夫不當之勇，這樣的武夫，單憑一個人的勇武，有時候是決定不了整個的戰局的。
王世充所謂的高人，是說李世民的軍中一定有一位像韓信、孫武、白起、衛青那樣的大將之才，這個人一定有非常豐富的社會經驗，而且熟讀兵書，胸懷韜略，有豐厚的戰爭理論修養，有長期的戰爭實踐經驗，況且還具有驚人的洞察力，可以明察秋毫，不放過任何一次稍縱即逝的機會。
這個人到底是誰呢？
他派出自己的情報網四處打探消息，結果傳來一個消息，李世民的身邊確實有一個非常重要的軍事參謀，這個人就是大名鼎鼎的李靖。
王世充一聽李靖這個名字，立即激動地從龍椅上跳起來，大叫一聲：“哎呀，原來是他！”
王世充當年和李靖一起在大隋朝為官，李靖的鼎鼎大名，他是聽說過多次的，此人是隋朝第一名將韓擒虎的外甥，連韓擒虎都對他這個外甥推崇備至。權臣楊素也對李靖評價極高。
這樣一個軍事奇才，竟然在李世民的身邊，我王世充焉能不敗！
他手下的那些文臣武將們也早聽說過李靖的大名，頓時大家麵麵相覷，內心裏非常惶恐。
唐軍有裝備精良、戰鬥力強悍的騎兵，還有指揮藝術高超的軍事統帥，這樣打下去，鄭軍肯定不是對手，洛陽城失陷，那不是早晚的事情嘛！
於是，大家紛紛勸王世充，這個時候顧不得臉麵了，一定要祈求竇建德出手了，要不然大家到時候一起完蛋。
前一段王世充和竇建德因為爭奪地盤，曾經大打出手，雙方已經結下了梁子，這個時候派出使者，去向竇建德服軟，這個彎子一下子拐得確實有些陡。王世充一時間猶豫不決。
司徒段達說：“主公，我也知道，這樣做你確實也有些麵子上掛不住，讓竇建德也小看我們一回，這個是一定的了。但是，目前這個形勢，你要是不服軟，讓竇建德出兵幫助我們，下一步我們隻能坐以待斃啊。眼下隻是個麵子問題，要是久拖不決，今後就是腦袋搬家的問題了。”
王世充想了想，說：“好吧，立即派出使者，見了竇建德，要多說好話，告訴他唇亡齒寒的道理。我要是完蛋了，下一個就是他竇建德。他現在幫我，就是幫他自己。”
使者立即上路，拿著王世充親自寫給竇建德的信，祈求竇建德出兵救援。
李世民命令大軍攻城，但洛陽城堅固異常，畢竟是當年隋煬帝用傾國之力修建的，守備設施非常完備。
守城的王世充大軍器械精良，他們有可以發射石頭的大炮，五十斤的大石頭，可以發射出去二百步。八弓弩箭如車輻，鏃如巨斧，射五百步。
唐軍四麵攻之，晝夜不息，二十多天也沒有什麽效果，死傷慘重。
唐軍將士皆疲憊不堪，想撤軍修整，總管劉弘基等人建議班師。
李世民拿不定主意，於是就和李靖商量。
李靖說：“今大舉而來，當一勞永逸。東方諸州已望風款服，唯洛陽孤城，勢不能久，功在垂成，奈何棄之而去！”
李世民立即就明白了，於是下令軍中曰：“洛陽未破，師必不還，敢言班師者斬！”
眾人才不敢複言。
眾將想要班師的消息也傳到了李淵耳朵裏，李淵也認為戰局並不明朗，為了安全起見，還是班師比較穩妥。於是就秘密地給李世民下了一封詔書，讓李世民班師。
李世民於是又召集大家開會商量，李靖堅持自己的意見，並稱一定可以拿下洛陽，此時班師，前功盡棄。
李世民下定決心，支持李靖的意見。於是派遣參謀軍事封德彝回長安當麵向李淵匯報情況。
封德彝對李淵說：“世充得地雖多，率皆羈屬，號令所行，唯洛陽一城而已，智盡力窮，克在朝夕。今若旋師，賊勢複振，更相連接，後必難圖！”
李淵於是就不再提讓大軍班師的事情了。
李世民又親自寫信給王世充，想要勸降他，但是王世充不理。
不久，王世充的鄭州司兵沈悅派遣使者到左武候大將軍李勣處請降。
李勣覺得這是個機會，於是派出左衛將軍王君廓夜裏襲擊虎牢，沈悅為內應，很快就攻陷虎牢關，生擒荊王行本及長史戴胄。
李世民早就聽說戴胄是個非常有才的人，於是任命他為秦王府士曹參軍，也成為李世民身邊的幕僚之一。
戴胄後來成為貞觀時期著名的宰相。