既然已决定与唐军决战虎牢关，窦建德便不再犹豫。第二天就把大军开到虎牢关前，布列成阵，北临黄河，西接汜水，横亘二十多里。这十多万人向前进军，场面宏大，很是壮观。
三千五百骑唐军看着城下糜沸蚁动的夏军，都是战战兢兢，露出怯色。三千五对十万，差距实在有点太大，打仗可不是请客吃饭，是以命相搏的，换成任何人在这种敌众我寡的情形下，都会害怕。可在李世民的心里，根本就没有怕这个字。越是危险的场面，他反而越是兴奋，他就是为这种大场面而生的人。
李世民指着夏军对诸将说道：“你看这些人渡河时吵吵闹闹的，毫无组织纪律。紧挨着城池布阵，是看不起我军。咱们先不动，看他们得瑟够了，饿的时候就自然就没力气了。到时候再冲出去干他们，肯定打他们落花流水。有没有人敢跟我打赌？一过中午，咱们就能打败他们。”
窦建德虽然被李世民打败过，但凭借兵力上的优势，仍没太把李世民放在眼里。派出了三百骑兵，挑衅唐军，“来啊！你们敢不敢出来做个小游戏？”
唐军里当然有不怕死的，猛人王君廓带着二百长矛队冲了出去，双方你来我往，干了半天，没分出胜负，各自退兵。王世充的侄子王琬骑着一匹青骢马，在阵前耀武扬威。这马本是隋炀帝的座骑，相当神骏，李世民看得直流口水，赞叹道：“这马真不错！”
说者无心，听者有意。正愁不知怎么报答李世民的知遇之恩的尉迟敬德，见李世民喜欢这马，二话没说，上马带着二人，跟在退回的夏军身后，径直混到窦建德军前。
待到接近王琬身前时，尉迟敬德快马前冲，大喝道：“哪里走？”
王琬没有防备，被尉迟敬德一把抓个正着，坐骑也被人牵走。王琬万没有想到，自已在已方军营中，会遭此横祸，连人带马被尉迟敬德掳走。夏军中有人追出，都被尉迟敬德用槊刺于马下，没有人敢再近前。
尉迟敬德此事做的鲁莽至极。他未曾想过，一旦失陷敌阵，会对唐军的士气造成多大的影响。好在他战斗力超强，全身而退，这反倒点然了唐军的斗志。
“十万的大军，居然让一人在阵前如此来去自如，窦建德也不过如此！”这正是李世民想要的结果。
此时的夏军，队形已经散乱，有的去河边喝水，有的坐在地上，嚣张的气焰早已不如开始。李世民看到对方锐气已泄，对着众将说到，“是时候亮剑了！”
李世勣、程咬金、秦叔宝、尉迟敬德等人接到李世民的命令，个个如出山猛虎，入海蛟龙般冲向夏军，李世民也不甘落后，跟着冲了出去。三千五百精骑，如一支利箭般直捣敌军阵地。
夏军里，窦建德看着天已过午，正与众将商量午饭是吃火锅还是烧烤，忽然唐军就如风一般杀将过来，来不及整队，只能命骑兵先行抵抗，窦建德则带着步兵后退到东面的坡地上。
唐军所有人都知道这一战事关生死，面对数十倍于已的敌人，如果不能在精神上击溃夏军，让他们有了喘息的机会，下一个倒下的恐怕就是自已。所以全部将帅士卒，人人向前，个个争先。就连李世民的堂兄淮阳王李道玄，都是几进几出敌阵，浑身中箭，犹如一只刺猬。这一仗只杀得天昏地暗，日月无光。
窦建德大军在这些骁骑不要命的冲击下，很快就露出了溃败的迹像。程知节、秦叔宝等人，冲到了敌军阵后，突然树起了大唐的旗号。所有夏军不知所以，就见身后一面唐军旗帜迎风飘扬，以为被包围，立马敌了阵脚，开始如潮水般溃败。
窦建德在乱军中为槊所伤，逃窜到牛口渚，被唐将白士让赶上。窦建德早已吓得浑身发抖，被白士让一槊刺于马下。白士让拟再一槊刺死他，窦建德大叫，“手下留情，我是夏王！”白士让本不认得窦建德，只是见他金甲锃亮，一看就是大官，一直穷追不舍，这时听他自报是夏王窦建德，当时就捆了起来。
这一番厮杀，窦建德的十多万人死的死，逃的逃，还有五万多人成了俘虏。窦建德被带到李世民的面前，李世民质问道：“我来征讨王世充，与你有什么关系，你偏偏来凑这个热闹？”
窦建德寻思了半天说出了一句让人捧腹不禁的搞笑话，“我今天不自已送上门来，还得劳驾你将来去抓我！”从这句话看来，窦建德还是个挺幽默的人。
虎牢关一战，是一个以少胜多的经典案例。李世民凭借其超凡的军事天赋，利用“渡河未济，击其中流”的道理，创造了一个军事神话。窦建德到死也不可能明白，自已所率的十万大军，是如何败在三千五百铁骑下的。
解决了窦建德，洛阳城真的就是李世民的囊中之物了。他带着击败窦建德的余威，回到了洛阳城下，对王世充说，“来！老王，你看看这是谁？”唐军把押着窦建德、王琬、王安世等人的囚车推了出来。
王世充在城楼上向下一看，差点没从楼上栽下城来，最后一丝希望也就此破灭，看来洛阳城破只是时间的问题，再死守下去也没有什么意义了。当天，王世充就身着白衣，率文武官员开城投降。
进了洛阳城，唐军开始接收各处城防，查封府库。王世充的同党罪行较大的，都被李世民砍了脑袋，其中包括猛将单雄信。李世勣与单雄信曾经是非常好的兄弟，这时向李世民求情，放过单雄