因为唐朝大军用巨石阻塞了运河河道，又派大将程名振沿路破坏夏军粮道，窦建德一直处于粮草不足的状态。
好不容易捱到春天，窦建德决定西进叩关。
三月初春，黄河解冻，窦建德率大军继续西进。
当大军行至荥阳地界之时，斥候来报，李世民率领亲卫玄甲军已经抵达武牢关。
窦建德决定，大军在成皋的原野上修筑行营。
他知道，武牢关下将会有一场鏖战，因此需要在此做好充分的准备。
唐军背靠雄关，在武牢关下阻截夏军。
随着唐军主力部队全部来到武牢关西部，李世民决定向夏军发起挑战。
来日，李世民亲率五百骑兵，前来侦查窦建德军营。
他随行就带了尉迟敬德、李世勣、程知节、秦叔宝四位将领。这四位将军都不是秦王嫡系，都是后来从敌方阵营前来投奔大唐的。
李世民知道尉迟敬德善使马槊，于是他安排尉迟敬德与他一起前往窦建德大营探营，其余将领带兵埋伏在要道。
李世民对尉迟敬德说：“我持黄杨弓，你持狼牙槊相随，虽百万大军又奈我何？”
又吩咐说：“敌人看见我们，我们就马上往回走，这才是上策！”
尉迟敬德明白这是在用诱敌之计，爽快地答应了。
当他们走到离窦建德大营还剩三里的地方，被窦建德营中游兵发现，当对方还以为他们是斥候之时，李世民大喝一身：“我就是秦王！”声音刚落，黄杨弓射出一箭，敌将应弦毙命！
窦建德营中大为惊动，于是派出五六千骑兵前来追赶，同行的唐军见敌人人多势众，吓的面色惨白。
李世民却不慌不忙地说道：“大家只管前行，我和尉迟将军殿后。”
敌军大凡追的紧的，都被李世民一箭射死，他每箭必毙一命，箭无虚发。其余跟得紧的，都被尉迟敬德用狼牙槊抡死。
因此，敌军不敢追的太紧，只是在一箭之外缓缓追来……
等敌军来到了唐军的埋伏区，李世勣等人突然杀出，大败敌军，斩首三百余级。又俘获了敌军将领殷秋、石瓒等人。
李世民小试牛刀，初战告捷。
于是写信给窦建德，劝他停止进军，回到河北，如此不失列王封侯，永世富贵，何必来此为王世充陪葬。
窦建德见信，心中愤恨，他自恃也是百战之将，不想大军初到此地，却遭败绩。心想，无论如何要在此地大胜一场……唯有如此，才能去除心中这口恶气。