胜利之后的李世民意色洋洋。王世充亲自引领者带着大唐的军队进入了洛阳城。
当日下午，李世民指挥唐军接管洛阳的防御，他令部队分守街市，严禁抢劫。唐军纪律严明，无人胆敢违反军令。
五月十日，李世民骑着白蹄乌，进入了洛阳宫城。他命记室房玄龄先到原郑国中书、门下省去收罗隋朝图籍制诏，但这些都已经被王世充烧毁，房玄龄一无所获。
他又令萧禹、窦轨等封存府库，将金银珍宝和绸缎全部拿出来，分别赏赐给唐军将士们，将士们喜气洋洋，兴奋得舞蹈歌唱。他还令杜如晦等把军粮紧急分给缺粮的百姓，另派人将回洛仓的粟米用船运来，使洛阳从此不再缺粮，百姓个个欢天喜地。
第二天，李世民下令将王世充的党徒中罪孽尤为深重的段达、王隆、崔洪丹、薛德音、杨汪、孟孝义、单雄信、杨公卿、郭什柱、郭士衡、董睿、王德仁、朱粲、郭善才等十几人抓捕起来，准备斩首示众。
徐世绩急忙找到秦王李世民，为单雄信求情说，单雄信骁勇绝伦，他愿意将自己的官位和勋爵全部上交，来赎回单雄信的性命。程知节等人也赶紧为单雄信求情。
李世民的脑海里不断浮现着单雄信的红袍和蓝亮的长槊尖的影子，内心感到十分地厌恶。他本来不想答应，不过碍于程知节的面子，还是同意让徐世绩去劝降单雄信。
单雄信单独被关在一处牢房中，身上也没有什么刑具；看到程知节他们来了，他面对着墙壁一言不发。
徐世绩和单雄信交情最好，他叹了一口气道：“六弟，王世充已经灭亡；你还是赶紧投降吧！我已经向秦王做了保证，只要你投降；以往的种种一笔勾销。”
“哼！他想购销我还不同意呢？想让我投降，除非李渊与我兄长抵命。”
程知节怒道：“老六，当初是一场误会，你又何必一直耿耿于怀！”
“一句误会，我的哥哥就白死了？我已经在哥哥的灵前发过誓，不杀李渊誓不罢休。我败了，是天不助我。天下死的人多了去了，又何怕再多一个单雄信。”
徐世绩哭道：“我等在贾柳楼结义，发誓不能同年同月同日生，但求同年同月同日死。我本应当和六弟一起赴死。奈何现在世绩的身体已经献给了国家，却忠义难以两全。”
“国家？徐世绩，你说得多好听哟！”单雄信不屑地说，扭头望着对面的墙壁。
“是的，现在的徐世绩已经不是过去的徐世绩了。我们在年十二三时开始闯荡江湖，做的是无赖贼，那时候出外劫掠，逢人便杀；。
十四五岁威震绿林，做了天下绿林的魁首，做的是难当贼，凡是惹得我不痛快的，就没有不杀掉的。
到了十七八岁，我们杀官造反上了瓦岗寨，，开始学习做好人，上了阵才杀人。”
徐世绩神情悠悠，追述起无边往事，“自从魏公来到了瓦岗，我们接连打下了三座粮仓，开仓放粮，有百万以上的老百姓靠我们的粮食活了命，他们感恩戴德，反过来令我感动不已。
我便经常思考这个问题：我们究竟为何要打仗，要靠什么建功立业。可惜魏公他……咳！”