李渊公开宣布反隋，杨广再也按捺不住，连忙调各地精兵援助洛阳。在他看来，只要能够打败李密，朝廷便能重新建立起威望，而李渊的造反，也必将无疾而终。同时，他命令李玄霸放弃荥阳，率荥阳郡的将士共同讨伐李密。
右御卫将军、涿郡通守薛世雄率三万燕地精锐，江都通守王世充亲率两万江淮子弟，荥阳通守李玄霸聚集郡中所有将士，朝廷的大军加起来有十万余人，似乎一场大战在所难免。
李玄霸不敢违抗皇命，毕竟李渊造反，他想要证明自己没有不臣之心，就必须听从诏令，况且军中将士的心思，李玄霸尚不清楚，他担心自己若是违令，很有可能被李靖、裴元庆等人斩杀。
但是，杨广这么大的动作，并没有让李玄霸看到曙光，相反，对于他来说，从杨广派王世充救援洛阳那一刻起，大隋已经灭亡了。
本来，薛世雄被任命为行军统领，还让李玄霸留有一丝希望，可惜薛世雄因为轻敌，在河间的七里井驻军时，遭到窦建德的偷袭，大军一朝溃散，薛世雄也因忧愤惭愧，抑郁而终。而杨广不可能冒险将大军交到李玄霸的手中，所以王世充变成了此次剿贼的总指挥。
当然，李玄霸只是默默的想了想这些事情，连对房玄龄都未曾提及过，毕竟他无法解释李渊攻下大兴、王世充霸占洛阳、杨广死于江都这些尚未发生的事情。
大军在李靖、秦琼、罗士信、牛进达等人的率领下，井然有序的出了荥阳诚，李玄霸骑着赤焰，在道路一旁显得很沉默。
“公子一直不忍心抛下荥阳的百姓，这次如此决绝，倒是令玄龄十分吃惊。”房玄龄骑着骏马，与梁啸陪伴在李玄霸身侧，他随口说道：“百姓并未出城相送，公子心中是否有些难受？”
“先生想让玄霸莫要觉得羞愧？”李玄霸回过头，淡淡的说道：“郡中的大户请求我们留下，我们却没有合了他们的心思，他们又怎会笑脸相送？”说完，嘴角微微翘起，讥讽道：“当初玄霸向他们借钱银时，他们又是如何做的呢？”
荥阳先后在张须陀和李玄霸的庇护下，并未出现大的****，郡中的大户依然过着锦衣玉食的生活，他们有钱有粮，但李玄霸需要援助时，那些大户竟无人理会，李玄霸也在那个时候变得心寒起来。
“公子体恤百姓，不愿强征，大户又怎么舍得多出一粒粮食？”房玄龄对于此事倒是看的很开，一脸平静的说道：“这种时候，有多少人还会在意别人的生死？”
人在绝望面前，会变得无比自私，李玄霸也不好评价什么，幽幽叹道：“是啊。”然后便带着房玄龄、梁啸与一众亲卫进入大军之中。
杨庆在城墙上看着大军结成方阵，又目送大军渐渐远去，心如死灰。没有这两万大军的守备，荥阳如同一座空城，只待瓦岗贼确认李玄霸率军出城并非使诈，王伯当必然来攻，那时除了投降，他似乎别无选择。
“陛下真的放弃了我们。”杨庆苦笑一声，下令关闭城门，禁止任何人出城。
荥阳船只不多，根本容不下大军以及他们的亲眷，而巩县已被瓦岗贼占据，李玄霸只能绕道嵩阳，小心翼翼的前往东都。
瓦岗贼攻占大隋许多城池，每座城池，李密都要派军驻守。除此之外，瓦岗贼大部分兵力放在围困江都上，关中其他城池的兵力相对空虚。李靖用兵有道，行踪诡秘，所以荥阳大军，还算比较顺利的到达了洛阳。
东都早已不不复昔日繁华，外郭城中，到处都是残垣破壁，一片萧条景象，更是毫无人烟，宛如一处死地，想到短短两年时间不到，洛阳变成如此光景，李玄霸一阵唏嘘。
得知援军赶到，守卫洛阳的将士百感交集，很快将大军迎入内城。李玄霸派李靖等将领安排大军扎营之事，自己则一人一骑前往宫城，求见越王。
自从李密围困东都，荥阳军还是第一支救援的队伍，越王做足了姿态，摆下筵席招待李玄霸。留守东都的文武皆在席上，大部分都穿着朝服，也有几人身披盔甲，想必是担心有突发情况出现。
李玄霸很镇静的进了大堂，对着主位上的越王躬了躬身，忠勇卫面圣都不必行礼，杨侗又岂敢受李玄霸一拜，连忙侧身说道：“东都危难之间，李通守愿意引兵来援，又是率先赶到，果不负忠勇卫之名啊！”
“身为陛下的臣子，自当为朝廷鞠躬尽瘁，死而后已。”李玄霸低头答道：“不畏逆贼兵众，力保东都不失，也只有越王您这样的人才能做到。”
筵席上的百官偷偷露出轻蔑之色，暗道所谓的忠勇卫也不过只是个溜须拍马的小人。李玄霸对于众人脸色似乎毫无所觉，依然恭敬的站在堂中与杨侗对话，直到杨侗得到身边人的提醒，才想起让李玄霸就坐。
李玄霸不痴不傻，自然明白这是越王给他的下马威，正所谓恩威并施，他没想到年纪小小的杨侗也懂得这样的道理，暗道宫中确无凡人。
此时李渊已经派李世民攻下西河郡，斩杀西河郡丞高德儒，这样大的事情，越王不可能毫不知情，文武百官也各自交谈，从未提及到唐国公的名字。
“忠勇卫大人，您的大军如何安置？”闲叙一会，刘长恭得到杨侗的暗中示意，端着酒杯起身走到李玄霸面前，二人共饮一杯后，刘长恭开口说道：“陛下命令王通守统领援军，但江都路途遥远，只怕王大人一时半会赶不到这里，东都的战事正在紧要关头，大人总不能让您的大军单独行事。”
“陛下既然命令越王掌管东都事宜，那玄霸自然是听越王的命令。”李玄霸早就猜到筵无好筵，他朝着越王抱了抱拳，一脸严肃的答道：“不过，陛下的诏书中说，临阵换帅乃是兵家大忌，所以命玄霸与另外几位大人自领兵马。”顿了顿，他愁眉苦脸的继续说道：“玄霸的能力自然比不上刘大人，但又不敢违抗皇命，还请刘大人教玄霸该怎么做。”
刘长恭闻言，一时语塞，这时另一人走了过来，微笑着说道：“陛下的诏令，忠勇卫大人理当遵从，不过大人可以身居其位，不谋其职，如此一来，大人没有违令，而大人的兵马又可以与东都守军整合，这样不是很好吗？”
李玄霸皱着眉头看了来人一眼，识得此人乃是武卫将军皇甫无逸，便冷笑着说道：“皇甫将军是让玄霸欺君罔上？你可知道，就凭你刚才的一席话，越王殿下就可以将你当堂杖杀！”