在高不二和李子通作战的同时，河南瓦岗的翟让也不断派兵攻占四方，因瓦岗军有单雄信、徐世勣等将领，所以几乎所向披靡。
616年，贵族出身的李密因为杨玄感起兵失败，也几经辗转投奔了瓦岗军。
李密见到翟让，便道：“大王兵强马壮，不知可有志于天下？”
翟让素闻李密有大才，听他如是说，询问道：“先生可有良策助我？”
李密道：“如果大王有争霸天下之心，那么就不能满足于打家劫舍，而需要战略要地，积极发展势力，扩大瓦岗军的影响力，以吸引天下豪杰来投，只要我们兵多将广，大王何愁天下不得。”
翟让大礼相问，道：“请先生教我，我愿与先生共做这瓦岗之主。”
李密连忙推辞道：“李密万不敢有此心，大王如果信得过在下，我这有一策，可供大王参考。”
翟让请李密坐下道：“先生请讲。”
“而今我瓦岗大军要征伐天下，首先应当攻取荥阳。”
“此为何？”
“荥阳是中原的战略要地，向东是一片平原，向西是虎牢关，虎牢关以西的巩县有隋朝最大的粮仓洛口仓。只要我们拿下荥阳，就可以以此为大本营，袭取巩县洛口仓，这样我们不仅可以得到大量粮食，补充兵员，还可以逼近洛阳，择机攻占东都洛阳。”
“一旦我们能攻取东都洛阳，到时候振臂一呼，联合天下各路豪杰，推翻隋的统治。”
“不错。”
“好，我这就让单雄信、徐世勣出兵荥阳，袭取洛口仓。”
荥阳太守侦察到瓦岗军来袭，但是兵员不足，无力抵抗，立马上书杨广，请求朝廷派兵支援。
杨广收到荥阳告急文书，大惊，如果荥阳失手，洛口仓将立马陷入敌手，如此，长安粮食转运就会出大问题，那时将一发不可收拾，于是立马命令留守在洛阳的大将张须陀带兵镇守荥阳。
翟让见大隋名将张须陀亲自带兵前来，问李密道：“先生，这张须陀在隋廷素有威名，不知先生有何良策破敌？”
李密道：“大王无需担心，这张须陀是有勇无谋之辈而已，况且其勇还比不上大王和单将军，大王只须让单将军正面迎敌，让后佯败，再命令徐世勣将军带兵埋伏在荥阳以北的大海寺附近，待张须陀带兵到来，全军出击，必能斩杀张须陀于马下。”
翟让大声叫好，命令单雄信、徐世勣依计行事。
单雄信带领瓦岗军来到荥阳城下叫阵，与张须陀大战数十回合，佯装不敌败走，张须陀果然大喜，率兵来追，追至大海寺，徐世勣带领伏兵而出，单雄信立马调转马头杀回，张须陀大呼上当，但是脱身不及，十数回合被单雄信斩于马下。
瓦岗军趁势进占荥阳，第二天拂晓便袭击了洛口仓，将大批粮食运往瓦岗，一时间瓦岗军名声大震，颇有天下义军之首的样子。
经此一役，翟让对李密信任度大增，李密也在瓦岗军中树立了威望，这也为李密以后取代翟让而代之埋下了伏笔。
张须陀打败而亡的消息传到长安，杨广果断坐不住了，洛口仓被瓦岗军袭占，无粮运往长安，那么长安局势失控在所难免，再加上周边义军此起彼伏，突厥又虎视眈眈，在长安让他很没有安全感，于是召集大臣商议对策。
老臣宇文述出班道：“而今长安周边群盗四起，洛阳又在贼军包围之中，臣十分赞同陛下南下避难的旨意，臣建议陛下直下江都。江都乃我大隋南方财赋重地，又靠江南鱼米之乡，陛下可坐镇江都，指挥大军平定贼乱。”
还是老臣深悉朕心。
左后卫大将军赵才反对道：“而今天下贼兵四起，陛下应当坐镇长安主持天下大事才是，虽然群盗四起，但是我大隋仍可调集精兵强将数十万，何惧之。”
但是杨广南下之意已决，根本不理会赵才的建议，命令不日文武大臣随驾南巡，让十二岁的皇孙杨侑留守长安，召命左翊卫将军阴世师辅佐杨侑。
安排妥当，杨广便带领文武百官及十六万大军南下，行至洛阳，奉信郎崔民象在城门口，跪谏杨广不要去江都，杨广大怒，命人将其斩杀，留十三岁的皇孙杨桐留守洛阳，大臣王世充辅佐。一行人浩浩荡荡杀奔江都。
在杨广君臣一路南下江都之时，盘踞在幽云十六州的罗艺起兵反隋，在而今江西地区的林士弘也高举义旗，很快占领了江西、福建大部分地区，李子通也再次出兵南下，攻占了余杭以外江苏大部分地区。北方更是无处不狼烟，隋朝统治结构土崩瓦解。