就在隋炀帝把所有筹码全部推到桌子上，准备梭哈一把的时候，来自东郡韦城（今河南长垣东北）的高车族人翟让在瓦岗（今河南滑县南）组织了农民起义。一起参加起义的还有他的哥哥翟弘、侄儿翟摩侯、同乡徐世绩和单雄信等人。起义军“颠颐，吉。”他们杀富济贫，让附近的穷苦老百姓也能吃上一口饭，于是名声越来越响，队伍不断壮大。

公元616年，来自京兆长安的李密和大将王伯当加入瓦岗军。

李密出身贵族世家。他的曾祖父李弼曾名列西魏八柱国之一，后官拜北周太师、魏国公，他的祖父李耀官至北周太保、邢国公，而其父李宽则为隋朝上柱国、蒲山郡公，妥妥的全是朝廷极品高官。

李密袭爵蒲山公，本有官身，但他随着越国公杨素的儿子杨玄感反了。

杨素不是隋炀帝的亲信重臣吗，他的儿子为什么忽然就反了？

因为飞鸟尽，良弓藏，狡兔死，走狗烹。杨素扶助隋炀帝登基，功劳大到功高不赏的地步，这已为隋炀帝所忌，且他知道得太多了，于是更有了取死之道。

杨素眼睁睁瞧着自己一边爵位被步步高封，一边实权被暗暗褫夺，最终因忧郁过度而卧病在床。这时候，隋炀帝忽然特别关心起来。他先后派了许多名医来帮杨素治病，并经常关切地询问医生：杨太傅情况怎么样啊？杨素心知肚明，皇帝这是巴不得他死呢，于是拒绝吃药，不治身亡。隋炀帝下诏称颂其功德并追赠他一堆荣誉头衔，又着杨玄感袭爵。

杨玄感承袭了父亲的爵位，却没有承袭父亲的才能，很快兵败被杀。而李密则隐姓埋名投奔瓦岗军，表现出高超的军事才能，得到了翟让的器重。

他先是联合附近义军击杀隋朝猛将张须陀，后“虎视眈眈，其欲逐逐”，瞄准了隋朝的几个大粮仓。

在李密的指挥下，瓦岗军迅速攻克兴洛仓（今河南巩义境内），缴获大批军粮。他们大开粮仓，任由老百姓前来取粮。人们奔走相告，很快就连老人妇女也背着孩子赶来领粮食。越来越多的老百姓信任瓦岗军，加入瓦岗军，队伍人数迅速增至数十万之众。

紧接着，瓦岗军再度攻破回洛仓（今河南洛阳东北）和黎阳仓（今河南浚县东南），同样是大开粮仓接济贫困，声望、势力由此达到鼎盛。