李密分析了天下大势，向翟让说:“如今杨广昏庸残暴，天下老百姓怨声载道。隋朝的精锐部队都被消灭在辽东(指今东北一带),隋炀帝到扬州巡游，不管东都洛阳的事，这正象秦末刘 邦、项羽起兵时的机会一样。 凭您的才能和策略，又有精锐的兵马，足可以席卷洛阳和长安，杀掉那些贪官污吏，把隋朝推翻。”这一席话对翟让和其他首领是个巨大的鼓舞。翟让等人原先起义主要是为了活命，还缺乏彻底推翻隋朝取而代之的远大理想。经李密对天下大势的分析，他们眼界顿开，因而对李密的才能非常敬佩，从此更信任他了。在翟让的支持下，李密多次奔波于附近各支农民起义军之间，使王当仁、王伯当、周文举、李公逸等几支农民起义军团结在瓦岗军的周围，联合作战。这时，山东省东阿县的程知节(即旧小说中的程咬金)，也带领自己的起义部队来到瓦岗寨，参加了联军。这样一来，瓦岗军兵多将广，已经有了几万人马了。

联军组成了，在翟让和李密的指挥下，浩浩荡荡地向南进发，突破了金堤关(今河南省滑县南)，消灭了守关的隋朝官兵，又马不停蹄继续南进，拿下了荥阳附近的几个县，兵临荥阳城下。这是大业十二年(公元616年)十月的事。

荥阳，地势险要，附近是通济渠入黄河的交通枢纽。秦汉之际，项羽和刘邦争夺天下，成皋(在今河南省荥阳县)决战，便在这附近进行，是历史上著名的中州古战场，兵家必争之地。瓦岗军围困荥阳，吓坏了荥阳太守(一个那的长官)杨庆，他龟缩在城内不敢出头，赶快向隋场帝告急，请求授兵。隋场帝任命张须陀为荥阳通守(一个郡的副长官)，带领精兵两万，疾驰荥阳来解围。

张须陀是一个十分狡猾毒辣的家伙，是死心心踏地效忠杨广的一条走狗。近几年来，他在各地围剿农民起义军，双手沾满了起义农民的鲜血，翟让也曾与他 交锋失利。在杨广的眼里，他是一个“有功”的名将。

张须陀的反动气焰十分嚣张，带领官兵赶到荥阳，摆出了决战的架势。翟让面对这一支虎狼般的强敌，心里有点怯战。这时,李密对翟让说:“张须陀勇而无谋，他的兵打了不少胜仗，骄傲轻敌的情绪很重，这样的军队不堪一击。你带领少数人马列阵以待，我一定用计策把他打败。”