这时，瓦岗军派人到东都侦察情况，被洛阳所觉察，东都因而加强了警卫，并且派人把东都吃紧的情况报告在扬州的隋炀帝。根据这种情况，李密向翟让说:“《大势既然如此，我们要立即行动。现在饥荒严重，老百姓嗷嗷待哺。洛口仓囤积许多粮食，乘他们没有严密防守，将军若率领我军，轻装急行，偷袭洛口仓，一举可得，当东都知道时，我们已经占领过了。到那时我军开仓放粮，救济灾民，老百姓就会归附我们，我们的义军将可以发展到百万之众。这样，我们就可以有力量推翻隋朝，行我们的政令了。”翟让非常称赞李密的计谋，就让李密率领部队先行，自己随后出发。

但是，夺取洛口仓也不是轻而易举的事。洛口仓又叫兴洛仓，是隋朝设在东都附近的一个最大粮食仓库，创建于大业二年。仓址位于洛河入黄河的河口附近的邙山岭上。粮仓周围还筑有坚固的仓城，古地方圆二十余里，挖掘有三千个地窖，每个地窖可储粮八千石。这些粮食大部是从南方搜刮来的稻谷。仓城的北面是涛涛的黄河，西面紧临奔腾的洛水，南面不远有一条注入洛水的石子河，河南岸是有名的黑石关，东面是起伏的山脉，距虎牢关不足百里。地势十分险要。

攻取洛口仓，如果从荥阳西进，必须经过虎牢关。这个关口有隋将裴仁基把守，想通过关去非常困难。因此，瓦岗军来个声东击西，一度挥戈东去,麻痹敌人，然后避实就虚,以七千精兵轻装疾驰,悄悄地折兵向南，以隐蔽的快速行军绕道阳城(今河南省登封县)，翻越方山，进入巩县南部，再折兵向北，从虎牢、黑石二关之间悄悄地直插仓城。守备洛口仓的千余名隋朝官兵，突然遭到猛烈的攻击，惊慌失措，仓城被瓦岗军迅速占领。

早春二月季节，灿烂的阳光西向大地，人们感到暖洋洋的。伊洛河水欢腾歌唱，载着人们的欢乐，流入黄河。瓦岗军战士骑马四出，告诉方圆几十里内的农民:瓦岗军开仓放粮了，都来领粮啊!

瓦岗军开仓放粮的消息，迅速传遍四面八方。广大贫苦农民干黄的脸上露出了欣喜激动的笑容。男男女女，老老少少，拿着口袋，挎着篮子，推着车子，挑者担子，人流滚滚地涌向洛口仓。