昆阳大捷前后，更始政权中的两派势力矛盾迅速尖锐化：刘绩及其亲信刘稷被更始帝刘玄处死，在南阳地主集团和农民军之间伏下了裂痕。不过，这时王莽政权尚未被推翻，刘秀暂还无力与更始政权公开对立。他不得不以韬晦之计，等待时机。当他得到刘绩被杀消息之后，特地自城父至宛谢罪，在更始帝及农民起义诸将领面前，既不自矜昆阳之战功，也不为刘演服丧“深引过而已”，“饮食言笑如平常”。从而取得更始帝及诸将信任，拜为破虏大将军，封武信侯。当年九月，更始军攻入长安，推翻王莽建立的新朝，十月，更始迁入洛阳后，派刘秀镇慰河北。刘秀有此机会就率领一支人马从洛阳出发，向河北进军了。

更始元年（2 3年）十二月，当刘秀进驻真定之时，故赵缪王子林以l、者王郎诈称成帝子子舆，立为天子，都邯郸。又有故广阳王之子刘接，起兵蓟中，响应王郎。这两股突起的势力将刘秀军围住，并通缉刘秀，声言“购光武十万户”。更始二年（24年）正月，刘秀在蓟（今北京城西南）被迫南逃，“晨夜不敢入城邑，舍食道傍”。在饶阳，伪称自己是“邯郸使者”才在传舍中骗得一顿饭吃，至滹沱河又几乎被王郎追兵捉住，幸而河水结冰，才免遭被擒。一直逃到信都（今河北邢台西南），因太守任光开门出迎，刘秀始脱险境。

至信都后，刘秀即重整队伍，先在附近诸县征集4000人，攻取堂阳（今新河西北）、贳县（今束鹿西南）。河北各地的地主武装也纷纷来附，王莽的和戎卒正（即太守）邳彤举郡投刘秀；昌城人刘植、宋子人耿纯也“各率宗亲子弟，据其县邑，以奉光武”，并攻占下曲阳（今曲阳县）。归附刘秀的武装增至数万人。

以此数万人为基础，刘秀又北击中山，拔卢奴（今定县），南击新市、真定、元氏、防子。在柏人（今隆尧西）与王郎大将李育遭遇，大破之，尽得其所获。此时，上谷太守耿况、渔阳太守彭宠，也都各派部将吴汉、寇恂率骑兵攻王郎。四月，刘秀率兵攻邯 郸，五月破城，诛王郎。刘秀消灭河北最主要的敌对势力，从此在这里立下脚根。