隋朝建立的时候，继承了北周所统一的中国北方广大地区。可是，长江以南的半个中国，当时仍在南朝的最后一个王朝一陈的统治之下。这种南北分裂、对峙的局面，自从西晋被匈奴灭掉以后，已经延续二百七十年了。这种对峙阻碍着南北经济文化的交流，使广大劳动人民负担着更沉重的兵役劳役和赋税，直接阻碍着生产力的提高。因此，南北双方的广大人民都要求国家统一，结束数百年来的分裂局面，过上和平安定的生活。

隋文帝以前，北朝历代皇帝，大都是少数民族出身。因此，南朝与他们的矛盾和斗争，含有民族矛盾和民族斗争的因素。隋文帝是汉人，他所依靠的是一个汉族统治集团。而且，北方民族大融合日益加深。因此，南北民族矛盾渐渐消除，从而减少了统土南北的阻力。

当时陈朝的统治集团日益腐朽堕落。对人民的奴役非常残暴，遭到人民的厌弃，人民渴望政治的变动。这就使统一南北具备了必要的容观条件。

文帝早有统一南北的雄心。眼看江南百姓陷于水深火热之中，他说:“我为民父母，岂可因长江一水之隔而不救他们？”开皇元年二月，他夺取了北周政权。三月他就让高颎推荐平陈的大将。根据高颎的推荐，派文武双全、素负盛名的韩擒虎和贺若弼两位大将，分别担任长江前线的庐州总管和吴州总管，负责平陈。 庐州，就是现在的安徽合肥，吴州，就是现在的扬州，当时都是与陈朝对峙的战略要冲，进可以攻，退可以守。韩、贺二人在这里训练军队，制造船只，收集敌情，演习水战，埋头于平陈的准备工作。

开皇元年九月，文帝又任命大将军长孙览为东南道行军元帅，高颎为督军，统率八总管(隋朝地方高级军政长官)从寿阳(今安微寿县)出发，水陆并进，南攻陈朝。这时正好碰上陈宣帝死了,后主陈叔宝继位。高颎借口“征伐有丧事的敌国不合乎礼”，班师回来。实际上是当时平陈时机不成熟，隋朝建立刚一年，内部有很多问题急待解决，国力也不充实，没有能力进行大规模的战争。这次出兵的作用，是使陈朝感到惶恐，为隋朝赢得集蓄力量的时间。