林南首战告捷，而宇文素则按照隋灭陈的作战部署，首先率舟师自巴东郡东下，在长江上游发起攻势作战。军至流头滩，陈将戚昕率青龙战船百余艘、战士数千人坚守前方狼尾滩，以遏隋军。狼尾滩地势险峭，水流湍急，易守难攻，诸将皆为难。而宇文素却认为：“胜负大计，在此一举，若昼日下船，彼则见我，滩流迅激，制不由人，则吾失其便”。于是决定采用水陆协同，分进合击的方针，乘夜突袭。
宇文素率黄龙战船数千艘，利用暗夜，令将士衔枚开进，实施正面突破，令开府仪同三司王长袭率步兵由长江南岸攻击戚昕别栅，令大将军刘仁恩率甲骑自江陵西进，沿长江北岸进击陈军白沙要点。隋军水陆配合，于次日拂晓，一举击败戚听所部，戚听逃走，部属全部被俘，宇文素对俘虏不杀不辱，慰劳后全部释放，秋毫不犯，陈人大悦。此战，宇文素恰当选择进攻时机，以水军突袭与两岸步、骑兵协同攻击，速战速决，取得首战胜利，为灭陈战争发展创造了有利条件，而实行优待俘虏的政策，也有利于争取更多的陈军将士。
这边林南则率大军继续顺江东下，林南立于五牙楼船之上，容貌雄伟，陈人望之惧曰：“吴王乃龙王也！”陈荆州刺史陈慧纪派南康内史吕忠肃率军屯守歧亭，在两岸岩石上凿孔，系三条铁索横截江面。阻遏隋军战船。为固守峡口，吕忠肃将自己私产全部捐出充军，所以陈军斗志颇高，防御也很严密。
大业十七年正月二十四，林南分兵一部与宇文素军相配合，猛攻陈军岸上栅障营垒，吕忠肃率军据险抵抗，激战40余次，隋军伤亡惨重，死伤2万余人。陈军尽割死者之鼻以邀功求赏，激起隋军愤怒，林南身先士卒，拚死力战，所俘陈军将士，林南则全部释放，以安其心。在隋军猛烈攻击下，吕忠肃被迫放弃营栅，连夜逃走，林南令士卒毁掉栏江铁索，继续沿江而下。
吕忠肃退据荆门之延洲。依恃荆门山险要地形，再次阻遏隋军。林南派善于驾舟的巴延士卒一千余人。乘“五牙”战舰两艘，用舰上拍竿击碎陈战船十余艘，俘两千余人，再次大破吕忠肃军，吕忠肃只身逃走。驻守江南岸安蜀城的陈信州刺史顾觉，也弃城逃走。屯守公安的陈慧纪见形势不利，烧掉储蓄，率军3万、战船千余艘，顺流东撤。企图入援建康，却被施文庆率军阻于汉口以西。
陈湘州刺史，岳阳王陈叔慎引人马五千投降林南，林南善待之，并且所入之城，皆秋毫无犯，陈民人人都念林南之好，陈军也多思反叛。此战，林南、宇文素以水军、步兵相配合，先击破陈军江岸据点，再以水军战船接舷战。大破敌军。隋大型楼船“五牙”及重型拍竿装备在作战中显示了威力。优俘政策对瓦解陈军、配合军事进攻，具有积极作用，至此，长江上游为隋军所控制，阻止了上游陈军的东援，保障了下游主力的渡江作战。
大业十七年二月，林南二十万大军直逼建康，此时陈主才知道事情紧急，急调萧摩诃、鲁广达两人引兵五万前至钟山抵挡隋军。然而此时的隋军已是锐不可当，而陈兵却皆无战心，两下刚一交战，陈军就倒戈相向，尽管萧摩诃、鲁广达两人率军死战，无奈寡不敌众，尽皆死在乱军之中，五万陈军也有四万投降。