向荣则不同，他是自己一步步从行伍之中杀出来的兵油子，对着文官天生就有着敬畏之心，有敬畏之心，自己却又是手握大权，因此造成了一个现象就是向荣若是单独对着文员，还能听进些话，若是文员和武将起了争执，那是没话说，独独偏向武将的，加上帮办军务的江苏巡抚吉尔杭阿、西安将军福兴等旗籍大员的制约，在广州运来的广东调派的红单船仍迟迟不到的时候，只能龟缩在大营中不出，陆攻不得，水攻不能，日对坚城，一筹莫展。咸丰四年七月，广东的五十只“红单船”终于开抵镇江焦山江面，
向荣如获至宝，兴奋地和皇帝说：“臣筹船两载，至今甫有转机。”向荣与江北大营商定，五十只红单船，一半留泊镇江、瓜洲江面，归江北大营指挥调度；另一半开赴金陵上游，归向荣指挥调度。红单船大者可安炮三十余位，小的亦可安炮二十位，且运掉灵便，在当时确是水上利器，对太平军一度造成很大威胁。为了对付清军的红单船，太平军曾建造大型木牌（一种能在水上活动的炮垒），顺着东流的江水，冲突而下，支援镇江，但往往被红单船所阻截。这一时期，江南大营清军在金陵上游打了一些胜仗，向荣的处境稍有改善，报给皇上的奏摺多次以六百里里奏捷，因而朝廷对向荣也稍满意而少训斥了。可江宁毕竟是雄城一座，正如向荣的奏章中所写的那样：“金陵城高池深，坚固异常，西面滨临大江，北面则湖水汪洋，其东、南两面，半系小河环绕，仅紫金山龙脖子一隅有旱路可通。又开挖深壕、重堑，密布竹签蒺藜，以营护城，复以城护营，防守极为严密，是以屡攻不能得手，虽有几处大火烧断，发逆又用糯米浇汁修补如初。”