岁末，张名振猝死。死前曾言：

“吾于君母恩俱未报，若母尸不获，毋收吾骸。”

言毕起坐，击床而逝，死不瞑目，犹凛凛有生气。

后葬于普陀勾山南岙村。张名振原本遗嘱由张煌言统领其军。

而郑成功却下令由陈六御接掌。

次年清军再度占领舟山，陈六御阵亡。

在将士的推戴下张煌言成为原鲁监国系统军队的主要领袖，继续同郑成功联合作战。

顺治十五年（永历十二年、1658年），永历帝封郑成功为延平郡王，张煌言为兵部左侍郎。

同年清军进至云贵，郑成功、张煌言进军浙江，攻克乐清（今浙江温州乐清）、宁海（今浙江宁波宁海县）等地。

在羊山遇台风，损失巨舰百余艘，漂没战士八千余人，被迫撤回厦门。

顺治十六年（永历十三年、1659年），张煌言与郑成功一起，为牵制大举向云贵地区进攻的清军，再次率义军入长江作战。

先是，义军抵达并占领崇明。张煌言对郑成功建议：

“崇明，江、海门户”，宜先将义军“定营于此”，

稍事休整，务使义军“进退有所据”。

但郑成功未听从。当时，驻防长江的清军，在瓜洲金、焦二山间横上拦江铁索（俗称“滚江龙”），且在沿江两岸遍置西洋大炮，防守颇为坚固。

张煌言却率义军乘十七条船机警巧妙地破坏了江防防线，在后援的郑军配合下，“翦江而渡”，于六月一举攻占瓜洲。

攻克瓜洲后，张煌言又向郑成功建议全力攻取镇江。

然郑成功顾虑驻守江宁（南京）的清军将赶往支援。

张煌言则主张可先派一支舟师水军，佯攻直捣江宁北门，即观音门，这样“南京清军自不暇出援”。

同时，他还提议这支水军应溯江而上，前往芜湖一带活动，以防阻江楚方面清军的来援。

郑成功采纳了意见，并命他向南京方向进攻。

此时，张煌言所率义军将属人数不满一万，渡江之舟不满百艘，仍毅然率军西行。

不久，张煌言攻克仪真，并进军六合，沿途受到沿江民众的热烈欢迎，

“仪征吏民赍版图迎降五十里外”。

当得悉郑成功攻克镇江后，张煌言又致信郑成功，言及当“先抚定夹江郡县”后，再从陆路进军，直取南京。

但郑成功未采纳他的建议，“竟从水道进”。

致使有利战机瞬间丧失，而南京清军得以喘息并获后援而巩固城防。

六月二十八日，张煌言军直抵南京观音门外江面，停留两日仍不见郑军的到来。

只得派遣别的将领率轻舟数十艘的水军，“直（西）上攻芜湖”，他自己则率军驻扎在浦口。

待郑成功率“水师”到达后，张煌言又于七月七日赶到芜湖。

在此，他“部勒诸军”，将义军兵分四路，分道攻城略地，且在沿途“移檄诸郡县”，张贴文告。

许多故明降清的旧官吏，见到文告，纷纷倒戈。