清朝浙江总督赵廷臣从降将口中获悉张煌言隐居海岛，便派遣兵丁在舟山的普陀、朱家尖等地查访。花岙岛贫瘠而不产粮食，因此每隔一段时间张煌言都派人驾船购粮，清政府的包打听侦知购粮船，并利用该船去花岙岛抓捕张煌言。

七月十六日黄昏，张煌言驯养的灵猿忽然望着波涛汹涌的海面哀鸣，声音非常凄厉。张煌言预感有事要发生，便备剑准备一搏。然而整夜都风平浪静，并无异样发生。这一夜，他思绪难平，快天亮的时候，他忽然平静下来。他大半生奔走，究竟为何？是先圣“以天下为己任”的训导在支配着他，如今一切都已经结束了，若继续驱策南方子弟，徒增杀伤而已。当初他解散部属，就是这种想法。然而，这并不是说他不再忠诚，他的忠诚固然是忠于君主这个前提，但是在他的历史环境里，这是他的道德，也是当时社会的道德。跨越社会的，跨越时空去讨论忠诚是可笑的。从表面上看，这是对君主的忠诚，实际上是对国家民族的忠诚。

他的忠诚不仅体现在对国家民族的感情上，还体现在对这个国家的文化的热爱上。他不但是一个将军，还是一个诗人，就连在军旅之中他还常常作诗，他的死具有更为深刻的意义。这一点从他的诗篇里就能感觉到，他的死有着强烈的文化含义，那就是为文化而殉道。当清军攻破一座座城池，人民在铁蹄下哀鸣的时候，这片土地上的某一部分文化也在逐渐消失。而张煌言的死，其中包含着深刻的为文化，为道统而殉身的意义。

完成自我有多种方式，当生命的存在已经无法拯救他所挚爱的东西，死是唯一的方式，张煌言以这种方式给历史投下了一道深重的影子。这道历史的投影不仅作为一个文化标杆而存在，而且也透射进每一个有骨气的知识分子心中。

七月十七日天色未明，清军闯进了张煌言的茅舍，身怀绝技的仆人杨贯玉，还有爱将罗自牧一起被捕。他们几乎没有做任何反抗。也许，他们等的就是这一天。狱中的张煌言乌巾葛衣，不说话，也不吃东西，只是偶尔喝口水而已。颇有些伯夷、叔齐不食周粟的意味。此间，清廷曾多次派人来招降，并许以高官厚禄，都遭到他的拒绝。前有文天祥，后有于谦，都是他的楷模，人生至此，唯一死而已。

清康熙三年（1664年）九月初七（10月25日），清政府准备杀害张煌言。张煌言大步走出监狱，好似去赴一场宴会。当狱卒押解着他走到江边的时候，他抬头望去，只见青山夹岸，江水如澄练，忽然开口说道：“真是大好河山。”

《台湾通史》载：（张煌言临绝）索纸笔赋绝命辞三首，付刑者，端坐受刃。贯玉、自牧同斩。略一振臂，绑索俱断，立而受刃，死不仆，刑者唯跪拜而已。时永历十八年中秋之日也。煌言著诗词，贮一布囊，悉被逻卒所焚，唯绝命辞在。

张煌言在狱中曾写有不少诗词，装在随身携带的一个青布袋中，就义后被狱卒全部焚毁，除绝命词传世外，别词竟至不传。可恨这粗夯的狱卒，竟致烈士之华章绝传，令人扼腕。但是，张煌言的精神是不会因他的诗章不传而淹没的，他自己就是一曲绝响，他曾有诗云：

国破家亡欲何之？西子湖头有我师。

日月双悬于氏墓，乾坤半壁岳家祠。 

渐将赤手分三席，拟为丹心借一枝。

他日素车东浙路，怒涛岂必属鸱夷。

这是他写的《入武林》诗。西子湖畔埋葬着无数忠魂，既有含冤被杀的民族英雄岳武穆，又有不计个人荣辱利害的于谦。张煌言将岳于二人奉为师，实则是早就抱定了必死之心。明末清初大学者黄宗羲在《有明兵部左侍郎苍水张公墓志铭》中写道：“慷慨赴死易，从容就义难”。何谓慷慨赴死？冲锋陷阵，战死于沙场；国破君亡，自杀以殉国，都是慷慨赴死。对于满怀忠魂的人来说，这并不难。艰难的是像文天祥，像张苍水一样，从容的就义。他们不死，是因为生命是宝贵的；他们赴死，是因为还有比生命更加宝贵的，这就是：正义与忠诚。