1940年10月，中共南方工作委員會成立，張文彬任副書記兼組織部長。

1941年12月，日軍占領了香港。原從內地轉移到香港的何香凝、柳亞子、茅盾、鄒韜奮等一批愛國民主人士來不及轉移，眼看就要陷入侵略者的魔掌。遠在重慶的周恩來指示廣東黨組織：想盡一切辦法，將這批愛國民主人士搶救出來。張文彬迅速組織和領導廣東人民抗日游擊隊開展工作。經過3個多月的緊張斗爭，他們從日軍層層封鎖中，把800多名愛國民主人士和國際友人通過陸路、水路分批接回內地。

1942年5月下旬，張文彬得悉江西省委遭到破壞的消息，當即同南委書記方方等研究部署機關撤退工作。6月初，張文彬一行向東江轉移時，遇上叛徒郭潛(原南委組織部長)及所帶引的特務隊。當郭潛指引眾特務合圍過來時，張文彬一面極力反抗，一面向周圍高聲呼叫：“請大家注意，有漢奸逮捕愛國分子！”他的呼叫報警，使同行的其他同志得以警覺，迅速離開險境。

張文彬被捕后，被押送到江西太和縣國民黨監獄囚禁。面對病情嚴重的張文彬，敵人說只要他轉變立場，不僅可以獲得自由，還可以給他治病。張文彬嚴詞拒絕，大義凜然地宣稱：“寧可坐牢而死，決不跪著爬出去！”敵人的如意算盤一個個落空了。

生命垂危之際，張文彬心中一直想念的是黨，是革命事業。1944年8月26日，他帶著對革命事業的無限眷戀離開了人世。獄中人員清檢他的遺物時，發現了他生前留下的一封題為“我誓死不能轉變”的信。信中說：“寧為玉碎，不為瓦全……我犯(患)了嚴重的肺病，生的時期不多，吃苦也快到了盡頭，因而更是視死如歸，樂于就義……”

1983年4月15日，全國人大常委會副委員長廖承志介紹說：“(在獄中)張文彬同志同我關在一起，他犧牲我是親眼看到的……廣東黨組織能夠重新恢復和建立，張文彬同志的功勞很大。”

美國記者尼姆·威爾斯在《續西行漫記》稱張文彬為“保衛井岡山的獨膽英雄”“中共第一流青年政治家”。

2014年9月，張文彬被列入第一批著名抗日英烈和英雄群體名錄。（胡遵遠）