紹興元年，帝至會稽。時金人殘亂之餘，孔彥舟據武陵，張用據襄漢；李成尤悍，強據江、淮、湖湘十餘州，連兵數萬，有席捲東南意，多造符讖蠱惑中外，圍江州久未解，時方患之。范宗尹請遣將致討，俊慨然請行，遂改江、淮路招討使。
成黨馬進在筠州。豫章介江、筠之間，俊聞命就道，急趨豫章，且曰：「我已得洪州，破賊決矣。」乃斂兵，若無人者，金鼓不動，令將士登城者斬。居月餘，進以大書牒來索戰，俊以細書狀報之，賊以俊為怯。俊諜知賊怠，乃議戰。岳飛為先鋒，楊沂中由上流徑絶生米渡，出賊不意，追奔七十里，至筠州。賊背筠河而陣，俊用楊沂中計，親以步兵當其前，精騎數千授沂中及陳思恭，俾從山後夾擊，以午為期。俊與賊鏖戰至午，精騎自山馳下，賊駭亂退走，大敗。
既復筠州、臨江軍，捷奏，帝賜御筆，謂：「宜乘賊勢已衰，當官軍已振，驅除剿戮，速收全功。」俊未拜親詔，已追至北奉新樓子莊。賊黨商元據草山，挾險設伏，俊遣步兵從間道直趨山椒，殺伏奪險，乘勝追至江州。成勢迫，絶江而遁，號俊為「張鐵山」。復江州。已而興國軍等處群盜聞俊兵至，皆遁去。俊引兵渡江至黃梅縣，親與成戰。成懲奉新失險之敗，據石矢坡，憑山以木石投人。俊先遣游卒進退，若爭險狀以誑賊，俊親冒矢石，帥眾攻險，賊眾數萬俱潰，馬進為追兵所殺，成北走降劉豫，諸郡悉平。拜太尉。
四年十月，金人與劉豫分道入侵。先是諜至，舉朝震恐，或請他幸。俊謂趙鼎曰：「避將何之？惟向前進一步，庶可脫。當聚天下兵守平江，徐為計。」鼎曰：「公言避非策，是也；以天下兵守一州，非也。公但堅前議足矣。」遂以俊為兩浙西路、江南東路宣撫使，屯建康。既而改淮西宣撫使。瀕江相距逾月，敵不得入。俊遣張宗顏潛渡至六合，出其背。敵將引去，俊繼遣王進曰：「敵既無留心，必逕渡淮去，可速及其未濟擊之。」進往，敵果北渡，遂薄諸淮，大敗之，獲其酋程師回、張延壽以獻。
五年，劉麟入寇，俊與楊沂中合兵拒于泗州。六年，改崇信、奉寧軍節度使。劉麟兵十餘萬犯濠、壽，詔並以淮西屬俊，楊存中亦聽節制，與俊合兵拒敵。俊分遣存中與張宗顏、王瑋、田師中等，自定遠軍次越家坊，遇劉猊左右軍，擊走之。俊率大軍鼓行而前，至李家灣遇猊大兵，與戰，殺獲略盡，降者萬餘人，猊僅以身免。拜少保，加鎮洮、崇信、奉寧軍節度使。帝曰：「卿議論持重，深達敵情；兼聞輓強之士數萬，報國如此，朕復何慮。」又曰：「群臣謂朕待卿獨厚，其仰體眷懷，益思勉勵。」
七年，改淮南西路宣撫使，置司盱眙。俊與韓世忠入見，議移屯。秦檜奏：「臣嘗語世忠、俊，陛下倚此二大將，譬如兩虎，固當各守藩籬，使寇不敢近。」帝曰：「正如左右手，豈可一手不儘力邪？」命俊自盱眙屯廬州。八年，金人請寢兵，許之。賜俊「安民靖難功臣」，拜少傅。
九年冬，金復渝盟，再破河南，圖順昌府，命俊策應劉錡。俊督軍渡江，金人引退。繼而金人三路都統自東、南兩京分道來侵，抵亳州北渡河，俊收宿、亳諸軍擊之，盡復衛真、鹿邑等地，師還。十年，酈瓊在亳州，俊以大軍至城父，都統制王德下符離，乘勝趨亳與俊合。俊引軍入城，金人棄城遁，父老列香花迎俊，遂復亳州，留統制宋超守之。俊引軍還壽春，進少師，封濟國公。
十一年二月，兀朮入合肥，漸攻歷陽，江東制置大使葉夢得見俊，請速出軍。俊遣兵渡江，諭諸將曰：「先得和州者勝。」王德願為諸軍先，士鼓噪而行。敵已據之，德率眾渡採石先登，俊宿中流。德抵城下，金人退屯昭關。後三日，覆敗金將韓常于含山。命關師古覆巢縣，遂復昭關。使左軍統制趙密偃兵篁竹，出六丈河以分金勢。張守忠以五百騎敗金人于全椒。未幾，敵斷石樑以拒俊，俊疾作，力疾引眾涉流登岸，追擊之。王德與楊存中、劉錡會兵，敗金人于柘皋。拜樞密使。俊知朝廷欲罷兵，首請納所統兵。議賞宿、亳功，俊部將王德、田師中、劉寶、李橫、馬立、張澥六人同日首受上賞。
俊力贊和議，與秦檜意合，言無不從。薦士大夫監司、郡守者甚眾，雖劉子羽自謫籍起家，亦俊力也。加太傅，封廣國公，尋進益國公。十二年十一月，以殿中侍御史江邈論之，罷為鎮洮、寧武、奉寧軍節度使，充醴泉觀使。初，檜以俊助和議，德之，故盡罷諸將，以兵權付俊。歲余，俊無去意，故檜使邈攻之。尋進封清河郡王，奉朝請。
十三年，敕修甲第，遣中使就第賜宴，侑以教坊樂部。十六年，改鎮靜江、寧武、靜海軍。二十一年冬，帝幸其第，拜太師，以其侄清海軍承宣使子蓋為安德軍節度使，其他子弟遷秩者十三人。
南渡後，俊握兵最早，屢立戰功，與韓世忠、劉錡、岳飛併為名將，世稱張、韓、劉、岳。然濠、壽之役，俊與錡有隙，獨以楊沂中為腹心，故有濠梁之劫。岳飛冤獄，韓世忠救之，俊獨助檜成其事，心術之殊也，遠哉！帝于諸將中眷俊特厚，然警敕之者不絶口。自淮西入見，則教其讀《郭子儀傳》；召入禁中，戒以毋與民爭利，毋興土木。
二十四年六月薨，年六十九。輟視朝三日，斂以一品服，帝臨奠哭之慟。追封循王。子五人：子琦、子厚、子顏、子正、正子仁。
子蓋字德高。父宏，應募從俊軍河上。金人破開德府，宏戰死。子蓋初從韓世忠討苗傅，補承信郎，累功遷武功郎。
紹興六年，劉猊大舉入寇，過定遠縣，將趨宣化窺淮，詔遣俊會劉光世軍剿之。子蓋從俊擊猊于藕塘，授閣門宣贊舍人。明年，改昌州刺史、江南東路馬步軍都總管。十年，金人再取河南，以興復宿、亳功，遷登州防禦使兼宣撫司衙兵副統制。
十一年二月，兀朮入廬州，攻含山縣，漸攻歷陽。俊遣兵渡江，子蓋從王德馳入和州，金人退屯昭關。會劉錡自東關引兵出清溪邀擊金人，俊遣子蓋與錡會，大戰于柘皋，敗之，軍勢赫張。兀朮復攻濠州，子蓋又敗之於周梁橋，除興寧軍承宣使。和議成，改建康府駐札禦前諸軍都統制。十三年，授龍神衛四廂都指揮使、兩浙西路馬步軍都總管。帝幸俊第，授子蓋安德軍節度使。
三十二年春，金人攻海州急，以子蓋為鎮江府都統往援之，即日渡江，馳至楚州。淮東漕臣龔濤謂之曰：「敵眾十倍，兵力不支，宜張虛聲攻淮陽，使之必救，則海州可解。」子蓋曰：「彼若不救，將如之何？」乃亟趨漣水，取便道以進。次石湫堰，金人陳萬騎于河東，子蓋率精鋭數千騎擊之，謂麾下曰：「彼眾我寡，利在速戰。」遣統制張略陣，中流矢，子蓋曰：「事急矣！」奮臂大呼，馳入陣，諸將繼之殊死戰。賊大敗，擁溺石湫河死者半，圍遂解。金人復整軍來戰，子蓋再率精鋭擊之，獲其車馬、鎧仗萬計，退屯泗州。
孝宗即位，召對，賜鞍馬、鎧甲、束帶，且令招集勇敢，相時而動。子蓋受命還，招金大將蕭鷓巴、耶律造哩將其眾來降。尋以疾還鎮江，授檢校少保、淮東招撫使，未上，卒，年五十一。贈太尉，謚恭壯。
子蓋從俊征討藕塘、柘皋，雖多奏功，未能出諸將右，惟海州一捷可稱雲。
