赵构罢免请秦桧才一年多，就任命他当了温州知州，接着又令他知绍兴府。秦桧生性阴险奸诈，知道有张浚、赵鼎为宰相，和议必然不会成功。所以他决定虚与周旋，暂时把议和二字搁起，换了一副假面目，对待张浚、赵鼎。张浚本来就性格戆直，于是以为秦桧还能用，于是举荐他为醴泉观使，兼官侍读。到赵构又想留秦桧镇守临安时，张浚当然赞成。赵鼎却不以为然，因为是张浚力保，也不便反对。于是赵构以秦桧为行营留守，孟庾为副，并准许他参与决策尚书省枢密院事。
赵构于是出发启去了平江，张浚先去江上，打探和察看伪齐的消息，谍报刘豫已经命令儿子刘麟和侄儿刘猊，分路进犯，而且还有金兵相助。张浚沉思半晌，才说道：“我估计金兵未必肯来，金兵帮助刘豫多次，屡次都失败了，难道还会相助他？”张浚于是把这个意思告诉了赵构。
不久，又听说刘麟从寿春进犯合肥，刘猊从紫荆山出涡口，进犯定远。还有反复无常的孔彦舟，之前已经投降宋朝，接着又投降了刘豫，他也从光州进犯六安。张俊、刘光世都夸大了敌军的来势，张俊请求增兵，刘光世想要退军。张浚立即写信给两人说道：“贼子刘豫以逆犯顺，如果不能剿除，何以立国？朝廷养兵，正为今日，现在只应进战，不能退军。”信件发出之后，他又接到赵鼎手书，令杨沂中急援张俊，同保合肥。
在明州之战中，杨沂中随张俊与田师中、赵密奋击金军，立下大功，得以调官文州防御使、御前中军统制。绍兴元年，杨沂中随张俊讨伐纵横江南的流民帅李成。诸将商议，大多主张分道前进，杨沂中说道：“敌势如此，分兵力量就会削弱，加上诸将职位相同，没招讨使督促，必然不能互相协同。”张俊加以采纳。
他们整军到豫章，杨沂中率兵数千人，首先在玉隆观击败民军，追击至筠州。民军骁将率众十万前来支援，夹河而阵。杨沂中对张俊说道：“敌众我寡，攻击敌人应使用奇兵。我愿意率骑隶属，公以步兵居前。”张俊听从了他的意见。杨沂中连夜衔枚渡筠河，出西山，急驰而下攻击敌人，张俊以步兵夹攻，俘敌八千人。众将夜见杨沂中说道：“战斗没有停止，降卒太多，突然发生叛乱，怎么办？非将他们全部歼灭不可。”杨沂中道：“我不忍杀降。”众将转告张俊，最后在夜间全部坑杀俘虏。杨沂中等乘胜追到九江，驱逐李成，迁任宣州观察使。
绍兴二年春，杨沂中进官神武中军统制，宰相吕颐浩从袖中拿敕令交给他。张俊奏请将杨沂中留在军中，赵构说道：“宿卫部队缺乏将帅，我挑选的，不能改变。”杨沂中也坚决推辞，并且说道：“神武诸将如韩世忠、张俊，都贵拥旄钺，名望至重，像我这样微不足道的人，一旦地位与他们相抗衡，实在难以自安。”赵构不答应，派宦官宣押，杨沂中这
才就职视事，兼提举宿卫亲兵。当时中军士卒不满五千，疲弱老病的占了一半。杨沂中请求将神武士卒借调到其他部队的拨回军中，从此军政渐渐得到治理。
绍兴三年，严州缪罗占据白马源，杀死官员，杨沂中率兵讨平。除授带御器械，加保信军承宣使、权发遣鄜延路马步军副总管。绍兴六年，杨沂中任龙神卫四厢都指挥使、密州观察使。当时张浚视察军队，谋画渡过淮河攻打伪齐刘豫，依靠韩世忠部实行。韩世忠包围淮阳，请求张浚派部下赵密出兵协助，张俊拒绝了他的要求。赵鼎对张浚说道：“韩世忠所要求的是赵密，杨沂中的武勇，不下赵密，何不令杨沂中协助他。”张浚向朝廷请示，杨沂中于是率八队一万人，奔赴督府协助韩世忠。
于是张浚催促杨沂中赶赴濠州，与张俊合兵，好特给手书说道：“朝廷待统制甚厚，你应及时立功，借机报答知遇之恩。”这书刚一发出，就接到了赵构的手令道：“张俊、刘光世恐怕不足以胜任，当令岳飞率兵东下，抵制逆贼刘豫。张俊与刘光世等人的军队，不如命他们退守江滨。”
张浚不禁愤然叹息道：“这事怎能使得？赵丞相日日侍在皇帝身边，难道也不加谏阻吗？”于是提笔写了几句，令文牍员装好，立即派遣参谋吕祉急忙赶去上奏给赵构。张浚奏道：如果张俊等人过江，则就没有淮南了。淮南之险，从此与贼人共有。淮南之所以屯兵，就是要屏蔽大江。如果让贼人得到了淮南，就地取粮，以为久计，江南怎能得保？现在应当合兵攻击，可保必胜。如果有了退意，则大事去了。而且岳飞一动，襄、汉一旦有警报，到时有什么可以自恃？愿朝廷不要犹豫，使得诸将有所观望。
他的上奏刚送去，就接到从庐州发来的军报，刘光世已经退到了采石。张浚顿足叹道：“刘光世这般胆怯，如何对敌？”话音未落，正好吕祉赶回来，入报张浚道：“皇上已经有旨，都按照你的建议行事。如果有将不肯听命，可以军法从事。”张浚大喜，便命吕祉紧急赶去刘光世的军中，传达圣旨。
吕祉急忙赶往采石，截住刘光世，并且声色俱厉地说道：“皇上诏命已下，如果有一人渡江，立即斩首示众。”刘光世吓得脸色大变，不觉双腿打颤，只得返回庐州。刘猊进军淮东，被韩世忠率军拦住，于是转道去攻打定远。刘麟在淮西架起了三座浮桥，接连渡过军队，进军道了濛州、寿春交界。张俊出兵抵御，两下相持，一时不分胜负。
刘猊从定远直奔宣化，想进寇建康。他到了越家坊，刚好和杨沂中相遇。刘猊正要整军交锋，不料杨沂中已经奋勇杀了过来，刘猊连迎战都无暇。刘猊知道不可抵挡，急忙率军退去，又改向合肥进发，想要和刘麟合兵进军。刘猊刚刚抵达藕塘，就望见前面有官军拦住，大旗上写着一个杨字，刘猊大惊失色，忿然说道：“莫非
又是这位髯将军？”
原来杨沂中击退刘猊之后，估计刘猊必然会去合肥，于是他从小路进军，赶在了刘猊的前面，立营等着。因为杨沂中有很多髯须，刘猊因此叫他为髯将军。刘猊于是据山列阵，命骑士张弓搭箭，顿时箭如雨下。杨沂中当即令统制吴锡，率领精兵五千人，先行重阵，自己率领大军为后应。
吴锡奉令登上山坡，前队中箭很多，不由倒退。吴锡大怒，冲马突前。他左手持刀，右手执盾，飞步上了山冈。他的部属见主将拼命前进，也只能不管死活，拚命跟随。刘猊的士卒来不及拦阻，阵势当即动摇。杨沂中趁机纵军四击，并亲自指挥精锐骑兵，横冲刘猊的军队，同时大喊道：“贼军已经被打破了！”刘猊不觉惊骇，四下张望，他的部下也错愕失色，顿时溃乱。
刚好统制张宗颜也接到了张浚的檄文，从泗州来增援合肥，正好在刘猊的背后。张宗颜乘势夹攻，刘猊大败，部属被杀死无数。刘猊逃到李家湾，又遇到张俊统兵杀来。刘猊吓得魂胆飞扬，急忙向前夺路，只想着逃生。偏偏张俊不肯放他过去，指挥兵士，把他困住。
刘猊左冲右突，不能脱身。幸亏他的谋士李愕让刘猊卸甲弃盔，钻入步兵队里，这才逃过了官军的注意，从斜刺里溜出重围，得以走脱。刘猊与李愕狂奔数里，四顾无人，才敢停下来稍憩。事后，刘猊更加觉得仓惶，不由痛哭起来，还用头碰触李愕说道：“不想此次用兵，遇着一个髯将军，真正晦气，害得我全军覆没，真是好苦！”
李愕忙问他是什么人？刘猊边哭边说道：“听见官军叫他为杨殿前，大约是杨沂中。他真是厉害，锐不可当。”李愕也自觉没面子，只好劝慰了几句，刘猊这才停止了哭泣。突然间看见有败军数十人，骑马逃来，都是盔甲不全，狼狈得很。他们喘息了片刻，才对刘猊说道：“此处不是休息的地方，恐怕追兵又要来了。”
刘猊慌忙起身，从骑兵中牵来一匹马，当即扬鞭逃去，李愕也借马脱身。骑兵没有马匹可骑，不免落后。不一会，杨沂中追到，大声呼叱，骑兵们当即丢掉兵器投降。杨沂中又赶了一程，不见刘猊，这才收军退回。经此一战，宋军把刘猊部属杀死了好几万，收降了好几万，伪齐士气被夺。刘麟刚一听说刘猊被打败，已经退军数十里，于是他也不敢再与张俊相持，所以张俊才得以转攻刘猊。到了此时，刘麟听说刘猊全军覆没，更加丧胆，因此立即率军回去。孔彦舟也撤了光州之围，引众急回。
捷报传来，赵构派宦官赐赏慰问，对宰相等人说道：“你们现在才知道我所任得人吧。”任命杨沂中为保成军节度使、殿前都虞候，不久又兼领马步军帅。杨沂中上奏：“祖宗时设置三衙，鼎立相制，现在我一人独揽，不符合旧例。”赵构没有答应。