此后不久，金人进攻淮西，岳飞出兵支援，以牛皋为先锋。宋军抵达庐州后，伪齐五千人来犯，牛皋大声喝喊道：“牛皋在此，尔辈胡为见犯？”
敌军十分惊愕，不战而溃，于是牛皋率军追击三十余里，“金人相践及杀死者相半，斩其副都统及千户五人，百户数十人，军声大振。”牛皋因功被封为中侍大夫。
1135年牛皋跟随岳飞平定杨幺在洞庭湖一带的义军。杨幺战败后，意图投水自尽（也有人认为是想逃亡），精通水性的牛皋随即跳入水中，将杨幺擒获。
牛皋被封为湖北、京西宣抚司左军统制，加龙、神卫四厢都指挥使。
1140年牛皋先后参与岳家军的几次重要战役。战后论功行赏，牛皋因功劳最大，被加封为捧日天武四厢都指挥使、成德军承宣使，枢密行府又以牛皋提举一行事务（相当于岳家军代理主帅）。
岳飞兵权被罢后，牛皋被封为鄂州驻扎御前左军统制、宁国军承宣使、荆湖南路马步军副总管。
1142年岳飞、岳云、张宪在临安被宋高宗、秦桧一伙杀害，这让生性耿直的牛皋十分气愤，同时他对朝廷向金国议和称臣的行为极为不满。
这正触犯了当朝宰相秦桧的忌讳，于是秦桧给鄂州守军的都统治田师中下达了一封密令。
1147年3月3日上巳节，都统制田师中召开盛大宴会，招待诸位将领。宴席间牛皋突感身体不适，连忙回到家中。此时牛皋应该已经明白自己身中剧毒，危在旦夕，于是他召集家人留下了自己的遗言：“皋年六十一，官至侍从，幸不啻足。所恨南北通和，不以马革裹尸，顾死牖下耳”。第二天这位岳家军中最后的一员猛将离开了人世。