这些群众乃至有组织的武装队伍的加入，固然使扫北援军的人数大为增加，但也使得它的成分日趋复杂，终于形成尾大不掉之势。
在山东境内，援军主要在运河以西向北推进，行动很快。16日，其先头部队即已与金乡的练勇发生战斗。18日，击败单县勇。19日，太平军大队攻入金乡，杀其知县。22日，克巨野，知县以下战死者达1300余人。23日，不战而入郓城。25日，分两路北进的援军在运河沿线的张秋镇会师，造成浩大声势。
清廷对扫北援军的北进和扫北军这只“将毙之虎，又添双翼”的可能表示了极大的忧虑。3月20日，针对僧格林沁奏折中所说阜城的扫北军坚守不出，咸丰帝的上谕中说：
览奏焦急实深。数日来满望可接捷书，何以令该逆又成死守之势。挑穵长濠，固为扼吭之善策。第此时贼之不出，非尽穷蹙，实故意老我师，以待彼之南援。彼时腹背受敌，或兼顾不暇，皆在意中。无异于将毙之虎，又添双翼也。著僧格林沁等设法诱出，尽行歼灭，万不可再任窜逸。
围困阜城的清军一方面加紧了对扫北军的进攻，另一方面不得不派出部分兵力南下对付扫北援军。最先从阜城南下的善禄共有马步队3000人，于24日来到东昌。面对援军的浩大声势，清军不敢再向南迎击，而是依托府城以自保。援军方面也有意避开东昌府城，26日在阿城镇集中，向西攻击没有任何防守力量的阳谷。27日，占阳谷，杀其知县。28日，克莘县，知县逃走。29日黎明，到冠县。知县闭门守城。援军支云梯攻城，忿其闭城顽抗，杀知县以下人员颇多，并烧毁官署和部分民居。30日，分两路向北挺进。31日，到达临清。