于是，僧格林沁并胜保军，合力围攻高唐，并派人先携巨炮轰击。

听闻僧格林沁本人将来，又知林凤祥被擒，李开芳知道高唐守不住，连夜开城逃走。一行人奔至荏平县冯官屯后，凭借堡寨死守。

僧格林沁快马赶到，立刻指挥清军包围冯官屯，筑城于四周，围攻李开芳。

艰难困苦之中，李开芳仍然不气馁。僧格林沁有一门名曰“黑虎”的千斤巨炮，每次装药子数十斤，开炮前必祭之以酒，轰隆声中，每次都打死不少太平军。仔细观察了巨炮炮台位置后，李开芳命人掘地道，直达炮台正下方，然后堆满炸药，牵长长引信而出，点燃。一声巨响，炮台上的“黑虎”以及百十号炮兵全部被炸飞上天。

先前在连镇自告奋勇下地道察看情势的施大厨此时又来精神，他上献一计，劝僧格林沁向冯官屯内灌水。

僧王大喜，立刻找来地方官四处寻来民夫挖沟，一天给这些人发三百文工钱，昼夜不停干活，决运河水连夜灌营。

转天一大早，就有营中难民凫水逃出，报告说由于大水突涌，不仅把太平军在营内的地道灌塌淹死多人，营中炸药也被水浸湿，成为废物。再仔细询问，僧王得知太平军已经挖通二十多条地道达往清营之中，正运送火药。如果没有运河水灌入，火药齐发之下，不知又会炸死几千清军士兵。僧王思及此，冷汗直冒。

过了十来天，穷愁之下的李开芳想出一计。他派人往营外送降书，表示投降。

僧格林沁不傻，深知李开芳有诈降之意，就派人牵两条巨绳，绳头放在冯官屯中，绳尾系于清营大树上，命令“投降”的太平军脚踏一绳，手牵一绳，一个一个过来。清军将士在营内严防，对过来的每个人登记造册后，皆一一捆缚，押往营后集中。

刚刚出来一百三十多人，冯官屯内的太平军在李开芳指挥下忽然以残存炸药点燃大炮，向外猛轰。但是，僧格林沁早有防备，射程内根本无清兵密集，仅仅砂弹溅伤数人而已，太平军诈降突围失败。

最倒霉的是那一百多号诈降兵士，依次被清军斩首处决。其间，清军一个施刑的马兵见一名太平军手上有巨大金镯，见财起意，上前掠取。太平军士兵说，这镯子戴得紧，反正我要死了，留此何用？你给我松梆，我自己取下，你再斩我，咱们两方便。马兵很高兴，忙替太平军兵士松绑。说时迟那时快，太平军兵士忽然抽拔清军马兵的腰刀，挥手把对方砍成两段，夺马狂逃，沿途砍伤十多个清兵。由于天黑不辨方向，这位太平军最终不能逸出，为清军包围搏杀。

一直坚持到5月30日，李开芳营内弹尽粮绝，只得亲笔写降表表示投降。

由于冯官屯内外水深数尺，僧格林沁命军士乘船而入，二十人一批，分批押送降兵出外。把这些生俘的太平军士兵一一绑缚后，分送各营处决，共计两千多人。

至于太平军高级军将以及跟随李开芳的两名美貌娈童，均被清兵捆绑结实，齐跪于供案之前。僧格林沁下令把这些人生剖挖心，祭奠数日来在高唐州、连镇、冯官屯被太平军打死的八千多清军将士。

李开芳本人终于到达了北京。

不过，他不是以胜利者姿态，而是以一个俘囚身份坐槛车而入，在西市受剐刑而死。

太平军的“北伐”，至此划上句号。

南京方面，由于在北伐的同时又有更重要的“西征”，怕顾此失彼，所以洪、杨二人根本不敢分军对北伐施以更实质性的援助。

由于石达开能干，太平军1855年初在湖口和九江取得两次大胜，总算扭转了西征危局。

附一：“厘金”制度及其他经济措施

由于太平军占领南京，全国形势危急，浙江长兴一个名叫钱江的士人献计给政府生财，时在扬州帮办军务的刑部侍郎雷以諴加以采纳，于1853年深秋在扬州附近地区试行“厘金”制度。而后，这种制度推广至湖南、湖北、江西、四川，乃至全国。