1925年1月，兵败的吴佩孚无处可去，只得乘军舰南下到黄州停泊。张作霖打算派兵武力劫持军舰，这时湖南军阀赵恒惕去电邀请吴佩孚。 在遭遇了“众叛亲离”后，吴佩孚本不指望会有昔日好友“收留”自己，却不曾想并非“旧友”的赵恒惕会主动相邀，一时感慨万千。 就这样，吴佩孚回到最初的“发迹地”岳阳，总算找到一处栖身之地，他联络旧部，伺机再起。 不久之后，奉系张作霖以西北边防督办的任命将冯玉祥排挤出北京后，开始疯狂扩张，使各省军阀人人自危。 浙江督军孙传芳生怕自己的督军之位不保，秘密派人与冯玉祥联系。由于吴佩孚在原直系控制的各省中仍具有一定的影响力和号召力，1925年10月，孙传芳通电支持吴佩孚出山，带领各省军阀讨奉，立即得到湖北萧耀南、福建周荫人以及原江苏督军齐燮元所部师长、旅长等人的通电支持，特别是萧耀南，在吴佩孚兵败之初态度冷淡，见吴佩孚又有再起之势，连忙示好，表示愿意继续追随。 吴佩孚自然不会错过这个东山再起的机会，10月21日，在萧耀南的恭迎下，吴佩孚抵达武汉，宣布接受14省将领的联名公推，出任“十四省讨贼联军总司令”。 “讨贼联军”的征讨对象是奉系张作霖，但吴佩孚却对讨奉不怎么热心，他在武汉发表的“讨贼”言论，主要针对段祺瑞与冯玉祥。 此时，吴佩孚接到孙传芳的电报，请他到南京主持攻打徐州的战事，吴佩孚闻讯后大喜，孙传芳此举正好为他攻占河南制造了借口。吴佩孚立即任命靳云鹗为豫东“讨贼”军第一路总司令，打着协助孙传芳攻打徐州的旗号，向河南督理岳维峻提出借道河南。 岳维峻又不傻，自然清楚吴佩孚葫芦里卖的什么药，立即予以回绝。吴佩孚又借协助攻打山东之名，借道河南，再次遭到岳维峻拒绝。 奉系的山东督办张宗昌秘密派亲信到武汉，对吴佩孚说：“国民军攻直隶，直隶最终必归国民军，若再把山东攻下，那么国民军将掌控直、鲁、豫、陕、甘，以及察、热、绥三特区，这些地区联成一气，势不可当！这对奉系自然没有好处，但对直系又有什么好处呢？直系又会遭遇什么下场呢？” 张宗昌所言正是吴佩孚所担心的，相对于张作霖，吴佩孚对冯玉祥的恨意更深，于是与张宗昌“化敌为友”，走出直奉联合的第一步。 1925年12月，张作霖和吴佩孚的代表会晤大连，基本达成谅解，1926年1月5日，吴佩孚收到张作霖的电报，张作霖正式提出直奉联合。 1926年1月20日，吴佩孚通电讨冯，仍然打着“讨贼联军”的旗号，只是将“贼”冠于冯玉祥的头上。吴佩孚第一个目标自然是河南。他计划兵分三路进攻河南，东路进攻河南东部，以靳云鹗为总司令；西路进攻河南西部，以刘镇华、张治公为总司令；南路进攻信阳，以寇英杰为总司令。 到了2月，东路靳云鹗相继攻占归德、兰封、开封，兵逼郑州。但进攻信阳的寇英杰却是败绩连连，损失惨重，最后竟败退至鄂北广水一带。 原来，驻守信阳的是国民军第二军第十一师，师长蒋士杰是国民军首屈一指的骁将，其手下田生春、杨瑞轩两支劲旅均骁勇善战。在寇英杰攻打信阳屡屡受挫的情况下，吴佩孚决定采用他所拿手的迂回战术，出襄樊、走南阳，绕道左翼进攻信阳侧背。 襄樊、南阳镇守使非国民军嫡系，答应给吴佩孚借道。于是，吴佩孚佯装正面攻击信阳，主力部队却绕道北进，2月下旬北进部队突然出现在信阳侧背，连克确山、驻马店、偃城、漯河、许昌等京汉线要地，令蒋士杰腹背受敌。 3月13日，蒋士杰终于被迫放下武器。吴佩孚感慨的说：“若我有一个蒋士杰，上次战争也不至失败。” 吴佩孚对蒋士杰、田生春、杨瑞轩三人优礼有加，并委任为总司令部参议。信阳失守后，河南的国民军很快全军覆没，国民军第二军军长兼河南督理岳维峻也成了俘虏。 3月初，靳云鹗、寇英杰会师郑州后，兵分两路，一路西进攻克洛阳，再克陕州、潼关，另一路朝保定进攻，直指京津。吴佩孚则重返洛阳，再次成为全国瞩目的风云人物。 与此同时张宗昌和李景林的直鲁联军也开始进攻直隶，3月23日占领天津，28日进占丰台，同时不断发电，请吴佩孚北上主持北京大计。 冯玉祥连遭挫败，只得以退为进，宣布下野，将军政大权交予张之江、鹿钟麟。鹿钟麟在冯玉祥的授意下，将段祺瑞赶下台，释放曹锟，释放善意。 但吴佩孚和张作霖一心要完全解决国民军，很快吴佩孚军队抵达西苑，张作霖军队占据通州，国民军被迫退至南口。 段祺瑞下台后，总统之位悬空，恢复自由的曹锟再次萌生出任总统之想法，于是，曹锟派心腹王坦前来征求吴佩孚的意见。 吴佩孚考虑到政局尚未稳定，曹锟因贿选总统一事早已声名狼藉，如今再令他复位总统，只怕张作霖会继续借“贿选”大做文章，就对王坦说：“三爷在前台是唱不好的，这一点你我都清楚，何况现在局势未稳时机不成熟，还是等我把大局搞定再说吧。” 曹锟听了回复后，喟然长叹，他清楚，和吴佩孚的关系是再也回不去了。
