1907年，徐世昌就任东三省总督后，发现巨匪杜立三为害地方，民愤极大。经人推荐，徐世昌让张作霖负责剿灭杜立三。 杜立三及其匪帮盘踞在辽阳、新民、海城交界处的三界沟，这里地形险要，易守难攻，官军也奈何不得。从出身来看，杜立三算得上是土匪世家，他的父亲及几个叔叔也是臭名昭著的大土匪。 当时东北局面复杂，清廷在这里的兵力部署很薄弱，杜立三清楚官军分散各处且兵力不足，所以肆无忌惮。在1903年的一天，杜立三带着数百匪徒游走于辽阳、营口、盘山各处，劫掠当地富户，杀害无辜；1904年的3月，杜立三勾结另一个巨匪冯麟阁，突袭清军的一个营，抢去了300多枪支，数万发子弹，200多清兵投降后大部被裹挟成了土匪。在当地，杜立三俨然以土皇帝自居，百姓称他为杜大人，其嚣张可见一斑。 徐世昌到任后，控诉杜立三罪行的状子如雪片般寄来，于是他派出东三省总督府的发审处委员殷鸿寿，前往新民县去找奉天巡访营前路统领张作霖，让两人配合，想办法除掉杜立三。 张作霖看了殷鸿寿捎来的徐世昌的亲笔信后，在高兴的同时又非常犯难。张作霖明白，徐世昌专门指派他负责剿灭杜立三，这是对他的信任，也是对他的考验，如果能完成任务，那么徐世昌必然会重用自己。但是，张作霖当年也做过胡匪，和杜立三熟识并曾经结义过，对杜立三下手有违绿林规则，再者，杜立三势力很大，手下有一千多悍匪，硬碰硬是难以讨到便宜的。 殷鸿寿也知道杜立三不好对付，他和张作霖商议了半天后，认为只能智取不能强攻。殷鸿寿出了一个计策：让张作霖派张作相前往杜立三的老巢，诈称总督徐世昌要招抚杜立三，所承诺的军职比张作霖还要高，邀请杜立三到新民来见徐世昌派的招抚代表殷鸿寿。 杜立三和官军交手多年，他的警惕性极高，怀疑这是张作霖设的圈套，一旦去了就会中埋伏，所以，他虽然对前来传话的张作相也算热情，但是推脱说有事，暂时去不了新民。 见杜立三戒心十足，无法骗到新民来。张作霖沉思半天，又想了一个主意，他让黑山的老秀才杜泮林去当说客。杜泮林是杜立三的叔叔，两人来往还算密切，对这个秀才叔叔，杜立三很信任。 张作霖让人携带厚礼，将杜泮林请到新民，见面后张作霖以看似极为诚恳的口气说：“徐总督为了地方平安，愿意招抚杜立三，特意派了殷鸿寿委员为招抚大员，还请您去劝说杜立三，让他不要多想，这绝对不是欺骗。” 杜泮林以前就经常劝说杜立三，说他当土匪绝非长久之计，这次见张作霖说的言之凿凿，杜泮林也认为是一个很好的机会，于是他给杜立三写了封信，劝说其前来新民接受招抚。 杜立三对张作霖并不信任，但是见到叔叔杜泮林的信后，他的戒心消除了大半，因为杜泮林在当地是有名的老实人，从不说假话。 考虑再三后，杜立三决定前往新民一探究竟，不过他还是留了心眼，在去新民的同时，做了非常严密的部署。出发时，杜立三挑选了30个枪法最好的匪徒，在小头目宋庆濂的指挥下，跟着他一同前往新民，此外，杜立三还调动了200多匪徒，让尾随在他的后面，一旦有风吹草动，立刻前往支援。 当张作霖得知杜立三出发的消息后，大喜过望，他派张景惠带着所部主力500人，星夜前进，埋伏在杜立三老巢的周围，等待出击命令。同时，张作霖又派出一部分骑兵，截击尾随杜立三的200多名匪徒。在新民城内，张作霖也做了周密部署，便衣武装暗布在各个要道。 中午时分，杜立三一行30多人到了新民后，张作霖带着一干亲信热情地迎接，将杜立三等人带到招待所下榻。下午，张作霖到招待所拜访杜立三，杜立三见张作霖只带了两个卫兵，戒心便减了不少。 两人寒暄一会后，张作霖和杜立三骑马去见殷鸿寿，由于张作霖只带了两个护卫，杜立三也不好兴师动众，也只带了两个亲随。 到了殷鸿寿的住所后，宴席早已摆好，张作霖、殷鸿寿和杜立三就坐后，其他护卫都被招呼到外屋吃饭去了。 在宴席中，殷鸿寿、张作霖对杜立三极力恭维，但是杜立三表情严肃，时不时用右手按住别在腰间的枪。 酒过三巡后，感觉到危险的杜立三起身告辞，殷鸿寿、张作霖起身相送。刚走到门口时，汤玉麟冲了过来将杜立三拦腰抱住，杜立三大惊失色，连忙去摸枪，但是手被汤玉麟牢牢压住，这时又冲过了几个大汉，缴了杜立三的枪，并把他五花大绑起来。外屋杜立三带来的两个护卫，也被几个大汉绑住押了过来。 杜立三气愤异常，大骂张作霖不讲道义，张作霖怕夜长梦多，下令将杜立三等三人就地处决。留在新民招待所的匪徒，也被张作霖派兵消灭。 带兵埋伏在杜立三老巢附近的张景惠，在收到了张作霖送来的消息后，他立刻率部杀入杜立三的老巢，剿灭了这股顽匪。 张作霖干脆利落地剿灭了杜立三匪帮，这让徐世昌对他刮目相看，不久后便将张作霖的部队扩充为7个营，达到3500人。经过多年的奋斗，张作霖终于有了一支强力的武装，这为他之后的发迹，打下了军事基础。
