同治初年创立的淮军，在镇压国内叛乱中异军突起，成为晚清军事力量的中流砥柱。可是在1894年爆发的甲午战争中，淮军一败涂地，这让官吏中的有识之士如南洋大臣张之洞、广西按察使胡燏棻等人对旧军制持否定态度。因为通过实战证明，自洋务运动以来，只注重更新武器，不重视练兵是极其错误的，因此张、胡等人向朝廷倡议按西法编练新式军队。

清廷也意识到旧军制的弊端，早有革新武装力量之心，以维护其统治。于是，就有了张之洞在江宁练自强军，胡燏棻在天津马厂练定武军。最初定武军共10营，总共有4750人，后来进行了扩编，原有场地有限，于是在1895年9月移驻小站。这年11月，胡燏棻调任津芦铁路督办，12月8日，浙江温州道袁世凯接管定武军，改称新建陆军。袁世凯也认为只重装备不重视训练的方法是不对的，因此。他大胆采用西式军制，从编制上入手进行根本性的变革。

自十九世纪七十年代开始，清军从推崇英制武器，转向喜好德制武器，而新建陆军编制也效仿德国陆军，重新制定新营制。最初设想编制为：军、左翼、2个步队营士兵1554人；右翼、2个步队营士兵1554人；炮队2营1651人；马队2营809人；工程队1营510人。新建陆军还是以营为基本单位，营长称为统带，营以上设翼，长官称为统领。营级统带以下还是设哨长，相当于后来的排长，最低级仍是棚，这些下层编制还是受到旧军制影响。

新建陆军实行多级编组，增加了翼这一级，新编制结构是为了适应新兵器与新战术的要求。军中设有的步兵、炮兵、骑兵、工程兵四个兵种，既能各自独立成营，又可合成作战。战时遵循步兵为主，炮队为辅，骑兵巡护，工程队供杂役。后来成军时各兵种实际编成步队5营，炮队1营，马队1营，工程队半营，总共约7300人。部队实现编制统一后，下一步要规范武器装备，彻底改变旧军武器制式不统一，品种繁杂的问题。

步兵、骑兵军官均配六响左轮手枪和指挥刀，士兵配备奥地利制曼利夏步枪，携弹50发。骑兵配备的武器是曼利夏步骑枪，另外多了一把骑兵刀。炮兵营分3个队，每营虽然装备不同，但都是德式火炮。

炮兵左队装备克虏伯75毫米过山轻炮18门，每哨6门，每门炮配拉炮、驮弹药骡马7匹，全队共126匹。右队装备格鲁森57毫米山炮24门，每哨8门，每门炮配马7匹，共有168匹。接应队装备格鲁森57毫米野炮18门，每哨6门，每门配马5匹，共90匹。上述马匹是平时装备数量，如果长途行军，还可以酌情增加。作战时炮队分成三部分，一成使炮，一成备补，一成持枪警戒。

工程队下属各队根据工作性质不同，配备不同的工具和装备。其中有野战有线电报，一些小型挖掘机械等。新建陆军的建立，是我国由封建军制向近代军制演变的重大转折，开创近代化军队训练的先河。