跟成系统的军队编制相适应，当时已是近代化工业国家的日本给他们的军队提供了相配套的完备的武器装备体系。

在侵华战争时期，日军的单兵装备主要使用的是6.5毫米口径的明治三十八年（1905年）式步枪，有着精度好、射程远以及枪身长利于白刃格斗的优点，不过由于太过于稳定而使得杀伤性不够，威力稍显不足。“三八”式步枪配有单刃刺刀，刀长500毫米。从总体来说，因为杀伤力的不足，三八步枪的性能并不出类拔萃。日军为弥补这个缺点，开发使用了7.7毫米口径子弹的“九九式”步枪，但装备部队的普及程度并不如“三八”式。

在轻机枪上，日军使用的主要是人称“歪把子”的大正十一年（1926年）式，后装备中国俗称为“拐把子”的九六年式（1936年）。歪把子机枪的优点是射击准确，但供弹不畅，加上通用的6.5毫米子弹杀伤力不足，杀伤性能不如中国各派军队主要装备的捷克式轻机枪（通用德式7.9毫米弹）。日军于1939年研制出7.7毫米口径的九九式轻机枪，也因生产能力不足未大量装备。

日军的重机枪为九二式，使用7.7毫米口径子弹，耐寒性好，远距离命中精度相当高。缺点是靠弹板供弹操作不便且易卡壳。枪口焰很小，利于隐蔽，提高了在战场上的生存率。

另外，侵华战争中日军没有装备冲锋枪，是拘泥于日俄战争的经验，认为“一门百发百中的大炮要胜于一百门百发一中的大炮”，感到冲锋枪耗弹多且精度差，又不符合日本武士最后以刺刀决胜的观念。

日本南部十四式手枪（“王八盒子”）因弹簧钢质量差供弹常出问题，被称为“二次大战中最差的手枪”。

在迫击炮方面，日军主要装备的是90毫米九七式迫击炮。其性能优秀，弹道弯曲，死界很小，射速快、威力大，重量轻、体积小、便于机动、易于操作、造价低。不过因为中国军队同时装备的82毫米迫击炮性能也非常优秀，这使得日军在支援火力迫击炮上并没能占据优势，但日军大量装备了50毫米口径的八九式掷弹筒（一个中队有6具），具备一定近战火力优势。

在抗战初期，日军地面重武器数量多于中国军队。日军一个师团支援火炮有24门四一式75毫米山炮、12门75毫米加农炮（亦即野炮）和24门三八式70毫米步兵炮。日军坦克也装备不多。

日军步兵标准制式装备包括步枪1支，刺刀1把，前后盒弹匣（子弹120发），手榴弹4颗，钢盔1顶，毡帽1顶，军服1套，皮鞋1双，水壶1只，饭盒1个，寝具1套，3至10日口粮1份，急救包1个，全套装备重15至20公斤。