我党最早的士兵军衔制度出现在抗日战争时期。依照当时的国军制度，将士兵分为上士、中士、下士、上等兵、二等兵、新兵。解放战争爆发前，中央提出了军衔制的设想，将士兵分为上士、中士、下士、上等兵、一等兵和二等兵。

由于解放战争爆发，直到1955年大授衔才正式有了士兵军衔，变化就是撤销了新兵军衔，改二等兵为列兵，士官军衔仍为上士、中士、下士。士官军衔和军官军衔都是杠上加星，区别在于军官领章要镶黄边，士官领章不镶边。

到了87式军衔里，士兵的军衔又有了新的改革。我们常说的志愿兵和义务兵就是从这时候开始的，将上士、中士、下士称为军士，将专业军士和专业军士长称为士官。专业军士授予服现役五年以上并担任专业技术职务的军士，军士长则是由专业院校培养出来的士兵。

到了1993年，又将专业军士和专业军士长细分为四个等级，这是我军历史上士兵军衔等级最多的一次。到了1999年，由于义务兵服役时间改为两年，士官大量增多，取消了专业军士和专业军士长，统一称为一到六级士官。

直到2009年才有了军士长制度，被称作兵王的一级军士长就是从这时开始的。其中初级士官为下士、中士，中级士官为上士和四级军士长，三级军士长以上则是高级士官。但其实这个制度有个别扭的地方，比如说四级军士长已经是军士长了，但还是中级士官。

直到2022年，新的军衔制度改上士为二级上士，四级军士长为一级上士，统称为中级军士，而三级军士长以上仍为高级军士。