在建国前，我军曾先后两次酝酿实行军衔制，一次是在1939年，八路军总部颁发了《建立等级制度的训令》；一次是在1946年，我军颁布了《关于军队整编的若干问题的指示》。

但最终都由于各种原因而不得不搁置，直到建国后才将此事再次提上日程。总干部部在完成军队评级工作后，1953年初便投入军衔的评定工作，后因故推迟到1955年9月才开始全军授衔工作。

不过首次军衔制仅实行10年，1965年6月取消了军衔制，在这10年内全军共授予了1614名开国将帅，有18位开国将帅在这段时间内先后逝世。

1955年11月，在首次授衔仅过去一个月，资凤少将在南京因病去世，是第一位去世的开国少将。1956年4月，在资凤少将去世几个月后，陈奇少将也因病在南京去世，战争年代陈奇曾多次负伤，建国后又长期带病坚持工作。

1957年3月朵噶·彭措饶杰中将因病在日喀则溘然逝世，是第一位去世的开国中将。也就是在这一年，还有李发、邱蔚、金绍山三位开国少将先后去世。

1957年3月底时任渤海军区司令员的李发少将在厦门巡视工作时，不幸被身旁的警卫员射杀，是第一位中弹牺牲的开国少将。邱蔚少将于1957年8月在青岛海边垂钓时不幸遇难。金绍山少将则是因患急性肝炎而病逝。

1958年6月黎有章少将因病不治在上海不幸逝世。1959年有两位开国中将先后因病去世，分别是覃健中将及王道邦中将。1960年7月，全军唯一一位准兵团级上将贺炳炎上将在成都因病去世，是第一位去世的开国上将。贺炳炎上将在战争年代就曾多次负伤，全身负伤16处，建国后又带病坚持工作。

1961年先后有两位开国将军在这一年因病去世，分别是陈赓大将及张祖谅中将，陈赓大将是第一位去世的开国大将，1961年2月陈赓大将被安排在上海疗养，在疗养期间仍带病撰写了《作战经验总结》，不久因病去世。

1962年李克农上将因病在北京去世，李克农是我军著名的情报专家，有着“特工之王”的美誉。1963年罗荣桓元帅因病重不治在北京去世，是第一位去世的开国元帅，其实早在战争年代罗帅就长期抱病工作。

1964年先后有3位开国将军在这一年因病去世，他们分别为甘泗淇上将、朱辉照中将及朱明中将。1965年5月，刘亚楼上将在上海因病去世，是取消军衔制前最后去世的一位开国将军，其实早在前一年刘亚楼上将就开始身体不适，但由于忙于工作耽误了治疗而致使病情恶化。