1906年11月10日，陈锐霆出生在山东省即墨县一个普通农民家庭，这是一个民族多灾多难的时期，当时的青岛还处于德国人的控制之下。

在他成长过程中，占领青岛的德国被日本所取代。日本的野心更大，一心要吞并中国。

1925年，他从济南师范学校毕业后，在青岛市沧口小学做了一名教师。没有意外的话，他会一辈子做个老师，教书育人。可是，日本已经加紧了侵略，尤其是在1928年，日本在济南制造了震惊中国的“济南惨案”。那天，陈锐霆恰巧到济南办事，经历了这一幕，他再也坐不住了，不顾家人的反对，投笔从戎，考入了河北军事政治学校（后称黄埔军校第7期）。

从小就见识过日本人炮火的陈锐霆，毅然决然的要求分到炮兵队。

从此，他开始在战场上与日本人一较高低，参加了多场对日作战，因为作战勇敢，他也一次次被提拔。

1936年他秘密加入了中国共产党，但仍然留在国军。

1941年，蒋介石制造了震惊中外的“皖南事变”，这让陈锐霆非常不满，眼看国家都快灭亡了，蒋介石还在搞内讧。时任国民党李仙洲部第一四二师四二五团团长的陈锐霆还得被逼着对新四军动手。所以，他毅然决然的率部起义。

然而，在起义时发生了意外，因为军中就他一个共产党员，起义后也未能及时加强思想教育和保卫工作，导致部队发生了哗变。陈锐霆身受重伤，差点被杀。

伤好后，陈锐霆跟着陈毅去了苏北，被任命为新四军司令部参谋处长兼炮兵司令员。不过炮兵司令只是一个光杆司令，没有炮，没有部队。

随着战争的进行，他也是靠着蒋介石这个运输大队长才有了自己的大炮。1947年3月，华东野战军组建特种兵纵队，陈锐霆任纵队司令员。在攻城作战中，立下了大功。

到了渡江战役前夕，特种兵纵队实力可不容小觑。炮兵组建后的第一次惊艳亮相，就是跟英国军舰在长江上的“炮舰之战”。

炮兵当时的主要任务是保障部队渡江，可在紧张关头，英国人来了，英舰“紫石英号”不顾警告，还以为中国是腐朽的大清，大摇大摆的进来解放军即将横渡的江面。一番激战，“紫石英号”不得不挂出白旗。赶来救援的英国军舰，照打不误。

这场规模不大的炮战，一扫中华民族百年耻辱，将列强在中国的炮舰彻底赶出了国门。

1955年，陈锐霆被授予少将军衔。1959年调任中国人民解放军炮兵副司令员，负责领导二炮工作，可以说他将毕生精力奉献给了人民炮兵事业。