五十年代初，新中国百废待兴，大规模的基础、工业建设随即在全国范围内展开。一五（1953-1957年）期间，苏联对我国进行了156个大型项目援助，使我国的工业迅速的发展起来。1953年，根据中苏协定，苏联支援我国建设一座大型高速柴油机厂，苏方提供全套的技术图纸，另外派专家组进行协助。1955年8月22日，国家计划委员会正式批准建设高速柴油机厂，最初的厂址设在山西侯马，厂名定为高速柴油机厂，1957年9月，因战略调整，一机部决定将厂址迁到河南洛阳涧西，更名为河南柴油机厂，代号407，新中国第一个高速柴油机厂，第一个船用高速大功率柴油机专业制造厂从此诞生。

1958年5月10日，古都洛阳涧西锣鼓喧天，鞭炮齐鸣，河南柴油机厂正式破土动工，举行了隆重的奠基仪式，当天一机部主要领导、河南政府主要领导均出席当天的活动。河南柴油机厂建设初期条件异常艰苦，由于当时全国上下大搞建设，因此各种物资都很匮乏，建设者们勒紧裤腰带，克服所有难题，他们与天斗、与地斗，采用新老结合的方法昼夜奋战在建设一线，他们吃的是粗茶淡饭，住的是席棚子大通铺。

1960年，中苏关系破裂，苏联单方面撕毁双边合作协议，撤走所有援华专家，带走全部工程、产品图纸。此时的河南柴油机厂尚处于建设阶段，因此接下来的建设和产品设计、生产完全依靠自己的力量。1960年9月，河南柴油机厂划归三机部，同年10月27日，时任中央副主席陈云同志来到河南柴油机厂视察，看到工厂如火如荼的建设和热火朝天的试制车间非常满意，欣然挥笔题下“努力奋斗”。

国家对河南柴油机厂建设的高度重视深深的鼓舞了建设者，他们更加的努力工作，为早日实现投产，曾发动多次大会战。1961年，河南柴油机厂成功试制出我国第一台船用轻型12V-180型高速柴油机，填补了我国高速轻型大功率柴油机的空白。1963年，河南柴油机厂转由六机部领导，这一年，一期工程竣工投产，当时拥有职工6500余名，设备3000余台。

轻型12V-180型高速柴油机不光满足我国小型水面船舶使用，同时还出口到了朝鲜、罗马尼亚等多个友好国家。1969年，成功试制出当时世界上工艺难度最大、结构最复杂的轻42-160型柴油机。

1979年1月，中美正式建立外交关系，国际形势发生了改变，我国的工业布局随之调整，同时与世界顶级工业大厂进行合作。1985年引进德国MWM公司的柴油机技术，发展陆用发电特车台上动力成套设备。

1985年，河南柴油机厂发展第二产业，成立黄河摩托车工业公司，引进日本川崎株式会社摩托车生产线，以川崎KZ250R型摩托车为样车，生产出黄河HK250型摩托车。当时市面上主要的摩托车多为70、80、100CC，四冲程250CC非常少见，同为250的幸福摩托车仅为二冲程。黄河HK250型摩托车不光技术采用的日本川崎，发动机、车架、尾灯都为川崎制造，极限时速达到137公里/小时，各项技术指标与原型车差距不大。80年代一台黄河HK250型摩托车的市场售价在8000元左右，90年代更是达到2万多元，当时人均工资每个月几十元，能够骑上一台黄河HK250型摩托车绝对称得上是豪车。

黄河HK250型摩托车

1999年2月，河南柴油机厂整体改制为河南柴油机集团有限责任公司，同时引进德国MWM公司620柴油机生产技术，使产品的研发和生产、工艺方面有个质的飞跃。2000年，抓住了620V12柴油机国产化研制的机遇，为海军新型舰艇提供柴油机。

2007年6月，实施军民分离，成立河南柴油机重工有限责任公司，隶属为中国船舶重工，2011年3月，成为重工船舶重工的全资子公司。