中国铁道部最早可以追述到孙中山时期，最近当然就是中国铁路总公司。

中国铁路的发展起始于晚清，与西方资本主义国家相比，晚了六七十年。并且，由于受封建政统治的束缚，中国铁路的发展在晚清事情进展很缓慢。

在民国成立之初，孙中山就非常重视铁路的建设和发展，并出任中国第一任铁道部长。

1912年，孙中山辞去临时大总统，提名选举袁世凯为继任人后，就开始筹划修建铁路，在他看来，“交通为实业之母，铁路为交通之母”。

1928年，南京国民政府成立铁道部。1932年，通过了中国的第一部《铁道法》。考虑到铁路对国计民生以及国家安全的重要意义，这部《铁道法》的第一条写着：“凡关系全国交通之铁道以中央政府经营为原则。”

当然，无一例外，中国共产党也同样认识到了铁路的重要意义。解放战争时期，为了保障解放军大规模移动的能力，1948年，在东北人民解放军护路军的基础上，吸收东北各铁路局1200名铁路员工为技术骨干，再补入一些军人，成立了第一支铁道部队一一东北人民解放军铁道纵队这就是后来铁道部的前身。

新中国成立后，铁道部成为中华人民共和国政府成立最早的部门之一。1949年10月1日，根据1949年9月27日中国人民政治协商会议第一届全体会议通过的《中华人民共和国中央人民政府组织法》第十八条的规定，设置中央人民政府铁道部。1954年9月，共和国铁道部，接替相关工作，成为国务院组成部门。历史上除1970年至1975年间与原中华人民共和国交通部、中华人民共和国邮电部合并成立新的交通部之外，铁道部门一直作为一个独立的部委存在。铁道部成为最大的部门，铁路建设对中国有着包括国土开发、国防建设、维护国家民族统一有着重要的作用。2013年3月，根据第十二届全国人民代表大会第一次会议审议的《国务院关于提请审议国务院机构改革和职能转变方案》的议案，铁道部实行铁路政企分开。将铁道部拟定铁路发展规划和政策的行政职责划入交通运输部；组建国家铁路局，由交通运输部管理，承担铁道部的其他行政职责；组建中国铁路总公司，承担铁道部的企业职责；不再保留铁道部。