1956年初夏，毛主席去广州视察，由于国家建设计划的稳步推进，毛主席兴致很高，他对身边的人提出了自己这年的一个小“计划”：
“我一定要在年内实现畅游珠江、湘江、长江。”
李银桥一听，立马就把毛主席原话传达给了在广州的公安部长罗瑞卿和中办副主任汪东兴，以及湖北省委第一书记王任重。
罗瑞卿脑子“嗡”地一下，当时他第一个念头就是阻止毛主席游泳。
“主席，我不是不同意你游泳，但长江太险，水流复杂，我负不起责任。党和人民把保护您的任务交给我，我作为公安部长要对党中央和全国人民负责！”
然而也正是因为这个原因，使得毛主席心里很不高兴，罗瑞卿也遭到了毛主席生平对他最严厉的批评。
毛主席埋怨罗瑞卿也不是一次两次了，因为罗瑞卿本身就是公安部长，他随同毛主席出行，本身就要负责毛主席安全，从罗瑞卿的角度去看，他反倒要算是最尽职尽责的，甚至长子罗箭后来回忆父亲时，称罗瑞卿为了陪毛主席游泳，50岁时学会了游泳。
罗瑞卿的长子罗箭后来回忆父亲：
“父亲的工作性质决定了他要紧张一辈子。但是父亲从没有说过。”
一1949年5月中旬，时任华北军区政治部主任、第十九兵团政委的罗瑞卿突然接到中央命令，要他到北平去。到了北平以后，周恩来亲自找他谈话：
“快要建国了，毛主席点的将，让你出任公安部长。”
罗瑞卿的第一个念头就是推辞，他觉得此时此地正是率军南下，解放全中国的关键时刻，所以他建议时任中央社会部部长的李克农来担任公安部长。
可周恩来直截了当的告诉他：
“李克农有李克农的任务，此事中央已经决定，今天晚上毛主席要见你，你就不要再提到前线打仗的事儿了。”
当天晚上，罗瑞卿专程赶赴香山双清别墅，毛主席一脸严肃的表示：
“听说你不愿意干公安部长，还要去打仗？现在要建立新的国家政权了，我们都不干，都去打仗，能行吗？”
毛主席丝毫没给罗瑞卿推辞的机会，罗瑞卿也无奈，只好走马上任。
相比于其他诸位开国将军，毛主席对罗瑞卿始终是一副严厉的神色，但这同样也是对他很高的期许，也不是谁都能获得那个赞誉：
“天塌下来，有罗长子顶着呢！”
后来在和平年代，毛主席又说：
“罗长子往我身边一站，我就感到十分放心。”
罗瑞卿的高度负责任的态度，是毛主席对他感到放心的重要原因。以至于后来人们谈到罗瑞卿，都亲切的称他是“大警卫员”。
有两件事给罗瑞卿曾留下很深刻的印象，据罗箭回忆，一次是陈毅任上海市长期间，在台上讲话，特务在幕布后潜伏伺机下手，所幸被人发现，还有一次是叶剑英任广州市长期间，两次遭到特务伏击。
毛主席为此狠狠批评了罗瑞卿，并提醒他，对于高级领导的保卫工作一定要重视。
可毛主席并不知道，罗瑞卿对他的安全的担心更有甚于其他人，后来毛主席多次出巡视察，罗瑞卿都是跟随在身边，寸步不离。甚至有许多事情，罗瑞卿都是提前很多时间开始准备，打好充足的余粮。
二从上任公安部长那天开始，罗瑞卿面临的就是一个复杂紧张的社会气氛。
且不说全国各大城市的情况如何，单说北京就不是那么简单，地主、土匪、恶霸盘踞，烟馆、妓院众多，甚至于当时还有特务潜伏，伺机破坏。
罗瑞卿上任第一天，就定下了一个治安标准：
“路不拾遗，夜不闭户。”
为了整治各种乱象，罗瑞卿重拳出击，几乎在很短的一个时间里，就让北平的社会环境有了根本的好转。
根据总参谋部组织撰写的《罗瑞卿传》记载：
公安部队在罗瑞卿领导的十年间，协同有关方面平息了反革命暴乱和武装叛乱340起；建国初期配合国防军剿匪220万人，50年代末基本肃清国内残匪；捕歼、击沉、击伤和缴获敌船58艘，击落、击伤敌机4架。
新中国建立初期，有关公安部队的建设并没有一个参照的点，这一切都需要罗瑞卿摸索。
当时，中央对公安部队的要求有一条：公安部队的数量不要求大，但要求精。
罗瑞卿心里很清楚，与军队不同的是，军队是备而不用，而公安部队则是天天要用，所以整个公安部队班子的建设必须要精干。
如何把这支部队建设成为忠于党，忠于人民的部队，是罗瑞卿最关注的一件事。
有个特别值得一提的事情是，“人民警察”的称呼最早是罗瑞卿提倡的。
新中国成立初期，公安部队的组成大多数是从解放军中抽调的，但因为缺乏足够的经验，也沿用了一批过去旧社会时期的老警察，尽管经过了思想改造，但也有部分仍然有不少恶习。
新中国的警察制度，也是从无到有慢慢建立起来的。
罗瑞卿是部队政工干部出身，他把部队政治工作的办法用于警察部队的建设，他跟毛主席首倡了“人民警察”的提法，一改过去旧社会时期传统的习惯。
一次，罗瑞卿从从公安部大楼步行到南池子缎库后巷甲1号的住处，在大街上个小贩推着车占道卖菜妨碍交通，警察上前执法时，双方态度都不好，最后警察推翻了小贩的推车。
罗瑞卿当时就上前去批评那名警察，结果反而被这名警察一把推开：
“你是谁啊，管得着吗你？”
旁边的秘书拉着这名警察告诉他：
“这是公安部的罗部长。”
那名警察吓了一跳，立马汗出如浆，练练表示：
“我以后一定认真改正执法态度。”
罗瑞卿告诉他：
“现在是新社会了，要做人民警察。”
据罗箭回忆，包括警察在执法前要先敬礼，都是从那个时候延续下来的。
从1957年到1958年，罗瑞卿先后派出了十几支工作组，深入北京、上海、武汉、重庆、南宁、杭州等几十个城市派出所进行调查。
1957年4月10日下午，罗瑞卿来到重庆曾家岩派出所，当时派出所的驻地是一座楼的二层，罗瑞卿上去以后，发现楼梯口写着：
“非本公安所人员，不得上楼。”
罗瑞卿亮明身份后，问工作人员：
“我能不能上楼？”
陪同的干警只好陪着笑脸说：
“能，能！”
上楼后，罗瑞卿召集派出所全部干警训话：
“你们楼下是街道办事处，如果他们也挂一个牌子：‘非本处工作人员，不得下楼’，那你们怎么办？这种牌子对坏人不起作用，对好人则印象不好。”
有了罗瑞卿，新中国公安部队的建设日趋完善，社会秩序也逐渐建立起来，至1959年，罗瑞卿已经初步实现了当初制定的目标“路不拾遗，夜不闭户”。
1959年9月18日，罗瑞卿离开了公安战线，出任国务院副总理兼国防部副部长、中央军委秘书长、人民解放军总参谋长。
在主持公安战线最后一次会议上，罗瑞卿发表讲话：
“今年是建国10周年，我搞公安工作也搞了10年。10年斗争的成果首先应当归功于党，其次应当归功于人民群众。从我们公安系统来讲，功劳首先是同志们的、大家的，我个人的力量是微乎其微的。”
三罗瑞卿1959年虽然卸任公安部部长，但身上的担子并没有减轻，反而更重了，不仅如此，到了六十年代初，罗瑞卿还担任了国防委员会副主席、国防工业办公室主任。
1962年，罗瑞卿还出任了中央书记处书记。
在那些年里，罗瑞卿身上最多兼任过十三个不同的职务，身边有四个秘书，每天要处理的文件堆积如山，电话铃声也响不断，以至于身边还要配四个秘书，才能支持他连轴转的工作，一点休息的时间都没有。
甚至还有人认为，在那段时间里，罗瑞卿所肩负的职责已经超越了部分老帅。
罗瑞卿的四个秘书，分别负责四个方面的工作，他在工作的时候，则由秘书按照轻重缓急放好，然后挨个分门别类的向他汇报。
每当这个时候，罗瑞卿也只有自嘲一笑：
“我又被包围了。”
从1959年到1965年，是罗瑞卿军事生涯的巅峰时期，他对于维护党对军队的领导、加强全军战备训练、，发展国防尖端武器和航天事业，促进军队革命化、现代化、正规化建设立下了汗马功劳。
有文章统计，1964年全军步兵武器训练中获得优秀成绩的师比前一年增长了四倍，投弹平均达到40米以上的师比前一年增加了六倍。
值得一提的是，罗瑞卿率先决定宣传雷锋的先进事迹。
1962年8月15日，沈阳军区驻抚顺某部运输连四班班长雷锋在指挥助手倒车的过程中不幸牺牲，后来军区通过发掘，这才注意到雷锋过去做过许多好人好事的情况，因此作为典型上报中央。
罗瑞卿注意到了雷锋这样一个先进典型，并主张在全军推广宣传他的英雄事迹，还为沈阳军区举行的命名“雷锋班”的大会题词：
“伟大的战士———雷锋同志永垂不朽。”
当时，在《人民日报》已经宣传雷锋光荣事迹的情况下，罗瑞卿注意到《解放军报》宣传有些滞后，还特意让秘书给《解放军报》打电话质询：
“学习雷锋，《中国青年报》搞了，《人民日报》也搞了，军队报纸反而不那么热烈……请报社考虑，究竟应当抓什么才比较恰当？……要在全军掀起一个学习雷锋的运动，展览会要到各个连队去。”
也正是因为罗瑞卿的坚持，使得雷锋这样一个形象影响了一代又一代的人。
时至今日，每年的3月5日依然是雷锋的纪念日。
1975年，罗瑞卿复出担任中央军委顾问，77年当选中央军委委员，并出任军委常委、中央军委秘书长。
尽管年纪已经很大，身体各方面也不是很好，双腿的疾病也没有治好，但罗瑞卿仍然以极大的热情与精力投入工作中，为祖国建设事业增光添彩。
据罗箭回忆，罗瑞卿那段时间常说的一句话是：
“我今年72岁，要当27岁来过。”
只是很遗憾，罗瑞卿为了治疗腿疾，于1978年远赴德国治疗，不慎在手术中引发了心肌梗塞去世。
