井冈山时期，在红4军第2纵队中，罗荣桓任2纵政委，罗瑞卿任政治部主任，两人都是分管部队的政治思想工作。但是，他们性格上各有特点。罗瑞卿活泼、干脆，罗荣桓沉静、稳重，一动一静，迥然不同，但配合十分默契，开始建立起深厚的友谊。

　　因为他们都姓罗，又先后任第2纵队、红4军政委，为区别起见，大家便称呼罗荣桓为大罗，罗瑞卿为小罗。以后，罗瑞卿和罗荣桓长期在一起战斗，大罗、小罗之称一直伴随着他俩。

　　1929年初，在中央军委的安排下，罗瑞卿、曾省吾由地下交通员带领，经漳州、南靖、龙岩来到了上杭蛟洋。

　　这时，闽西有两支游击队，一支在上杭，领导人即为傅柏翠；另一支在永定，领导人是张鼎丞。这两支队伍是在1928年6月永定和蛟洋暴动后组成的。罗瑞卿和曾省吾加入了傅柏翠的游击队。

　　5月间，红4军第二次入闽，傅柏翠、曾省吾闻讯后立即到上杭北面的新泉、庙前去联络。

　　第二天，红四军路过游鱼坝，罗瑞卿和傅、曾率领游击队和当地群众欢迎红4军，街上摆了茶水，墙上贴了欢迎标语，村口插了红旗。随后，一起攻打龙岩。红4军主力打西门，罗瑞卿等率游击队在东门佯攻，5月23日攻克龙岩。5月26日，上杭一带游击队编为红59团。傅柏翠任团长，曾省吾任党代表，罗瑞卿任参谋长。