公元266年二月（咸熙二年十二月），汉末之后统治中国北方多年的曹魏统治集团走到尽头。曹魏权臣司马昭的儿子司马炎，享受到祖辈几代人的奋斗成果，取代曹髦称帝，国号晋。时间再向后倒退三年，司马昭病逝前，曾发动大军南征蜀国，蜀后主刘禅投降。所以司马炎称帝时，原本鼎立的三国只剩下晋国和吴国。自汉末天下大乱以来，中国已经历了半个多世纪的分裂局面。无论对于司马炎，还是当时多数将领、大臣而言，一统华夏，名垂青史的机会就在眼前，谁都不愿错过。
司马炎称帝后，优先改革内政，发展国力。后来淮南曾两次发生反对司马氏的叛乱事件，并且有吴国的支持，但都被晋国镇压下去。当时，江东的孙吴在暴君孙皓的统治之下，危机四伏，国力日衰，人心思乱。这一有利形势为西晋灭吴统一全国提供了可能。司马炎决心加强对南线的军事部署，着手进行灭吴的准备工作。
泰始五年（269），司马炎把才识出众的尚书左仆射羊祜拜为都督荆州诸军事的职务，坐镇襄阳（今湖北襄樊）；把镇东将军卫瓘从徐州调往青州，改派宗室司马伷为都督徐州诸军事、镇守下邳。羊祜是司马师内弟，西晋皇室外戚，他军事才能卓越，到襄阳后，他努力安定民心，减轻赋税，采取各种办法，加强军事物资的储备，使晋吴对峙的局面不断向有利于西晋方面转化。
泰始六年（270年）六月，河西鲜卑秃发树机能起兵反晋，杀秦州刺史胡烈。司马炎非常震恐，着力平定叛乱。讨伐吴国的战事不得不暂时延缓。同时东吴命陆逊之子陆抗主持西线军事。陆抗也是个出色的军事家，一上任便攻破西陵（湖北宜昌），并击败羊祜等人的援军。羊祜只得继续等待时机。
泰始十年（274年）陆抗病死，东吴西线的防御能力明显下降。羊祜开始筹划南进的军事部署和作战方案。咸宁二年（276）十月，羊祜给司马炎上表，请求伐吴。羊祜认为，西晋灭吴的条件比当时灭蜀的条件远为成熟，只要司马炎肯下决心，平吴是不成问题的。但建议遭到贾充、荀勖等人的坚决反对。他们以秦、凉地区的动乱尚未平定为由，极力阻挠南进。司马炎不能下定灭吴的决心，除因西部动乱外，还有他分封诸王以屏卫皇室的计划还没有实现的因素。自泰始分封以来，司马炎没有认真要求诸王就国，多数宗王留官或留居洛阳，诸王不去各地把持军政要务，司马炎觉得司马家族不安全。
咸宁四年（278）六月，羊祜等不了了，他病重中，要求入朝面陈灭吴大计。司马炎允许他乘车上殿，不行参拜之礼，对于他的意见也表示愿意听取。后来羊祜在病榻上要前来探病的中书令张华转告司马炎说：吴主孙皓暴虐异常，现在出兵可以一举成功。如果孙皓死掉，吴国另立有为新主，我们再有雄师百万，也难渡长江天险了。羊祜的话对司马炎震动很大。他要求羊祜卧护诸将，带病出征。羊祜表示，灭吴战争不一定非他指挥不可，他可以推荐一个能够胜任这一职务的人选。当年十一月，羊祜病故。临终前他举杜预代替自己。
杜预以镇南大将军、都督荆州诸军事的职务到达襄阳，以离间计诱使孙皓换了对晋军有威胁的西陵总督张政。经过一段时间部署，咸宁五年（279）八月，杜预向司马炎上表伐吴。这时，益州刺史王濬也上书请战。
咸宁五年（279）十一月，司马炎命令张华为度支尚书，主持灭吴大局，掌管漕运粮饷。同时，他发布诏书，下令以六路大军，二十万众，大举进攻吴国。这六路是：镇东将军司马伷出涂中（今安徽滁河流域），安东将军王浑出江西（今安徽长江以西），建威将军王戎出武昌，平南将军胡奋出夏口，镇南大将军杜预出江陵，龙骧将军王濬等率巴蜀水军，顺江而下。十分滑稽的是，司马炎选定的平吴主帅竟是贾充。
太康元年（280年）三月，吴主孙皓兵败投降，至此，全国重归统一。在对平吴功臣封赏的时候，司马炎遇到难题：王濬和王浑为争功而互相指责，闹得不可开交。按说，王濬平吴有首功应该重赏。但是王浑在朝中的势力大，党羽多，儿子又是司马炎的女婿。他们极力争吵，在封赏中占据了上峰，王浑被封为公，王濬却被封为侯。一些朝臣为王濬功高赏薄鸣不平，司马炎为平息众怒，又回过头来给王濬升官加赏，搞得十分狼狈。而那个灭吴的阻力贾充却平白得到增封食邑八千户的赏赐。一统乱世的帝王竟然在战后落得如此哭笑不得的善后，归根结底，是因为司马家族的上位，靠的是豪门权贵们的支持，司马氏作为代言人，没有绝对话语权，也就威信不足了。
