司马氏是在桓文死后，才正式执掌朝政的，换句话说，东晋近百年来，恐怕也就是孝武帝一人完完全全把控了朝堂权势。孝武帝在位的时候，由于前秦十几年的发展，北边基本上已经被他一统。然而，当他想要一统天下的时候，他在淝水之战中失去了先机，导致了一场连锁反应。随着淝水一役的大败，前秦很快就崩溃了。前秦灭亡后，鲜卑、匈奴和羌族在北边的兴起，对其统治进行了割据。在淮河之战后，东晋军心振奋，乘胜追击，一举拿下了桓文，开始北征。

这次的征战，是孝武帝亲自出马，谢安、谢玄跟随，故而，又名谢玄北伐。谢玄麾下的军士，都是极为强大的军士。在前秦战败后，很快就夺回了大量的土地。第二年，即公元384年，谢玄又发动了一次北方战争，这一次，中原的重要城市徐州被谢玄拿下，而郯城则被刘牢之拿下。接着，北伐军又向北推进，向青州、河南等地挺进。

第二年，刘牢之渡黄河，向河北的邺城发起进攻，占领了黎阳。后来，正好遇到苻丕和慕容垂在河北交战，刘牢之在谢玄的授意之下，同意了他的要求，率兵攻打了邺城，击败了慕容垂坐镇，然后直奔襄国境内。结果被慕容垂打了个措手不及，元气大伤，只能退守黄河南部。这一次的北伐，算是告一段落了，不过这一次，却是北征的最好时机，只可惜，他们没有下定决心，不然的话，胜算会更大一些。

刘裕的北伐，可以说是整个东晋、南朝有史以来最为顺利的一次，如果不是因为时间的关系，以及当时天气的恶劣，恐怕刘裕早就实现一统天下的大业。刘裕打败了桓玄，使晋室的江山再次回到了正轨。而刘裕，则是效仿殷浩，桓文，开始了他的北伐。

刘裕在位的时候，正是北魏兴起的时候，那个时候，整个北国已经没落，后秦王朝，南燕王朝，还有西北王朝，都已经没落了，所以刘裕才会发动一场战争，将南燕的军队打得节节败退，然后就是广固。经过一年多的征战，刘裕终于攻下了广谷，将南燕覆灭，但由于卢循的叛乱，他不得不停止了向北的脚步，转而回到国内，开始了他的内政。