太昌元年（南梁中大通四年，公元532年）四月，高欢入洛阳，连废元朗、元恭，立元修为帝，成为了北魏的实际掌权者。虽然已经位极人臣，但高欢也明白此时天下还未平定。

在关陇地区，贺拔岳等人虽然生擒了驻守长安的尔朱天光之弟尔朱显寿来响应高欢，但高欢也知道本就和自己不对付的贺拔岳是不可能真心归顺自己的。于是高欢以皇帝的命令征召贺拔岳为冀州刺史来试探他，如果他领命了自己正好可以染指掌控关陇地区，要是他拒绝了也就有了对他用兵的借口。

对于高欢的计谋，贺拔岳心里也是十分清楚，但碍于高欢如今的实力，他便打算单人匹马入朝接受任命。行台右丞薛孝通见状连忙劝阻劝贺拔岳，他认为高欢确实实力强悍，现阶段贺拔岳也确实很难与他相匹敌。但高欢现在虽然身居高位，可朝中、州镇不少将领以前是他同僚甚至是顶头上司，他们屈服于高欢也不是心甘情愿的，高欢也同样不会信任他们，但又因为害怕失去人心不敢动他们。最主要的是尔朱兆虽然败逃，却仍在并州颇具实力，因此薛孝通认定高欢正在内抚群雄，外抗强敌，不会与贺拔岳争夺关中，他更是建议贺拔岳趁此机会发展势力，贺拔岳深表赞同，客气地给高欢写了封信加以推辞，未应召到京接受任命。

正如薛孝通所料，高欢虽然对贺拔岳此举很不爽却也无可奈何，毕竟此时尔朱兆才是他的头号敌人。七月壬寅日（初十），高欢亲自率兵入滏口，大都督库狄干率兵入井陉，这一次他准备彻底消灭尔朱兆。庚戌日（十八日），元修派遣高欢的干弟弟、派骠骑大将军、仪同三司高隆之率步兵骑兵十万人与高欢在太原会师。随后高欢驻军于武乡，尔朱兆听闻大军压境，竟然大肆抢掠晋阳后向北逃奔秀容县，拱手交出了并州。因晋阳四面有山为屏障，高欢于是在晋阳建立了大丞相府，在那里遥控朝廷。

至于尔朱兆，他在逃到了秀容县后，分兵把守险要隘口，随后四处侵犯抢掠，俨然成了流寇。高欢对此多次扬言要讨伐尔朱兆，可是当军队出发后却又突然停止讨伐，这种情况反复出现，以至于尔朱兆觉得高欢是在虚张声势，心里便懈怠下来了。实际上高欢是在打心理战，他估计尔朱兆在年初可能要举行宴会，于是便派都督窦泰率精锐骑兵飞速行军，一天一夜行军三百里，高欢率领大军随后进发。

永熙二年（南梁中大通五年，公元533年）正月，窦泰率领军队突然攻到尔朱兆大本营的厅堂，尔朱兆所部果然如高欢所料在摆宴而疏于防守。看到突然杀到的大军，尔朱兆部顿时四散而逃，最终在赤岭被窦泰追上击溃。尔朱兆则是逃到荒山中，眼见大势已去，便命令身边亲信砍下自己的头颅投降去邀功，见他们不忍心这么做，尔朱兆就杀掉自己所骑的白马，随后自己吊死在树上。

念在也是兄弟一场，高欢亲自来到尔朱兆自杀的地方，为他举行了隆重的葬礼。慕容绍宗带着尔朱容的妻子、孩子以及尔朱兆剩余的人马向高欢投降，高欢看在过去的交情上，给予他们很优厚的待遇。这下子尔朱氏集团被彻底平定，高欢的好日子就此要到来了吗？