如果说，在智力上，曹操与司马懿尚可以互争雄长的话，那么曹操的子孙曹丕、曹叡在司马懿面前就只能是矮子了。固然，他们两人在帝王群体中都可以称得上是“天姿秀出”、“才艺兼该”的。

连主张“无为而治”的老子都懂得“国之利器，不可以示人”。但是曹家的这两个皇帝却拱手把军事大权托付给他们父祖最不放心的司马懿。曹操死后不久，曹丕就任命司马懿为督军。公元224年（黄初五年），曹丕南巡又封司马懿为抚军，假节，领兵五千镇守后方。这是司马懿第一次获得军事指挥实权。第二年他又以司马懿为萧何，命令道：“吾东，抚军当总西事；吾西，抚军当总东事。”此时的司马懿，俨然可以与皇帝平分秋色了！

又过了一年，曹丕病死，司马懿是顾命大臣，与陈群、曹真并受遗诏，辅助二十二岁的青年皇帝曹叡。是这是司马懿春风得意、大展雄图的时期。

曹丕刚死，孙权即发兵围攻江夏（治今湖北云梦西南），遣诸葛瑾、张霸并攻襄阳（今湖北襄樊）。司马懿督领诸军讨伐孙权。这是司马懿第一次亲率大军，挂帅出征。这次出征旗开得胜，败诸葛、斩张霸，大显威风。班师后，封骠骑大将军，并加督荆、豫二州军事。

荆襄之役，不过是小试牛刀。接着是平定孟达。孟达原是蜀国的将军，投降魏国，任新城太守，驻上庸（今湖北竹山西南）。这时，他又想联络吴蜀，发展自己的势力。诸葛亮使用离间计，将这一消息泄漏给魏魏国。孟达听说自己的密谋被泄，打算举兵起事。司马懿急忙写信稳定孟达，他假装不相信孟达会反叛魏国，说这都是诸葛亮的挑拨。孟达得信有喜色，对举兵起事犹疑不决。司马懿却乘机急速发兵，大军倍道兼行，八日急行八百里，到达上庸城下，然后八道进攻。孟达惊呼：“吾举事八日，而兵至城下，何其神速也！”这次战役，因为孟达来不及准备守城工事，所以上庸很快即被攻破，孟达被斩。上庸之战，充分显露了司马懿的性格特征。他一面假意安抚，以诚相待；一面调兵遣将，直赴城下。

司马懿东线打胜仗的时候，诸葛亮正在倾注全国兵力进军汉中。此后又不断兵出祁山，魏国西线处于紧张状态。于是，曹叡给司马懿加大都督，要他讨伐蜀国。从此，同马懿成为统领诸军、反击诸葛亮进攻的西线主将。

诸葛亮劳军远征，军需困难，利在速战。司马懿看准诸葛亮的弱点，以逸待劳，持重应变。诸葛亮几次挑战，他都坚垒不出。诸葛亮送他巾帼服装讥讽他，众将士群情激愤，他仍能保持清醒头脑，克制自己和部下的情绪，不为诸葛亮的激将法所动摇。诸葛亮拿他没办法，最后积劳成疾，忧愤而死。

司马懿因西拒诸葛的功绩，由大将军迁升太尉。

但西拒诸葛并非司马懿军事生涯中的华彩乐章，司马懿军事生涯中的得意之笔是东征辽东。

公元237年（景初元年），辽东大守公孙举兵造反，曹叔急召司马懿进京，要他领兵出征。

天子曰：“君度其作何计？”

对曰：“弃城预走，上计也；据辽水以距大军，次计也；坐守襄平，此成擒耳！”

天子曰：“其计将安出？

对曰：“惟明者能深度彼己，预有所弃，此非其所及也。今悬军远征，将谓不能持久，必先据辽水而后守，此中下计也。”

天子日：“往还几时？”

对日：“往百日，还百日，攻百日，以六十日为休息，一年足矣。”（《晋书帝纪第一》）

“上兵伐谋”。洛阳宫殿中，曹叡和司马懿这场战略对话是中国古代战史上精彩的谋攻篇。你看这司马懿，三军未动而已胸有成竹。他连敌军如何行动，我军如何进击，往几日，攻几日，还几日，一切切的一切都运筹好了。

司马懿既能料敌虚实强弱之情，又能度地险厄远近之形。真是“运筹帷幄中，决胜千里外”。仗还没有打，胜利就在握了。

事情的发展，果如司马懿所料。当司马懿的四万大军经孤竹、越碣石次于辽水时，公孙渊果然如同司马懿预料的，先出“中计”，以步骑数万阻辽水，“坚壁而守”。司马懿甩开公孙渊的守军，以“攻其所必救”的态势，指挥大军直指敌人的巢穴襄平（今辽宁辽阳市），公孙渊看见司马懿去攻打襄平，只好从后面赶来救援，于是司马懿“纵兵逆击，大破之，三战皆捷”。这时，公孙渊又只好按司马懿的预料，再出“下计”，退守襄平。司马懿进军围城，合围后，昼夜进攻。公孙渊乞降不许，最后兵败被杀。

对这次战役，历来兵家评价都很高。孙权说司马懿“善用兵，变化若神，所向无前”，这11个字足字字应验司马懿是三国能和诸葛亮、周瑜比肩的超级大谋士。