大魏嘉平三年八月五日，司马懿薨于京师，时年七十三。柏夫人当日便随之吞金殉情自杀。
少帝曹芳素服临吊，丧葬威仪一依前汉霍光之故事，给他追赠相国、郡公。司马孚奏陈司马懿之遗志，辞去郡公之爵。九月庚申日，葬于河阴首阳山，谥曰“文贞侯”。
大魏咸熙元年夏三月，司马昭挟平蜀之功而为晋王，五月魏朝追封司马懿为“晋宣王”。大魏咸熙二年冬十二月，晋受魏禅，司马炎登基称帝，为司马懿上尊号曰“宣皇帝”，陵曰“高原”，庙称“高祖”。十四年后，司马炎调兵遣将，挥师从东西两路同时夹击，一举吞并了东吴，统一了全国。至此，三分天下，尽归于晋。罗贯中的名著《三国演义》（ 此诗见于明代嘉靖年间刊刻的《三国志通俗演义》，现行的《三国演义》通行本中已无此诗。）对司马懿集大魏之守成者、大晋之奠基者双重角色于一身的精彩一生用一首古诗作了一个精准而凝练的概括与评价：
开言崇圣典，用武若通神。
三国英雄士，四朝经济臣。
屯兵驱虎豹，养子得麒麟。
诸葛常谈羡，能回天地春。
我们认为，这首古诗于司马懿而言，当是最为公允的盖棺之论。