历史文献记录的司马懿与世人印象中的司马懿大相径庭。
曹丕临终前，封司马懿与曹真等为辅政大臣，辅佐魏明帝曹叡。明帝在位期间，司马懿多次升迁，担任过抚军大将军、大将军、太尉等要职。明帝去世后，将年幼的后主曹芳托孤给司马懿和曹爽。曹芳继位之初，曹爽因司马懿德高望重，对其如父，不敢专权。但不久，曹爽听信亲信丁谧谗言，排挤司马懿，明升暗降，将其迁为无实权的太傅，自己把持朝政。
诸葛亮先生受托孤后，并未遭遇如司马懿般的政敌对抗，李严的权力窃取只需一纸命令便可解决，而曹爽却将司马懿直接排除在外，司马懿对曹爽虽心有不满，但直至公元244年，曹爽率军北伐蜀汉，遭遇暴雨困于峡谷，司马懿仍对其安危忧心忡忡，劝其退军。若其心怀不轨，大可置若罔闻，待曹爽覆灭后坐收渔翁之利。司马懿先生当初的最大目的，不过是夺回曹爽手中权力而已。公元249年的政变，受到朝野一致赞同，251年王凌起兵时，司马懿更无谋反迹象，声望正处于巅峰。……从司马懿本身而言，他所受到的诟骂与指责，并不公允”。
《晋书·宣帝纪》记载，司马懿内心疑虑而外表宽容，多谋善变。曹操早年便已察觉司马懿有不臣之心，且听闻其有“狼顾之相”。
曹操决定验证，一次，他交予司马懿一项任务，司马懿领命退下。
曹操眯着眼盯着司马懿高大的背影，若有所思，突然叫了一声：“仲达！”
只看见司马懿身体未动，仅有头部转向后方，看着曹操。
曹操一怔，眼中流露出杀机。
“没事了，你下去吧。”
司马懿满腹疑虑，退出了大帐。曹操却坐立不安了。
曹操精通相术，相术中言，有一种相貌称为“狼顾之相”：回头望人时，身体不动，头部能够向后一百八十度转动。传说有“狼顾之相”者难作人臣。
不久，曹操又做了一个噩梦，三匹马同在一槽中吃料，醒来后十分不快。
曹操初以为是马超一家，便杀掉了马超的父亲。而司马懿父子恰巧对应这三匹马，而“槽”又与“曹”同音，“三马同槽”岂不正暗示着司马氏图谋曹家？曹操感到这是一个不吉之兆，便叫来太子曹丕，意味深长地告诫他：“司马懿非人臣也，必预汝家事。”（司马懿图谋不轨，绝不会甘愿为人下属，将来必定会参与到你家的争斗中，你要多加注意。）这就是“三马同槽”典故的由来，此槽并非马槽，而是指司马氏吞并曹氏，而且从后来历史发展来看，“三马”还可以对应司马懿、司马师和司马昭父子三人，他们共同为司马炎取代魏朝奠定了基础。
曹操为何不杀司马懿呢？主要原因有两点：一是司马懿确有才能，杀之可惜；二是无端杀害司马懿，影响十分恶劣。
但此时的曹丕正与司马懿十分亲近，他回去后将此事告诉了司马懿。司马懿自此更加“勤于吏职，夜以忘寝，至于刍牧之间，悉皆临履。”（兢兢业业工作，日夜不休，就连喂马这样的事都亲力亲为。）
司马懿在世时，在魏国享有很高的威望，即使在其去世后，文钦讨伐司马师时，在檄文中仍对司马懿有“故相国懿，匡辅魏室，历事忠贞”等许多称赞。史书中记载他让“天下大悦”、“天下欣赖”。
司马懿的名声败坏始于永嘉之乱之后。他的无能子孙自相残杀，导致五胡乱华的浩劫，身世低贱的石勒对司马家族恨之入骨。而东晋则一直被南方士族把持。晋室南渡后，情形与当年的蜀汉相似，拥戴蜀汉为正统的呼声日益高涨；东晋灭亡后，情况更为明显。到隋唐时期，民间说书