他从发凡起例至删削定稿，都亲自动笔。元丰八年宋哲宗即位，高太皇太后听政，召他入京主国政，次年任尚书左僕射、兼门下传郎，数月间尽废新法，罢黜新党。為相八个月病死，追封温国公。遗著有《司马文正公集》《稽古录》等，还有诸多名著被眾人所流传。
司马光的远祖可追溯到西晋皇族安平献王司马孚，司马光的父亲司马池曾為兵部郎中、天章阁待制（属翰林学士院担任皇帝的顾问，官居四品，一直以清廉仁厚享有盛誉。
司马光出生时，他的父亲司马池正担任光州光山县令，於是便给他取名光，七岁时，凛然如成人，闻讲《左氏春秋》，即能了其大旨，从此，手不释书，至不知飢渴寒暑。
司马光深受其父影响，一位婢女用热汤替他将胡核去皮，他姐姐问他是谁做的，司马光回答是自己剥皮的，父亲责备他小孩子怎麼可以说谎，司马光自此便不再说谎。
司马光砸缸的故事，他小时候和一群小朋友一起玩时，一个小孩子不小心掉进水缸裡，其他小孩都吓跑了，只有司马光情急生智，搬起一块大石头，砸破水缸，救了小孩的故事。
在当时的东京（今开封）、洛阳一带就有人把这个故事画成《小儿击瓮图》广為流传。小小的司马光遇事沉著冷静，机智勇敢，传為千古佳话。
宋仁宗宝元元年（1038）中进士甲科，在华州（今河南郑县）担任地方官。