东汉末年成书的《东观汉记》,曾与《史记》、《汉书》合称三史,广泛地流传。此外,还有三国时期吴国人谢承著的《后汉书》,晋朝薛萤的《后汉书》等。但这些书,对东汉前朝的历史记述烦杂,东汉后期的历史又记述得过于简单,许多重大的历史事件都未写进去。《东观汉记》是许多人断断续续地写的当代史,难免杂乱,而且由于客观条件的限制,不可避免地出现了对当时人物评价不公正的地方。有的书,不仅条理不清楚,同时错误的地方也不少。

司马彪作为封建统治阶级历史学家的一员,深深感到通过著史来考察一个朝代政策得失,使地主阶级的后继者鉴古知今的重要性。这一年,司马彪上书晋武帝,要求重修东汉史,不久就得到了晋武帝的批准。圣旨下达后,司马彪的心久久不能平静。这是他第一次作为一个史官,奉旨修史。他想,写历史是要记我国家大事,扬善抑恶,教育子孙后代的,材料一定要真实可靠,评价一定要公平合理。这就需要大量地、详细地占有材料,然后去伪存真,去粗取精,公正地、实事求是地写出来。
为了做到真实、详细、准确、公正,司马彪找来了现有的各种记载东汉历史的书,进行分析比较,找出相同和不相同的地方,然后查阅了大量的档案文献,进行核实,把前人记错了的事,改正过来,把前人没有记载的事,补充进去,把前人写重复了的事,删掉。
有一本书,在记叙东汉安帝时虞诩担任武都(今甘肃东南、陕西西南一带)太守后,武都的变化时写道:“二、三年的工夫,武都户口增加到四万多,粮食丰收,盐、米价格很便宜,比先前好了十倍。”

司马彪想,这样写,太简工和不便于后人分析,从而引出经验教训。他翻遍了秘书寺藏的关于武都的材料,对这一情况做了细致、准确的记段,然后,在自己的书中“虞诩被任命为武都太守,刚上任时,武都郡的米,每石一千钱,盐每石八千钱,户口只有一万三千。到任三年后,米,每石八十钱,盐,每石四百钱,流散在外的老百姓,看到家乡富足起来,纷纷回到家乡,户口增加到几万。百姓富裕,一郡安居乐业。”司马彪的这一段记述,对于后来的人,研究东汉前期社会经济的发展,很有价值。