惠帝三年（前192），相国曹参请派御史监三辅，部分地恢复了秦的御史监郡制度。

文帝十三年（前1 67），丞相遣史分刺各地，考察地方官，并督察监郡御史，时置时省。文帝还常常派特使巡行。

汉武帝时，中央统辖郡国数达百余，比汉初大为增加。为了加强统治，建立监察郡国的制度就成为必要。元封五年（前1 06），武帝把全国地区除三辅（京兆、冯翊、扶风）、三河（河南、河内、河东）和弘农以外，分为十三个监察区域，叫十三州部（冀、青、兖、徐、扬、荆、豫、益、凉、幽、并、交趾、朔方），每州部设部刺史一人。刺史没有固定治所，每年八月巡视所部郡国，考察吏治，惩奖官员，断治冤狱，“以六条问事”。这六条详细规定了刺史监察的范围，其中一条是督察强宗豪右，五条是督察郡国守相。刺史所举劾者，由丞相遣使案验。征和四年（前8 9），武帝置司隶校尉。司隶校尉率领官徒捕捉巫蛊（被指为以巫术害人特别是诅咒皇帝的人），监督大奸猾；后罢兵，督察三辅、三河和弘农郡，职权同部刺史相当。刺史和司隶校尉的设立，加强了中央对地方的控制，起了强干弱枝的显着作用。

刺史为六百石官（成帝改刺史为州牧，秩二千石），秩位不高，但出刺时代表中央，可以监察二千石和王国相，也可以监察诸王。刺史权责虽重，但不直接处理地方行政事务。所以刺史的设立得小大相制，内外相维之宜，比秦朝的御史监郡制度周密。