后来，只狄仁杰被调到宁州(今甘肃宁县)做刺史。宁州是汉族和其他少数民族杂居的地方。由于仁杰政治措施得力，能注意民族团结因此，各族百姓都很满意，给仁杰立碑歌功颂德。御史(官名，职掌弹劾、纠察地方官)郭翰奉命来陇东各地视察，弹劾了许多不称职的官员。可是到了宁州境内，感到情况和其他各地大有不同，所到之处，人们都交口称颂仁杰的功德。郭翰回到朝中，称赞仁杰施政有方，于是则天提升仁杰为江南巡抚使。

以后，狄仁杰又转为豫州刺史。因为越王李贞的叛乱，牵连犯罪的有六、七百人。法官督促行刑，仁杰背地赶快给则天上奏说:“这些人原来并不是真心蓄意要背叛朝廷，只是由于李贞的胁迫，才参与了叛乱活动，因此，情有可原应当减轻对他们的处分。我如果当着朝臣的面，给陛下上奏，他们会说我是替造反的犯人辩护。如果知而不言，不上奏陛下，又怕违背陛下体贴百姓的本意。因此，这个奏章我写了几次，写好了，又毁掉，毁了又写，小心里实在拿不定主意。这些人确实并无反叛之心，伏望陛下能够体谅下，赦免他们的死罪。”则天接到奏章，果真下诏免除了这些人的死利，把他们流放到丰州(今内蒙古五原南)。当这些犯人路过宁州城时，宁州父老对他们说:“是狄府君(府君是人们对府、洲长官的尊称)上奏皇上，才救了你们的命啊！”犯人们感激不尽，又立碑歌颂仁杰的恩德。

天授二年(公元691年)，仁杰被提升为宰相。则天召见他时说:“你在汝南的时候，很有善政，可是还有人在我面前说你的坏话，你想知道这个人是谁吗?”仁杰毫不思索地说:“陛下知道我没有罪过，就是我的万幸了，我不想知道这个人的姓名。”则天对仁杰这种不记私仇，心胸坦荡的品德，颇为赞赏。因此，越发对他信任重用。