久视元年（700年），狄仁杰升为内史（中书令）。那年炎天，武则天到三阳宫避暑，有胡僧邀请她看看埋葬舍利（佛骨），奉释教为国教的武则天容许了。狄仁杰跪于马前拦奏道：“佛者，蛮夷之神，不敷以屈全国之主。彼胡僧诡橘，曲欲邀致万乘所宜临也。”武则天遂中道而还。
是年秋天，武则天欲造浮屠大像，估量费用多达数百万，宫不克不及足，于是诏令全国僧尼日施钱以助。狄仁杰上疏谏曰：“如来设教，以慈善为主。岂欲劳人，以在虚饰？”“比来水旱不节，当今边境未宁。若费官财，又尽人力，一隅有难，将何以救之？”武则天承受了他的定见撤职了其役。
做为一名精忠谋国的宰相，狄仁杰很有知人之明，也常以举贤为意。一次，武则天让他推荐一名将相之才，狄仁杰向她选举了荆州长史张柬之。武则天将张柬之提拔为洛州司马。过了几天，又让狄仁杰推荐将相之才，狄仁杰曰：“前荐张柬之，尚未用也。”武则天答已经将他提拔了。
狄仁杰曰：“臣所荐者可为宰相，非司马也。”因为狄仁杰的鼎力推荐，张柬之被武则天录用为秋官侍郎，又过了一个期间，升位宰相。后来，在狄仁杰身后的神龙元年（705年），张柬之趁武则天病重，拥护唐中宗复位，为匡复唐室做出了浩荡的奉献。狄仁杰还先后推荐了桓彦范、敬晖、窦怀贞、姚崇等数十位忠贞清廉、精明干练的官员，他们被武则天委以重任之后，政风为之一变，朝中呈现了一种刚正之气。
以后，他们都成为唐代中兴名臣。关于少数民族将领，狄仁杰也能举贤荐能。契丹猛将李楷固曾经屡次率兵打败武周戎行，后兵败来降，有关部分主张处斩之。狄仁杰认为李楷固有骁将之才，若恕其死功，必能感恩效节，于是奏请授其官爵，委以专征，武则天承受了他的定见。
公然，李楷固等率军讨伐契丹余寡，班师而回，武则天设席庆功，碰杯对狄仁杰说“公之功也”。因为狄仁杰有知人之明，有人对狄仁杰说：“全国桃李，悉在公门矣”。
在狄仁杰为相的几年中，武则天对他的信重是群臣莫及的，她常称狄仁杰为“国老”而不名。狄仁杰喜好面引廷争，武则天“每屈意从之”。
狄仁杰曾屡次以年老告退，武则天不准，进见，常阻遏其拜。武则天曾告诫朝中仕宦：“自非军国大事，勿以烦公。”
久视元年（700年），狄仁杰病故，朝野凄恸，武则天哭抽泣着说“朝堂空也”。赠文昌右丞，谥曰文惠。唐中宗继位，逃赠司空。唐睿宗又封之为梁国公