没过多久，张柬之就入朝为相，立即推荐荆州长史为羽林军将军，控制军权。同时有拉拢了一些复唐之人，暗地里策划政权斗争。
长安年间，武则天问狄仁杰：“从何处能得到一位奇士使用他？”狄仁杰说“：陛下若求文章、资历，现宰相李峤、苏味道足够了。难道是文士拘泥小节，不足以共成天下大业吗？”武则天说：“是的。”狄仁杰说：“荆州长史张柬之虽然年老，却是宰相之才。用他，他必定为国家尽心竭力。”武则天立即召请张柬之任洛州司马。
过了一阵，武则天又求才，狄仁杰说：“臣曾举荐张柬之，您没用他。”武则天说：“提拔他了。”狄仁杰说“：臣举荐宰相却任司马，这不是用才。”于是张柬之被授官为司刑少卿，迁升秋官侍郎。
而且，狄仁杰和张柬之都是以恢复李唐天下为己任，以防止武三思篡夺李唐天下。而狄仁杰则成功的劝住了武则天没有将皇位传给武三思。
则张柬之在武则天晚年时，发动政变，逼迫武则天将皇位还给李氏家族。其实，狄仁杰和张柬之之间算是一种亦师亦友的关系。
如果说狄仁杰是劝武则天归政于李唐王室，将李显立为太子的主要功臣，那么张柬之则是实际上促使李显登上皇位之人。
武则天晚年，多病不理政事，朝廷被武三思和张易之、张昌宗兄弟把持，张柬之见此，联合终于李唐的各大势力，发动玄武政变，将张易之和张昌宗斩杀，逼迫武后传位于李显。
