告别李多祚，张柬之又去找右羽林军将军杨元琰。原先，张柬之由荆州大都督府长史调朝廷供事的时候，曾经和接任长史职务的元琰，同乘船在江中游玩。他们一面欣赏水光山色，带面海阔天空的漫谈。当谈到则天改唐为周的事时,元琰向柬之表示:将来愿意为恢复李唐江山而效劳。后来柬之当上宰相,又引用元琰做右羽林军将军，所以，二人交情很深。柬之见到元琰对他说 :“你还记得当年我们在江中游玩时你说的那些话吗?”元琰答: “当然不会忘记!”柬之说:“所以，我并不是随便推荐你担任右羽林军将军这一职务的，你要作好准备。”随后，张柬之又引用桓彦范、敬晖和李湛为左右羽林将军，让他们统率禁卫军，为杀掉张氏兄弟做好了武装方面的准备。

张易之等见张柬之在羽林军中安插自己的亲信，心中非常怀疑。柬之为暂时遮人耳目，稳住张氏兄弟，遂将易之的党羽武攸宜提拔为右羽林大将军。

不久，灵武(今宁夏灵武)道大总管姚崇因事来到落阳，张柬之、桓彦范等听说姚柴到来，心中非常高兴，异口同声地说:“我们的计划可以实现了！”于是，赶忙我来姚崇，把准备发动***的事告诉了他，并同时偷偷告知太子，取得了太子的同意。

预定***的时间一到，张柬之等便先派李多柞、李湛及王同皎，前往东宫去迎接太子。然后和桓彦范、左威卫将军薛思行等，率领羽林兵五百余人来到了玄武门。可是，左等右等，迟迟不见天子到来，急得他们站立不安，不知如何是好。

原来李多祚等急急忙忙来到东宫，不想太子突然发生疑怀，觉得事情太重大，太危险了，竟然不愿出来。他们没法，只得耐着性子推心置腹地解劝。王同皎说:“先帝把天下传给了陛下，可是却被皇后废掉，到现在已是二十多个年头了。如今众大臣和禁卫军将王们，要同心协力除掉张氏环蛋，重新迎立殿下，请殿下迅速前往玄武门，以鼓舞士气。”太子犹豫地说:“二张诚然应当除掉，可是皇帝抱病在床，惊动了她怎么行呢?你们还是再等一等吧！”李湛赶紧说:“各位将相为了国家，不顾杀身灭族的危险，殿下怎么能把他们一个个都推到死路上去呢？！”然太子听了，这才怀着忧虑出了东宫。