嘉靖二十六年（1 5 4 7年），年仅二十三岁的张居正中进士，这位来自湖广江陵的年轻进士，志得意满，从此就踏上了官宦之途。

开始，他在翰林院任编修。当时严嵩任首辅，政治腐败，官场黑暗，张居正满腔热情投身于仕途，但当他逐步了解了政治的黑暗时，又显得忧郁悲观起来。在翰林院当了七年编修，他感到颇为乏味，因为他徒有满腹经纶，却无人欣赏他，于是就称病辞官回家。在家里种上半亩修竹，一边则潜心读书。很快六年时间就悄悄的过去了，他学问大长，在他父亲的鼓励下，他重又进京为官，任国子监司业。公事之余，他颇为注意研讨历代盛衰兴亡的经验教训，并仔细留心现实政治。不久，世宗病逝，大学士徐阶起草遗诏，就征询了张居正的意见。隆庆元年（1 5 6 7年），他被遴选人阁，他的仕宦生涯第一次出现了转机。

为了实现经世治国的抱负，隆庆二年，他向穆宗上了一奏（（陈六事疏》，提出应省议论、振纪纲、重诏令、覆名实、固邦本、饬武备。事事切中时弊，但穆宗也不是一个想有作为的皇帝，虽然他欣赏张居正的才识，但并不采纳。穆宗在位只有短短的六年。隆庆六年五月，年仅九岁的朱翊钧登上皇帝的宝座，九岁的小孩正是游玩嬉闹的时候，现在却要主掌国事，不禁引起朝内外的担忧，但为张居正辅政提供了契机。

当时的内阁由高拱、张居正和高仪组成，高拱是首辅，高仪则是一个月前刚刚入阁的，张居正与高拱都是穆宗临终前的托孤重臣，政事固然是由高拱和张居正操纵，但张居正不是首辅，在许多事情上势必要受高拱摆布，但他足智多谋，工于心计。高拱则性格外向，对于年仅九岁的朱翊钧，能否胜任皇帝的重担，表示深深的担忧，他曾在文渊阁向臣僚说：“十岁（虚岁）太子，如何治天下！”话语传到神宗嫡母陈皇后、生母李贵妃耳中，引起了她们极端的不快。而司礼监秉笔太监冯保公开与高拱作对，并引张居正为外助，于是高拱首辅之位就岌岌可危了。冯保与高拱的矛盾由来已久，嘉靖年间，冯保就是司礼监秉笔太监，隆庆元年，提督东厂，兼掌御马监事。当时地位最高的司礼监掌印太监缺员，按资历当属冯保，但高拱却推荐了御用监太监陈洪，陈洪之后，又推荐尚膳监太监孟冲。从此，高拱与冯保积怨。陈洪与孟冲又多引诱穆宗沉溺于声色犬马之中，致使穆宗身体日坏，这样也引起陈皇后、李贵妃的不满，她们自然就亲近冯保了。就在穆宗弥留之际，冯保在陈皇后与李贵妃的支持下，取代了孟冲，引起高拱极端不快。于是，高拱想利用内阁和言官的力量除掉冯保，并同张居正商量，张居正表面答应，暗中却通知冯保。六月十六日，神宗即位后第一次接见朝臣，高拱欣然前往，以为这次一定是驱逐冯保。可结果却大出其意外，神宗端然而坐，冯保则立于其旁，冯保宣读了陈皇后、李贵妃及皇帝的谕旨，高拱被勒令回籍闲住。高拱听完，几乎昏厥，最后由张居正挟掖而起，狼狈出廷。张居正遂自然地成为首辅。

张居正为首辅后，对穆宗陈皇后和神宗生母李贵妃极力巴结，终于颇受信任，而且尊重冯保，使冯保能和他密切配合。七月的一天，神宗在平台向张居正面谕：“皇后是朕嫡母，皇贵妃是朕生母，尊号上先生可多加几字！”按历朝习惯，皇帝初立，都要尊皇后和生母为太后，于是陈皇后被尊为仁圣皇太后，李贵妃被尊为慈圣皇太后。两位太后将外朝委政于张居正，内政则交托于冯保，而且她们对年幼的万历皇帝管教亦颇严。慈圣皇太后以羽翼幼主的名义搬入乾清宫，每逢经筵、日讲后，她总要神宗重复一遍，严厉督责。并极力培植张居正的威望，致使小皇帝对张居正颇有几分敬畏。一旦神宗有所过错而不思改掉，慈圣总是说：“让张先生（居正）知道了，你怎么办呢！”于是神宗就只好认错。

政事之余，张居正则辅导神宗读书。他给神宗安排了经筵和日讲的课程。年幼的神宗颇喜欢书法和历史，张居正就常给他讲些历代帝王治国之故事，并让人选一些有关君德治道的文章作影格，供神宗临摹，使年幼的皇帝在写字中得以启迪。并劝告神宗，作为一代帝王，不应把主要精力放到书法上，而应注意帝王之学，因为古代有许多皇帝，像梁武帝、陈后主、隋炀帝、宋徽宗，宋宁宗都长于诗文书画，但于国事无补，故应多方学习治国安天下之策。后来，张居正让人编了一套《历代帝鉴图说》，将古代帝王可以效法的善事摘取八十一条，应当惩戒之恶行三十六事，各绘一图，并附文说明，神宗颇喜欢这套书，而且对张居正的忠诚亦颇为感动。

张居正在小皇帝面前树立了威严，又颇得两位太后的信任，内廷又有宦官冯保的支持。于是他辅政期间就进行大刀阔斧的改革，以实现其政治抱负。

他首先从整饬吏治开始。张居正目睹了嘉、隆时期的混乱政局，认为其根源就在于吏治腐败。万历元年（1 5 7 3年）他提出了“考成法”，首先他强调从中央到地方各级官吏都要做到法之必行，行之必效。对官吏考核逐级进行，督抚、巡按以之考核属吏，吏部因之督察抚按，朝廷再以之考察吏部之贤否。并且建立随事考成的制度，以做到事事都有着落，有交代。在考察官吏中，张居正裁撤了一批冗员，奖励了一批贤能正直官员。同时在中央竭力提高内阁权威，加强中央集权以号令天下，地方上则分清抚、按职掌，明确其职责，并假以事权，使之分工合作，协助督责有司贯彻执行中央法令。同时亦整顿了府、州、县学，核减生员，黜革一批不称职的学官。