由服役人自备供养的规定，给过往官吏的敲诈勒索大开方便之门。本来，一张印信写有乘驿者的姓名、职务、出发点、目的地、往返日期以及所需的马、轿、舟、车和廪给的数量。乘驿的官员往往仗势欺人，百般索要，有的索要夫役二三百人、车轿一二十乘、扛物八九十抬，队伍浩浩荡荡。乘驿如此有利可图，又招致官员们借机而来，有的不依印信，而用白条随意填写；有的私带行李八十余扛，家属二三十人，要乘骑、要挑夫；有的乘机收受贿赂，夹带货物，走私逃税。为了巴结官员，在驿站送往迎来中，往往是旌旗蔽野，前呼后拥，蔚为大观。住驿官员勒索的名目五花八门，例如有所谓的“惜马钱”，每匹马要有供给钱，不给钱就打马，甚至割下马耳或马尾，以摧残牲口来勒索，驿站役夫爱惜马的就只能出钱免灾。也有谎称丢失行李，对役夫拳棍交加，逼迫交付“免打钱”的。地方官府对此熟视无睹，甚至“串通南北马头，故意将马匹空毙倒死”，以便再得买马之利。重重盘剥逼得役夫们纷纷逃亡，驿站关闭，嘉靖时有的地方已到了十驿九闭的地步。如此酷虐的暴政，当政者也不是不知道。在嘉靖末年、万历初年和崇祯初年都曾发动裁革，但裁革都难以抑制驿站之害，唯有张居正取得了成功。
张居正决心从限制官员乘驿的特权开刀。万历三年（1575年），朝廷颁布裁革驿递的通令，减少可乘驿的种类，非军国大事不许领取通行的印信。凡是官员的私事，如遇奔丧、起复调动等都用自己的交通花费抵达，不许用公共驿站；大力削减驿站的供应，只提供生活必需品，不许置办酒席、送礼，撤销合并了一些驿站。
除了在法规上重新规定之外，张居正还对具体执行进行了严加整顿，杜绝弄虚作假。凡有公差印信，一律以实名、实职填报，自起点至目的地，都须地方官填写供应项目、数量，并加盖印章，由使用人核对，签注“对同”，再由主事部门一一查核，印信用毕，及时上缴注销，违例者点名参奏。奉差人员经过城镇，驿传要严格检查，在直隶等重要地区，需要地方抚按亲自审核查验。倘若发现有冒领或造假的，严加缉拿，一追到底。
免费乘驿是官员享受已久的特权，紧缩这一特权牵涉广大官员的切身利益，谈何容易！按规定，官员朝觐并不给乘驿。但事实上，朝觐的官员不仅领取路费，自行遣牌驰驿已成惯例。在颁布裁驿后的第三年，适逢大计，官员们依然用驿如故。万历五年（1577年）重申禁令，查获一起冒用印信案，此案的制造者系甘肃巡抚侯东莱之子。令人惊叹的是，这侯东莱在万历三年（1575年）曾经上疏揭露一件伪造印信的事件，制假人从南京到甘肃，驰经数百个驿站，行程几千里，横行无阻，无人发觉。这件事的揭发使朝廷大为震动，促进了朝廷裁革驿递的决心，不料他的儿子却又重蹈冒用驰驿的覆辙。免费乘驿可以说是一个难以革除的习惯，这边刚禁，那边又开。
这项改革在大臣中就有非议，埋怨朝廷不体恤群臣，南京户部主事赵世卿上疏请求“宽驿传之禁”。面对如此艰难的削革，没有大力气不可能有所作为。虽然侯东莱是个很有能力的人，处理边务有方，对裁革驿递也是有功之臣，如今受其儿子的牵连，亦不得不接受惩处。张居正忍痛革去他的官职，以示法在必行，严罚不贷。
孔子第64代传人孔尚贤率家人赴京朝觐，擅自增加车、马、人夫乘驿，骚扰民众。此人袭封衍圣公，在国子监受教，素有“大监”之称，如今不守圣人之教，横行不法。张居正得知此事，亲自致函山东布政司徐中台，指出孔尚贤既为孔子后裔，自当秉承圣人之教。即使孔子在世也要遵守朝廷之法，不能越礼逾制，何况是其后人？对此，他毫不留情地加以处治，并把孔家每年一次的朝觐改为三年一次。
在严格执法，从重惩处之下，违禁的官员纷纷落入法网，如南京大理寺左议事阮尚宾、江西布政司吕鸣珂、浙江按察使李承式、严州知府杨守仁、淮安知府宋伯华等大员，以及为之说情辩解的赵世卿等都受到降级或革职的重处。一时百官为之震慑，就连皇室宗亲去武当山祈福也不敢乘驿，这是几十年也没有的现象。
对执法者而言，要想服众更重要的是身教。因此，张居正对自己的家属要求极严。他的儿子应试，自行出资雇车，他的兄弟张居敬病重回乡，保定巡抚发给印信以供驰驿，也被他责令归还。万历七年（1579年）发现有地痞冒充张氏家人乘驿船，张居正派他儿子赶赴现场拿获，并致信河道江心源说，此后再有奸人假冒首辅：“不论真伪，即置之重法。如公不忍加刑，希差人拿解来京，愿得而甘心焉。”
这封信的考虑颇为周详，尤其是申明今后再有此类事件，不论真假，都要给以重处，倘地方官府有顾虑，可押送京城，务求严加缉访，以杜绝后患。但是，堵了这口儿又漏了那叉，儿子的事刚解决完，他门下有个叫游七的家奴偏偏行为不端，作威作福，结交官府，娶小妾，与士大夫攀亲联姻，狐假虎威。张居正得知后，“大怒，笞之几死”。
经过一系列整顿后，张居正使得法度不兴朝纲松弛的大明王朝又重新恢复了生机，上下一派变革一新的气息。这其中主要的一点在于他以信为先修正了法度，用制度去约束众人，而不是靠人来互相牵制。这样既免去了朝臣的互相诬告，也使得张居正不必直接出面惩治，在一定程度上避免了结怨记仇，也使得改革不因一个人的存在而在，有了长效的机制保障。经过这些大的举措，就好像已经把水引到田里一样，张居正一系列改革设想已经变成实际行动，并且带来了初步的成效。很多事情难的不是完成这件事的过程，而是保持这种状态的持续有效运行。这就是新官上任三把火的热情与真正的改革家的谋略的最大差别。从在集中皇权中正本清源、在尊祖依典中去污除杂、在修正法度明令执行的过程中疏通了渠道，张居正的改革之路就是一次大禹治水的重新演练，只不过他治理的对象是洪水漫灌的大明王朝而已。但是，最终还要培养并号召一些同道之人一起保存改革的成果。为此，张居正又开始了强化监督整顿吏治的道路。
强化监督整吏治
法规不仅得有人来制定，还需要有人来执行遵守。在任何政府中，执法必须从本身开始。张居正在制定严格的新法之后，又开始加强监督整治吏治。明代的官场存在三大弊病：一是党同伐异，相互倾轧；二是贪赃枉法，舞弊成风；三是不司职守，怠惰玩忽。到明末，这些弊端都一起暴露出来，几乎病入膏肓，不可收拾。社会生活的过度单调，使得人们谋求出路的途径也很少，只有科举取士一种途径。这就使得好多人厌倦了条条框框死搬硬套的官场生活，玩忽职守自然就更加普遍。至于党同伐异，那只是在高层的一些权臣之间才会有的事。因为朝廷集权度极高，所以利益的博弈必须体现到中央政府那里，这就使大明朝廷的党同伐异集中在一起，显得频繁了许多。而贪赃枉法，就成了一些习惯官场的人们的职业行为了。有些人以为是因为官员俸禄过低才会导致贪赃枉法，其实不管俸禄多少，官员职业化以后，不把从政当做事业的话，通过自己的权力谋得私利是必然的。
在整个封建时代，明朝的法律最繁杂严密，而实际情况却是明朝的官场最腐败，这也使人们百思不得其解。所以，近代以来凡有揭露官场众生相的著作和小说，首先被嘲笑的往往是明代。如《儒林外史》等，不光是清朝人的作品写明朝官场，就是在明朝当时，也有好多讽刺官场腐败的民间作品。例如，明末的京师流传一首民谣：
儒生曳白，无如国子监；马匹弩下，无如太仆寺；天文固陋，无如钦天监；音乐舛廖，无如太常寺；带藏空虚，无如太仓库；士卒老弱，无如三大营；书之恶劣，画之芜秽，无如制诰两房，文华、武英两殿。
最高学府国子监出身的交白卷；管马政的太仆寺养出的是劣马；钦天监不懂天文；太常寺管音乐的五音不全；太仓库没有库存；三大营多老弱病残；等等。这都是国家掌管文教、礼乐、财政、天文、军事的最高部门，竟然拙劣到如此地步，真是令人震惊。无德无才的当上高官，不可避免的是对人才的逆淘汰，无怪乎有人说：“软脓包气豪，矮汉子位高，恶少年活神道。”这就真切地反映了政府机构的无能和衰败。
官员不务正业，忙于官场应酬，攀龙附凤，趋炎附势，更加剧了官僚机构的腐败。明中叶，太监汪直到边防巡视，负责接待的一方大员全副戎装，迎至二三百里之外，俯伏在地，犹如仆隶，被人耻笑说“都宪叩头如捣蒜，侍郎扯腿似抽葱”。
面对混乱一团的官场，张居正上台首先做的是树立榜样，奖励廉能。紧接着实行严刑苛法，依法处置一些贪官污吏，杀一儆百。这一张一弛，使得混乱不堪的明朝官场很快泾渭分明，清晰明了，官员争相向好，贪污腐败瞬间收敛。当然，一切执行都是在加强皇权的基础上以皇帝的名义作出的，这样既有很强的执行力又去除了很多阻力。为了使新政有条不紊地进行，他提出了自己的为政方针，即“尊主权，课吏职，行赏罚，一号令”和“强公室，杜私门”。
张居正一上马就加紧教育皇帝，他要培养的不是皇帝所谓的仁政情怀，而是法治思想。为此，他专门写了一本有故事有插图的《帝鉴图说》，希望从小培养皇帝的治国能力。万历元年，张居正让皇帝学习《帝鉴图说》，第二年就开始引导皇帝运用其中的思想。神宗这时才12岁，他和吏部尚书张瀚、都察院左都御史葛守礼说，要召见廉能官员当面嘉奖。张居正马上订了一套仪规，希望皇帝把奖惩联系起来，并且注重奖惩达到的效果，最终要以对官员起到督促监督警戒作用为目标，而不是传统意义上的展示皇威尊严或是皇恩浩荡。这种完全实用主义的态度充分地发挥了礼节仪式的现实作用，避免了流于形式的铺张浪费。他在奏疏中说：“臣等窃惟致理之道，莫急于安民生；安民之要，惟在于核吏治。前代令主，欲兴道致治，未有不加意于此者。”
万历二年（1574年）正月，神宗在会极门召见了一些既清廉而又能做事的官员，浙江布政使谢鹏举等25人被皇帝特加奖励，不仅有荣誉的口头夸赞文书记载，而且还每人奖赏了一定数量的金币银两，这使得朝野上下一时形成了廉能齐聚的现象，张居正的奖励刺激效果也达到了。以后管你有多少廉能官员，你就好好保持这种好作风去吧，皇帝不可能再一一奖励了。这是张居正的心里话。
到了万历二年（1574年）九月，刑部按例进行秋审，开始整顿吏治时很多人被判定为重刑，按大明法律都应该被处死刑。但是按礼节，为了体现皇帝的权威，不管依法判定该如何，最终还要上报皇帝，经皇帝同意方可执行。
这次，张居正照例把要处决的名单报给皇帝，但皇帝却说：“慈圣太后捎带发话，吩咐不要大开杀戒，在新政初期，希望彰显皇恩，暂时停刑。”一想到平时课堂上，张居正这个老师教他怎么依法治国不要存妇人之心心慈手软时，同时面对自己母亲的横加干预，小小的万历皇帝有点左右为难地问：“先生以为怎样？”
“春生秋杀，天道之常，”张居正说，“皇上即位以后，停刑已经不止一次：稂莠不去，反害嘉禾；凶恶不去，反害善良。依臣看来，还是不必停。”
最后，皇帝只能按老师说的那样去做，奖惩有别，奖的时候不惜重金大讲排场，惩治的时候也毫不留情，不再网开一面。这使得好多习惯于贪赃枉法，并等着被恩赦的官员们没有侥幸得逞，其他人也就收敛了一些。
张居正是主张严刑苛法的，他曾说过：“使吾为刽子手，吾亦不离法场而证菩提。”他认为，各个朝代末期的大动乱完全是因为当局的宽纵，以致演变成不可收拾的惨剧。所以，他认定：“君子为国，务强其根本，振其纪纲，厚集而拊循之，勿使有衅，脱有不虞，乘其微细，急扑灭之，虽厚费不惜，勿使滋蔓，蔓难图矣。”也就是要加强严刑苛法的惩戒作用，把一些即将发生的官场污流扼杀在摇篮当中。但这个度是很难把握的，到底严刑苛法是该对统治阶级内部的贪官污吏执行还是面向一般的大众，历代执行者往往难以把握，最后激起民愤，酿成遍地烽烟的惨状。不过，作为一个只负责当朝生死的辅佐之臣，张居正没必要考虑那么多，也不可能考虑那么多。
他又说：“盗者必获，获而必诛，则人自不敢为矣。”关于捕“盗”的事，在考成法中也有明文规定。后来，万历七年（1579年），因为“盗犯”中途脱逃的事，他说：“张国用查系三月初间，已属顺天府着长解押发，乃至今尚未到，此必中途贿逃矣。顷已令该府捕长解家属监候，又行逐程挨查，于何处脱逃，务见下落，事系考成，期限已迫。若此时尚未到，执事亦宜上疏自白，请旨缉拿，务令得获正罪，庶足示惩。若已到，则照在京例，尽法处之，不可纵也。”
张居正的严刑苛法政策也引起一些人的非议，以至于在明史中记载说张居正当国的时候，大开刑罚，每年处置多少人有定额。《艾穆传》称艾穆为刑部员外郎，到陕西复审的时候，他决定只有两个人处死刑，同审的人却害怕数目不够，达不到指标要受到处分。艾穆感慨地说：“我可不会拿别人的生命保障自己的地位啊。”这当然是为了标榜艾穆仁慈的一家之说，但足以证明当时张居正的法制严厉程度以及人们对此有多么不适应。
官员腐败在历代王朝都不外乎贪婪和暴虐两大恶行，惩贪奖廉、除暴安良是历代王朝澄清吏治的主要手段。但是，依法惩治，维护封建法制的行为并非都具有改革的意义，因为廉、贪、暴、良往往是作为个人行为来对待，不论个人的昏庸残暴引发多大的社会风波，元凶一经惩治，也就烟消云散了。但不久便故态复萌，又出现新的贪官污吏，再进行惩治，如此循环往复，一直到王朝覆灭，新王朝又重蹈前代的覆辙。所以，惩贪奖廉并不是触及封建政治体制的变革。
张居正认为，外之豪强兼并与内之官府舞弊，这两股势力的勾结，是社会不安定的主要原因。要有效地约束不法权贵，打击违法活动，必须从吏治着手，整肃官府机构。但是，党同伐异，官官相护已闹了几十年，高拱对澄清吏治做过种种努力，可当某些革新的措施触及官员的切身利益时就捅了马蜂窝，高拱自己也陷入官场倾轧的旋涡，成为内阁纷争的祸首，很快被孤立，并被赶下了台。所以，整顿官府机构是一件冒风险的事。这在明代风险更大，内阁的内乱，内廷和外廷的争斗愈演愈烈，双方都以违背祖制攻击对手，各执一词，相互拆台，造成上层严重分裂，官僚系统失控，这是弊端丛生的缘由。可以说，正是这高度集权的祖制，酿成了体制性的裂痕，促发官场的党争，对官员的监督已经异化为互相打击、报复的借口，而致丧失监督的职能，更加剧了官场的黑暗。