再次，也是最为重要的一项是“精简机构、裁汰冗员”。
1969年2月，蒋经国将“行政院”下属七个单位合并为“研究发展考核委员会”。5月，他亲自下令实行主管人员一人一职制度，兼职官员在兼职单位只能领取少量津贴，严禁几处开薪。
1972年6月1日，蒋经国就任“行政院长”。当日，他在“行政院”工作会议上提出“平凡、平淡、平实”六字方针，并下达以下八条指示：（1）凡在组织法规以外成立的单位，如确属必要者，应予纳入组织法规内，使之合法化。如其设置并非必要，或系临时性者，应即予裁撤，其业务归并法定单位主管。（2）非法定兼职，应一律取缔，各级官吏应尽量减少兼职。（3）中央机关的“科”，地方机关的“股”，其人数不满三人者，如情形特殊有理由必须设置者，应重新呈报主管机关核准。否则，应即设法裁并，原有科长、股长改派其他适当工作，出缺不补。（4）临时人员、借调人员及“以工代职”人员，应即设法祛除。（5）如无新增业务，不得增设职位。（6）加强职位管理，凡工作项目与职称职责不配合的职位，应重新组合。（7）过多的行政管理单位，应即检讨归并。（8）各机关内部的层次，以不超过三级为原则，各级单位名称应力求适当。此项命令颁布后，迅即在各机关内迅速贯彻。如“经济部”在八天之内即裁并了部属13个单位。同时，蒋经国下令裁撤“行政院”内的若干评议委员会，将其业务归并到有关的部会以统一事权。为加强各部会首长的权责，他还把各部会原有的工作小组一律撤销，并规定各部会全权决定其职权范围内的经费、人事与业务，非涉及两部以上或重大政策性的工作不得提出院会。
一周之后，蒋经国又向各部门发出“十大革新”指示：（1）除列入预算者外，停止建筑办公房舍；（2）各种工程开工或完工不得举行任何典礼仪式；（3）各级机关派员出省考察或参加国际会议，必须事先有周密计划，派出人员需学有专长，精通外语；（4）各级机关不作不必要之视察。如确有必要，视察人员不得接受任何招待。被视察机关、学校、团体亦不得迎送，或张贴标语，或召开欢迎会等，尤其不可指派学生参加欢迎、欢送；（5）各级行政人员除“政府”正式规定或招待外宾所必需者外，一律不得设宴招待宾客，并谢绝应酬；（6）公教人员于婚丧喜庆，除亲戚或有深交者外，不得滥发喜帖或讣告；（7）各级行政人员一律不得进出夜总会、舞厅、歌厅、酒吧、酒家等场所，各级主管应监督所属人员切实遵照办理，如有违反规定者，应从严处分；（8）各级首长主管均应谢绝各界剪彩、揭幕等之邀请；（9）各机关加强对加班费、出差费之审核，但对机关人员之福利，应妥善办理；（10）处理公务要人人负责，自己能解决的问题自己解决，今日能办完的事今日办完，不必开的会不开，必开的会必有充分准备，会后必有结果。
次年元旦，蒋经国再颁“新法”，下令在各级机关推行公文时效制度，即按公文的重要性分为若干类别，各类公文均有一定的时间效力。下级呈送上级的公文若在规定时间内未见批复，则下级可以认为上级已批准其公文。上级下达给下级的公文如超过规定时间到达，则下级可不执行。实行此项制度后，台湾当局的公文批转速度有了很大的提升。如1973年每件公文平均运作时间为5.66天，至1978年已降至4.31天。
1974年5月23日，蒋经国又授意台湾当局通过《行政机关推行四大公开实施纲领》，将过去在军队政工中搞的“经费公开、人事公开、意见公开、奖罚公开”那一套嫁接到行政管理中去，以提高行政机关工作人员的士气和“官场”的透明度。
（三）打击贪污，澄清吏治。
上述革新措施出台后，国民党面临着如何贯彻实施的问题。蒋经国知道，历史上的任何一次变革，其关键在人，用人是否得当、吏治是否清廉，不仅直接关系事业的成败，而且在很大程度上决定了主持者后半生的政治命运。因此，他将清除贪污腐败视为行政革新的重中之重。
首先，蒋经国本人以“廉洁奉公”自居，为全党树立表率。他每个月的工资都是由专人送到七海官邸由蒋方良签收，一分一厘都含糊不得。如果收到各方面送来的礼品，他也从不欺暗室，总是在年终时举办一个全体员工的摸彩大会，散尽算数。[26]这一点，就连对他持批评态度的江南，也不得不表示佩服：“（蒋经国）其实没有财产，他自己从不贪污。”[27]