如果兵卒淘汰得过多，就会导致人心惶惶，很多人都愁容满面，怨声载道。虽然国家太平，法律一向都能得到伸张，但群情汹汹，恐怕也没有什么办法。诏书一下，万一有些流言蜚语被乘机传播，把老百姓惊动了，朝廷就是想要省事，收回成命，也很难了。而且，朝廷的威信也将立刻丧失，以后再向他们发号施令就困难了。如果坚持推行新法，则会惹得众人怨气十足，就像后梁要分魏博的兵，结果导致了张彦之乱，这事是可以当作借鉴的。
司马光的这种论调大概可以作为当时反对派的代表言论。他的理由不过是顾虑到骄横的士卒不容易制约，一旦实行省兵（即裁军），就会刺激他们，演变为暴乱。这种观点不过是在姑息他们，培养“毒疮”而已。假如没有王安石，这个举措很可能就会因为缺少主见而泡汤了。有一天，皇帝与王安石议论裁军的事，皇帝说：“司马光认为一定会发生唐朝建中之变那样的乱子。”王安石回答：“皇上鞠躬尽瘁，勤勤恳恳地治理国家，上下之间互相信任，没有发生这种事的道理。建中年间发生的动乱是因为唐德宗任用卢杞这样的人而疏远陆贽这样的人，他没有亡国已是他的幸运。如今需要皇上当机立断，不再犹豫，详细地制定条例，逐步推行。”神宗终于下定决心。于是，熙宁元年（1068年），诏令诸路监司（即中央政府派出的监察人员），核实各州的兵卒，不符合新法的，按照规定办理，不能胜任禁军的降为厢军，不能胜任厢军的，就免除为老百姓。不久，又下诏要求挑选诸路兵卒中的一半，即四十五岁以下能够穿起盔甲的人，作为最高限额，五十岁以上愿意回家做老百姓的，尊重他们的意愿。按照旧制，兵卒到了六十一岁的时候才能免去军职，即使这样，仍然不能马上批准。实行新法之后，免除军职做了老百姓的人越来越多，冗兵由此被大量减裁。熙宁二年（1069），神宗又下诏废除、合并各个军营，陕西马步军营三百二十七个，合并为二百七十个。马军的标准为三百人，步军四百五十人。其后陆续都进行了合并，马步军营五百四十五座，合并为三百五十五座。首都附近诸路和厢军都要汇总各营兵卒的数额，各自制定定额。熙宁至元丰年间（1068—1085），每年都对军队大量裁减，并且增加了武卫军，对他们进行严格的训练，不过数年都练成了精兵。
建中是唐德宗的年号，为780至783年。建中二年，即781年，唐成德节度使李宝臣病死，他的儿子李惟岳谋求袭位，唐德宗不允许，于是李惟岳联合魏博节度使田悦等发起叛乱，引发了四年之久的河北藩镇之乱。
冗兵应当裁减，当时人人都懂得这个道理，然而有的人不敢做，就以害怕激起兵变作为借口。但是，王安石毅然决然地要做这件事，而且制度严明，并不惊扰百姓，他们所担心的兵变在哪里呢？不过是诸位有身份的人害怕做事，不肯负责任，不能任劳任怨，宁可坐视国家凋敝，也不肯用自己的名誉、地位赌一把，在成败未知的情况下做一点尝试。他们自以为自己的打算是好的，但不知国家要这样的大臣究竟有什么用处。治平年间（1064—1067）的兵卒，总共有一百一十六万两千，到了熙宁年间（1068—1077），裁减为五十六万八千六百八十八人。元丰年间（1078—1085）稍有增加，也只有六十一万二千二百四十三人，大概是从前的一半。
王安石最初执政能够裁减宫廷费用和其他冗费十分之四，执政十年，能够陆续裁减多余的兵卒达到二分之一，由此看来，他的魄力真是雄奇伟大、果敢坚毅，我们是很难超越的。他工作起来任劳任怨，艰苦卓绝，也是可以想见的。这两项工作，都是当时的批评家们每天摇唇鼓舌谈论的东西，说说可以，却不能实行，王安石实行了，却又处处诋毁他，这些人可以说是没人心的人。后代研究这段历史的人对于这种丰功伟绩竟熟视无睹，他们也可以说是有眼无珠的人。对王安石裁减的兵卒，《宋史·兵志》有详细的记载，如果有学者想将建隆（宋太祖年号，960—963）以来的制度和熙宁（宋神宗年号，1068—1077）以来的制度做一番比较，了解更详细的情况，可以去翻阅，这里就不再叙述了。
第二，置将法。
王安石裁减军队的做法不是一种退缩的政策，而是一种进取的政策。大宋的军队数量虽然很多，但却不能用于作战，其中有很多原因，而最重要的原因是将领与士兵互相不了解、不熟悉。宋太祖吸取了晚唐、五代时的教训，担心将领把军队当作自己的私家军队，于是开创了更戍法。分遣禁军，戍守边城，以使骄将悍将不能再飞扬跋扈。