在变法过程中，司马光、孙觉、李常、张戬、王子韶、吕公著、程颢、韩维等先后离开京城。熙宁三年，首相曾公亮以年老辞职，赵抃这位追求风度的副宰相也到杭州当官……当时形成了一种奇特的状况：在朝中，反对新法的人无法立足，出外当地方官；而新法要靠地方官落实，他们在地方上阻挠新法。以后发生的事证明，几乎每一部新法，在执行时都走了样。
因一封奏章差一点废除青苗法的韩琦，连判永兴军、相州、大名府（今河北大名）等。在地方，他每听到一项新法颁布，就连呼“泣血！泣血！”甚至“终日不食”。
在对外关系上，韩琦一改从前的强硬立场而日趋软弱妥协。在宋和契丹在“划界”河东问题上争得不可开交时，韩琦上疏神宗，认为宋在边防策略上主动进攻、积极防御等“七事”致“契丹之疑”，吁请神宗去掉各项新法，并将契丹所疑之事，“如将官（法）之类，因而罢去”，以换取边境安宁。
反对变法的中坚力量是司马光，他一生坚定地反对新法。熙宁三年二月，他连上五封札子，自请离京，以端明殿学士知永兴军（现陕西省西安市）。他辖制的十一个州郡，公开不执行新法。熙宁四年四月九日，他见好友范镇因批评新法被罢官，上疏为范镇鸣不平，并请求任职西京留司御史台。自此，他退居洛阳编撰《资治通鉴》，时间长达15年。元丰八年，司马光上书称保甲法、免役法和将兵法是“病民伤国，有害无益”
。他回朝为相后，全面废除了新法。
先支持变法后来反对变法的代表人物是苏辙和韩维。我们将在本章“齐州烟云”一节分析苏辙，这里重点谈韩维。韩维（1017—1098），字持国，开封雍丘（今河南杞县）人。以父荫为官，父亲去世后闭门不仕。后富弼安抚河东，辟为幕府；经欧阳修推荐为检讨、知太常礼院；以秘阁校理通判泾州。当时，宋神宗被封为淮阳郡王、颍王，韩维为王府记事参军，曾多次举荐王安石。宋神宗即位后，韩维历任龙图阁直学士、翰林学士、开封府知府和御史中丞等。起初，韩维支持变法，积极倡议新法；变法推行之后，他发现新法弊端很多，直言不讳批评新法，与王安石交恶，被贬往地方。绍圣二年，韩维被定为元祐党人，降为左朝议大夫，后被贬为崇信军节度副使，安置到均州居住。元符元年（1092）病逝。
前宰相富弼是非常有个性的人，他对新法的态度影响了很多人。熙宁二年二月，富弼拜左仆射、门下侍郎、同平章事。该年，王安石出任参知政事（副相）。由于与王安石不和，不能共事，他多次称病告退。数十次上奏章请辞之后，宋神宗才同意他离开朝廷，并在临行前问：“谁接替你最合适？”富弼推荐文彦博，神宗沉默不语，很久才说：“王安石怎么样？”富弼也沉默不语。后来，富弼被授职武宁军节度使、同中书门下平章事，判河南，改任亳州。青苗法颁布后，富弼认为新法会造成财力聚集于朝廷，人心分散，坚持不执行。提举官赵济弹劾富弼不执行圣旨，侍御史邓绾又乞求交付有司审问处理。于是，富弼的显爵被剥除，以仆射判汝州。但王安石觉得处罚太轻，对皇帝说：“富弼虽受责罚，还不失于富贵。从前鲧由于违命被诛杀，共工由于貌似恭敬而内心傲狠被流放，富弼同时犯有这两条罪行，只夺去相位，又怎能阻止奸邪呢？”宋神宗不同意，仍派富弼去汝州任职。在就新职途中，富弼路过南都，访问老友张方平。他感慨地对张方平说：“知人甚难。”张方平说：“你说的是王安石吗？我认为了解他并不难。当年我有一次和他共办乡试，他把一切规矩都弄得乱七八糟，我就把他调离我的部下，不再理他。”富弼想到当初，自己不仅没有想办法调离王安石，反而主动离开，自觉难堪，又启程赶路。
富弼一直反对新法，他甚至说：“新法，臣下不知晓，不能在我的郡县实行。”后来他告老回乡，加拜司空，进封韩国公致仕。虽然居住在家，朝廷有大事，他都知无不言。郭逵征讨安南，他乞求诏令郭逵选择有利地位以便进退；星象发生变化，他请求广开言路，又请求尽快更改新法，解除百姓倒悬之急。虽然宋神宗没有全部采用，但眷念礼待没有减少。
像富弼一样反对新法的人很多，范纯仁是庆历改革主将范仲淹的儿子，但与父亲力推庆历改革不同，他反对新法。针对王安石变法急于求治，启用了一些新人，他上奏说，小人之言，听呢，好像还有可采用的价值，但照着办呢，必受其累。他们知小事而不知大事，目光短浅而无远虑。因为反对新法，范纯仁改迁河中府知府（今山西永济西），不久又调任成都路转运使。转运使除掌握一路或数路财赋外，还兼领考察地方官吏、维持治安、清点刑狱、举贤荐能等职责，执掌一路军、民、财、刑狱等权力。范纯仁到任后，命令所属州县一律不准推行新法。中央命令到了他的辖区，统统被拒之门外。王安石对这种破坏阻碍新法实施的行为非常气愤，上奏弹劾范纯仁。后来，宋神宗不得不把范纯仁派到庆州，去了西夏和北宋交战的前线。
这场自上而下的改革，宋神宗是领导者。但宋神宗对保守派、反对派采用了一种非常宽容的态度。比如对司马光、韩琦、富弼、文彦博、冯京等朝廷重臣只是将他们调离中央，贬到地方。对其他反对者，最多只是贬官罚款。可以说，王安石变法的失败，很大程度上就是因为官僚集团有意地抵制。这些人在各地反对新法，王安石不见得不知情，但迫于宋朝的国情，除了贬职之外，根本别无办法。与此相反，变法派吕惠卿守边时，大力推广了置将法等新法，还在元丰八年和绍圣三年取得了两次大的军事胜利。
亚当·斯密曾经批评这类现象，他说：“在人类社会这个大棋盘上，每一个棋子都有自己的运动规则，它们完全不同于立法机构挑选出来施加于它们的规则。如果两种规则配合默契，人类社会的游戏便会顺畅进行，并且很可能带来幸福和成功。如果它们相互对立或有所不同，游戏就会可悲地进行，人类社会必定会始终处在极大的混乱中。”