到1926年年中，斯大林已经为清算党内的争端做好了准备。当托洛茨基向布哈林低声含糊地说他希望在党内有大多数人支持他时，总书记在给莫洛托夫和布哈林的信中写道：“他了解的有多么少啊！他太低估布哈林了！但是我认为布尔什维克党很快就会用重拳打托洛茨基、季诺维也夫和加米涅夫的嘴巴，并像打击施略普尼柯夫那样，将他们归为变节者。”[12]斯大林指责他们甚至都不如施略普尼柯夫领导的工人反对党对布尔什维克党忠诚。在这种情况下，双方处于紧张对峙中。季诺维也夫应该会被开除出政治局，而党的最高领导人毫不畏惧、胸有成竹地说：“我保证，这件事无论是在党内，还是在全国，都将在没有丝毫复杂性的情况下进行。”[13]季诺维也夫将第一个被开除，托洛茨基将在其后离去。[14]
到那时为止，党的领导层中的斯大林派已经是井然有序。虽然1926年6月3日，斯大林和季诺维也夫就季氏提出的问题进行了长达6小时的争论，但他本人仍能安然地住在黑海岸边度假。[15]他想对拥护他的党派进行全面控制，既了解有关事态进展的最新情况，又可将常规性的指示转达给下属。这时候，斯大林创立了一个体系，这个体系使他即使在外度假，也能够掌控局势。这样，他就在更高程度上显示出自己的权威。1926年9月，他写信给莫洛托夫，向其表明他对他的同盟及所谓的朋友布哈林所进行的实质性的安排。他说：“布哈林就是头猪，甚至比猪还要糟糕，因为他认为写两行字就有失其身份。”[16]大约也是那个时候，他还谈及了其伙伴米高扬。他认为：“米高扬在政治上是只小鸭子，而且是只有能耐的小鸭子。但无论如何，他只是一只小鸭子。”[17]从这一切来看，斯大林似乎将自己视为在对抗联合反对派的活动中独一无二的不可缺少的力量。他认为，在即将到来的党派斗争中，没有其他人能够成功地协调和领导党的最高领导层的工作。将托洛茨基和季诺维也夫开除出政治局、永世不得翻身，就成为其目标。
然而，不断党争的压力也对斯大林造成了伤害。在不受拘束地指责联合反对派的同时，长篇累牍的人身攻击对他本人造成了伤害，而他也不得不独自承担这一切。斯大林是一个极端敏感的恃强凌弱者，每当形势对其不利时，他就重复1917年十月革命之后的老把戏，试图辞职。1926年12月27日，他写信给人民委员会主席阿列克谢·李可夫。信中写道：“谨请求解除我的中央总书记职务。兹声明，我不能再在这一岗位上工作，也没有能力再在这一岗位上工作。”[18]1927年12月29日，他同样表露出了辞职的意图。[19]当然，斯大林是希望同事们能够劝说他收回辞职申请，他的同事们的确也这么做了。但是，他总体的自制力和自信心，在这些时刻都减退了。
斯大林的游移不定是暂时的，也是断断续续的。在必须打倒联合反对派的情况下，他作为党的总书记，带着同事们所敬佩的好斗性，又回到了工作岗位上，并和布哈林一起做好了应战的准备（虽然布哈林有令人不安的以友好方式与对手们继续谈判的倾向）。托洛茨基、季诺维也夫和加米涅夫的政治目的表露得惊人得快。1927年春天，托洛茨基起草了一份野心勃勃的声明，并由包括他自己在内的83名[20]反对者签名。他在这份声明中猛烈批评了居统治地位的中央领导人的过失，同时，要求实施具有更强革命性的对外政策和促进工业更快地增长。此前，他还对党的“官僚主义化”表现出了关切。现在，他及其支持者们坚持认为不光在党内，还要在苏维埃中进行一场全面的民主化运动。他们宣称，只有通过一系列这样的措施，十月革命的原定目标才能够实现。在联合反对派看来，政治局正在一点一点地破坏列宁所支持的每件事情。因此，他们的最后一击就是要求将党的原则再提升到当前政治议程的最高处。
整个1927年夏天，斯大林和布哈林都在领导对联合反对派的反击。他们意识到，联合反对派在指责政治局对革命的使命玩忽职守的同时，也表明了政治局成员头脑简单且无能。在这种情况下，两人本就好斗的性格更加强烈。政治局决定，随着国际形势变得日益复杂，他们必须站稳立场。几个月以来，英国保守党政府都在寻找吵架的机会。当警察搜查伦敦英苏贸易公司，即阿尔克斯（Arcos）公司并拿出了妥协的证据时，英国悍然断绝了双方的外交关系，并于5月份将苏联大使驱逐出来。6月份，苏联驻波兰大使被刺杀。因此，在苏联又一次出现了战争恐慌情绪，国家政治保安总局加强了对颠覆和破坏活动的监视。问题和麻烦纷至沓来，层出不穷。7月中旬，从中国传来了民族主义领导人蒋介石于4月份在中国大规模屠杀共产党的消息。虽然伦敦和华沙发生的事情不是政治局的过失，但斯大林和布哈林应直接对中国所发生的事情负责，因为共产国际强制中国共产党领导人接受其政策。直到事件发生为止，他们仍坚持与蒋介石联合。到了1917年8月，斯大林和布哈林终于允许中国共产党组织武装起义，反对蒋介石。因此，联合反对派严厉斥责政治局，认为他们对苏联的对外政策缺乏有效的监管。