之后斯大林再没有让反对派领导人逃出其魔掌。1929年夏天，他得知维萨里昂·洛米纳泽（VissarionLominadze）及其他的一些二流布尔什维克党党员批评他的领导风格和策略。第二年，洛米纳泽还将这个问题告诉了苏联人民委员会主席谢尔盖·瑟尔佐夫（SergeiSyrtsov）。于是，斯大林预计到了可能发生的最糟糕的结果，并将得出的结论写信告诉了莫洛托夫。在信中，他说：
我们就瑟尔佐夫－洛米纳泽派，实际上是右倾分子反党的情况，对告密者列兹尼科夫（Reznikov）进行了审问。现在，将有关这次审问的两份材料发给你。他们真是难以思议地无耻啊！所有的细节都表明列兹尼科夫所提供的信息与事实相一致。他们是在漫不经心地考虑发动一场政变，并把成为政治局成员当儿戏，因此他们必将以全面垮台而告终。[28]
即使在莫洛托夫看来，斯大林的怀疑都是不可思议的，但洛米纳泽和瑟尔佐夫只是被开除出了中央委员会。
政治迫害的氛围日益变得浓厚。由于对前联合反对派的成员进行了温和的安抚，尼古拉·鲍曼（NikolaiBauman）被开除出中央委员会书记处。斯大林、莫洛托夫和卡冈诺维奇都紧张不安，因为他们的政策意味着一场豪赌。在试图巩固政权、深化革命成果的过程中，他们正广泛打击在政治、经济和社会方面的敌人的联合战线。在这个过程中，需要精力充沛地对苏共、武装力量和国家政治保卫总局进行调度。因此，这些机构的领导人们必须是可以信赖的人。为了执行任务，每个机关都要在人事和物资资源方面做好准备。但是，随着国家权力的增加，这些领导人逐渐有能力破坏政治局威信的危险也会出现。所以，半心半意的支持者对斯大林而言是没用的，他只需要毫不含糊的支持。
1930—1931年，斯大林所表现出来的坚定没能够阻止党内高层对他的批评。虽然瑟尔佐夫－洛米纳泽集团被摧毁，但其他小的团体破土而又出现了。其中一个团体就是由尼古拉·爱斯蒙特（NikolaiEismont）、弗拉基米尔·托尔马乔夫（VladimirTolmachev）和亚·彼·斯米尔诺夫（A.P.Smirnov）组成的。1932年11月，这个团体被秘密告发，并遭到了国家政治保安总局的审问。在此过程中，他们在口头上承认了自己的不忠。但是，这对斯大林而言是远远不够的。1933年1月，联共（布）中央委员会和中央监察委员会联席会议谴责领导人们已经生成了一个“反党集团”，并趁机谴责李可夫和托姆斯基与“反党分子”保持着联系。[29]但是，刚处理完这个“反党集团”，又发现了另外一个。莫斯科市委书记马尔特米扬·留金（MartemyanRyutin）对斯大林的个人独裁深恶痛绝，便和几个志趣相投的朋友聚集在家中，整夜整夜地进行讨论，并印发了一份要求斯大林辞职的小册子。在这种情况下，留金被捕了。最终，留金被判了十年有期徒刑，并被押往劳动营。[30]
斯大林从不会忘记或错过任何一点反击的机会，为了抓住机会，需要等多久，他就等多久。他所扳倒的每棵大树都充分满足了他的自我意识，在他得不到重视和被嘲笑的那些年里，这种意识曾受到了伤害。斯大林的记忆力超强，他将未来的牺牲者都记在长长的一串名单中。他还要求追随者全心全意地忠诚于他。他的女儿斯维特兰娜，在1967年完成的回忆录中写道：
如果他要从心里摆脱某个他已经认识了很久的人，如果他已经在灵魂深处将一个人打入“敌人”的阵营，那么，我们不可能就这个人与他继续对话。[31]
曾经的敌人将是永远的敌人，这就是他的行事方式！即使由于党内的某些原因被迫开恩，他也总是打算在适当的时候进行报复。
布哈林很晚才领会到这一点。直到1928年，他还对拥有这样一位举止粗暴、野心勃勃的同志感到满意。和斯大林闹翻后，他知道自己将很难再得到他的青睐。为此，布哈林以恳求的口气给斯大林写了一封信。他继续造访斯大林的祖巴洛沃别墅，与孩子们玩耍。与此同时，布哈林仍然愚蠢地对其他反对派领导人大谈他的意见。有时，他还通过电话谈这些问题，一点都不怀疑国家政治保安总局会将窃听记录交给斯大林。布哈林、加米涅夫和季诺维也夫正在提供一些资料，这些资料让斯大林的最后报复变得非常可怕。他知道，他们的阿谀奉承和卑躬屈膝都不是出于真诚。
斯大林的亲密伙伴们也同样下定决心来巩固克里姆林宫帮的权威。但是，在“一五计划”的实施过程中，采取主动措施迫害和镇压对手的，几乎总是斯大林，没有人比他更多疑、更有野心了。然而，斯大林的性格并非是起作用的唯一因素。虽然他夸大了领导集团即将面临的威胁，但他们确实有理由感到焦虑。托洛茨基在国外十分活跃，布哈林于1934年成了苏联政府报纸《消息报》的主编。与此同时，季诺维也夫和加米涅夫也再次显现出其过人之处。他们伺机更替领导权，改变苏联政治秩序。布尔什维克党在1917年所取得的经验，说明了一个小政治团体是如何迅速地搞得一个国家天翻地覆的。因此，斯大林必须保持警觉。支持者中的那些小人物——洛米纳泽、瑟尔佐夫、爱斯蒙特、托尔马乔夫和斯米尔诺夫的事实已经证明，他们的不忠让他更加紧张不安。