两年后的1927年，赫鲁晓夫又参加了一次党代表大会，但这次已是全权代表了。在十四大到十五大这一段时间里，他积极参加了反对季诺维也夫、加米涅夫和托洛茨基“左翼反对派”的斗争，这个反对派一直坚持反对新经济政策。在1927年这次党代表大会上，赫鲁晓夫同占大会压倒多数的其他代表一起，投票通过了把反对派这几名领袖以及数十个支持者开除出党的决议。
在顿巴斯，赫鲁晓夫的知名度迅速提高，这归功于由他担任书记的那个区党委成绩突出，他从彼得罗夫斯克——马林斯克区委上调到州委部门工作，由此，工作范围有了很大的扩展。对于新岗位上的工作成绩，他也有足够理由感到自豪，因为整个顿涅茨地区的党员人数在全苏联都是名列榜首的。1927年初，顿巴斯煤炭产量超过了战前最高水平，在许多地区的城镇里，文化室（相当于今天的文化宫）拔地而起，为适应州中心首府的需要，铁路有所延伸，随之还铺设了自来水供应管道，几家电影院业已开张，一家地方广播电台开始播音，在那个岁月里，这一切都不是小成就了，这些也证明赫鲁晓夫作为一名党的干部能力很强。他是乌克兰境内的佼佼者之一。尽管如此，他确实还有某一方面的不足，他的正规学历太低了，而且当时压在随便一位党的干部肩上的工作重担，都足以使他无法进一步学习深造。如果不是由于两张后来被他称之为幸运的“彩票”为他带来的好运气，赫鲁晓夫至多只能是个党的中层干部，这种可能性很大。
1928年初，斯·维·科西奥尔当选为乌克兰共产党中央总书记。以前他曾是联共中央的书记之一。他的第一步行动就是重组乌克兰党中央的机构。他把中央组织部的领导尼·杰姆钦科召来之后，向他下达了如下的指示：
你在组织部里有6名工作人员，都是从知识分子里挑选出来。你应当有一名不错的工人副手。从你那里派个人到顿巴斯去，让他们给你6名工人出身的党的干部。不过一定得记住，现在掌管顿巴斯的可是莫伊申科，他是个狡猾的农民，会把我们需要的人留下自己用，而且又会设法哄骗你，把一些倒霉的假货塞给你。所以必须同每一个候选人认真谈一谈，在他们当中只能挑出最好的带回来。我要亲自找一个我们需要的人。
阿·弗·斯涅戈夫被派往顿巴斯。他挑了6个人，其中就有赫鲁晓夫。他们都被送到乌克兰当时的首都哈尔科夫，科西奥尔亲自接见了每一位候选人。赫鲁晓夫被他选中了，并让他去担任杰姆钦科的副手。
在那个岁月，任何人都不会在一个地方干上很久。杰姆钦科不久便调到基辅出任州党委书记，他把赫鲁晓夫一起调去，当时他已被提拔为组织部的领导。但是赫鲁晓夫在那儿也没停留多久。1929年，莫斯科创办了一所工学院，其任务是为国家经济工作培养党的高级干部。在审批申请报告的地方，总是优先照顾工人出身的党内干部，学院挑选的第一批学生当中就有赫鲁晓夫。
赫鲁晓夫在工学院的经历巩固了他的政治地位。首先，那儿就有反对“右倾分子”的斗争。1928年，他曾经拥护过对顿巴斯煤田沙赫特矿区一些工程师的判决，这些人被指控为代表以前国内外的矿产主进行了“破坏活动”。尽管这个案件把自己老家地区的人牵连了进去，但是当时赫鲁晓夫还缺乏经验，以致未能洞察出这个案子实际上是由人为一手捏造的真相。在学院学习的第一年，他在政治上的忠诚从未动摇，是反对“右倾分子”斗争的积极支持者。当时掌握学院党组织的“右倾分子”，选出自己的人作为学院党组织代表去参加莫斯科鲍曼区党代会，《真理报》为此两次发表文章攻讦了这些代表。之后，学院党组织“承认”了自己的错误，并决定召回代表，还选出了一个新的学院党委。当时极力支持党的“总路线”的赫鲁晓夫就被选为学院新党委的书记。这或许正是他的大名首次出现在中央报刊上。
很自然，学院党委积极拥护以斯大林的方式开展的农村集体化；同时还紧密配合对那些被指控为法国人工作的“工业党”成员进行的审判，以及对反对所谓“资产阶级专家”的斗争。实际上，策划对这些旧知识分子成员实行公开审判，目的还在于对批评政府的意见进行恐吓。但是对赫鲁晓夫来说相当幸运的却是，他只是从理论上参战，他没有被召去亲自动手推行集体化，或是去进行反对富农的斗争；而这些活动对斯大林本人以及他许多朋友和同事来说，代价却是昂贵的。尽管这样，当学院的一批学生由于被指责为属于“右派”而遭到开除学籍时，赫鲁晓夫确实也从中搞了一手。