1920年11月，斯大林在参加捷列克（Terek）人民代表会议时思考了未来的制度安排，他说：
我们究竟要在山区共和国建立什么类型的自治呢？……自治可以是千变万化的。比如，卡累利阿人（Karelian）、切列维斯人（Cheremis）、楚瓦什人（Chuvash）和伏尔加德意志人（VolgaGerman）拥有行政管理方面的自治权，巴什基尔人、吉尔吉斯人和鞑靼人建立了政治方面的自治，而山地共和国的自治，就属于后者。[15]
他清晰地指出，不光允许北高加索的各民族管理他们自己的地域，而且，他们可以在该地域上追逐他们的民族和种族权益。
1921年3月，斯大林在俄共（布）第十次代表大会上解释了他的政策，但导致布尔什维克党在民族问题上的争论。他的演讲将作为民族国家标准的西欧与由罗马诺夫王朝、哈布斯堡王朝（Habsburg）和霍恩索伦王朝（Hohenzollern）统治众多多民族国家的东欧进行对比，夸大了西方国家的民族同质性。但他认为对东欧国家而言，民族间的交融更加强烈，无疑是正确的。无论如何，斯大林坚称“一战”结束之后，反帝国主义的斗争日益增强，尤其随着土耳其在欧洲列强的殖民地内支持民族解放运动。但是，据推测，只有苏俄能够做一些实际的事情。斯大林宣称：
苏俄民族问题的本质在于消除落后民族在经济、政治、文化方面从过去继承下来的落后，使他们能够在国家地位、经济文化等方面追赶上俄国中部的人民。[16]
斯大林认为有两种危险存在：第一种即从沙俄帝国边界算起的“俄国大国沙文主义”，这种情况显而易见；第二种即俄罗斯民族以外的非俄罗斯民族的民族主义。斯大林强调说，后者是当地共产党人所普遍持有的一种观点。这两种危险，是俄国共产党不得不面对的问题。
斯大林断言：“在苏维埃联邦国家中，将不再有被压迫民族，也不再有实行统治的民族，因为那时民族压迫早已被清算。”[17]可能由于斯大林忙于组织工会论争中的列宁派，也可能由于他饱受胃痛的折磨，而没有时间进行妥善地准备工作，此次演讲的内容非同寻常地含混不清。此后，他以其强大的能力投身于工作中，鼓起勇气、积聚力量以待发表一场重大演说。还可能是由于斯大林了解民族问题将会以迅雷不及掩耳之势点燃激情，他试图降低人们的热情。
如果斯大林意在于此的话，可以说，这是不成功的。此后，批评声四起，人们展开了对他的攻击。有人说他“在时空之外”做了一场抽象的演讲，有人说他太向“小资产阶级”民族主义者的要求让步，而没有坚定地反对“俄罗斯中心主义”（Russocentrism）。[18]实际上，不管斯大林说了什么，他都是有问题的，很难两全。一些代表要求地方分权，想要为民族的自我表达争取更大的空间。其他代表要求莫斯科坚定地实行集权，并抨击了十月革命以来对民族主义所表现出来的所谓的放纵。斯大林个人被指责“人为地移植了白俄罗斯的民族国家地位”。这种批评使他大发雷霆，盛怒之下，斯大林回答道：
白俄罗斯的民族国家地位是的确存在的，因此，你们的说法是不正确的。白俄罗斯有着与俄罗斯人截然不同的语言，从这点来看，只有使用他们自己的语言，才有可能提升白俄罗斯人民的文化水平。这些都是五年前关于乌克兰及乌克兰民族国家地位的演讲。短短的五年前，人们还常常讲乌克兰共和国及乌克兰的国家地位都是德国人的发明。很明显，乌克兰的民族国家地位是存在的，且发展其文化成为共产党的重要责任。[19]
由此可见，斯大林不容许他和列宁所制定的政策被嘲讽、诋毁甚至抛弃。
斯大林从人口统计学和政治的角度进行了辩解。首先，斯大林预言，当乌克兰的新移民如潮水般涌来后，乌克兰的城镇将很快停止俄罗斯化，就好像里加（Riga）一样。事实上，里加曾经是一个德国城市，后来逐渐拉脱维亚化。其次，他坚持认为，如果要让沙俄帝国边疆人民接受马克思主义的信息，就必须通过易于理解且适于他们的语言进行传播。因此，那种认为斯大林在20世纪20年代是“大俄罗斯沙文主义者”的观点纯属胡说八道，其实他比任何一个布尔什维克党领导人，包括列宁在内，都更为原则而战。这个原则，就是“苏维埃国家的每个人都应该拥有进行民族和种族自我表达的机会”。