在这种情况下，《斗争报》报社这个团体在巴统和巴库的监狱里失去了活力。在此期间，佐尔丹尼亚继续制定战略，苦心经营格鲁吉亚马克思主义的传播和发展。他和列宁都认为，俄国马克思主义的创立者格奥尔基·普列汉诺夫、帕维尔·阿克塞尔罗德（PavelAxelrod）和维拉·查苏利奇（VeraZasulich）没有认清迎合农民需求的优势。根据1861年《废除农奴制法令》，地主贵族们剥夺了农奴大量的土地。列宁企图恢复这些土地，将它们还给农民，以获得农民的支持。许多俄国马克思主义者认为这个方法对农民太宽容了，他们更喜欢发动工人运动的正统做法。实际上，在格鲁吉亚社会中，农业占主导地位，大部分格鲁吉亚工人都与农村有千丝万缕的联系。因此，佐尔丹尼亚批评列宁还不够大胆，他本人宣称要将所有的农村土地交到农民手中，并剥夺朝廷、教会和贵族的财产。不仅如此，佐尔丹尼亚还强烈要求格鲁吉亚马克思主义者到农民中去，将他们吸纳到有组织的马克思主义阵营中来。[30]佐尔丹尼亚的想法立刻受到支持者们的响应，他们纷纷走进农村，进行农民运动，并取得了成功。除俄国外，还没有其他地方的农民是如此关注马克思主义的。因此，马克思主义者们为自己拥有领导格鲁吉亚人反抗罗曼诺夫王朝的权力感到自豪和骄傲。
朱加什维利不赞成佐尔丹尼亚的策略。他同意应当承诺将所有的农村土地交给农民，也同意列宁胆子太小了，但他不同意将如此多的宣传和组织工作交给农民去完成。朱加什维利认为，在工人中开展革命活动十分必要。同时，他也非常重视马克思主义者们关于俄国以外，尤其是中东欧国家工人运动发展变化情况的报告。他认为，这项工作也很重要。[31]
但是，对于使朱加什维利与佐尔丹尼亚进一步产生分歧的问题，朱加什维利总是保持缄默。他依然没有放弃爱国主义思想，期望格鲁吉亚能有自己的马克思主义政党，在高加索地区建立以领土为界的马克思主义组织。而佐尔丹尼亚则不顾古老的民族和种族边界的限制，想要建立一个覆盖整个高加索的地区性组织。[32]可见，他们两人之间的分歧是巨大的，甚至大过朱加什维利与其他同志的分歧，比如后来成为布尔什维克党的米哈伊尔·茨哈卡亚（MikhaTskhakaya）。茨哈卡亚认为，办报纸、著书和写小册子时必须使用格鲁吉亚文，否则，这里的工人是不会了解马克思主义的。但像其他激进的马克思主义者一样，他认为佐尔丹尼亚完全投入到格鲁吉亚的民族和文化中，会促进民族主义情绪的增长。朱加什维利关于在高加索地区建立以领土为界的马克思主义组织的观点让激进分子们极为反感，在他们看来，自己之所以赞成马克思主义，是因为它提供了一条各民族和谐相处、携手走向现代化的道路。但朱加什维利的想法远远没有超越民族国家的限制，只会引起更大的麻烦。
激进分子们的观点在俄国社会民主工党中引起了更广泛的共鸣。崩得（JewishBund）是俄国西部边境的一个马克思主义组织，专门致力于在犹太人中开展工作。“崩得”不顾该地区还有其他民族和种族生活的事实，强烈要求自治。（南高加索的马克思主义者避免代表一个民族或种族提出这种要求。）因此，遭到了《火星报》的批评。1903年8月，俄国社会民主工党第二次大表大会讨论了这个要求。当《火星报》的代表起来反对任何以民族疆域为原则进行组织活动的做法时，“崩得”的代表们就退席了。朱加什维利冒着很大危险，稍有不慎，就会被当成反对俄国社会民主工党国际主义的马克思主义者。但他还是非常坚定地固守着自己的想法。
不过，朱加什维利并没有被这种危险吓住，相反，他的名声越来越大，开始在格鲁吉亚的马克思主义者中占有一席之地。虽然朱加什维利是带着坏名声离开第比利斯的，但这没有妨碍其影响力的扩大。在巴统，他号召工人开展革命活动。后来，他发现一群工人在其号召和影响下变得成熟起来了。于是，他帮助这群工人组织反对罗曼诺夫王朝的罢工和游行示威。他与远离巴统、身在巴库的朋友克茨霍维利保持联系，并提升了自己宣传马克思主义的能力。在巴统监狱期间，朱加什维利中断了写作，但他对策略性观点的争论并没有停止。他习惯把想法记录下来。[33]在巴统监狱关押了一年后，他被送往库塔伊西（Kutaisi）监狱。1903年秋，又被送回巴统监狱，但最终，朱加什维利被送到中西伯利亚的东部去流放。他于11月27日到达目的地——伊尔库茨克省（IrkutskProvince）巴拉干县的新乌达村（NovayaUda）。1904年年初，朱加什维利从流放地逃走，想要回到第比利斯。事实上，这是他第二次逃跑。第一次，他非常愚蠢，没有带饱暖的衣服来和西伯利亚的严冬作斗争。逃跑计划失败后他又回到了新乌达村。在这次逃跑中，他的脸和耳朵都冻坏了。[34]第二次，他成功逃跑，并经过长途跋涉，回到了第比利斯。