在第比利斯的埃里温广场上，能够看到正教中学。就是在这个广场上，布尔什维克党曾成功进行了最大的一次抢劫活动。1907年6月12日，卡莫乔装打扮成沙俄将军的模样，乘坐马车到达广场。他们已经提前了解到，将有一辆运送大量钞票的马车路过这里。当马车路过时，他们将炸弹引向了运钞员。在这次活动中，卡莫及其同谋获得了几麻袋的钞票，有25万卢布之多。此后，在混乱无序的掩护下，卡莫驾着马车全速离开，将这些钱送到了位于芬兰库奥卡拉（Kuokkala）的布尔什维克党中央。
不久之前，朱加什维利到柏林进行了短期访问[24]，可能与国外布尔什维克党的领导人进行了磋商。此后，列宁、朱加什维利和卡莫都希望对抢劫的事严格保密。自从几个第比利斯的马克思主义者知道了抢劫活动的组织者后，朱加什维利和卡莫本就感到不堪一击，雪上加霜的是，1907年11月，实力仍在布尔什维克党之上的格鲁吉亚孟什维克党开始对此事进行调查，并决定由席尔瓦·吉布拉泽负责为审判可疑人员而设立的专门调查委员会。其实，席尔瓦·吉布拉泽的过去也并不那么高尚。在梯弗里斯正教中学读书时，由于对校长进行人身攻击，他被开除了，但他不能容忍对党的方针政策的破坏。毋庸置疑，朱加什维利被认为是埃里温广场事件的幕后指挥者[25]，可孟什维克找不到他。由于担心被警察通缉，或被孟什维克党要求对抢劫事件做出解释，朱加什维利早就逃到了巴库。[26]孟什维克党无计可施，遂宣称将其开除出俄国社会民主工党。[27]朱加什维利在高加索地区布尔什维主义的政治舞台上愈加突出。1917年期间及其后，朱加什维利和卡莫依然是好朋友，相互扶持，相互照顾。他们都有足够的理由认为，自己在勤勤恳恳地遵照列宁的指示做事。
在南高加索地区，朱加什维利将破坏孟什维克党的活动作为其任务。这种党派斗争的胜负对他的影响，不输于在巴库工人中组织革命活动。因此，朱加什维利满腔热情地进行斗争，这也使他成为该地区布尔什维克党的核心，成为格鲁吉亚的“第二个列宁”。[28]从阶级斗争角度来看，如前所述，1905至1906年，孟什维克党在格鲁吉亚农民中的革命活动大获成功。他们为此而沾沾自喜，充满自豪感。朱加什维利时常嘲笑他们的自豪感，并宣称由于布尔什维克党专心致志做巴库工人阶级的工作，里海岸边的这座城市的阶级斗争得以更好地组织。可见，对于布尔什维克党在争取工人参加革命活动过程中所取得的成就，朱加什维利也感到自豪和骄傲。从民族角度来看，以佐尔丹尼亚为首的孟什维克将精力主要用于做格鲁吉亚人的工作，而朱加什维利将目光转移到俄罗斯人、亚美尼亚人、阿塞拜疆人和格鲁吉亚人。在党派斗争中，朱加什维利有时也大放厥词，他宣称第比利斯的孟什维克在争论中不愿意理会布尔什维克党。其实这种说法有失公允，佐尔丹尼亚每次都欣然接受这样的挑战，倒是斯大林总是设法利用手头的资料败坏孟什维主义的名声。总体上说，朱加什维利指责佐尔丹尼亚过于沉迷于合法活动。合法活动一开展，就等于限制了俄国社会民主工党的秘密活动网。[29]
佐尔丹尼亚反驳说，孟什维克党既没有忽视巴库，也没有忽视工人阶级，他们在那里的势力实际比布尔什维克党还要强大。[30]那么，事实到底怎样？其实，他和朱加什维利的说法都有一定道理。孟什维克将格鲁吉亚视为其大本营，可并未放弃包括巴库在内的其他地方。有时，他们的工作比布尔什维克党还要有成效。两个党派的分歧，主要表现为战略方针的不同：布尔什维克几乎总在工人中开展工作，孟什维克还非常认真地对待其他阶级，比如农民阶级。同时，孟什维克也非常重视国家杜马的作用，甚至希望布尔什维克党和他们一样，能够将国家杜马作为政治组织及宣传的工具。尽管在1905至1906年的革命中布尔什维克以失败而告终，但仍然梦想着组织武装起义来反对沙皇的专制统治。
对俄国革命事业而言，高加索地区是最重要的地区之一。身处这么重要的地方，朱加什维利也最容易遭到孟什维主义的攻击。面对攻击，他选择毫不妥协。这种精神，正是列宁想在自己的追随者身上看到的。通过参加坦莫福斯、斯德哥尔摩和伦敦的党代会，朱加什维利对政治有了更加广阔的视野，偏爱在巴库而不是在第比利斯工作，就是最好的证明。他不再仅仅把自己当成一个格鲁吉亚的马克思主义者，而是当成一个可以在南高加索地区，甚至可以在整个俄国任何地方工作的马克思主义者。在俄国社会民主工党第五次代表大会上，朱加什维利说道：