很快，沙龙离开了希伯来大学，当上了颇具传奇色彩的第101部队的指挥官。
走马上任后，沙龙的首要任务是遴选麾下干将。由于深得上司的信任，沙龙获取了组建部队的全部权力。沙龙明白，选拔队员是一项极为重要的使命，队员的素质直接影响着这支部队的素质。此外，并不是所有的士兵都愿进入这支危险的队伍，这在一定程度上也影响了兵员的规模。
为了保证队员质量，沙龙开始先从过去曾在一起服役、训练素养较高又对此感兴趣的一些战友中进行挑选。他将认为合格的人选列表，然后一一拜访，谈该部队的前途和宗旨。不久，有不少人投到了他的门下。
为了培养突击队员执行各种任务的能力，斯塔菲营配备了各式各样的装备，从咔叽布制服到阿拉伯首脑的头巾，他们的常用武器装备是冲锋枪、步枪、莫洛托夫鸡尾酒以及突击队匕首。在沙龙的坚持下，以色列国防军向他提供了数量上不受限制的武器和军火。101部队的士兵成了这些军火的奢侈的消费者。他们经常临时选择新的射击目标，以提高他们的射击水平，如：随手扔起的罐头、放飞的鸽子和建筑物的墙角。士兵们每天都要接受新的勇气和技巧的试验，如自己站在房子下面向这个房子的顶上投掷手榴弹，或者在向岩石岗陡峭的悬崖上冲锋时从臀部进行射击。晚上，他们就坐下来分析军事问题，思考怎样对突如其来的局势作出反应，怎样发展新的掩护手段，怎样在敌方领土上行进。
与此同时，沙龙还在心理和意识形态上对他的同伴进行训练。他向他的士兵们灌输一种使命感，使他们认识到国家的命运寄托在他们身上。沙龙试图尽力让他们明白，犹太人必须不再成为被动的目标，阿拉伯极端分子的恐怖行为必须遭到报复。他使他们确信，他们是以色列国防军的真正军事精英。
接着，101突击队对其任务进行了调整。它不仅仅执行边境巡逻的任务，而且还不时向阿拉伯游击队的大本营渗透出击。慢慢地，阿拉伯的好战分子感到了后方的危机。
有一天，沙龙有幸被邀至总理本·古里安的办公室。对沙龙来说，这是受宠若惊的一刻，他终于见到了过去自己仰慕已久的人物。虽然这位被称之为以色列国父的人个头矮小，但双目炯炯，威严中透着精明强干。他满头银丝，又使沙龙感到如父辈般慈祥。他汇报完101部队的训练情况之后，本·古里安亲切问道：“你是哪里人？”
“卡法·马拉尔。”沙龙答。
接着，本·古里安又询问了101部队其他队员的情况：都来自哪里？听不听指挥？
沙龙徐徐道来：“他们多数来自于穆沙夫和基布兹。都是很好的小伙子，非常听话。”
1953年底，摩西·达扬升任以色列国防军总参谋长之职。次年1月，他开始实施他几个月前就已制定的计划：合并101部队和伞兵营，并将新生的特种部队命名为“890部队”。
当达扬还是总参谋部作战部长的时候，他就把合并101部队和伞兵营的计划私下告诉了沙龙，并决定任命他为新合并部队的指挥官。他也知道，伞兵营指挥官约胡达·哈拉里中校希望能指挥新合并的部队。总参谋部的许多官员都认为将会任命哈拉里为指挥官。但达扬却毫不客气地告诉哈拉里：“将指挥权尽快移交给阿里埃勒·沙龙。”
由于沙龙身体力行，不久第890部队的面貌就焕然一新了。沙龙坚定地遵循早在上任前就准备好的计划。他把这个营分为几个连，把他们分散在农村的几个点上进行训练。因而在开始的日子里，这个营从未集中采取过行动。他把原101部队的人安插在各个地区，并绝对不使他们能够集中起来在这个营内拉帮结派。训练计划本身也经过了认真的考虑，以便能够促进士兵们的身体健康，提高部队的战斗力。在这里士兵们差不多没任何时间或精力去干别的事儿。
伞兵营成立第一年的大部分任务是在敌人领土上进行骚扰。这些骚扰多沿金菲姆基布兹边境进行，此外还对埃及人的堡垒进行过一次较大规模的袭击。在这次战斗中，沙龙的大腿不幸受了伤。
1955年，也就是沙龙就任伞兵营指挥官的第二年，以色列和阿拉伯邻邦之间的局势进一步恶化。阿拉伯人的武装活动发生了变化，伞兵营的报复也随之改变。由于阿拉伯人与以色列人之间根深蒂固的敌对情绪，以及一个新的阿拉伯武装部队（“阿拉伯突击队”）的建立，使得对以色列平民的袭击事件再次迅速增多。暴力谋杀增添了以色列人的恐惧和愤怒，他们强烈要求政府做出强有力的反应。