1953年7月25日，沙龙接到一份总参谋部的通知，总参谋长莫迪凯·马科莱弗将亲自召见他。当沙龙风风火火来到总参谋部后，莫迪凯开门见山地问道：“沙哈姆关于成立特种部队的报告已被批准，你是否愿意担任这支部队的指挥官？”
“好吧，我答应干。”沙龙决心暂时放弃学业重返军队。
告别了父母后，沙龙从特拉维夫回到耶路撒冷，又将总参谋部的决定告诉了妻子戈莉。他担负这一职务，对戈莉来说将意味着长时间地独守空房，意味着像过去一样地胆战心惊过日子。但戈莉是一位自制力很强的女性，她毫不犹豫地表示支持丈夫的选择。
很快，沙龙离开了希伯来大学，当上了颇具传奇色彩的第101部队的指挥官。
走马上任后，沙龙的首要任务是遴选麾下干将。由于深得上司的信任，沙龙获取了组建部队的全部权力。沙龙明白，选拔队员是一项极为重要的使命，队员的素质直接影响着这支部队的素质。此外，并不是所有的士兵都愿进入这支危险的队伍，这在一定程度上也影响了兵员的规模。
为了保证队员质量，沙龙开始先从过去曾在一起服役、训练素养较高又对此感兴趣的一些战友中进行挑选。他将认为合格的人选列表，然后一一拜访，谈该部队的前途和宗旨。不久，有不少人投到了他的门下。
为了培养突击队员执行各种任务的能力，斯塔菲营配备了各式各样的装备，从咔叽布制服到阿拉伯首脑的头巾，他们的常用武器装备是冲锋枪、步枪、莫洛托夫鸡尾酒以及突击队匕首。在沙龙的坚持下，以色列国防军向他提供了数量上不受限制的武器和军火。101部队的士兵成了这些军火的奢侈的消费者。他们经常临时选择新的射击目标，以提高他们的射击水平，如：随手扔起的罐头、放飞的鸽子和建筑物的墙角。士兵们每天都要接受新的勇气和技巧的试验，如自己站在房子下面向这个房子的顶上投掷手榴弹，或者在向岩石岗陡峭的悬崖上冲锋时从臀部进行射击。晚上，他们就坐下来分析军事问题，思考怎样对突如其来的局势作出反应，怎样发展新的掩护手段，怎样在敌方领土上行进。
与此同时，沙龙还在心理和意识形态上对他的同伴进行训练。他向他的士兵们灌输一种使命感，使他们认识到国家的命运寄托在他们身上。沙龙试图尽力让他们明白，犹太人必须不再成为被动的目标，阿拉伯极端分子的恐怖行为必须遭到报复。他使他们确信，他们是以色列国防军的真正军事精英。
接着，101突击队对其任务进行了调整。它不仅仅执行边境巡逻的任务，而且还不时向阿拉伯游击队的大本营渗透出击。慢慢地，阿拉伯的好战分子感到了后方的危机。
有一天，沙龙有幸被邀至总理本·古里安的办公室。对沙龙来说，这是受宠若惊的一刻，他终于见到了过去自己仰慕已久的人物。虽然这位被称之为以色列国父的人个头矮小，但双目炯炯，威严中透着精明强干。他满头银丝，又使沙龙感到如父辈般慈祥。他汇报完101部队的训练情况之后，本·古里安亲切问道：“你是哪里人？”
“卡法·马拉尔。”沙龙答。
接着，本·古里安又询问了101部队其他队员的情况：都来自哪里？听不听指挥？
沙龙徐徐道来：“他们多数来自于穆沙夫和基布兹。都是很好的小伙子，非常听话。”
1953年底，摩西·达扬升任以色列国防军总参谋长之职。次年1月，他开始实施他几个月前就已制定的计划：合并101部队和伞兵营，并将新生的特种部队命名为“890部队”。
当达扬还是总参谋部作战部长的时候，他就把合并101部队和伞兵营的计划私下告诉了沙龙，并决定任命他为新合并部队的指挥官。他也知道，伞兵营指挥官约胡达·哈拉里中校希望能指挥新合并的部队。总参谋部的许多官员都认为将会任命哈拉里为指挥官。但达扬却毫不客气地告诉哈拉里：“将指挥权尽快移交给阿里埃勒·沙龙。”
由于沙龙身体力行，不久第890部队的面貌就焕然一新了。沙龙坚定地遵循早在上任前就准备好的计划。他把这个营分为几个连，把他们分散在农村的几个点上进行训练。因而在开始的日子里，这个营从未集中采取过行动。他把原101部队的人安插在各个地区，并绝对不使他们能够集中起来在这个营内拉帮结派。训练计划本身也经过了认真的考虑，以便能够促进士兵们的身体健康，提高部队的战斗力。在这里士兵们差不多没任何时间或精力去干别的事儿。
伞兵营成立第一年的大部分任务是在敌人领土上进行骚扰。这些骚扰多沿金菲姆基布兹边境进行，此外还对埃及人的堡垒进行过一次较大规模的袭击。在这次战斗中，沙龙的大腿不幸受了伤。
1955年，也就是沙龙就任伞兵营指挥官的第二年，以色列和阿拉伯邻邦之间的局势进一步恶化。阿拉伯人的武装活动发生了变化，伞兵营的报复也随之改变。由于阿拉伯人与以色列人之间根深蒂固的敌对情绪，以及一个新的阿拉伯武装部队（“阿拉伯突击队”）的建立，使得对以色列平民的袭击事件再次迅速增多。暴力谋杀增添了以色列人的恐惧和愤怒，他们强烈要求政府做出强有力的反应。
与在101部队时相比，沙龙现在的影响非常大。摩西·达扬非常尊重他的军事天才，而且也告诉沙龙对防卫事务的基本态度。在基苏菲姆受伤之后，本·古里安到医院看望了他，并告诉沙龙有事可直接找他。这使沙龙极受鼓舞。从此以后，当沙龙的建议在总参谋部遭到反对时，他就绕过正式的指挥渠道，直接去找总理解决。
当时的形势对沙龙非常有利。阿拉伯人的武装斗争日趋活跃，政府和军队的领导人对沙龙的建议开始越来越感兴趣。沙龙发现既是国防部长又是总理的本·古里安、总参谋长摩西·达扬以及新近代替了摩西·沙里特进入外交部的果尔达·梅厄和他都有共同的见解。1955—1956年，伞兵营（有时与其他以色列国防军部队一道）穿过边境到埃及、叙利亚和约旦完成了一系列战斗任务。其中有些战斗规模之大，连最初授权给他们行动的政府和军方都感到无法想象。
1955年2月28日夜，以色列在加沙对埃及军事基地进行了一次袭击。这次袭击以两个排伞兵为先头部队，猛攻并摧毁了在加沙本市的埃及军事指挥部建筑物。战斗进行得非常激烈。阿拉伯方面有14名埃及士兵丧生，另有3名阿拉伯公民死亡。以军方面也死亡8人，负伤9人。但是另一路增援部队却大获全胜。当35名埃及士兵乘坐一辆卡车向加沙市增援时，落进了沙龙布下的伏击圈。他们在道路上拉了一根电线，两端拴着汽油桶。当飞奔的埃及卡车撞上电线时，汽油桶就跟汽车相撞。爆炸的油桶引爆了卡车。以军突击队紧接着用机关枪和手榴弹向卡车攻击。结果35人中有22人被打死，其余13人受伤。而以军则无一伤亡。
沙龙建立了一个强有力的战争工具，就是这个战争工具使他能够成功地完成了最初制定的宏伟计划。这使他名声远播。他多次令人信服地证明，他的计划不仅可行而且十分奏效。
过多的成功和荣誉诱发了沙龙那潜伏心中的傲慢性格，导致了伞兵营的一小部分人对沙龙产生了不同的看法。他们开始认为沙龙自高自大，过分注重自己的威望和对他的称颂，而这无疑损害了他本应在官兵心中闪光的形象。
对于批评他的人，沙龙付之轻蔑的一笑，认为这种批评是对他的嫉妒。他认为自己所做的一切都是为了国家的利益。他宣布无论遭到什么批评，任何东西都不会使他的思想改变，妨碍他实现自己的目标。
在本·古里安和达扬的支持下，沙龙一连串的报复行动对阿以关系产生了巨大的影响。尽管它们未能达到其主要的目的，使阿拉伯人把以色列当作为一个既成事实和粉碎阿拉伯人的武装行动，但它们却被一些政府要员所称赞。
结果，沙龙的部队得到了扩展，改名为“第202空降旅”。
1956年6月18日，英军最后一批部队撤离了苏伊士运河地区。7月26日，埃及总统纳赛尔宣布将苏伊士运河收归国有，以便用运河的收益建设水坝。这一行动立即遭到英、法的反对。英国首相艾登决心以武力解决这场争端。他于8月3日向英国军队下达了准备制定对埃及作战计划的命令。其作战目的旨在占领苏伊士运河地区，保证运输的畅通。同时，法国也向伦敦派遣了联络军官。
在这方面，以色列同英法有着相同的利益。因为埃及1953年就封锁了蒂朗海峡，切断了以色列通向红海的水道。于是，英、法、以三国决定携手行动，并为此制定了一项联合作战计划。
10月25日，以色列总理本·古里安将沙龙召到办公室，向他透露了以军将与英法联合向埃及开战之事。虽然他第一次听到这一消息，但沙龙并不感到大惊失色，他认为大规模战争是这几年双方报复与反报复进行的必然结果。本·古里安告诉他，虽然三国联合行动，但各自的目标却是各不相同的，以军的行动主要在西奈进行，旨在打开埃军对蒂朗海峡的封锁，拔除加沙地带阿拉伯游击队的基地，打击纳赛尔的不可一世的气焰，也许能趁机迫使其下台。而英法则旨在重新建立对运河的控制权。一旦战争爆发，以军主力将跨入西奈，歼灭盘踞在西奈的埃军部队。
次日，沙龙正在参加拉马特甘城为伞兵部队举行的晚会，突然，接到总参谋部的通知，要他马上做好准备。不到一小时，他就奉命前往中央指挥部。中央指挥部明确告诉他：他的第202旅将以一个伞兵营在西奈半岛的米特拉山隘降落，与此同时，其他部队沿陆路从埃以边界通过昆提拉朝着隘口方向行进。
沙龙率领的2个空降营、2个“纳哈尔”连、1个坦克连，共约3000人，从正面很快向纳哈尔基地的埃及军队发动了攻势。战争只持续了20分钟，这使埃及人大吃一惊。由于这个旅同前线空投的伞兵部队保持着密切联系，所以在穿过昆提拉、特迈德和基拉特纳哈尔时，差不多没有遇到对方部队的强大反击。
以军总参谋部仅打算让伞兵部队实施牵制战。他们的目的就是使在西奈战争中的埃及人再一次相信以色列人正在进行打击孤立的埃及目标的有限袭击。米特拉隘口的冲锋不过是预先安排好的让英法同以色列一起袭击埃及的信号罢了。
1956年12月31日，即西奈战役过去两个月之后，沙龙的父亲沙寥尔·沙内曼去世了。戈莉在他去世的3天前刚为他生了一个孙子。
办完父亲的丧事，又在特拉维夫购置一套住房安置好戈莉和儿子格尔后，沙龙才急急赶回部队。这些年来，他和戈莉一直以耶路撒冷那间小屋为家，清贫而又寒酸。现在，购置到这套住房，总算了却一桩心愿。
回到部队后，沙龙开始感到米特拉隘口的悲剧一直影响着他。上下级都对他不再像过去那样佩服。1957年秋，他决定辞去空降旅长之职。达扬建议他前往英国金伯利的一个军官训练学校学习，沙龙慨然答应。这次出国标志着他在军队中青云直上的命运暂时走向了低潮。
1957年9月，沙龙带着妻子戈莉和儿子格尔来到伦敦，并为他们租到一处舒服的住处，他自己则住在军官学校的公寓之中。
沙龙在金伯利的学习再次充分显示出了他的军事天才。许多学生靠死记硬背学习，而他对他们所分析的军事问题则有自己新颖独到的见解。然而重返以色列后，他只谋得了一个次要的参谋职务，这更加重了他的寂寞感。他首先被任命为步兵训练处的教官，向总参谋部训练部司令约塞夫·杰瓦少将负责。
在新的岗位上，沙龙根本无法大显神威。不到两个月，他就被杰瓦免除了职务。
免除沙龙职务的消息传到了宠爱沙龙的本·古里安那里，他把杰瓦召来，要求他作出解释。杰瓦明白，他解除了沙龙的职务可以，但决不能把他驱逐出军队。本·古里安要求他为沙龙在训练部中安排一个合适的职务，杰瓦被迫任命沙龙为步兵学校的校长。
在步兵学校，沙龙提出了后来大家都熟知的关于军事训练的一套思想理论。这种特别强调步兵军官的作用：步兵军官必须身先士卒，必须有威信，使他的士兵充满信心；当面对数量超过自己的敌人时必须知道怎样利用技术上的优势；必须学会在突发事件中迅速机智地做出反应。他的学生、那些低级军官认为，沙龙是一个军事领袖和军事权威。他的同行也认为他是一个对军事理论研究做出杰出贡献的有创造性的军事思想家。
1962年5月6日中午，沙龙将爱子格尔及他在幼儿园的几名小伙伴接到他的预备装甲旅部，让这些小家伙们参观了以军装备的各种坦克车辆。格尔及其伙伴非常高兴，一直到下午仍兴致不减。看到天色将晚，沙龙这才决定结束儿子的“视察”，将他送回特拉维夫家中。
当他刚刚将钥匙插入锁孔之时，邻居家门打开了，女主人惊惶失措地将沙龙拉入她家门内，告诉他刚才有人来通知，戈莉出车祸了。
沙龙闻言头脑“嗡”地一声，顿觉情况不妙，他强支撑住自己，问道：“伤势如何？在哪家医院？”
“好像……好像已……”女主人无法再说下去了。
沙龙顿时明白了一切，几乎支持不住自己。虽然生生死死他见得太多，但戈莉毕竟是与自己相识相爱十几年的伴侣，况且格尔才刚刚5岁，他无论如何也抵挡不了这份突如其来的悲凄之情，不禁热泪直下。
当沙龙赶到沙泽第克医院时，戈莉的父母和两个妹妹已先行到达。本来已止住哭泣的她们，一看到沙龙跌跌撞撞进来，泪水再次滑出眼眶。沙龙边流泪边探听情况，戈莉最小的妹妹莉莉告诉他：“姐姐下班后开车返回特拉维夫，在行至阿布戈什附近时，不知何故突然驶上逆行道，和迎面开来的一辆卡车相撞，头部受重伤，送到医院不久就……”
沙龙坚持要看看过早离他而去的妻子的遗容，她头上仍缠着绷带，但脸上仍完好无损。戈莉的面容并未露出痛苦的神色，而是一脸安详，似乎陷入沉睡一般。
沙龙把戈莉安葬在特拉维夫郊外的军人公墓之中。送葬那天，沙龙走近新挖掘的墓坑前，从口袋里掏出了一张纸，这是他早年写给戈莉的一首情诗，他将它撕成碎片，撒入坑底，以此来寄托对爱妻的思念之情。
莉莉可以说是在沙龙身边长大的，对这位姐夫非常敬佩。16岁那年，她曾到沙龙的伞兵营服过一段兵役，更加深了对他的仰慕之情。虽然，莉莉此时已成年，但却一直未能找到意中人，原因是她希望找一位像沙龙那样英俊又骁勇的男子汉。
姐姐的去世，虽然使莉莉非常痛苦，但同时也燃起了心中抑制已久的情愫。看着格尔对自己依恋不舍，她感到一切将会顺其自然地发生。更何况，沙龙对这位妻妹也非常喜爱。不久后，两个人真的产生了真挚的爱情，走上了红地毯。1963年秋天，沙龙和莉莉正式结为夫妻。他们将新家安在纳哈尔穆沙夫的一幢二层小楼里，过起了令人陶醉的田园生活。