逐步高涨的农民运动引起了敌人的恐慌，反动政府加紧了对高岗等共产党人的迫害。1928年秋，党组织决定高岗离开横山，到佳县、吴堡一带组织群众抗粮抗捐。不久，又调高岗到肤施县（今延安县）开展地下工作。
3 打入敌军搞兵运
论及高岗的兵运工作，还应当从刘志丹的武装斗争讲起。
刘志丹、谢子长与高岗可谓校友，三人都曾经在榆林中学读书。但高岗入榆林中学的1925年，刘志丹已经是大名鼎鼎的黄埔军校的高才生，谢子长则是在北京开展秘密工作的中共党员。
刘志丹是1925年末，被中共党组织选派到黄埔军校第四期学习的。1926年秋，刘志丹从黄埔军校毕业后随军参加了东征。同年冬，奉派赴国民军联军第四路军马鸿逵部任党代表兼政治处长。次年春，又作为国民革命军第二集团军总司令的代表，去豫西收编军阀吴佩孚部所属的刘镇华部。
1927年大革命失败后，刘志丹返回陕西，担任中共陕西省委交通。1928年春，按照省委的部署，刘志丹与唐澍、谢子长等来到归属于军阀李虎臣部的新编第三旅许权中（中共党员）部，准备举行武装起义。
许权中旅是1927年7月以西安中山军事学校和国民军联军驻陕总司令部政治保卫部领导的政治保卫队的成员为骨干组建的。全旅有1200多人，其中有160多名共产党员，是一支在中国共产党控制下的武装力量。刘志丹等来到许权中旅后，党的领导力量进一步加强，部队驻地附近的农民运动也在党的领导下迅速发展。武装起义的条件逐步成熟。1928年3月18日，中共中央作出《关于陕西工作决议案》，提出：“工农武装暴动，实行土地革命，建设苏维埃政权，无疑的是陕西革命发展的前途。”按照中共中央的决定，中共陕西省委加紧了武装暴动的准备工作。
1928年5月10日，震动全国的渭华起义爆发，“西北工农革命军”和“西北工农革命军事委员会”宣告成立。工农革命军由唐澍任司令，刘志丹任军事委员会主席，谢子长任军事委员会委员兼西北工农革命军第二大队队长（共四个大队），王泰吉任参谋长，许权中任总顾问。
同年8月，渭华起义失败，刘志丹、谢子长又回到了西安。
同年秋，省委任命刘志丹为中共陕北特委军委书记，谢子长为委员，返回陕北，开展兵运工作。
陕北特委是1928年4月正式成立的。特委下辖榆林、神木、延安等八个县委，三个直属区委及一个直属支部。1929年四五月间，特委在榆林红石峡举行扩大会议，研究加强武装斗争等问题，刘志丹出席了会议。会议提出，武装斗争有三种形式：白色的（兵运工作）、灰色的（改造土匪）、红色的（建立革命武装）。在当前形势下，应以做兵运工作为主。
红石峡会议对于党在陕北领导的武装斗争产生了重要影响。这次会议提出党在搞工运、农运、学运的同时，要将今后工作的重点由学运、农运转到兵运上来。并要求大部分党员要打入国民党内部去做兵运工作，“借水养鱼”，以建立中共领导的人民武装。会后，刘志丹来到延安布置贯彻会议精神，向当时正在延安的高岗等中共党员传达了会议的主要内容。
在红石峡会议之前，高岗已经在组织的安排下，化名为“高岗”，打入国民党延安县党部，任党部录事，开展地下工作了。红石峡会议之后，高岗等决定在国民党军驻延安高双成部搞一次兵变，拉出一批部队开展独立的武装斗争。但在即将举行兵变之际却因内部出了叛徒而导致兵变流产，高岗也险些被敌人抓住，后在友人的帮助下从污水洞爬出城外，才化险为夷。
1930年春，军阀冯玉祥为准备中原大战，把甘肃、宁夏的主力部队调到了河南一线。为了控制后方，冯玉祥委任包头土匪出身的苏雨生为骑兵四师师长，留守宁夏平罗。
招兵买马、扩展地盘，是土匪、军阀共有的本性。苏雨生见有机可乘，认为这正是扩充自己势力的好机会，便树起大旗，广招兵马，来者不拒。
中共陕北特委抓住这一开展兵运工作的有利时机，先后派遣谢子长、刘志丹等一批共产党员，打入苏雨生部。
苏雨生部第八旅第十五团团长王子元，与谢子长、刘志丹相识，比较开明，愿意借助一些年轻有为的先进分子来扩充自己的实力。于是，中共陕北特委决定把该团作为兵运的重点，先后派遣共产党员张东蛟、高岗、张秀山、贺晋年、高鹏飞等到该团，秘密开展兵运工作。