为了制裁国民党对大陆沿海地区与沿海岛屿的进犯，也为了警告美国不要插手台湾事务，中国共产党在朝鲜战争结束后，再次将“解放台湾”提上了日程。
10月，中央军委在杭州召开会议。毛泽东在听完志愿军代总司令员杨勇对朝鲜形势的报告后说：“朝鲜停战了，我们身上的担子一下轻了很多，不过，恐怕还不能大意，要有所准备，防止战火又起，备而无患嘛。这两年我们那位在台湾的蒋先生，趁我们抗美援朝无暇他顾之际，仗着有‘山姆大叔’撑腰，很是兴风作浪，在那里做反攻的美梦哩！我们现在已经可以腾出手了，我看该集中力量去解决台湾的问题了。”国防部长彭德怀支持毛泽东的意见：“现在朝鲜局势已经稳定下来，我看应该把空军移到福建和浙江来，首先夺取沿海的制空权，这样能确保渡海部队的安全。”朱德沉吟了一会儿，说：“我认为可以分两步来走，首先是‘清理门户’，也就是把沿海那些还被国民党占领的岛屿解放过来，把我们的门户打扫干净，这样，既解除了对我东南沿海的威胁，打通了海上的南北航道，也砍掉了台湾的手脚，使我们下一步解放台湾时没有后顾之忧。”朱德的这个比喻，生动而且形象，立即得到了与会者的赞同。陈毅提议道：“我认为‘清理门户’可以从大陈岛开始，它是国民党军在东南沿海岛屿的指挥中心和防御核心，攻克大陈岛就能击中敌人要害，东南沿海其他岛屿就有可能不战而克，这样人民解放军可以用较小的代价换取较大的胜利。”毛泽东点头赞许：“大陈岛就交给你陈毅了，你们华东军区先拟定一个作战计划，报军委批准后实施，一定要拔掉这个钉子。”
1954年1月，华东军区几经研究，提出了陆海空三军联合攻打大陈岛的战役计划，报中央军委批准后，立即着手进行作战准备。5月15日至20日，人民解放军渡海作战部队先后攻占大陈列岛的东矾山、头门、高岛、龙金岛、雀儿岱，拉开了解放大陈岛的战幕。
华东军区参谋长张爱萍确定，下一步的攻击目标是一江山岛。一江山岛位于浙江省台州湾外东海中，由南江、北江两个小岛组成，相距110—250米，中间相隔一条江，形成南北对峙的态势。岛上面积共1.7平方公里。北江岛稍大，东西宽1900米，南北长100—700米不等，面积约1平方公里；南江岛东西宽约1010米，南北长约300米，面积约0.7平方公里。该岛西北距浙东陆地黄岩县海门镇30余公里，东南距大陈岛16.6公里，东南距头门山9公里，为上、下大陈岛的前哨阵地。国民党“国防部长”俞大维说：“一江山岛是大陈岛的门户，大陈岛是台湾的屏障，一江不保，大陈难保；大陈不守，台湾垂危！”他和美国军事顾问一起专门对一江山岛作了防御部署，构筑了以永久性和半永久性工事为骨干的较完整的防御体系。阵地纵深三线配置：第一线，以西山嘴、海门礁、乐清礁、三三礁、向阳礁、守固村及南江的巩固坡、田岙湾等突出部为前沿支撑点；第二线，设于山腰各突出部，筑有辅助堑壕及地堡，并以交通壕与前沿及纵深相连接，组成锁闭工事；第三线，以203、190、160、180各高地为主要核心据点，筑有土墙与永备发射点，形成坚强的环形防御。蒋介石对一江山岛的设防情况特别关心，提出“保卫台湾，必先固大陈；要守住大陈，必确保一江山岛”的口号。为了表示死守的态度，蒋介石曾派宋美龄亲临该岛慰问官兵，蒋经国也多次在俞大维的陪同下前往巡视。
5月22日，艾森豪威尔、杜勒斯、中央情报局长艾伦·杜勒斯、国防部长安德逊、雷德福以及总统国家安全特别助理卡特勒等开会讨论大陈问题。雷德福担心如果美国袖手旁观，听任中共占领大陈岛等岛屿，将会损害美国的威信。杜勒斯亦有同感，但不同意公开声明哪些岛屿属于“必保之列”。[35]艾森豪威尔建议，派第七舰队去访问大陈岛，以“显示美国的力量”，但他又说：“在此行中，除非舰队遭袭击，不应与大陆发生冲突。”数日后，美国国家安全委员会决定派遣第七舰队部分舰只访问大陈岛，并在文件中写道：包括大陈岛的沿海岛屿是“台湾防务的重要组成部分”。[36]
面对美方的挑衅，人民解放军的精锐野战部队特别是海空力量逐步移防东南沿海。7月23日，《人民日报》发表了题为《一定要解放台湾》的社论：“蒋介石集团在美帝国主义的支持下在台湾苟延残喘，不断向大陆挑衅，破坏公海航行自由。中国人民再次向全世界宣布，一定要解放台湾，决不允许有侵犯中国领土的事存在。”[37]24日，《人民日报》再次发表题为《人民解放军的光荣任务》的社论：“人民解放军的任务就是保卫社会主义建设，防止帝国主义的侵略，消灭蒋介石残存集团，解放台湾。”[38]