蒋介石训示完毕后即渡海返大金门。下午4时，郝柏村奉彭孟缉之命，率团长代表一人、政治部主任及士兵代表各一人，赴金门“防卫司令部”。5时半，蒋介石又在“防卫司令部”召集团长以上主官点名并即席训话：退出大陆已九年，从三十七年开始失败，则已十年。十年来受耻忍辱，含辛茹苦，日日期望“反攻复国”才能扬眉吐气，此机已待十年。越王勾践十年生聚，十年教训，近已时代不同，十年工夫不算少，此机如不到，徒有此心，并不能达到的……我们再不打胜仗，尚有何面目见世人，而决心牺牲就是成功的条件。金马四面环海，敌四面可来，再加以空中威胁，指挥第一要紧是作战纪律，只许看海面不许看上空，此即吾人锻炼精神、争取胜利之大好时机。
7时30分晚餐，蒋介石又即席对战术方面作重要指示：（1）注意空中、地下、水底，空中、海底非吾人能力所能办到，此时特须注意地下。现在坚强防守非进入地下不可，故工事地下化第一重要，但地下化一事在保存战力，这是临时的，而更重要的在发挥地面力量，不可为地下工事所限制。（2）金马每一主官，必须确保核心据点，与核心工事共存亡。核心工事即是死所，须知吾人攻击东山所以未成功者，乃由于敌据守其核心阵地。只要守住核心阵地，一定会援救你，而核心阵地储水尤重要。（3）加强预备队力量。使用预备队应有计划有准备，军官团教育尤应注重研究。逆袭必须训练，预备队位置应分散配置，集结要快。逆袭就是白刃战，在战术上应从侧方打，如高登岛一营守备部队只有40名预备队，对火力运用现虽有火力协调中心，其可靠性如何，仍待事实证明，而最重要者仍为侧防火。（4）伪装不够，假工事不够。鉴于三十六年（1947）敌渡黄河之教训，不可以未见其集结等而认为不来，特应注意其人海战术。
蒋介石前脚刚走，台“国防部长”俞大维后脚就到。8月23日上午，郝柏村准备去大担及虎子屿视察，突接通知：“国防部长”俞大维来小金门视察。8时，俞大维由金门“卫戍副司令”赵家骧陪同来到九宫，后由郝柏村陪同，先视察红土沟阵地，继至湖井头、双口及沙溪第一线阵地视察，旋至南地区视察厨房、厕所工程，回招待所午餐后返大金门。
这一天，俞大维的兴致似乎特别高，在视察时谈及外岛工事强固时，他不无风趣地说：“某次偕殷格索协防司令视察高登后，余笑谓殷格索将军：‘假如你是共产党，你计划如何来攻这个岛？’殷格索将军很幽默地说：‘我考虑的结果是不攻。’”傍晚，他不顾劳苦，特意吩咐一定要举行一次官兵“同心聚餐会”，以示对部下的关心。聚餐会后，他在金门卫戍司令胡琏，副司令赵家骧、吉星文和章杰陪同下兴致勃勃地游览了位于金门太武山下的翠谷湖。
5时30分左右，突然一阵嘶啸声，掠过太武山头，落入翠谷湖。紧接着，山摇地动般爆炸不止，整个翠谷湖烟雾弥漫，弹片横飞，赵家骧、吉星文、章杰三位副司令还没有明白是怎么回事，就已全部丧命。尽管九年来金门常有炮战，但均不猛烈，炮击前亦都有察觉。但这次事先一点征兆也没有，整个金门岛守军完全处于无戒备状态。俞大维也被这突如其来的炮火完全给打懵了，一时不知所措，幸亏被随行的廖光华拉到路边的山石下躲避，才幸免一死。胡琏在躲过第一次的炮击后，趁着炮火的间歇，侥幸跑回了“卫戍司令部”坑道。由于金门“卫戍司令部”是一座修筑在太武山花岗岩山体中的钢筋水泥坑道，所以顶住了强大炮火的袭击。但是，司令部通往炮兵阵地的所有电话线都在第一次的炮火急袭中被炸断了，金门岛的有线通信联络系统全部瘫痪。人民解放军的监听电台中不断传来金门国民党军用无线电向台湾的紧急呼叫。
20分钟过去了，金门岛上的国民党炮兵方如梦方醒，开始向人民解放军厦门、莲河地区的炮兵阵地进行还击，但很快又被人民解放军强大的炮火压制。一小时后，福建前线指挥部命令：各炮兵阵地注意，炮火延伸，集中打金门岛料罗湾蒋军补给船和机场。人民解放军各炮兵阵地迅速调整射击目标，对准金门岛的料罗湾和机场急速射击。敌“台生”号大型运输舰立即中弹，丧失了航行能力，金门岛上的两个机场也被打得千疮百孔，无法起降飞机了。