1943年的6月5日—和9年前东乡平八郎大将的国葬仪式是同一天举行了山本的国葬仪式，—国葬仪式在东京日比谷公园的殡仪场举行。
米内光政担任国葬仪式委员长，盐泽幸一为司祭长。司祭长和丧主义正穿的是带有帽子的神道仪式服装。山本的遗孀礼子穿的是贵夫人着用的和式丧服。
上午8时50分，“武藏”舰上的水兵捧着安放在水交社祭坛上的山本的灵柩，送上了等候在水交社门前的黑色炮车。灵柩上覆盖着白布。
内藤清五所指挥的海军军乐队奏着肖邦的“送葬”曲走在灵车队的前头。灵车缓缓地走下水交社门前的坡道向右拐，经神谷町千代子的家门口，过虎门，向内幸町的方向驶去。山本的亲属、生前友好及对山本有着深厚感情的人们，在沿途的两侧早已恭候。千代子也在他们中间。新闻界的记者们，见千代子在路旁出现，竞相争抢镜头，在路旁的人们为之一阵骚动。
灵车队在海军大臣官邸前转弯，直向日比谷公园驶去，9时50分，到达殡仪场。
渡边安次在车队中捧着山本元帅的指挥刀。三和义勇捧着大勋位勋章。
三和义勇是因在拉包尔患了登革热才来东京的，这时正在东京住院。他骨瘦如柴，脸色蜡黄，身体极度虚弱。本来是不让他参加国葬仪式的，可他执意不从。他强烈要求说：“无论如何，我也要参加。”他随车队来到殡仪场，把勋章放在祭坛上，正要往后退去时扑通一声晕倒在地上。
在殡仪场上临时搭起的简易棚中举行了国葬仪式。该棚由无色木料构制而成，上面和周围围以黑白相间的帷幕，虽然朴素简单，但却不失庄严肃穆的气氛。里面祭奠的意大利首相墨索里尼所送的玫瑰花束，使仪式显得更加隆重。
参加国葬仪式的全体官兵的总指挥是陆军大将土肥原贤二。前来参加仪式的有1500余人，其中包括有以总理大臣东条英机为首的那些“山本未必喜欢”的人。
国葬仪式正式开始后，首先到灵前吊唁的是天皇、皇后和皇太后所派命臣—德大寺侍从、小出事务官、两邑事务官等，接着是各皇族或他们所派来的代表。当脚穿草鞋，戴着眼镜，手持玉串的22岁的义正缓步来到灵前时，军乐队奏起海军仪礼曲《舍生》的前八段乐曲，同时鸣枪三响，以示哀悼。
下午，有几万名普通市民前来谒见、吊唁。吊唁结束后，山本的骨灰盒被用车送往小金井的多磨墓地，安葬在东乡平八郎墓的旁边。
山本的姐姐高桥嘉寿子，这时已经78岁了，腰背已驼了。她在亲友的陪同下，于举行国葬仪式前四天来到了东京。临来时，他特意带了两个大包袱。其中大多为山本所最喜欢吃的东西。如各种甜食、手工包的粽子和长冈地方所特有的风味—水包子等，还有少量的衣物。国葬结束后一周左右，她带着弟媳礼子和两个外甥返回了老家长冈。到这时，她的紧绷得神经才稍微有些放松，情绪也有所缓和。她抱着弟弟的骨灰盒，嘴里不时地自言自语道：
“小五十，我们回家了。这回，姐姐再也不离开你了，始终守护在你的身旁。”
送回长冈的山本的骨灰，被安葬在名为长兴寺的禅寺内。墓碑上，赫然醒目的刻有桥本禅严特意为山本题写的两行大字：
大义院殿诚忠长陵大居士
昭和十八癸未年四月战死于南太平洋
其中，“大义院殿诚忠长陵大居士”为桥本禅严为山本取的戒名。
山本的墓在3.6米见方的围墙围括，和其养祖父山本带刀的墓在一起，这里是山本家族的坟茔地。带刀的墓建在明治初期的戊辰之战以后。因那时，朝廷把长冈藩视为叛军之地，所以，带刀的墓修建得很简陋。山本丘墓的规模当然不能超过其养祖父。在米内等人的提议下，山本的墓碑比其养祖父的矮一寸，窄半寸，所用资金仅为当时的70日元，同当时日本战死的海陆军高级将领的墓碑相比较，山本的所费最少，修建得也最简单。
6月3日的早晨为山本举行完国葬仪式后，原法相小原直、新县知事土居章平、等人，在东京丸内的日本俱乐部里，曾商量要搞哪些表彰山本元帅的纪念活动的问题，其中的一项就是，要“在长冈市修建山本神社”国葬仪式后不久，他们请示了中央的有关部门和要人。
这一动议在当时来说并不算过分，是完全可以理解的。因为在这之前，已经修建了乃木、东乡等神社。但是，米内光政和堀悌吉两个人对此坚决反对。