哈尔滨又是通往苏联和连接北满的重要门户，具有重要的战略价值，是战后国共两党争夺的要地。它虽然不是解放战争期间我军最先解放的城市，但却是我军从1946年占领后就一直控制的唯一一座大城市。抗战胜利后，国民党虽然派大员接收了哈尔滨市，但一直到1946年4月27日苏联红军全部撤走，实际上只接收了政府机关的一套虚设机构和一座省政府办公大楼，周边各县的各级政权他们一个也没能接收。
因此，在苏军撤离后尽快夺取哈尔滨，将以哈尔滨为中心的北满根据地建立成我军决战东北的战略后方，就成为北满军区的重要任务。
为夺取哈尔滨，北满军区于1946年4月1日成立了哈尔滨前线野战司令部，高岗亲任司令，开始组织攻打哈尔滨。
当时国民党在哈尔滨的武装力量并不强，但战败后的日本在哈尔滨仍有一定的势力。为了防止国民党利用日本人的力量与我军争夺哈尔滨，高岗同陈云于1946年4月11日致电哈尔滨市委书记王友，指出：
国民党必然会利用日本人与我争夺哈尔滨，这一力量不容忽视，要设法通过各方面关系，争取他们保持中立。可向日本资本家说明，只有保持中立，将来才可能在满洲保存其财产和生命，并通过他们影响日本军人和特务。
电文中还告诉王友：
据黑龙江省来电，孙吴东北方三十五公里的山中有许多山洞，隐藏有日寇，数目不详，带有枪炮，储有可供三年用的食物。苏军从黑龙江撤退时曾进剿过一次，望转告苏军，请他们在此次撤退前再进剿一次。(17)
同日，高岗还电告王鹤寿、范式人、叶长庚，命令他们从北安抽调有战斗力的成建制的1200人，于当月25日运至呼兰集结待命，准备参加争夺哈尔滨的战斗。
驻哈苏军是从4月20日起陆续撤退的。三五九旅和松江各部队1万多人伴随着苏军的撤退也悄悄地陆续进驻哈尔滨市10个区中的7个。仅有南岗、道里、道外因苏军尚未撤完，我军暂时没能进驻。
眼见苏军一天天地撤退，共产党的军队也一天天兵临城下，城里国民党的接收大员胆战心惊，惶惶不可终日。那些曾经猖狂活动的“地下军”也树倒猢狲散，各自亡命。国民党松江省和哈尔滨市政府共同向驻哈苏军交涉，获准利用当地的飞机场，自4月19日起，由东北行营派出飞机，分三批运出重要公务文件及公务人员30多名，其余要员于25日搭乘苏军撤离的火车绕道海参崴再乘船经上海回南京。
4月25日，在驻哈市区内苏军开始撤离的同时，攻城指挥部实地考察了哈市内外的地形，选定哈南为主要进军方向。
4月27日，北满军区决定：攻城指挥部由哈东迁移至哈南的平房附近；独二旅第七一七团、炮兵营、骑兵大队位于哈南之王岗、一七四高地、双榆树及平房以北地带，突击南岗；第七一九团位于哈东之王乡屯、靠河寨之间，突击道外；特务团位于哈市西南之陈家岗、王岗车站附近，突击道里；第七一八团位于平房附近做预备队。松江军区部队和从北安调来的千余武装人员，也进入指定出击位置。
同日，高岗与陈云在哈尔滨郊区召开各部队干部会议，部署进军哈尔滨。高岗在会上要求准备50辆卡车，由三五九旅抽出1000人的精干部队，准备追击逃离哈尔滨的敌人。同时还命令卫戍司令部负责统一解除旧警察武装，把物资仓库接收保管好，各部队不要擅自行动。
28日凌晨，随着最后一列苏军火车撤离哈尔滨，北满军区哈尔滨前线部队紧跟进入市内，直插预定占领目标。沿途几乎没有战斗，仅在南岗和道外个别地方遇到小股顽敌，稍加回击即立刻溃逃。前线部队在哈尔滨市70万市民的热烈欢迎下，浩浩荡荡地进驻哈尔滨。
傍晚，高岗和陈云随同北满分局和北满军区机关迁入市内。
不久，中共中央东北局也进驻哈尔滨。从此，哈尔滨成为东北解放区的政治、军事、经济和文化中心。
收复哈尔滨，使广大指战员都沉浸在胜利的喜悦之中，高岗、陈云更是喜上加喜——他们的夫人和孩子也在此时几经辗转从延安来到了哈尔滨。
李力群是在高岗离开延安一个月后，与陈云、彭真、张秀山、黄火青等人的夫人一起出发来东北的。当时没有火车，更不能乘飞机，最好的交通工具是“骡轿车”——两匹骡子中间架一个“架窝子”，孩子和大人坐在里面。李力群一人带着三个孩子：四岁的宝娃、两岁的延延和仅仅几个月的安安，就是坐着这样的“架窝子”，由延安奔赴东北的。