日本陆军牡丹江重炮兵联队于1941年11月组建于阿城，长期驻扎在牡丹江，由本部、2个大队、4个中队和后勤部队组成，每个中队装备2门240毫米榴弹炮，全联队共有官兵1208人。
1945年7月，牡丹江重炮兵联队编入第34军作战序列，计划在8月中旬之前转移到朝鲜咸兴，大部分武器和物资都已经整理完毕，部分辎重和器材已经在城子站装上火车，第2大队长等几名军官先行前往朝鲜为联队主力的转移做准备。当8月9日日苏开战时，牡丹江重炮兵联队能够出动的兵力包括联队本部、2个大队、4个中队的1200人，但是每个大队只有1门火炮可以投入作战，该联队最大的问题是所有火炮牵引车都已经被调回本土，准备用于本土决战。
8月9日清晨，苏军飞机对联队驻地进行了空袭，对日军营房进行了扫射。日军立即进行紧急集合，并根据第34军的命令前往穆棱阵地迎击苏军。8月10日傍晚之前，联队全体进入阵地并进行射击准备，同时还进行了散兵坑、反坦克壕的构筑，联队本部设在小豆山。第1大队的1门火炮在进行备战时出现故障，无法射击，该大队于是与联队本部会合，共同防守小豆山阵地。第2大队在10日天亮前抵达北林台阵地，并将1门火炮部署在阵地中，并做好射击准备，联队后勤部队则前往牡丹江领取武器弹药。
8月11日傍晚，苏军开始炮击。半夜，日军集结在牡丹江公路沿线的弹药车、卡车中弹燃烧，一时间火光冲天，照亮了夜幕笼罩的大地。8月12日11时，苏军坦克沿牡丹江公路干道发起突击，第2大队的火炮立即展开阻拦射击，重型炮弹的威力使数辆苏军坦克失去行动能力。然而，在发射了数十发炮弹后火炮发生故障，苏军坦克趁此机会继续沿公路西进。下午16时，苏军步兵部队开始进攻，虽然日军第2大队通过再次集结发起全体反突击迫使苏军暂时后退，但苏军后续部队在炮兵支援下再度发起攻击，代理大队长以下多名军官受伤，士兵伤亡甚大，阵地失守，幸存人员分散逃跑，一部分人撤到小豆山阵地。
战至8月12日夜间，第1、2大队和后勤部队的人员陆续与联队本部会合，总数约有600人。8月13日上午，联队长进行训示，要求全体官兵死守小豆山阵地。从8月13日至14日，苏军向小豆山阵地发起猛烈进攻，战斗进行得极其激烈，苏军坦克已经推进到阵地前沿。8月14日，苏军进一步压缩日军的阵地，迫使联队长下令破坏停在小豆山后方的数十辆卡车。
当天夜间，苏军集中兵力继续进攻，在坦克的掩护下，苏军步兵突入了前沿阵地，日军将所有可以拿枪的人员组织起来实施反击，勉强将苏军击退。然而，战至8月15日小豆山阵地已经被苏军重重包围，苏军炮兵对日军阵地进行了反复的火力覆盖，山上的树木植被全被炮火摧毁，已经变成一座秃山。联队长下令残余人员向苏军发起最后的决死突击，全部被苏军歼灭，牡丹江重炮兵联队也迎来了它的末日。
