1944年11月9日，南下支队在司令员王震、政治委员王首道的率领下告别延安，开始了南征。11月20日，南下支队自绥德转而东进，并于21日到达黄河西岸的螅蜊峪一带，之后渡过黄河，通过山西省离（石）临（县）公路，进入晋绥抗日根据地的吕梁山区。到达吕梁山区后，南下支队继续东进，并打算通过陇海铁路转而南进。
在中央统一部署下，南下支队挺进湖南。为了更好地排除国民党顽军的干扰，王震派小部队先到湘阴地区开展敌后工作，并以桃花山为中心建立起湘东抗日根据地和湘东军分区；同时报请中共中央批准，将部队番号“南下支队”改为“国民革命军湖南人民抗日救国军”，将南下支队下属各大队全部改为支队，组织领导一概不变。1945年3月26日，王震率领南下支队主力几经周折进入湘北重镇平江县城。
1945年8月1日，中共湖南省工委书记周里等和王震、王首道举行联席会议，决定将第四支队留在湘潭地区开展游击战争，主力则于8月6日从湘潭与衡山间的龙船港冒雨抢渡湘江。8月10日，南下支队沿粤汉路继续南下，当走到衡山附近的南湾一带时，得知了日本即将投降的消息。得知这一喜讯后，全体指战员欣喜若狂，并加快了向南挺进的步伐。
