原中央军委副主席、开国中将张震，当时被调去一兵团任参谋长，具体协助粟裕抓好渡江各项准备工作。他在《粟裕在组建东南野战军以后》撰文提到：渡江准备工作“真可以说是万事俱备”。
在先期战略侦察上，组建了先遣支队。
先遣支队主要由华野司令部1个加强营侦察部队和第1、4、6三个纵队各抽调1个加强营组成。“孙仲德任司令员，谭启龙任政治委员”。粟裕要求先遣纵队一定要适应战略侦察和敌后斗争需要，人员组成一定要精干，武器配备一定要精良。按照这一要求，先遣支队干部一律降一级任职，师长任团长，排长任班长，战士由正副班长和老兵充当，共产党员占百分之七八十。粟裕给先遣支队赋予的主要任务是：潜入长江北岸，区分不同侦察地段、了解当地民情、水情及船只情况，筹集渡江船只和其他过江必要物资，同时做好当地群众工作，为将来三个纵队过江创造有利条件。
在思想准备上，开展了广泛深入的“三查三整”。
针对1、4、6纵队出现的“骄傲自满”、“军阀主义”等各种不良倾向，陈、粟决定下大力整治。为此，专门召开前委扩大会，也称为1、4、6纵队高干会议，一兵团高干会议。会议“从3月起至5月底止”，包括兵团纵队联席会议24天，各纵队与师的联席会议12天，彻底解决这三个纵队存在的“军阀主义、官僚主义、宗派主义、自由主义”等各种不良倾向和问题。
在作战训练上，开展了有针对性的训练。
粟裕要求一兵团指战员们，要了解江南战场环境的特殊性，江南敌社情的复杂性，过江战略任务的艰巨性，要求三个纵队大力加强有针对性训练，重点进行了水网稻田地带行军、作战和以攻坚、巷战为主要内容的军事训练。
在后勤保障和供应上，成立了专门的组织。
中央军委专门为东南野战军刻了新的印章，印制了“东南流通券”，下拨了大批银元，以备这一战略行动使用。中原局指示冀鲁豫区党委副书记、军区司令员赵健民，全力负责华野一兵团的兵员补充、物资供应等各项保障工作。一兵团还专门组成了财经委员会，由骆耕漠负责。
在对渡江地域选择上，重新进行了调整。
原先设想的是从湖北的宜昌或洪湖地区强渡长江，挺进到湘西、鄂南，经湘赣，尔后进至京沪杭地区。粟裕经过审慎思考后，感到渡江地区的选择，似在湖口、当涂段或南京至江阴间为宜。粟裕认为，这些地域靠近我苏中、皖中老根据地，人情水情均熟悉，也便于我军隐蔽企图。部队可以采取宽正面、分路分梯队偷渡的方法。这样一来，渡江成功后离战略目的地也较近，可以大大减少长途转战带来的伤亡和消耗，也更容易达成战略行动的突然性。
