12月12日晚，唐生智召开师以上将领会议，布置撤退行动。唐生智首先简要说明当前战况，询问大家是否还能继续坚守？众将领沉默无语。
唐生智遂即出示蒋介石命的电令：“电文说‘如情况不能持久时，可相机撤退，以图整理而期反攻。’据此，我和罗卓英、刘兴两副司令长官及周参谋长研究，决定于12日夜开始撤退。下面，由周参谋长分发撤退命令和突围计划。”
周斓把撤退命令和方案分发给各将领后，强调说：“首都卫戍部队决于本日（12日）晚，冲破当面之敌，向浙、皖边区转进。各部队行动时间、经过区域及集结地区，如方案规定。各部队官兵应携带四天炒米及食盐。”
唐生智最后宣布：“撤退的原则是：大部队从正面突围，由第66军和83军掩护；第87师、第88师、第36师和教导总队，随司令部由下关渡江，由第36师掩护。会后立即行动。”
城内各部队多沿中山路向下关撤退，而挹江门左右两门洞已经堵塞，仅中间一门可以通行，各部争先抢过，互不相让，不少人因挤倒而被踩死。如教导总队第1旅第2团团长谢承瑞，在光华门阵地曾英勇地击退日军多次冲击，却被拥挤人群踩死在挹江门门洞里。
下关更为混乱。各部队争先抢渡，有的船因超载而沉没；大部官兵无船可乘，用门板制造木筏渡江。
12日晚，卫戍司令长官唐生智、副司令长官罗卓英、刘兴及长官部官兵，从下关煤炭港乘预备的小火轮渡江至浦口，得到日军已至江浦附近、正向浦口包围的情报，遂徒步向扬州顾祝同第三战区司令部靠拢；13日7时到扬州时，顾祝同及战区司令部已移驻临淮关，临行时留下六辆卡车。唐生智等主要官员及卫队乘汽车至滁州转火车，于当夜到达临淮关。
随后，第78军和第36师也由此渡江至乌衣集结，后乘车去蚌埠转信阳至萍乡整顿。
12日晚，叶肇及邓龙光两军长商定：第66军和第83军不执行掩护任务，两军由叶肇统一指挥从正面突围，向指定地点转进。