4日下午3时，总攻开始了。炮兵猛烈轰击日军司令部大楼及日军兵营，爆炸声惊天动地，火光冲天，硝烟弥漫。在强烈炮火掩护下，第87师和第88师向日军发起进攻。
左翼第88师以第264旅担任主攻，向江湾路日军据点推进；第262旅以北站为中心，牵制和歼灭当面之敌。师长孙元良在弹雨中亲临第一线指挥作战。他在北站大楼上和水电厂屋顶上设置了两个侦察联络哨，分别由副师长冯圣法和参谋长张柏亭亲临观察战情。
担任主攻的第264旅旅长黄梅兴是黄埔一期生，有名的勇将。他参加过东征、北伐作战；1932年“一·二八”淞沪抗战时，在坚守庙行的作战中，团长黄梅兴带领官兵血战两昼夜，挫败日军进攻，被称为“黄老虎”。沪战结束，功勋卓著的黄梅兴晋升为264旅旅长。
黄梅兴带领第264旅（527团和528团）冒着密集的炮火向江湾路推进，在街巷中冲杀。日军凭坚固工事顽抗，逐屋争夺，街垒中一片杀声！从爱国女校迂回攻击的264旅冒着炮火奋勇冲锋，枪弹射到日军特制的钢板防盾上，被乒乒乓乓挡回来，每前进一步都异常艰难。
战至中午，先头攻击部队已接近日军指挥中枢。日军司令部附近尸体遍地，一部分日军退入司令部内，其余日军沿着北四川路逃窜。在日军司令部南面指挥冲锋的黄梅兴旅长，从八字桥侧面率部攻击占领持志大学的日军，在猛烈火力下日军溃逃。“冲啊！”黄梅兴率部追击，日军死伤累累。中队势如破竹，锐不可当，连续攻破日军十多个据点。
在八字桥方向并肩冲锋的第262旅523团团长吴求剑和团副张正戈身先士卒，手拿短枪呼喊着前进，率领全团官兵，一鼓作气攻下了日军据点。
傍晚时分，第264旅进攻爱国女校的日军。敌人强烈炮火封锁了进攻路线。攻击部队伤亡很大，敌我形成相持状态。中队又一阵猛烈攻击，日军阵地开始动摇。乘着日军火力疏松之际，黄梅兴率领官兵发起冲锋。第264旅怒潮般冲破了日军防线，一举攻占了日军阵