大云山战斗是这次会战前奏，虽不是会战正式开始，却持续了十天，发展到相当大规模。大云山位于新墙河以北数公里处，是第九战区的重要前进阵地之一，山顶由第4军一个加强营守备，其西侧为第4军第102师第306团，东侧为第58军新编第11师的一个步兵营。
会战前，守军不断派出小部队向日军后方袭击，破坏其交通设施。
日军第11军为准备会战，掩护主力向新墙河以北集中并隐蔽展开、占领较大的渡河地带，命令原在岳阳守备的第6师团，对大云山进行扫荡，解除其侧后威胁。
9月7日晨，第6师团第23、第45联队在航空兵支援下，向大云山北侧进攻，遭到守军阻击后向东南侧迂回；其第13联队向大云山西侧进攻，与守军第102师发生激战。8日至9日，日军第6师团主力继续向大云山东侧猛攻，守军虽奋力抵抗，但在日军强大火力猛攻下，阻击无效，即弃守大云山。
10日，第6师团主力完成扫荡任务，撤离大云山，向桃林方向集结，其第13联队则在甘田、团山坡附近被中国第102师和第59师一部所阻，陷于苦战。
同日，中国第58师收复大云山阵地，向大云山增援的第37军第60师也到达战场，第27集团军遂令新编第10师、第59师、第60师围歼当面日军，定于次日拂晓开始攻击。
11日，正当这三个师与第13联队激战时，由咸宁西进的日军第40师团重松支队赶到甘田，接应第13联队向草鞋岭撤走。12日至14日，中队继续向重松支队进攻，双方在甘田、团山坡的狭小区域内互相争夺，伤亡均重。
15日，日军又令荒木支队增援，战斗极为激烈。
这时第九战区发现日军已有四个师团以上兵力集结于湘北，日军即有向长沙发动大规模进攻的迹象，遂令第27集团军主力向新墙河以南转移，大云山战斗至此结束。
9月17日，日军调往湘北的部队已全部集结完毕，进入进攻出发地。
第11军新任司令官阿南惟畿召开司令部人员会议，说明作战意图。