这个时候的日军第11军司令官-冈村宁次也陷入在一种苦恼之中，按照原先的部署，第11军方面应该是以第6师团沿长江北岸的广济、蕲春、浠水、上巴河、新洲，经靠山店攻占汉口。而波田支队则是与海军配合，沿长江南岸，经瑞昌、阳新、白沙、大冶、鄂城、葛店、鲁港，攻占武昌；第9、第27师团并列前进，由瑞昌、阳新地区向西，经三溪口、坳下、担山沿线及以南地区，攻占咸宁、汀泗桥铁路沿线地区，击溃中国在该地区的主力部队，遮断粤汉铁路，以阻止中国部队向武汉增援和向南撤退；而第101师团则经庐山以东、第106师团经庐山以西，沿南浔铁路经德安、永修，攻占南昌。
然而这两个多月里作战却是频频不顺，所属各师团是损兵折将，而相比之下，第2军就显得顺利多了。按照部署，第2军是以第10、第3师团，于六安、乌龙庙、黎集和叶集击溃当面守军，经石佛、固始、潢川、罗山攻占信阳，击溃中国在该地区守军的主力，遮断平汉铁路，然后沿平汉铁路及以西之应山、安陆、云梦、汉川、汉阳，迂回至汉口西南的长江北岸，配合第1军在长江北岸的部队和海军攻占武汉；而第13、第16师团则是计划由六安、叶集攻占商城、新县地区，然后向南经沙窝、小界岭及两侧地区，横越大别山。从两路口、黄土岗、长岭岗、麻城、宋埠、靠山店、黄陂，协同第6师团攻占汉口。
鄂豫皖边界的大别山地势极为艰难，北麓地霍山、金寨、商城一线为分界线，以南全为险峻的山区，以北则逐渐是为丘陵地带。而自六安经固始、潢川、罗山至信阳的公路就处于这一丘陵地带之中。因为在武汉会战刚刚开始的6月下旬，第5战区司令长官-李宗仁判断“日军不会由平汉线进犯，必是溯江西犯”，所以主张“充分采用内线作战原则，迅速集中绝对优势兵力。先于太湖、宿松、英山、广济间狭隘地区，将溯江西进之敌聚而歼之，然后转移兵力，各个击破”。
由于李宗仁反对“处处设防，逐次使用兵力”的策略，所以第5战区的兵力部署的重点在于沿江右翼的防御。当黄梅、广济陷落后。日军第2军已经开始向大别山北麓进攻的时候，第5战区代理司令长官-白崇禧仍然认为日军地主攻方向为沿长江两岸西进，大别山北麓为日军的次要方向。所有并没有做出什么调整。
也正是如此，第5战区左翼兵团当时防守大别山北麓的部署比较混乱，霍山方面为第77军。六安方面为第51军，商城、固始方面为第71军，信阳方面为刚从南阳、驻马店增援来的第27军团；控置于麻城、商城间的则是第2集团军。
而反观之下，日军第2军在月22日接到华中派遣军的令其“以主力沿大别山北麓攻占信阳。再沿平汉路南下进攻武汉，以一部横越大别山策应军主力及第11军地作战”的作战命令后，军司令官-东久迩宫当即制订出了第2军的行动方案。
以第10师团、第3师团击溃当面六安、叶集、黎集一带的中**队，沿六信公路经固始、潢川、罗山攻占信阳，切断平汉铁路。然后沿平汉路及其以西的应山、安陆、云梦、汉川向汉口西南地长江北岸迂回，配合第6、第13、第16师团攻占武汉；
第13、第16师团从六安、叶集攻占商城、新县地区，再南下，经小界岭两侧地区横越大别山，从黄土岗、麻城、宋埠进出至黄陂地区。协同第11军的第6师团攻占汉口。
由于最初第2军集结于合肥的部队仅有第10、第13两个师团。第3、第16师团尚未到达。而按照华中派遣军司令部规定的日期，8月27日便需要开始行动。
尽管第3、第16师团尚未到达。但8月27日，日军第2军集结于合肥地区的第10、第13两个师团还是按照计划分北、南两路开始西进。第10师团从合肥以西的官亭、江夏店地区出发。向六安进攻；第13师团从合肥以南的山南馆、双河地区出发，向霍山进攻。
当天，第10师团击退第57军的警戒部队后，于当晚便从东、南、北三个方向包围了六安城。28日晨，日军开始进攻。当天陷落六安。
而第13师团在青山铺击退第7军地警戒部队后，随即向圣人山、大河厂中**队阵地发动进攻。并以驻合肥的第1飞行团相配合，连续轰炸霍山城的守军阵地。29日霍山陷落。
9月3日，第10师团向固始进攻，当日攻占石佛寺。第13师团则在炮、装、航的立体支援下，强渡史河，攻占了第71军的警戒阵地，继续向富金山第71军主阵地进攻。至4日，第10师团也强渡过史河，激战后占领了第61师地警戒阵地。第13师团则集中力量猛攻富金山左翼阵地。双方战斗惨烈。
激战持续到6日晚，第10师团突破固始东郊守军阵地，当夜占领固始城。而第13师团猛仍被阻于富金山阵地。军司令官-东久迩宫见荻洲立兵之第13师团久攻不下且伤亡惨重，遂令第10师团派一部兵力向南进攻，侧击富金山西麓，企图切断富金山守军与后方商城地联络线，以支援第13师团。
第10师团长-筱冢义男遂派在台儿庄一战中灰头土脸的步兵第33旅团长濑谷启亲率1个步兵联队于7日从固始南下，实施作战。但濑谷支队地行踪却无意中被第71军派赴第13师团侧翼执行侦搜任务的第88师第523团第营所发现。
于是。第88师在濑谷支队必经地坳口塘隘路设伏，一战下来，濑谷支队损失数百人，只得退回固始。而就在当日，第1师团一部占领了乌龙集，但此时第27军团主力已到达潢川地区，第2集团军的第30军也到达固始西南的樟柏岭、方家集附近。
从9月8日开始，第10师团开始攻击第27军团的警戒阵地，而富金山方面第36师阵地和依然处于在第13师团主力的猛攻。双方接连发生激战。
由于此时，增援而来的第1师团已进至六安以西地区，且第2军已派工兵将六安至叶家集间公路修好。这样一来，第13师团无后顾之忧，遂于9日彻夜、10日全天，在飞机轮番轰炸、炮兵集中射击掩护下。集中全力连续向第71军及第114师阵地猛攻。
9月11日凌晨2时起，第13师团猛攻富金山，天亮后，又以飞机20余架前来空袭，至下午16时。富金山除最高峰外，山腰主阵地全被攻占。
守军第71军长宋希濂遂以第61师-第366团掩护第36师后撤，富金山陷落。
而此时，第16师团已从合肥进至叶集以西投入战斗，与第1师团、第10师团协同，继续向潢川及商城进攻。9月14日，第16师团攻陷方家集，续攻峡口。激战竟日，双方伤亡均重。9月16日，第13、第16两师团以装甲车中队为先导，在第1飞行团直接支援下，向商城进攻。第16师团一部迂回至商城以北十里铺。击退守军第30军。商城遂为占领。
根据第2军司令官的命令，第16师团从沙窝、小界岭。第13师团从大河埂横越大别山，前出至武汉东北地麻城地区。策应第11军方面的进攻。
至9月18日，第16师团已至沙窝附近，第13师团于19日进至打船店附近，与守军第30军、第71军和第42军发生竭力对战。守军利用山区险峻地形，构筑了重叠多层、大纵深的防御工事，又不断组织反击，同时时常发起逆袭、破坏交通，实施伏击。第13、16师团伤亡惨重，但都未能突破守军的防线。
而就在9月16日，当第16、第13师团攻占商城时，进攻潢川的第10师团却正在潢川外围与第27军团的第38、第180师及骑兵第2、第13旅激战中。当日19时，第10师团包围第27军团部所在地-五里棚。迫使第27军团长-张自忠只得亲率特务营突围。
次日，第10师团兵分三路围攻潢川城，其中以南路迂回城西南，切断潢光公路。激战至1日，第10师团主力突入城内，巷战至暮，占领潢川。与此同时，第10师团另一部由潢川城北西进，并以一部乘船溯淮河而上，会攻罗山。
当固始失守，潢川已成危局之时，第5战区虽急调原在襄樊整补地第22集团军-第45军至罗山，归第17军团长胡宗南指挥，防守潢信公路及其两侧地区，阻止日军西进攻击信阳。但随着9月18日潢川失守。当天，第10师团一部便与守军第125师发生接触。
胡宗南令第45军全部向罗山推进，另令第16军的第28师进至五里店构筑工事，掩护军团主力集中。但9月19日光山失守，第27军团退入经扶后，至20日，第10师团袭占小罗山高地，而另一部则渡淮河南进，威胁守军侧背，守军第45军遂放弃罗山城。而25日开始，第1师-第1团、第师两军协力，攻克小罗山，由此开始，第1军主力及第167师相继加入战斗，与第45军相协力抵抗。迄9月底，第17军团、第10师团都在发生激战。
这样一来，北线的第2军的进展远远要比江南的第11军迅速，冈村宁次坐不住了，他要走出一步险棋。