5月31日，许昌外围的战斗已经持续了一天一夜。中国军队的进攻没有停歇，日军的反击也从未中断。炮火把城外每一寸土地都犁过数遍，空气中弥漫着浓烈的硝烟和血腥气。
北面战线，第78军和新7军在装甲第2师的配合下，已经楔入日军第一道防线纵深两公里。但日军很快从两侧调来战车第3师团的坦克和战防炮，在第二道防线前发起反冲击。
十几辆九七式坦克从斜刺里冲出来，轰击中国军队的步兵纵队。几辆二九式中型坦克迎上去，在五百米距离上对射。日军的九七式坦克装甲太薄，中弹后接连起火，剩余的慌忙倒车。第78军的步兵趁势发起冲锋，又向前推进了五百米。
东北方向，新5军和独1师、独2师的进攻同样遭到强烈抵抗。日军独立步兵第9旅团在许昌东北外围修筑了密集的碉堡群，火力交叉无死角。中国军队每攻一个碉堡都要付出惨重代价。一个连冲上去，回来时只剩下三十多人。
独1师师长周铭的电话打到吴青的指挥部：“司令，东北方向太难啃了。鬼子把碉堡群连成了一条火力带，步兵冲一次倒一片。我请求炮火再集中些，把碉堡一个个点名。”
吴青正盯着地图，闻言答道：“周铭，你们那个方向不能只靠步兵硬冲。把装甲车和火箭筒分队集中使用，打掉几个关键碉堡后，部队插进去，绕到后面打。我给你再调两个火箭炮连。”
罗广文插话道：“新27师已经从开封赶过来了，我让他们从独1师东侧加入战斗。这样东北方向兵力能厚实一些。”
吴青点头：“命令炮兵，重点轰击东北方向的碉堡群。十分钟后，周铭部再发起一次冲锋。”
西北方向，第4、36、39集团军的部队打得十分艰苦。他们缺乏坦克和重炮，只能靠步兵冲锋和少量山炮、迫击炮支援。第36集团军的川军士兵穿着灰白军服，端着步枪和手榴弹，一拨接一拨地往日军阵地上冲。日军第41师团的机枪火力把他们压在开阔地上。许多士兵卧倒后再也没有起来。后面的士兵前赴后继，越过同伴的尸体继续向前。
李家钰在前沿指挥所里坐不住了。他抓起一支步枪，对参谋长说：“我上去看看。叫各师不要停，跟着我的枪声冲。”
参谋长死死拉住他：“司令，您是全军的主心骨，不能上去。我去。”说完带着警卫连冲进了硝烟里。
李家钰站在指挥所外，望着远处一群群士兵在火光中冲锋倒下，眼睛里直喷火。
西南方向，汤恩伯的第12军和第13军也陷入了苦战。日军第62师团在许昌西南的公路上布置了大量地雷和障碍物。中央军的工兵在前面排雷开路，步兵则猫着腰跟在后面。日军的迫击炮弹不时落下来，炸得泥土飞溅。第13军军长石觉在电话里向汤恩伯报告：“司令，这条路太难走了，工兵排雷跟不上，部队伤亡很大。”
汤恩伯在指挥部里踱了几步，说：“那就绕路。让部队从公路两侧的野地里过，不跟地雷正面碰。鬼子总不能在整片野地里都埋雷。”
石觉道：“野地里也有，不过少一些。我这就让部队改道，从东边绕过去。”
汤恩伯点点头，语气缓和下来：“告诉弟兄们，许昌就是日军的脊梁骨，只要拿下来，后面的仗就好打了。受点伤掉点血，值。”
空中，中日双方的飞机几乎每天都在厮杀。日军为了增援许昌，从山东各地抽掉了上百架飞机，连续三天轮番来袭。第5路军和第7路军的驱逐机在许昌上空与日机缠斗，双方损失都不小。
中国空军的轰炸机顶着防空火力对许昌城外的工事投弹。日军的高射炮阵地火力全开，一团团黑烟在高空绽开。许昌的天空被火光和硝烟遮蔽。
6月2日黄昏，北面战线终于突破日军第二道防线。第78军和新7军推进到许昌城北五公里处。日军第35师团残部退向第三道防线，依托城北的村庄和铁路路基继续顽抗。
吴青把指挥部前移到城北的一处砖瓦窑里，借着夜色观察许昌城的方向。
城头灯火点点，日军正在连夜加固城墙工事。
看了许久，吴青对罗广文道：“打到这份上，不能给日本人喘气的机会。命令部队后半夜进攻第三道防线。晚上日本人的炮兵看不准，坦克也难展开。我们趁夜打，发挥步兵近战和火箭筒的优势，争取明天天亮前打到许昌城下。”
夜色中，第78军和第7军的步兵冲入城北村庄。火光里枪声四起，日军从屋顶和院墙后射击。国军奋勇冲锋，与日军逐屋争夺。
李平安的九连冲向一个叫马庄的小村子里。他将连队分成三个小组，从村西和村北同时摸进去。日军在村口的碉堡刚一开火，便被火箭筒掀掉。九连趁机冲入村中，和鬼子在巷子里短兵相接。李平安一枪托砸倒一个鬼子，回手一刺刀挑翻另一个。敌我双方激战两个多小时，九连战士浴血奋战，成功击溃日军，拿下马庄。
6月3日，东北方向的独1师和新5军也打到了许昌城东。西北面的第4、36、39集团军和西南面的汤恩伯部虽然伤亡惨重，但也缓慢推进到了第三道防线。日军外围阵地已处处告急。许昌城内的内山英太郎不断调预备队填补缺口，但外围防线还是被一点点撕碎。
6月4日下午，随着许昌城北最后一批日军丢弃阵地退入城内，许昌外围三道防线全部被中国军队突破。
各部队开始向城墙逼近。枪炮声从四面八方朝许昌城聚拢，攻城大战一触即发。