在“五一大扫荡”的日军计划中，5月11日至15日是其第二期作战，核心是“铁壁合围”，企图一举全歼八路军领导机关。这是整个扫荡中最凶险的阶段
由于日军佯动成功，根据地外围群众一部分跟主力翻边到敌占区，一部分被挤压到中心区，冀中军区领导机关一度被合围在深（县）、武（强）、饶（阳）、安（平）核心区的“三角地带”。·这个范围相当于北京五环
5月11日，日军第41师团配属第九旅团，约3万人，由南向北向心攻击，日军110师团约一万人，从滹沱河由北向南向心攻击，26师团和第七旅团约1万人，由东向西进攻，各部队配备两倍到三倍的伪军，这些部队均从外地调来，伪军由投降国军和地主武装扩编而来，均在事前得知的五万人人范围之外。由于伪军的数量没有准确资料，根据当事人回忆，伪军数量大约是日军的两三倍，事实上更多的伪军源源不断，进入根据地修建炮楼。
5月11日，第六军分区被合围，第八军分区被打散，5月13日，军区机关在第27团等部的掩护下，与敌反复周旋血战，最终成功突破包围圈，转移至滏阳河以东地区，跳出了主合围圈。警备旅1团2营，打出了著名的西河头阻击战（5月10日-12日）与5000日军周旋两天，成功掩护军区机关突围。
遭到严重打击的八路军机关，对日军兵力没有更进一步的消息，这时候的八路军总部和晋察冀军区，都还按照五万日军部署反扫荡事宜。
5月15日，日军占领冀中根据地全境，日军上下振奋，但是冈村宁次根据遗尸数量与战前情报对比，认为八路军并未重创。日军破译八路密码，对八路的数量有切实掌握。因此耍了个花招，命令中心区日军撤出。导致冀中军区判断扫荡进入尾声，随即命令各部队返回中心区。5月23日，第六军分区，在崔氏村遭到日军1.8万人合围，警备旅全军覆没，6月8日，第八军分区在雪村被包围，军区被打散。第九军分区得知消息后，吓得立即返回白洋淀。
激烈的战斗，大量往来的电讯信号暴露出来，日军随即锁定129师和八路军总部的位置。5月19日，以2个师团又三个旅团的兵力，攻击太行山地区，目标直指指挥中枢。这才是五一大扫荡真正的杀招。将军抽车，打掉你的指挥系统，逼迫八路军各部各自为战，无法配合。