抗日战争全面爆发后, 1940年7月17日,日军占领无为县城,国民党军队不战而逃。9月,江北游击纵队(随后改番号为无为抗日游击纵队)返回巢无地区,恢复皖中地区的抗日形势,并相继建立了区、乡民主政府,皖中地区初步发展成为抗日根据地的雏形。
1941年1月,皖南事变发生,中共中央军委发布“重建新四军军部”的命令,皖中各部队奉命组成新四军第七师(5月1日正式成立),到1942年春,第七师创建了皖中、皖南游击根据地,成立皖中行政公署,吕惠生为行署主任。皖江地区开始有了统一的行政机构。
1943年的一年里,第七师部队与日伪军作战就达189次。根据地军民经受了严酷斗争的考验,克服重重困难,取得了反扫荡和反顽斗争的重大胜利,同时各项建设日益完善,根据地进一步巩固、不断发展。
到抗日战争胜利时,皖江抗日根据地面积3万余平方公里,人口约300万。