1947年1月中旬鲁南战役结束后,陇海路以南整个苏皖地区转入敌后游击战争环境。华中野战军主力北上转入山东。根据中共中央指示,华东解放区对党政领导机构进行了调整,部队进行了统一整编。中共华中局并入华东局,苏皖边区政府取消;新四军军部改为华东军区机关,取消原有的山东、华中两个野战军的番号,正式成立华东野战军,以陈毅为华东军区司令员、华东野战军司令员兼政治委员,饶漱石为华东军区政治委员,粟裕为华东野战军副司令员,谭震林为华东野战军副政治委员,陈士榘为参谋长。华东野战军下辖第1、第2、第3、第4、第6、第7、第8、第9、第10、第11、第12纵队,共11个步兵纵队和1个特种兵纵队。除留苏皖地区兼苏中、苏北军区的第11、12纵队外,能够集中使用的野战军主力为9个纵队约27万人,华东军区部队约有30万人。
鲁南战役后,蒋介石错误地判断华东军区部队伤亡重大,不堪再战,遂急忙调集53个旅31万人组织“鲁南会战”。南线国民党军以整编第19军军长欧震指挥8个整编师20个旅(整编军相当于兵团),组成主要突击集团,自台儿庄、郯城、城头一线北犯临沂。北线国民党军以第2“绥靖”区副司令长官李仙洲指挥3个军9个师(未整编),组成辅助突击集团,由明水、周村南犯莱芜、新泰,进行南北夹攻,企图迫使华东野战军主力在临沂地区与其决战。
针对国民党军的作战企图,华东野战军决心集中主力24个师的兵力,将诱北犯之敌诱进至适当地区,选其突出的一路围而聚歼。1月31日,南路之敌开始北犯,但由于进攻之敌齐头并进,稳扎稳打,不便分割歼灭。自胶济路向南进犯的北线之敌李仙洲集团先头部队,于2月4日到达莱芜。华东野战军认为与其待机过久,不如主动放弃华东军区首府临沂,遂决定迅速北上求歼李仙洲集团。2月10日,华东野战军除留第2、第3纵队伪装主力阻击南线之敌外,主力隐蔽兼程北上。19日,华东野战军各部逼近莱芜、颜庄地区。22日,北线之敌第46军由新泰退至莱芜与第73军汇合,华东野战军即将该敌包围。23日,莱芜被围之敌向北突围,战至中午华东野战军攻占莱芜城,切断了北逃之敌的后路。随后,华东野战军主力自东、西两面发起猛烈攻击,至下午5时,将敌人全歼,战役结束。
莱芜战役,华东野战军以临沂一座空城,换取歼来国民党军1个“绥靖”区指挥部、2个军部、7个师共5.6万余人的重大胜利。此役,粉碎了国民党军南北夹击,逼迫华东野战军在不利条件下与其决战的计划,这一战役俘敌数量之多、歼敌速度之快,都创造了解放战争开始以来的最高纪录。国民党军遭此惨败后,在华东战场整整一个月都未敢出战。