抗日战争胜利后，各抗日根据地部队纷纷组建野战军，其中新四军主力与山东军区部队各一部为应对国民党军队北上而组建津浦野战军，1946年1月初津浦野战军改编为山东野战军。山东野战军成立后辖四支部队，分别为两个野战纵队及两个师，总兵力七万余人。尽管称为山东野战军，但这四支部队中仅有一个师为原山东八路军部队，另外三支部队原属新四军，这是什么原因呢？
抗战胜利前后，为执行大反攻任务，山东抗日根据地部队主力整编为八个师及12个警备旅，后山东军区主力陆续开赴东北，包括第一、第二、第三、第六、第七师、渤海新编师全部，第五师大部，警备第三旅，军区教导团，东北挺进纵队及部分基干武装等部队。津浦野战军成立时主力为新四军北上部队，仅山东军区第八师编入该部，后津浦野战军整体改编为山东野战军，山东野战军辖有的原山东军区部队就仅为第八师，此时山东军区地方部队仍由二十二万余人。
山东野战军第一纵队原为新四军第一纵队，司令员为叶飞，政治委员赖传珠。叶飞祖籍福建南安，生于菲律宾幼年时回国，1933年参加工农红军，红军主力长征后于闽东开展游击斗争，是闽东抗日根据地及红军游击队的主要领导人之一。抗日战争爆发后，叶飞先后任新四军第三支队第六团团长、江抗副指挥、新四军挺进纵队政治委员、新四军第一师第一旅旅长兼政委、新四军第一师师长等职，解放战争时期曾任山东野战军第一纵队司令员、华东野战军第一纵队司令员、第十兵团司令员等职，1955年授衔上将。
第二纵队原为新四军第二纵队，司令员为罗炳辉，政治委员韦国清。罗炳辉是云南彝良人，曾加入滇军参加过护国战争、东征及北伐，1929年率部起义参加工农红军，后参加了历次反围剿及长征，抗日战争爆发后赴华中任新四军第一支队副司令员，此后历任第五支队司令员、第二师副师长、第二师师长等职，解放战争时期曾任山东野战军第二纵队司令员、山东军区副司令员等职，1946年6月病逝于山东兰陵。
第七师原为新四军第七师，师长为谭希林，政治委员曾希圣。谭希林是湖南长沙人，黄埔五期毕业，后参加了秋收起义、长征。抗日战争爆发后，谭希林曾任陕甘宁边区保安司令部参谋长、新四军第4支队参谋长兼第14团团长、江北游击纵队司令员、第二师第六旅旅长兼政治委员、第七师代师长等职，解放战争期间曾任山东野战军第七师师长、胶东军区代司令员、解放军32军军长等职，1955年授衔中将。
第八师为原山东军区第八师，师长为何以祥，政治委员丁秋生。何以祥四川西充人，1930年加入红军，曾参加湘鄂川黔苏区反围剿及长征，抗日战争爆发后曾任115师晋西独立支队二团团长、115师教导第二旅参谋长、鲁南军区副司令员、山东军区第八师副师长等职，解放战争时期曾任山东野战军第八师师长、华野三纵司令员、第八兵团参谋长等职，1955年被授予少将军衔。
