1949年2月，华东野战军第6纵队改称为第24军，属第三野战军第8兵团建制。辖第70师，第71师，第72师。6月，第70师北上配合兄弟部队解放青岛，第71师南下淮北，归鄂豫皖边区联合剿匪指挥部指挥，进剿大别山地区土匪。8月11日，第72师配合兄弟部队攻占长山列岛。1950年3月，第71师归建。1952年7月20日，第71师撤销，师部组建空15师。第25军74师归第24军建制。9月，第24军改归第9兵团。1955年10月，第24军驻防河北唐山。1961年1月12日，65军炮575团加农，榴弹炮各1营归24军，改编为军炮兵团，高炮团。1963年11月1日，建立工程兵第3工区，归24军建制。1966年6月15日，70师改编为北京卫戍区警卫第3师 ，24军北移至承德。1969年12月全军重排番号，第74师改称第70师，并重建第71师，工程兵第3工区改为第71师。1985年7月，第24军改编为陆军第24集团军。由原陆军第24军辖第70，71，72师，炮兵旅、高炮旅以及守备第4旅（1992年撤销）组成。1996年原属天津警备区的坦克第1师（该师是我军第一支坦克部队）调入该集团军。1998年，步兵第72师与唐山预备役师合并，组成河北省预备役高炮72师。坦克第1师改为装甲师。同时，天津警备区摩步第196旅也转归第24集团军。2003年24军被撤销。