成武县历史悠久，早在新石器时期，就有先民在这里居住繁衍。自周初以来，历代王朝曾在这里封固建邑，周初地属郜国，秦置成武县，属东郡，西汉初属梁国，后属山阳郡，东汉属济阳郡，北齐升为永昌郡，历代归属多变，至唐贞观十七年首次归属曹州，五代至金属单州，元复归曹州，明属兖州，清改属曹州府。

　　抗战时期，隶属于晋冀鲁豫十七专区，1942年划属第二十一专区（湖西）。1949年8月属平原湖西专区。新中国建立后，1952年随湖区专区改属山东省，1953年7月湖西专区撤销，改属菏泽专区。1958年菏泽专区撤销，划归济宁专区。1959年恢复菏泽专区（后改为菏泽地区），成武县随属。2001年1月菏泽地区撤地设市，成武县隶属菏泽市至今。治所除497年至606年在郜城外，均在今城址，1377年至1380、1958年至1961年曾将定陶县并入成武县。 

　　建置两千多年来，县名“成”、“城”二字交替使用，1958年，经国务院批准，将县名中“城”字改为“成”，复用“成武”至今。