遵化于五代后唐始设县治，“遵化”之说来自“遵循孔孟之道，教化黎民百姓，”。 　　今市辖区，春秋时为无终于国地，战国时属燕国。秦属右北平郡，为俊靡县及徐无县（故城在今县西）地。汉、魏因之。晋省俊靡县入徐无县，属幽州北平郡（治干徐无县）地。北魏太平真君七年（446年）废北平郡为渔阳郡，徐无县属之。北周省徐无县入无终县，属渔阳郡。隋为无终县地，属渔阳郡。唐万岁通天元年（696年）改无终县为玉田县，属河北道蓟州。天宝元年（742年）于玉田县城东北九十里处设平州买马监，后唐于监置遵化县（治今遵化镇），属蓟州。辽时遵化县属南京道析津府景州，为景州治。宋宣和四年（1122年），金以景州来归，赐名滦川郡，治于遵化县，属燕山府。七年（1129年）复入金，遵化县属中都路蓟州。元代遵化县属中书省大都路蓟州。明代遵化县属京师顺天府蓟州，并于洪武元年（1368年）在县治南置遵化卫，隶北平都指挥，于永乐元年（1403年）徙东胜左屯卫于县治，又于县东南置忠义左屯卫，并隶直隶后军都督府；同年徙宽河守御千户所于县治，仍属大宁都司。清初废遵化卫、东胜左屯卫及宽河守御千户所，并入遵化县，属顺天府；康熙十五年（1676年）以陵寝重地，升县为州，并省忠义左屯卫入州，属顺天府；乾隆八年（1743年）升为遵化直隶州。民国初因之，二年（1913年）复改遵化直隶州为遵化县（驻遵化镇），属直隶省渤海道；三年渤海道改称津海道，遵化县属之；十七年（1929年）属河北省。十九年（1930年）析遵化县长城以北地区及蓟县、密云县、部分地区置兴隆县。二十二年（1933年）遵化县被日军侵占，后属伪"冀东防共自治政府"。 　　1947年遵化县获得解放。1949年8月1日，遵化县属河北省唐山专区。1959年12月20日撤销迁西县，将该县部分地区并入遵化县。1960年4月2日撤销唐山专区，遵化县划归唐山市.1961年5月23日复设唐山专区，遵化县还属之。同年7月9日恢复迁西县，前并入遵化县的迁西县辖区归还迁西县。1970年唐山专区改称唐山地区，遵化县属之。1983年5月5日撤销唐山地区，遵化县划归唐山市管辖。1992年遵化撤县建市，成为唐山第一个县级市。