晋城市历史悠久，文化遗产丰厚，是华夏文明的发祥地之一。早在两万年前的旧石器晚期，这里就留下了人类生活的足迹。相传女娲氏、神农氏、九黎部落首领蚩尤及尧、舜、禹等都曾在这里活动过。女娲补天（传说中华人文始祖女娲氏炼石补天遗址和栖息地——娲皇窟，也在泽州县水东乡丹河北岸浮山北谷）、神农播种（中华第一大帝神农氏采五谷尝百草的羊头山和古墓冢也在高平市境内）、禹凿石门（阳城县境内有石门）、愚公移山、精卫填海等历史传说都有实地可指。古书《墨子》中曾有“舜耕于历山”（今沁水县境内有历山舜王坪），“渔于获泽”（今阳城县城东有获泽河）的记载。还有以沁水下川、陵川塔水河、西瑶泉为代表的原始文化，以泽州高都、沁水八里坪为代表的新石器文化。公元前260年，历史上著名的 “长平之战”就发生在高平一带。

        晋城政区的设置，最早可追溯到公元583年,在隋开皇初年这里就设置州府,称为"泽州"。以后虽历经变化,但管辖范围大体一致。自古以来，这里物华天宝, 人杰地灵，矿产资源丰富，有"煤铁之乡"之美称。始于商周、盛于春秋的冶炼业，在长达数千年的发展中日精月进。仰历史文明之光，这里曾哺育和造就了一大批历史名人，如唐代著名佛经注疏家高僧慧远，宋代文学家刘羲叟，首创诸宫调的艺术家孔三传，明代经济学家王国光，诗书大家张慎言，清代文渊阁大学士、《康熙字典》总编纂陈敬廷，数学家张敦仁，当代著名作家赵树理等，他们为中华民族的繁荣昌盛做出了不可磨灭的贡献。建国后，山西划为7个专区，南5县归长治专署管辖。1958年并大县，将晋城、高平、陵川3县为晋城县并沁水、阳城2县为阳城县。1961年恢复5县制。 1971年晋东南专区改为晋东南地区，南5县一直属于专区、地区管辖。1983年7月，改晋城县为县级晋城市。1985年5月，经国务院批准，撤消晋东南地区，成立省辖地级市晋城市，实行市管县新体制，以原晋城市（分为城郊两区，郊区即现在的泽州县）、高平、阳城、沁水、陵川4县为所属行政区。省辖市始于此，管辖范围与古泽州版图一致。