辉县市远古时期为共工氏部族居地。
夏属冀州之域，殷商系畿内地，周称凡国、共国。
周厉王十六年，共国君共伯和受诸侯拥戴，代行王政，号共和，是为元年（前841年，为中国历史上有确切纪年的开始）。
春秋属卫，战国归魏，秦属三川郡。
西汉，县境东部置共县，西部属山阳县。
东汉、晋、北魏、东魏因之。
隋开皇六年（596年），省山阳县，改置共城县。
唐武德元年（6），置共州，辖共城、凡城二县；武德四年废州，并凡城县入共城县。
宋因之。
金大定二十九年（1189年），避显宗允恭（共之谐音）之讳，改称为河平县；明昌三年（1192年）又改称苏门县；贞祐三年（12）升苏门县为州，因百泉威惠王祠有清辉殿（取谢灵运“山水含清辉”诗名命名），故以“辉”为名，称“辉州”，领苏门、山阳二县。
元代因之，后废苏门县，改山阳为镇，仍称辉州。
明洪武元年（1368年）废州立县，改辉州为辉县，属河南省布政使司卫辉府。清代因之。
1938年2月日军入侵辉县，1943年至1944年，中共太行区委根据抗战形势，将原辉县相继划为辉县（后改辉北县）、辉嘉、新乡（后改辉县）三县。1945年8月抗战胜利，1946年6月三县合并为辉县。
1949年5月，新乡和平解放。辉县属平原省新乡专区，1952年11月平原省撤销，改属河南省新乡专区，1986年新乡专区撤销，改属新乡市。
1988年10月辉县撤销，辉县市（县级）建立，河南省管辖，新乡市代管。
