春秋，鲁隐公五年（前718年）宋人伐郑围长葛，始见其名。属郑国，为城邑。
战国，周烈王元年（前375年）韩哀侯灭郑，长葛属韩，后（前361~前350年期间）为魏伐取，长葛归魏，改名长社。

秦行郡县制，长社始为县，属颍川郡。

汉承秦制，长社仍属颖川郡。王莽新朝，改颖川郡为左队，长社属左队。东汉，复西汉旧制，长社属颍川郡。

三国曹魏、西晋、东晋，长社属颍川郡。

南北朝，宋少帝景平元年（423年）北魏的将周几夷许昌城，立豫州封疆，长社为北魏占领，时，许昌城夷毁，颍川郡治徙长社，长社属颍川郡。东魏天平初，置颍州（治长社），长社属颍州郡。武定七年（549年）颍州、颍川郡及长社县移治颍阴（今许昌市），颍州改曰郑州，长社属郑州颍川郡。北齐因之。北周改郑州为许州，长社属许州。

隋开皇三年（582年），罢郡，行州县制，改长社县为颍川县，属许州。开皇六年（586年），析置长葛县（治所今老城），长葛属许州。大业三年（607年），复行郡县制，改许州为颍川郡，长葛县属之。

唐武德四年（621年），改颍川郡为许州，长葛属许州。天宝元年（742年），改许州为颍川郡，乾元元年（758年），颍川郡又复为许州，长葛县归属不变。

五代，后梁改唐许州忠武军为许州匡国军，长葛属之。后唐复许州匡国军为许州忠武军，后晋、后汉、后周俱因之。

宋初，长葛属京西路许州。熙宁五年（1072年），属京西北路许州。元丰三年（1080年），升许州为颍昌府，长葛属颍昌府。

金，贞元元年（1153年）改颍昌府为许州昌武军，长葛属许州昌武军。

元，长葛属汴梁路许州。

明，长葛属开封府许州。

清，长葛属河南省开归陈许郑道许州直隶州。

中化民国2年（1913年），废府存道，长葛属开归陈许郑道，3月1日，开归陈许郑道改称豫东道，翌年改称开封道。民国16年（1927年）废道，长葛属中区第二行政区。民国21年（1932年），河南设行政督察区，长葛属河南第一行政督察区。

中华人民共和国建立后，长葛属许昌专区。1969年改专区为地区，长葛属许昌地区。

1986年2月，许昌地区撤消，许昌市升为省辖市，长葛属之。

1993年12月14 日长葛县撤县为市，隶属许昌市。