郑州是一座古老的城市。早在3500年前，这里就是商王朝的重要都邑。郑州历史悠久，是中华民族的发祥地之一，孕育了中华民族及其光辉灿烂的文化。曾有夏、商、管、郑、韩5朝为都，隋、唐、五代、宋、金、元、明、清8代为州。辖区内发现有距今8000年的裴李岗文化，距今5000年的大河村、秦王寨等多种类型的仰韶文化与龙山文化遗址。据史籍记载，中华民族始族黄帝的出生地轩辕之丘，位于郑州市境内的新郑。我国历史上第一个奴隶制王朝夏代曾建都于阳城（今郑州市登封），商王仲丁迁都于?（今郑州市区），周武王封叔鲜于管（今郑州市区），表明郑州地区在历史上相当长的时期内曾是国家的政治中心。
春秋战国时期，郑、韩先后在新郑建都，长达500多年。秦汉时期，郑州地区始置荥阳、巩、京、新郑等县，荥阳一度成为“富冠海内”的天下名都。之后，历代先后在郑州地区设置荥阳郡、北豫州、荥州等。隋开皇三年（公元583年）将荥州改为郑州。隋开皇十六年（公元596年）置管州治所。管城作为郑州、管州州治，成为郑州地区政治、经济中心。隋炀帝开通大运河和通济渠后，郑州一度“商旅往返，船乘不绝“，成为全国水陆交通的重要枢纽。北宋建都汴京后，郑州属京畿路，崇宁四年（公元1105年），建为西辅，成为宋代四辅郡之一。明初，郑州划归开封府。清代，郑州为两次升为直隶州。
本世纪初，由于平汉和陇海铁路在郑州交汇，郑州的民族工业、手工业和商业得到较快发展。1923年，郑州爆发了震惊中外的”二七“大罢工，在中国工运史上写下了光辉的篇章。1929年至于1931年郑州曾一度废县设市。1948年月10月22日，正式建立了郑州市，1954年成为河南省省会。