上古时代史称“榆次”。

晋悼公时，史称“魏榆”。

晋昭公五年（前527），大夫中行穆子（荀吴）建都魏榆，北伐翟，故又称“中都”。

晋顷公十二年（前514），涂水邑为现榆次之雏形。

战国时期，榆次始属魏，后属赵。

赵孝成王十九年（前247），秦国占领榆次，次年建县置。

经两汉魏晋，到北魏太平真君二年（441），榆次并入晋阳，九年（448），中都县迁治所于原榆次县境东，称中都县。

之后，榆次或稳定，或纷乱，经历朝历代，名称为榆次没有变化。

到1937年，日本侵略军长驱直入侵占榆次，成立日伪政府。

榆次人民不忍外侵，在中国共产党榆次地方组织领导下，揭竿而起开赴东山八缚岭，建立抗日根据地，成立榆次（路东或路南）抗日政权。

次年，以正太,南同蒲铁路为界，与相邻县域又分别成立榆太祁（路西）县，榆次（榆寿,寿榆）（路北）县抗日政权。

1948年7月榆次全境解放，恢复统一的榆次县。

1954年5月成立榆次市，与榆次县并行。

1958年6月，榆次县并入市（寿阳县并入，约一年后分出），1963年3月市改县，1971年7月又市,县分设，1983年9月市,县合并，恢复榆次市，2000年1月撤市设为晋中市榆次，至今。