榆次历史源远流长。早在原始社会末期，炎帝八世榆罔统治的地方（中心在榆社、榆次一带）叫榆州国，榆次作为榆州国都有53年。西周末，榆州国亡，其社存焉，谓之榆社，榆次和榆社土地“相次接属”，故名榆次。到了春秋中期，榆次因魏献子治理，曾叫魏榆。后榆次为中行氏所有，在榆次建都，故名中都。到鲁昭公二十八年（前514年），榆次叫涂水邑，是因河而得名。榆次之名始见于春秋时期，又见于战国赵惠文王时。北魏太平真君九年（公元448年），榆次并入晋阳置中都县。隋开皇年间，又改中都为榆次。宋太平兴国四年（公元979年），宋**灭北汉，毁晋阳城，在榆次设并州治。宋太平兴国七年（公元982年）又恢复榆次名，一直至今。榆次别名为“凤城”，是因明万历《榆次县志》记载着“晋**时，凤凰集于（榆次）境”。这正好与太原龙城遥相呼应，形成“龙凤呈祥”。

榆次的地名来源，说法有四：

1. 《山西大观》、《榆次县志》记载：上古帝（实为部落长）榆罔凭太行以居冀州，其后代建立榆州国，后亡于西周末。《周书》云：孤而无使，曲沃（国）伐之。榆州既亡，其社存焉（今榆社境内有社城），古谓之榆社，榆次和榆社土地“相次接属”，故名榆次。

2. 据《九州地理》云：太原、上党间，其地上（上空）值（正遇）天榆（天榆星），故有榆社、榆次之称。

3. 据《辞海》载：榆次在阳曲东南，其地有榆次山，榆次是因山而得名。现在榆次境内无榆次山名，疑古代有之，有待进一步考证。

4. 据传，榆次境内古代植榆树多，质优。《辞海》注：古代北方边塞植榆，故称边塞为“榆塞”。地处“边塞”的榆次以榆树多为特征，故称榆（树）次（处所），意思为“优质榆树