太原又名并州，缘起于我国古代的“九州”、“十二州”，最早可上溯到舜、禹时代，最终在西汉武帝元封五年（前年）确定在太原。
史载，汉武帝为加强中央集权，将全国个郡国分为十三州刺史部，并州为其中之一，下领太原、上党、云中、定襄、雁门、代六郡，治所在太原郡晋阳县。所以，自两汉以来，大原又称并州，直到今天也依然已别名沿用。
并州之“并”意，《风俗通义》说：“地在两谷之间，故曰并州。”何为“两谷”？后人作注曰：“亦日常水、卫水也。”还有种解释：时而并之，时而分之，故日并。这些诠释，颇令人费解，但并不影响并州就是太原历史地名之一这个事实。
历史上并州的辖区，盈缩不一，但中枢则在太原。范围最广为东汉时期，下领太原、上党、云中、定襄、雁门西河五原、朔方、上九郡，相当于今山西大部、陕西北部及内蒙古狼山⊙阴由以南地区。苑围最小为北宋时期，仅领阳曲、平晋榆次、太谷、祁、寿阳、玉、清源、交城、文水士县，相当于合大原市和晋中市大部、吕梁市东部及阳泉市一部。
历史上的并州，素为历朝历代之北部屏障。《后汉书，冯行传》日：“东带名关，北逼强胡，年谷独熟，人庶多资，斯四战之地，攻守之场也。”正因为它地势险要，军事地位高，并州人一直以民风尚武和民性勇义而闻名。
《世说新语·任斑》天装雀手日培共，羊手间何如并外？李白《少年行》云：“经过燕大子，结托并州儿。”最有名的宋初年，作为北汉都城的并州，在守将都投降后居民却“拒不投降”让赵宋颇为难堪，也直接引起宋太宗赵光义对太原“火焚水淹”，并在新建的太原城多设丁字路口欲钉死龙脉的诸多往事，
历史上的并州刀剪，以锋利著称于世。唐杜甫有名句：焉得并州快剪勿，剪取吴松半江水。”元杨维桢有名狗：“便欲手把并州剪，剪取一副玻璃烟。”这也是并州之名少有的文化遗存。
