公元585年—公元598年，今日的代县在当时名为广武县，属于代州管辖。

《太平寰宇记·卷四十九》中有隋朝时肆州改为代州的记载：“隋开皇五年（585年），改为代州，取古代郡为名。”当时的代州统领广武、繁畤、崞、五台、灵丘五县，共四万二千五百二十户。

代郡，战国赵武灵王设置，历秦、汉二朝，西晋末年废。西汉辖境相当于今天山西省阳高县、浑源县以东，河北省怀安县、涞源县以西的内外长城之间的区域以及内蒙古自治区兴和县等地。北魏时期重置代郡，治所平城（今山西大同市北），辖境相当于今天山西省外长城以南的大同市、左云县等地。孝昌年间（公元525年—公元528年）废。东魏天平二年（公元535年）复置，治所平城（今山西大同市北），后内迁寄治于肆州秀容郡城（今山西忻州市西北），北齐废。

代郡和代州是应该加以区别的两个地理称谓，这不仅仅是“郡”和“州”的字面区别，而是历史沿革的不同以及行政管理区域的区别。到了隋朝，肆州改为代州，并不是因为代州承袭了代郡的辖区而得名，只是代州的“代”因古时候代郡的“代”而得名，这一字面上的联系也许是代州和代郡仅有的联系。

隋开皇五年（公元585年），历史上第一次出现代州的称号，对代县的历史而言，这也是一个具有重要意义的时间节点。