为了对付来自漠北突厥的南下袭扰和掠夺,隋文帝杨坚自建国伊始,就把修筑长城、巩固边防,作为重要国防建设来抓。开皇元年(581年)四月,杨坚下令“发稽胡修筑长城”;十二月,再次下令沿北部边境“修保障,峻长城”。开皇三年(583年),隋军取得北上反击突厥作战胜利以后,突厥虽然归顺称臣,但杨坚鉴于突厥统治者“易为反复”,故始终没有放松北境的边防建设。开皇五年(585年)十月,杨坚派遣上开府、司农少卿崔仲方督率3万丁壮,于朔方(治岩绿,今陕西横山西北)、灵武(治回乐,今宁夏灵武西南)两郡间修筑长城,“东至黄河.西拒绥州,南至勃出岭,绵亘七百里,”开皇六年(586年)二月,杨坚又令崔仲方调发丁壮15万人,“于朔方已东缘边险要筑数十城.以遏胡寇”。开皇七年(587年)二月,杨坚再次诏“发丁男十万余修筑长城,二旬而罢”。
炀帝杨广即位以后,除了继续防御北方突厥的袭扰之外,还要着力对付来自西北方面吐谷浑的侵袭。为此,杨广曾先后两次修筑长城,动用劳力之多是隋代前所未有的。大业三年(607年)七月,为加强对北方突厥的防御能力,杨广下令调发丁壮百余万人筑长城,西迄愉林(治今内蒙古托克托西南),东至紫河(在今内蒙古和林格尔境内),东西“绵亘干余里”。大业四年(608年)七月,又调发二十余万丁壮北筑长城,自榆谷(位于今青海西宁西)而东,“以御吐谷浑”。
总之,自开皇元年至大业四年的28年中,隋朝两代统治者先后7次调发近200万劳力,于北部和西北部边境修筑长城、增建城垒,在前代北魏和周、齐修筑长城的基础上,使东迄紫河,中经朔方、灵武之境,西至榆谷以东的长城、筑垒,基本连成一线。
这对巩固隋朝北部及西北边防,抵御突厥和吐谷浑的袭扰,无疑是有一定作用的。