元朔二年,汉武帝派卫青出云中以西至陇西,击胡之楼烦、白羊王于河南,遂取河南地。然后大臣主父偃向武帝上疏,“盛言朔方地肥饶,外阻河,蒙恬城之以逐匈奴,内省转输戍漕,广中国,灭胡之本也。”武帝接受这一建议,当年即置朔方郡（今内蒙乌拉特旗东）和五原郡（在今包头西）。后又于元朔四年置西河郡（郡治今府谷西北）。河套平原还有云中郡、定襄郡。北地、上郡的北部也延伸到河套地区。武帝又在郡下设县。
至西汉末,朔方郡有县十,五原郡有县十六,云中郡有县十一,定襄郡有县十二。汉武帝在设置朔方郡的次年（前26年）,遣将军苏建筑朔方城,“复缮故秦时蒙恬所为塞,因河而为固。”它郡亦相继筑城。新设置的县也在筑城,如朔方郡之临戎县城,为武帝元朔五年筑,其三封、沃野两县为武帝元狩三年所筑。太初三年夏,武帝遣光禄勋徐自为筑五原塞外列城,西北至罗朐,游击将军韩说将兵屯之。
河套地区所筑之城,既是郡县治所和军事防守的据点,又是一个地区最重要的居民点。西汉虽然在三次战役中取得重大胜利,但退居漠北的匈奴仍有强大的进攻能力,机动性强的匈奴骑兵仍经常窜入河套地区进行骚扰,如元鼎五年,匈奴“入五原,杀太守。”
太初三年秋匈奴大入云中、定襄、五原、朔方,杀略数千人,并将徐自为所筑塞外列城尽行破坏。征和二年入上谷、五原,杀略吏民。昭帝时,匈奴还曾在入侵五原、杀略数千人之后。数万骑南旁塞猎,行攻塞外亭障,略取吏民去。故在当时的情况下,从内地新迁来的人民是不可能散居于野外的。
匈奴退出后,河套成为空旷之地,汉武帝从内地大规模迁民以充实这一地区。其中规模最大的有三次,分别在三大战役结束的当年。元朔二年春,第一次战役结束,当年夏,政府“募民徙朔方十万口”。
元狩二年夏,第二次战役结束,其年秋,“则陇西、北地、河西亦少胡寇,徙关东贫民处所夺匈奴河南、新秦中以实之。”元狩四年春,第三次战役结束,其年冬,“有司言关东贫民徙陇西、北地、西河、上郡、会稽凡七十二万五千口。”
这一次规模最大,河套地区移人恐不下三、四十万人。此后小规模的迁民经常进行,如《汉书·武帝纪》载元狩五年,汉“徙天下奸猾吏民于边”。根据《汉书·地理志》西汉元始二年数据统计,至西汉末河套共有县九十,户三十万余,口一百四十六万余上郡、西河三郡有部分地盘不在河套范围以内,其户口数均以二分之一计）。
终西汉一代,河套徙民估计约百万人。而与河套同步开的河西地区才有二十八万人,仅及河套的五分之一。
王莽时匈奴重新占领河套,“于是边民流入内郡”。东汉初年刘秀采取收缩政策,西、北边郡多被放弃。建武二十六年,匈奴生内讧,南单于归附,东汉重新开始对河套的经营。“于是云中、五原、朔方、北地、定襄、雁门、上谷、代八郡民归于本土。