大汉王朝再次联兵二十几万合击匈奴，大获全胜，直捣右谷蠡王庭；同年冬，匈奴出动数万骑兵击乌孙以报怨，适逢天降大雨雪，生还者不足十分之一。
是时丁零北攻，乌桓入东，乌孙击西，匈奴元气大伤，被迫向西迁徙以依靠西域，西域再次成为这片土地上两大霸主的争夺重点，双方反复激烈争夺车师之际，匈奴内部因掌管西域事务的日逐王先贤掸与新任单于屠耆堂争夺权位发生冲突，日逐王降汉，匈奴被迫放弃了西域，大汉完全控制了西域，匈奴的实力再次大减。
匈奴因战争、天灾、领土及人口的减小，处境日益困宭，内部纷争开始激化。
自伊稚斜单于后，匈奴单于更迭频繁，虚闾权渠单于死，其妻颛渠阏氏与其弟都隆奇合谋立右贤王屠耆堂为单于；他上任后，排除异己，杀尽前单于所用旧人，重用自己的子弟，以致发生内讧，兵败自杀，他死后，匈奴开始争夺单于王位的内战。
而后，匈奴东部姑夕王等人共立虚闾权渠单于子稽侯栅为呼韩邪单于，击败握衍朐鞮单于，握衍朐鞮自杀身亡。
都隆奇等人共立日逐王薄胥堂为屠耆单于，击败呼韩邪；此时呼揭王自立为呼揭单于，右奥鞮王自立为车犁单于，乌籍都尉亦自立为乌籍单于，是为五单于争立时期。
屠耆单于先后攻击乌籍、车犁，乌籍、车犁皆败走西北与呼揭合兵，呼揭、乌籍皆去单于称号，拥车犁为单于，为屠耆所败。
呼韩邪乘机进攻，屠耆大败自杀，车犁也率部投降，不久，呼韩邪兄呼屠吾斯自立为郅支单于，居东边；屠耆从弟休旬王也自立为闰振单于。
其后，闰振率军东击郅支，兵败被杀；郅支乘胜击破呼韩邪，据漠北王庭；呼韩邪单于南下向汉称臣归附，是为南匈奴。
后来北匈奴郅支单于则率部众退至中亚康居，呼韩邪单于占据漠北王庭。
后来，为了清除北匈奴在西域的影响，西域都护甘延寿、副校尉陈汤远征康居的北匈奴，击杀郅支单于。
后，大汉属国南呼韩邪单于入长安朝贡，并自请为婿，汉元帝遂将宫女王昭君赐之。，呼韩邪封王昭君为宁胡阏氏。
呼韩邪死后，其后裔遵从他的遗嘱，与汉朝保持友好关系达30多年，直到王莽篡汉为止。
王莽建新朝后，把汉宣帝颁给属国的金质“匈奴单于玺”索回，另发给乌珠留单于“新匈奴单于章”，蓄意压低单于的政治地位；将“匈奴单于”称号改为“恭奴善于”，后改为“降奴服于”；王莽企图用武力树立威信，分匈奴居地为15部，强立呼韩邪子孙十五人俱为单于，以削弱匈奴的势力，战火再起。
不过不久后，匈奴国内发生严重的自然灾害，人畜饥疫，死亡大半。
而统治阶级因争权夺利，再次发生分裂；匈奴八部族人共立呼韩邪单于之孙日逐王比为单于，与蒲奴单于分庭抗礼，匈奴再次分裂为两部。
后日逐王比率4万多人南下附汉称臣称为南匈奴，安置在汉朝的河套地区，而留居漠北的称为北匈奴。
留居漠北的北匈奴，连年遭受严重天灾，又受到汉朝、南匈奴、乌桓、鲜卑的攻击，退居漠北后社会经济极度萎缩，力量大大削弱，多次遣使向东汉请求和亲。
其一怕东汉北伐，其二想挑拨破坏汉王朝与南匈奴的关系；其三想在西域抬高自己声望，其四想通过和亲与东汉互市交换所需物资。
汉王朝没有答应和亲，仅同意双方互市，北匈奴则不断袭扰劫掠东汉渔阳至河西走廊北部边塞地区。
随着汉王朝的政治稳定和经济得到恢复发展，国力增强，再次开始了征伐北匈奴的战争。
大汉明帝派窦固等四路大军出击，占据伊吾卢城，同年，派班超通西域南路鄯善国。
汉匈之间对西域展开了一场争夺战，窦固、耿恭击败呼衍王和左鹿蠡王，占车师、争夺金蒲城，因明帝驾崩，中原大旱，王朝征伐负担太重，暂时罢兵。
其后十年间，北匈奴人先后有七十三批南下降汉，加上南匈奴攻击，北匈奴力量大大削弱；而后，鲜卑从东部猛攻北匈奴，杀死优留单于。
优留单于死后，北匈奴大乱，漠北又发生蝗灾，内部冲突不断，北匈奴内部危机连连，乘此时机，汉王朝与属国南匈奴联合夹击北匈奴。
永元元年夏六月开始，窦宪、耿秉率军与南匈奴军队在涿邪山会合，与北单于战于稽落山，北单于大败逃走，汉军追击，俘杀一万三千余人，北匈奴先后有二十余万人归附。
窦宪、耿秉登燕然山刻石纪功而还（燕然勒功），后再出击北匈奴，北单于受伤逃走；汉军又出击金微山大败北匈奴军，北单于被迫西迁，率残部西逃乌孙与康居。
南匈奴单于师子立，新降的北匈奴部众对单于师子不服，在同年，十五部二十几万人皆叛变，胁迫前单于屯屠何之子奥鞬日逐王逢侯为单于，匈奴再次分裂，汉王朝派遣大军以及属国兵共四万人大败逢侯，逢侯遂率众出塞，汉军追赶不及，其后，逢侯被鲜卑击败，率领百余人投靠东汉。
在北单于战败后，率残部西逃至伊黎河流域的乌孙国，在其立足后，仍然出没于天山南北，实施掠夺。
北匈奴攻陷了伊吾，杀死了汉将索班；为了对付西域的北匈奴，汉王朝任命班勇为西域长史，屯兵柳中，班勇两次击败北匈奴，西域的局势开始稳定。
在班勇离职后，北匈奴势力又重新抬头，汉将裴岑率军击毙北匈奴呼衍王于巴里坤，其后，汉将司马达率汉军出击蒲类海，击败北匈奴新的呼衍王，呼衍王率北匈奴又向西撤退。
至此，匈奴王朝基本已经宣告灭亡了，只剩下一支依附汉王朝的南匈奴人了。
依附汉王朝的南匈奴人，被汉王朝安置在河套地区；借着汉王朝的军力多次大败北匈奴，接纳大量降众，势力大增。
但因部族成分复杂，难以驾驭控制，造成内部不隐，时有叛乱，多位南单于被杀。
而后汉王朝对南匈奴的管理越加严厉，南单于甚至会被汉官员拘捕、更换、逼死甚至杀死。
若是如此下去，南匈奴也将会逐渐灭亡，不过汉王朝再次遭遇了厄难；黄巾起义、董卓专权之际，南匈奴发生内讧，国人杀死单于羌渠，子左贤王於夫罗即位。
而参与者恐被报复不认可新单于，另立一位单于，於夫罗只得前往汉朝申诉求助；正值汉末大乱，只好留在河东。
而后，南匈奴参与了中原混战，蔡邕之女蔡文姬被掳掠去匈奴，后，南匈奴首领归附汉丞相曹操，蔡文姬归汉。
后，曹操拘留呼厨泉单于，而派右贤王去卑监国，并将南匈奴分成五部，安置在平阳郡，匈奴单于王朝也终结了。
汉化的南匈奴，一直居住在河套一带，三国列战时期曹操把匈奴分成五个部，即左、右、南、北、中，分别安置在雍、并、冀一带；各部贵者为帅，后改称都尉；以汉人为司马以监督；於夫罗子刘豹为左部帅。
此时，中原王朝迟迟不能一统，三国列战，大魏之时，尚且还能钳制南匈奴等北夷部族，等司马家掌权后，内部纷乱，司马家害怕带兵之将叛乱，就多用胡兵。
刘豹盘踞并州，势力大大增长，他活的时间够长，威望也是日隆，加上司马家的倚重，他甚至有了诸部共主的威望，这就让他生出了再兴匈奴的野望，当年的匈奴王朝何等强盛，如今中原衰弱，他感觉已经是天命在身。
随着魏王朝变成了晋王朝，他获得了更多职权，已经成为太原郡太守，并州北部诸郡，都被他间接掌控，草原上的那些部落，如今不被他放在眼中，他觉得，再次建立匈奴王朝，已经到了合适的时机。
不过，汉王朝又回来了！