国与国之间的事情，是非对错多在于两国之间的实力对比，谁的拳头硬，谁的话就有理。得道多助、失道寡助只是偶然发生的事，至于纯以道德标准评价对错则几为笑谈。当年王莽试图集结三十万大军分十二路出击扫平匈奴的计划，最终成了笑话。之后由于中国大乱，匈奴人趁机多次侵犯边境，致使边境要塞多数被破坏，百姓流离失所。

王莽之后，更始皇帝刘玄曾派使者出使匈奴，把原先被王莽砸了的西汉匈奴王玺又给他换了回来，可这时候汉匈双方的强弱之势已变，匈奴单于已不再愿意向汉朝称臣。哪怕还是位居诸侯王之上，也不能让单于称心如意，他现在要的是和汉朝对等甚至高一等的地位。

这样的事情，刘玄能同意吗？或许他是不同意的，可他自顾尚且不暇，更奈何不了匈奴人。到了建武六年(公元30年)，占据大半个天下的刘秀也向匈奴人伸出了和平的橄榄枝，但此时的匈奴单于自信满满，甚至常自比当年的冒顿单于，也想做一番类似冒顿当年的事情来，因此对刘秀的示好视若不见，还联合那个在中原混战中失败、跑到北边混日子的卢芳不停地对边境进行骚扰和劫掠。

刘秀起初也打算给匈奴人点儿颜色瞧瞧，并于建武九年(公元33年)派出了大司马吴汉。然而，以前事度之，要对付匈奴，首先要“专事”，甚至要集中全国所有的力量，而这时刘秀显然还没有这份精力，吴汉也没法儿毕其功于一役，结果匈奴越打越猖獗。刘秀只好把幽州和并州边境的百姓往居庸关、常山关以东迁徙，并在边境大量增兵，进行被动防御。

建武十三年(公元37年)刘秀完成统一之后，久厌兵旅的他多次放弃进攻匈奴的计划，在边境依旧执行以保境安民为目的的防御政策。刘秀的举动一定程度上刺激了匈奴人的欲望，上党、扶风、天水、上谷、中山等郡多次遭到匈奴骑兵的洗劫，整个北部边境没有一年能安宁。

但匈奴人的猖狂仅仅持续到建武二十二年(公元46年)。这一年匈奴连续死了两个单于，还遭逢大旱和蝗灾，致使匈奴境内“赤地数千里，草木尽枯”，人和牲口损失三分之二。

到底形势比人强，在这种情况下，新上任的蒲奴单于不得不低下头派使者到渔阳请求和亲。而匈奴的日逐王比(日逐王是爵位，比是人名)乃是乌珠留若鞮单于的长子，因为不能继承单于之位对现任的蒲奴单于产生了怨恨，想带兵投降汉朝。日逐王比的打算还没实施，便被单于派去监视他的两个骨都侯发觉，于是蒲奴单于马上派出一万骑兵去收拾日逐王。好在日逐王在单于那里也有内应，提前得知了单于的计划，干脆收了匈奴南边的八个部落四五万人自保。

建武二十四年(公元48年)春天，匈奴南边号称八部众的八个部落首领达成一致，立日逐王比为单于，又因为他的祖父呼韩邪单于曾经因为依附汉朝而使匈奴得安宁，所以建议他还用“呼韩邪”的称号。到了冬天，日逐王比接受八部众的提议，自立为呼韩邪单于。

建武二十四年十二月癸丑日对匈奴来说是个特殊的日子，这一天匈奴正式分裂为南北两部分，而且自此之后再没能真正缓过气来。