呼韩邪从此终结了匈奴第一次大分裂，完成了虚连题氏的统一大业。但从此之后，匈奴由一个令人生畏的强大的游牧部落联盟变成汉朝的附属。直到刘渊趁晋乱建立汉赵，才重新夺回了自己当年煊赫帝国身影里的一丝丝自尊。
呼韩邪单于临终之时，遗言让自己的儿子们依次作单于，不得武力争斗。儿子们倒也听话，这个死了那个接，单于宝座始终依次传递，先后经历了雕陶莫皋、且糜胥、且莫车、囊知牙斯、咸、舆等几位。为什么前面几个名字那么复杂，后面几个却只有一个字？倒不是匈奴为了省笔墨，而是新朝始建国二年，王莽奏请皇太后批准，禁止匈奴人有两个名字，并派使者前去劝说单于，囊知牙斯听从了汉朝使者的劝说，上书汉廷，自愿把自己的名字改为一个字的“知”字，从此匈奴单于就出现了一个字的名字。
到了舆这里，慢慢品出了权力的滋味，食髓知味，他便就成天想着要违背呼韩邪的遗言，把单于之位传给自己的儿子，不传给自己的弟弟。于是他就把他的九弟，也就是王昭君的儿子伊屠智邪斯给杀了。这一来，囊知牙斯的儿子比就很不满意了，他抱怨说：“按照爷爷的规矩，接下来应该是九叔继位才行，要是能传位给儿子的话，那我是前前任单于的长子，我也应该优先继位。”舆听到了这些大逆不道的言论，就把比给监视了起来。
过不了几年，舆病死了，于是他的儿子乌达侯即了单于位，结果这货与单于有缘无分，宝座还没坐热就一名呜呼了，就这样，单于位就到了他弟弟蒲奴的手上。而他那个始终愤恨不平的堂弟小比，这个时候被册封为右奥日逐王，也拥有相当的兵力和群众基础。一山两虎，匈奴二次分裂的端倪只要不是瞎子都能看出来。
其时，匈奴境内连年遭受干旱，并引发蝗灾，又加上瘟疫流行，人畜死伤大半。建武二十三年春，蒲奴害怕东汉朝廷趁虚出兵讨伐，于是便遣使者到渔阳会见汉朝官吏，希望再赏赐个和亲以巩固关系。比听到这个消息后，深知一旦蒲奴和汉和亲，有了汉王朝这个大靠山，自己就再也不可能会有翻盘的机会了。于是，他抢先秘密派汉人郭衡拿着匈奴的地图献给了汉朝的西河太守，表示愿意归顺。
蒲奴他爹当年在比身边监视的人这一下派上了用场，蒲奴听到比打算在自己之前投降汉朝，顿时气得火冒三丈，他迅速点起一万余人马前往讨伐。军队开到西河，蒲奴沮丧地发现比竟早有准备，此刻正以逸待劳地等着自己自投罗网，无奈之下，蒲奴咬碎钢牙和血吞，跳着脚把将士们撤回了王庭。
比于是胁迫八部匈奴贵族立自己为单于，公开与蒲奴决裂，彻底投进了汉王朝的怀抱。为了沾一沾爷爷的光，比在选用单于称号时，决定沿用呼韩邪的名号，也叫做呼韩邪单于，这就是传说中的匈奴呼韩邪二世。汉王朝听从五官中郎将耿国的建议，接收了比的儿子为质子，正式承认呼韩邪二世的匈奴单于地位，为便于以后控制，又把比的单于庭迁到云中郡，比为南匈奴第一任单于。
蒲奴失了这一步先机，彻底沦为二世的陪衬，但他不甘于失败，退居漠北之后，不断袭扰劫掠东汉渔阳至河西走廊北部边塞地区，成了汉王朝新的麻烦。但至此以后，匈奴分裂为南、北二部，使匈奴势力再次受到了严重的削弱。蒲奴为北匈奴第一任单于，也是虚连题氏在北匈奴的最后一任单于，其后继任者，都不再是虚连题氏的后人。
北匈奴无奈离场后，在汉王朝将军窦固、窦宪、耿秉等联合南匈奴及其他附属胡族的打击下，无法继续立足，只得退出漠北高原，一部分人留居鄂尔浑河流域，后被鲜卑所并，是为宇文鲜卑的主要来源，其后出了宇文泰这样的英雄人物；另一部分则不断往西迁徙，直至顿河、多瑙河流域，并以南俄罗斯大草原为基地，对罗马帝国发动战争，成了入侵欧洲的匈人。
依附汉王朝的南匈奴，借着汉朝的军力多次大败北匈奴，接纳大量降众，势力大增。同时因部族成分复杂，难以驾驭控制，造成内部不隐，时有叛乱，多位单于被杀。汉朝官吏也开始拥有了直接干预南匈奴单于继立的权利，甚至有匈奴单于直接被汉官杀害。
东汉熹平七年，呼徵成为南匈奴单于，次年，因与汉中郎将张修不和，张修杀呼徵单于，立其右贤王羌渠为单于，左部匈奴因此不服。汉灵帝中平四年，中山太守张纯反叛，率鲜卑胡人寇扰边境，灵帝诏发南匈奴兵配给幽州牧刘虞进行征讨，第二年，左部联合匈奴右部醯落与休著各胡、白马铜等十余万人反，攻杀时任单于羌渠，立匈奴老王须卜骨都侯为单于，代行国事，导致南匈奴内部严重分裂。
羌渠之子于夫罗在外继位为单于，被叛人所阻，不能归国，于是只得只身前往朝廷申诉求助，但此时国内黄巾乱起，四海沸腾，汉王朝自顾不暇，实质上已失去了对南匈奴的控制。于夫罗只有骑兵数千，无法与留在匈奴王庭内的须卜单于抗衡，只能长期在外漂泊。而此时的匈奴休屠各部刘豹，则通过这次反叛，融合了匈奴左部，攫取了大量的实力，隐隐成为匈奴部族中新兴的霸主。
于夫罗死后，其弟呼厨泉继任单于之位。呼厨泉见汉廷衰落，归国无望，于是联结袁绍以图平阳。在袁绍的大力支持下，呼厨泉顺利攻取平阳，并借助袁军的兵威，废老王须卜骨都侯，顺利地接掌了单于大权，同时将单于驻地由西河左国城迁至平阳，与袁绍故将高干互为倚靠。此时的虚连题氏虽再一次统一了匈奴诸部，但其威信和号召力明显下降，连追究杀其父羌渠单于的凶手和推手都无力清算，只能眼看着匈奴屠各部与自己平起平坐。
建安二十一年，呼厨泉前来朝见汉献帝，曹操为了彻底分化瓦解南匈奴实力，分匈奴为五部，并将呼厨泉留在邺城，而将他的儿子右贤王去卑放回平阳代行单于之职。由于单于长期与部众分离，原本就实力大减的匈奴南单于一脉日益没落。而以刘豹为首的图各部则顺势而起，逐步蚕食虚连题氏留在匈奴部族中的王者神威，将匈奴五部合而为一，成了匈奴实实在在的掌权人，所缺的，只不过是一个单于的尊号而已。
曹魏嘉平年间，邓艾见单于离国在外，威权日渐衰微，而匈奴内部长卑失序，屠各杂胡势力坐大，于是建议朝廷将屠各刘豹统一的匈奴五部一分为二，以挫其势，其中一部分继续由刘豹统领，而另一部分则交与南匈奴单于一脉，接替去卑的匈奴右贤王刘猛。同时，为了遏制刘豹的继续坐大，让其送儿子刘渊到京师做质子。其意图乃是利用南匈奴单于后裔，瓦解并州屠各的一统之局。
泰始十年，刘豹去世，其子刘渊继承了他的实力和地位，在匈奴五部中继续一骑绝尘。匈奴至此依然是分为两大势力，但五部中仅中部一部的虚连题一脉力量已明显降到了最低点，实力远远不及此时的五部大都督刘渊，唯一能够倚仗的，就是匈奴帝国自头曼单于开始便一直流传下来的虚连题氏无上的荣光。只是这种荣光，已经在实力的冲击下，逐渐退去了耀眼的光彩，变得似有似无起来。
但虚连题氏的子孙并不甘愿就此没落下去，泰始七年，匈奴右贤王，北部及中部尉刘猛见西北树机能起兵，错误地认为复兴的时机已经到来，于是以单于之名号召五部匈奴起兵抗晋，却不料事与愿违，五部中只有他统领的中部愿随他起事。不得已之下，刘猛叛逃出塞，纠集胡人攻打并州，却因力量不足，被并州刺史刘钦击败，后又被监军胡奋用计，策反了他属下的左部帅李恪将他杀害。虚连题氏一脉唯一的希望就此生生被现实扼杀。
刘猛死后，其北部人马被刘渊蚕食吞并，其子诰升爰接替了他中部尉的职位，率残存的匈奴中部人居于大陵，在刘渊强大的气场和滔天的威势下，这个原本最应该坐在左国城里享受百胡朝拜的匈奴单于后人，只能在无人处手持宝剑，恨恨地虚砍着四周的空气，一任哀伤的眼泪在高耸的面颊上四处奔流。