建武二十四年春，八部大人一道商量立比为呼韩邪单于，由于比的祖父曾经归顺汉得以安宁，所以打算袭用呼韩邪单于的名号。于是比来到五原塞，表示愿意做汉的屏障，抵御北部的敌虏。皇帝采纳五宫中郎将耿国的意见，就同意了。逭年冬天，比自立为呼韩邪单于。
二十五年春，单于派弟弟左贤王莫率领一万多兵力攻打北单于的弟弟奠鞑左贤王，活捉了奠鞑左贤王；又打败了北单于帐下的军队，合并了北单于部众一万多人，获得七千匹马、一万头牛羊。北单于很惊恐，后退了一千里。起初，皇帝制造战车，可以用几头牛驾车，车上造有望楼，放在塞上，用以抵挡匈奴。当时见到战车的人相互谈论说：“谶语说汉第九代时将会使北狄退却千里，难道说的就是这件事情吗？”到这时候，果然开拓了疆域。北部的奠鞑骨都侯与右骨都侯率领三万多部众前来投奔南单于，南单于再次派使者到朝廷，以藩国之礼称臣，献上国内的珍宝，请求派使者督察保护，派儿子到朝廷侍奉，缔结从前的盟约。
二十六年，皇帝派中郎将段郴、副校尉王郁出使南单于，立于南单于庭，这裹距五原西部边塞八十里远。单于于是延请迎接汉使者。使者说：“单于应当趴在地上拜接诏书。”拜完以后，单于要翻译晓谕使者说：“单于刚刚即位，在手下人面前实在感到羞惭，希望使者不要当着众人的面让单于屈尊。”骨都侯等人见此情形，都流下眼泪。段郴等人回来覆命，皇帝下韶书听随南单于住进云中。单于派使者上书，献来两头骆驼、十匹毛色有纹彩的马。
正月初一朝廷举行朝拜庆贺，在拜祭陵墓和宗庙以后，汉就打发单于使者回去，命令谒者护送，赐给单于一千匹彩色丝帛，四端锦帛，十斤金，还有太官为皇帝制作的酱以及橙子、橘子、龙眼和荔枝；赐给单于的母亲和各位辟氏、单于的儿子和左右贤王、左右谷蠡王、骨都侯中有功德的人各种彩色丝帛，合起来有一万匹。
匈奴习俗，每年有三次龙祠，一般在正月、五月、九月的戊曰祭祀天神。南单于既然归顺汉，就同时祭祀汉皇帝，藉此机会召集各部，商量国家事务，举行赛马和赛骆驼，以此为乐。匈奴大臣中尊贵的是左贤王，其次是左谷蠡王，其次是右贤王，其次是右谷蠡王，这称为“四角”；其次是左右日逐王，其次是左右温禺千王，其次是左右渐将王，这称为“六角”：他们都是单于的儿子兄弟，按照顺序将要当单于的人。异姓大臣有左右骨都侯，其次是左右尸逐骨都侯，其他又有日逐、且渠、当产各种官号，各以权力的大小、部众的多少确定职位高低和次序。单于姓虚连题。异姓有呼衍氏、须卜氏、丘林氏、兰氏四个姓，他们是匈奴国内名族，经常与单于通婚。呼衔氏为左，兰氏、须卜氏为右，他们负责判决案件，受理诉讼，他们将判决的轻重，口头告诉单于，那裹没有文书和记事的簿册。
二十六年冬，以前叛变的五位骨都侯的儿子又率部众三千人投奔南部，北单于派骑兵追击，将他们全部俘获。南单于派军队抵御，迎战不利。朝廷于是又下韶书要单于迁到西河美稷居住，并派中郎将段郴和副校尉王郁留在西河保护单于，为单于设置官府、从事、掾史。又命令西河长生每年率领二千骑兵，五百被解除枷锁的刑徒，帮助中郎将护卫单于，冬天驻守，夏天撤销，自此以后作为常例。又免去沿边八个郡的全部租税和劳役。
南单于住进西河以后，也设置各部侯王，帮助汉抵御戍边。南单于派韩氏骨都侯驻守北地，右贤王驻守朔方，当于骨都侯驻守五原，呼衍骨都侯驻守云中，郎氏骨都侯驻守定襄，左南将军驻守雁门，栗籍骨都侯驻守代郡，他们都统领部众替郡县当耳目侦察动静。北单于很惶恐，送还了被掳掠去的许多汉人，以表示友好。他们出来抄掠的军队每次经过南部附近，或回头经过漠兵侦察敌情的岗亭，总是道歉说：“我们打的是逃亡的奠鞑曰逐王，并非胆敢侵犯汉人。”
二十七年，北单于于是派使者到武威请求和亲，天子召集公卿大臣在殿庭商议，决定不下来。皇太子说：“南单于刚刚归顺，北部的敌虏害怕被攻打，所以侧耳而听，争着想归附正义。现在朝廷不能出兵，却反而和北部敌虏往来，臣恐怕南单于将会生出二心，愿意投降的北部敌虏将不会再来投降了。”皇帝认为有道理，就告知武威太守不要接纳北单于的使者。
二十八年，北匈奴又一次派使者到朝廷，进献马匹和皮裘，重新乞求和亲，并想求得汉的音乐，又请求率领西城各国的胡人一道前来进贡朝拜，皇帝将此事交给三公府去讨论应酬答覆的事宜。司徒掾班彪上书说：臣听说孝宣皇帝吩咐守卫边境的将尉说：“匈奴是大国，多变化和欺诈。交往合情得体，就可以谈判取胜；应答中了他们的
计谋，就反过来被他们轻视欺侮。”现在北匈奴见南单于前来归顺，害怕我们设谋对付他们，所以多次乞求和亲，又从远方赶来牛马与汉做生意，重复派遣有名的王侯，进贡很多东西，这都是用来向外显示富强，为的是欺骗我们。臣看到匈奴贡献的东西越多，就知道匈奴国内越空虚，要求归附亲近越急迫，他们的恐惧就越厉害。然而现在既然未能帮助南部，那么也不宜和北部断绝联系，按照怀柔笼络的原则，于礼数不能没有回覆。臣以为可以给他们一些赏赐，大致与他们所献来的东西价值相当，公开将前代的呼韩邪和郅支行事的结果晓谕告知他们。