建武二十四年春，八部大人一道商量立比为呼韩邪单于，由于比的祖父曾经归顺汉得以安宁，所以打算袭用呼韩邪单于的名号。于是比来到五原塞，表示愿意做汉的屏障，抵御北部的敌虏。皇帝采纳五宫中郎将耿国的意见，就同意了。逭年冬天，比自立为呼韩邪单于。
二十五年春，单于派弟弟左贤王莫率领一万多兵力攻打北单于的弟弟奠鞑左贤王，活捉了奠鞑左贤王；又打败了北单于帐下的军队，合并了北单于部众一万多人，获得七千匹马、一万头牛羊。北单于很惊恐，后退了一千里。起初，皇帝制造战车，可以用几头牛驾车，车上造有望楼，放在塞上，用以抵挡匈奴。当时见到战车的人相互谈论说：“谶语说汉第九代时将会使北狄退却千里，难道说的就是这件事情吗？”到这时候，果然开拓了疆域。北部的奠鞑骨都侯与右骨都侯率领三万多部众前来投奔南单于，南单于再次派使者到朝廷，以藩国之礼称臣，献上国内的珍宝，请求派使者督察保护，派儿子到朝廷侍奉，缔结从前的盟约。
二十六年，皇帝派中郎将段郴、副校尉王郁出使南单于，立于南单于庭，这裹距五原西部边塞八十里远。单于于是延请迎接汉使者。使者说：“单于应当趴在地上拜接诏书。”拜完以后，单于要翻译晓谕使者说：“单于刚刚即位，在手下人面前实在感到羞惭，希望使者不要当着众人的面让单于屈尊。”骨都侯等人见此情形，都流下眼泪。段郴等人回来覆命，皇帝下韶书听随南单于住进云中。单于派使者上书，献来两头骆驼、十匹毛色有纹彩的马。
正月初一朝廷举行朝拜庆贺，在拜祭陵墓和宗庙以后，汉就打发单于使者回去，命令谒者护送，赐给单于一千匹彩色丝帛，四端锦帛，十斤金，还有太官为皇帝制作的酱以及橙子、橘子、龙眼和荔枝；赐给单于的母亲和各位辟氏、单于的儿子和左右贤王、左右谷蠡王、骨都侯中有功德的人各种彩色丝帛，合起来有一万匹。挖坟去
二十七年，北单于于是派使者到武威请求和亲，天子召集公卿大臣在殿庭商议，决定不下来。皇太子说：“南单于刚刚归顺，北部的敌虏害怕被攻打，所以侧耳而听，争着想归附正义。现在朝廷不能出兵，却反而和北部敌虏往来，臣恐怕南单于将会生出二心，愿意投降的北部敌虏将不会再来投降了。”皇帝认为有道理，就告知武威太守不要接纳北单于的使者。
二十八年，北匈奴又一次派使者到朝廷，进献马匹和皮裘，重新乞求和亲，并想求得汉的音乐，又请求率领西城各国的胡人一道前来进贡朝拜，皇帝将此事交给三公府去讨论应酬答覆的事宜。司徒掾班彪上书说：臣听说孝宣皇帝吩咐守卫边境的将尉说：“匈奴是大国，多变化和欺诈。交往合情得体，就可以谈判取胜；应答中了他们的
计谋，就反过来被他们轻视欺侮。”现在北匈奴见南单于前来归顺，害怕我们设谋对付他们，所以多次乞求和亲，又从远方赶来牛马与汉做生意，重复派遣有名的王侯，进贡很多东西，这都是用来向外显示富强，为的是欺骗我们。臣看到匈奴贡献的东西越多，就知道匈奴国内越空虚，要求归附亲近越急迫，他们的恐惧就越厉害。然而现在既然未能帮助南部，那么也不宜和北部断绝联系，按照怀柔笼络的原则，于礼数不能没有回覆。臣以为可以给他们一些赏赐，大致与他们所献来的东西价值相当，公开将前代的呼韩邪和郅支行事的结果晓谕告知他们。