汗国臣服中国，北匈汗国继续与中国对抗。

到了五十年代，北匈汗国攻南匈汗国，南匈不能抵抗，向中国求救。中国政府采取三项措施：一、把呼韩邪二世单于所属的八人牲畜，全迁长城，使他们在西河稷（内蒙古准格尔旗）一带屯垦。二、中国特设匈协防司令（护匈中郎将）与单于共同理匈内政外事务。三、另设北疆边防司令（度辽将军）屯兵曼柏（内蒙古达拉特旗东南）一则防止南北两匈复合，一则防止北匈向南匈攻击。北匈汗国当然不肯甘心，不断南下突袭，使中国北方沿边郡县，白天都得闭城门。

本世纪（一）六十年代之后，中国国力恢复，开始对北匈反攻。七三年，大将窦固酒泉（甘肃酒泉）西，直到天山，占领北匈汗国最沃的耕地之一伊吾卢（新疆哈密）留兵屯垦。另一位大将耿秉张掖（甘肃张掖）北，三百公里，直到三木楼山（蒙古工则克山）北匈清野，向后撤退，没有受到重大创伤。八五年，北匈汗国的七十三个小落投奔南匈汗国。八七年，位于乌桓落北方新茁壮起来的鲜卑落（内蒙古西辽河上游）也向北匈侵略，北匈在迎战中大败，优留单于被杀，内混，又有五十八个落共二十八万人，长城，归顺南匈汗国。

中国乘北匈内外困，及时的与南匈组织中甸联军，给予最沉重的一击。八九年，中国大将窦宪朔方（内蒙古磴）北疆边防司令（度辽将军）邓鸿五原（内蒙古包）南匈休兰尸逐侯囗单于满夷谷（内蒙古固北）在涿邪山（蒙古戈阿尔泰山）会师，向北，瀚海沙漠群一千五百公里，到稽落山（蒙古古尔班察汗山）终于捕捉到北匈主力。北匈主力在中国大攻击下崩溃，北匈单于（历史上未记下他的名字）向西逃走，亲王以下一万三千人被杀，八十一个落共二十余万人投降。窦宪就在燕然山（蒙古杭山）上，竖立石碑，纪念这次空前的胜利。

两年后（九一年）窦宪再派遣大将耿夔、任尚，居延（内蒙额济纳旗）企图一举把北匈汗国消灭。耿夔统军急，在金微山（蒙古阿尔泰山）下，把北匈单于包围，北匈再度崩溃。皇太后亲王以下五千余人

，全被俘。只北单于在混战中突围，向西逃走。——这一次战役，对中国固然重要，但对西方世界更为重要。北匈汗国残余落，在漠北不能立足，只得向西亡。三百年之后四世纪时，终于侵黑海北岸，引起推骨牌式的民族大迁移。原住在黑海北岸的西哥德落，向西侵多瑙河上游。原住在多瑙河上游的汪达尔落，向西侵罗帝国。罗帝国对这些排山倒海而来的野蛮民族，无法抵御，而终于沦亡。

北匈汗国西迁后，只剩下南匈汗国，永远成为中国的臣属。——匈汗国（也就是南匈汗国）在形式上仍继续存在一百余年，不过在中国历史上不再重要。二一六年时，它最后一位元首呼厨泉单于从当时的王平（山西临汾）去邺城（河北临漳）拜会当时中国的宰相曹，曹把他留下。下令将匈汗国分为五，每各设立一个都督，直属中国中央政府，单于名位撤销。这个煊赫一时，立国约四百三十年的庞大国度，终告灭亡。