但是，匈奴威胁依旧存在，公元前126年夏，数万骑兵攻代，杀郡守，掳走千多人。秋季又入侵雁门，烧杀掳掠一番，造成了重大破坏。接着，第二年又三路大军共同出击，分别强攻进入代郡、定襄、上郡多地，一时之间边关再次陷入烽火。

公元前124春，车骑将军卫青率领三万骑兵，从朔方出兵；又命令大行李息、岸头侯张次公为，从右北平出兵。卫青大军面对的正是匈奴主力右贤王。为了出其不意，卫青的主力部队隐藏行迹，悄然出击，利用匈奴军疏忽，趁夜晚包围了右贤王的部队，杀了敌人一个措手不及，结果右贤王只带了几百个精骑突围逃走，其余被俘虏的男女将近两万人，牲畜数百万头。

得到捷报的汉武帝龙颜大悦，专门派出信使赴营中封赏，拜卫青为大将军，加封食邑6000户；其三个儿子同时被封为列侯；随从卫青作战的部将公孙敖、韩说、公孙贺、赵不虞、公孙戎奴、豆如意等人也各有升迁封赏。

公元前123年二月，卫青统兵十万，以公孙敖为中将军，公孙贺为左将军，赵信为前将军，苏建为右将军，李广为后将军，李沮为强弩将军，分领六路大军，浩浩荡荡，从定襄出发，北进数百里。又派校尉霍去病独自领千名骑兵，深入大漠，寻机打击敌人。霍去病不负众望，斩敌无数，并杀匈奴单于祖父，生俘单于的国相及叔叔，后被汉武帝封为冠军侯。战后全军返回定襄休整一月之后再次出塞，杀了敌人一个措手不及，斩获匈奴军万余，使之闻风丧胆，开始远遁。因为校尉张骞跟随立功，也被封为博望侯。

公元前119年春天，卫青与外甥霍去病各率领五万精兵，后勤保障的步兵和运输物资的军队十万余人，规模浩大，杀向漠北。卫青大军出塞千余里，遭遇匈奴单于主力，双方随即展开会战，战至傍晚，因为突然大风，沙石飞扬，对面不清，出现了一场混战。战至晚上，匈奴单于胆怯，带领亲兵杀出重围远遁而去，致使部下失去了耐心，结果被打散。

得知单于远遁，卫青急忙派出轻骑追击，主力在歼灭敌人之后，也开始了追击行动，一直杀到赵信城，获得匈奴积存的大量食品，积存的物资等等，除了供应部队食用之外，其余全部焚毁。

此役汉军重创了匈奴在漠南的势力，致使其长期无力南下侵扰，以至于后来逐渐向西迁移。汉武帝为表彰卫青、霍去病，加封为大司马，管理日常的军事行政事务，代行太尉职责，信任有加。

不仅如此，当卫青病逝之后，汉武帝为表彰其战功，专诏命令在茂陵东北修建了一座阴山形状的墓冢，定谥号为“烈”，取“以武立功，秉德尊业曰烈”之意。

霍去病是卫青的外甥，自幼善骑射，长期跟随卫青征战，大器早成。用兵灵活，注重方略，不拘古法，勇猛果断，善于长途奔袭、闪电战和大迂回、大穿插作战。最为让人赞叹的是首战即率领不足千骑深入敌人腹地数百里，杀得匈奴兵大惊失色，四散而逃。又在两次河西之战中，大破匈奴，直取祁连山；在漠北之战中，霍去病封狼居胥，大捷而归。

可惜的是，回军之后不久，公元前117年霍去病因病去世，年仅二十三岁。汉武帝为此大是悲伤，调遣了数郡的铁甲军，从京师长安到茂陵排列成阵，为其发丧。给霍去病修的坟墓外形象祈连山，又按照谥法，把勇武与扩地两个含义的词汇加以合并，为霍去病定谥号为景桓侯。

终其一生，汉武帝都没有停止扩疆固土，当漠南匈奴解决之后，又对西北地区展开了一系列军事和政治行动。先后在凉州、甘州、肃州等地设置了武威、张掖、酒泉、敦煌等郡，以及一些重要的军事要塞，一是保证丝绸之路畅通，同时也为了防范匈奴族死灰复燃，重新袭扰。

接下来又主动出击，派将军赵破奴向西北地区进军，大败楼兰国和车师国。他监禁楼兰王，并打败车师王。几年之后， 因为为大宛国杀死汉朝使臣，汉武帝大怒，即可派出大将军李广利率兵往讨，最终攻克大宛都城，诛杀大宛王毋寡，并另立国王，自此之后大宛臣服汉朝，双方建立了良好关系，并且为汉朝提供了大量著名优质的大宛马。