虽然匈奴在遭遇汉朝沉重打击后早已远迁漠北，而且为了逃避汉军的打击，多年来再也不敢南下侵扰。然而，随着在位十二年的伊稚斜单于在元鼎三年（前114年）去世，其子乌维单于即位，匈奴却再度开始蠢蠢欲动。
乌维单于即位之后，时常幻想着能够恢复匈奴往日荣光，重新回到漠南。当然，乌维单于也清楚，经历了父亲在位期间的多次战败之后，此时的匈奴国力根本不允许自己再与汉朝发生大规模战争，因此他一面经常派遣使者，向汉朝表达善意，为自己争取恢复实力的时间；另一方面，在察觉到西汉有向西域扩张的意图后，他又命盘踞于西域的右谷蠡王、右奥犍王等匈奴各部不断攻击汉朝使团，阻止汉朝势力向西域渗透，力求将西域牢牢控制在自己手中，从而确保从西部对汉朝形成牵制。
当初，博望侯张骞因出使西域而获得尊贵地位，这令他的部下们眼馋不已，张骞去世之后，他的部下们便争相上书朝廷，陈说西域各国的奇异之事和西域对汉朝的利害关系，请求代表朝廷出使西域。
汉武帝在控制河西之地后，本就有意派遣使者经常来往于西域，以扩大汉朝在西域的影响力，与匈奴争夺西域的控制权。他原本还担心西域路途遥远，一般人不愿前往，却没想到大家竟然如此踊跃，于是凡是自请出使西域者，汉武帝皆赐予符节，准许他们自行招募官吏百姓，不问出身，一律为其配备补给和赏赐给西域各国的礼物。
汉武帝此举本是想让汉朝和西域的往来成为常态，却没想到由于这些使者素质参差不齐，竟然出现了使者盗取礼品财物或违背朝廷旨意的现象。汉武帝得知后虽然极为愤怒，但由于这些人熟悉出使事务，只能将他们严惩一番后，继续命令他们出使，希望这些人能够立功赎罪，然而在巨大的利益刺激下，这些人根本不在乎所谓的惩治，以致盗取礼品现象极为猖獗。
也正是由于出使带来的巨大利益诱惑，以至于越来越多的人加入这一行列，他们或通过夸大其词、盛赞外国事物，或通过捏造各种理由，以换取出使的机会，然后将所携带的财物据为己有，变卖之后予以私吞。
由于汉朝每次出使往往会携带大量贵重礼物，西域诸国最初对于汉朝使者的到来，还是十分欢迎的，往往都会给予高规格的接待，然而随着这些使者胆子越来越大，贪污的礼物越来越多，再加上这些使者有事没事就往西域跑，以至于沿途的西域各国已经不堪重负，对于汉朝使者的频繁往来日渐厌烦，甚至后来干脆拒绝为汉使提供食物，给他们的出使制造各种困难。结果非但没能达成与西域修好的目的，反而使得汉使与西域诸国之间的关系日渐恶劣，不少西域诸国此后都不再向汉朝使者提供衣食住行，而车师、楼兰等国，更是按照匈奴的命令，时常配合匈奴军队袭击汉朝使团。
西羌诸部自然也知道匈奴与汉朝的敌对关系，因此在做出袭击汉朝的决定后，便也派人与匈奴取得联系，希望联手攻击汉朝。正愁无力攻打西汉的乌维单于闻之大喜过望，双方一拍即合。
于是，匈奴和西羌起兵十余万，大举进攻汉朝边境地区，其中匈奴攻入五原郡，击败了五原守军，五原太守战死；西羌则先后攻破了陇西郡的令居、安故（今甘肃临洮南）两地，又包围了枹罕。
接到陇西奏报的汉武帝大怒，立即征发陇西、天水、安定骑兵以及京都中尉、河南、河内士卒十余万人，以将军李息和郎中令徐自为为统帅，于元鼎六年（前112年）十月领兵西进，兵分两路夹攻西羌诸部。
同时，为了防止匈奴与西羌相互勾结，并给因军功封侯又因酎金失侯的公孙贺和赵破奴重新封侯的机会，汉武帝又分别以两人为将，命其率兵北上寻找匈奴军队。其中，以赵破奴为匈河将军，率领万余骑出令居北上，防止匈奴右贤王部南下；以公孙贺为浮沮将军，率兵一万五千骑，自五原郡北上，防止匈奴乌维单于南下。
河湟地区的羌人面对装备精良、兵力远超自己的汉朝主力大军，犹如螳臂挡车、蚍蜉撼树，根本毫无抵抗之力，很快便被汉军击溃，汉军一路向西进攻，直入河湟地区，羌人各部纷纷向西逃窜。
战事结束后，朝廷在枹罕首次设置护羌校尉，派李息持节符领兵镇守。至于西羌诸部，则在战败之后，被迫继续向西迁徙到了条件更加恶劣的湟水上游河谷地带。
至于赵破奴和公孙贺两路阻挡匈奴的汉军，则全部无功而返，其中赵破奴引军出征之后，从令居一路北上数千里，一直到匈河水（今蒙古国西南拜达里格河），却连匈奴军队的影子都没有看到；而公孙贺的命运如出一辙，公孙贺从五原郡北上两千余里，一直率军抵达浮沮井，连一个匈奴人都没有看到。
此外，为了彻底切断匈奴和羌人之间的联系，汉武帝又从原本河西设置的武威郡（郡治姑臧，今甘肃武威）、酒泉郡（郡治禄福，今甘肃酒泉市）两郡之中又分置了敦煌(郡治敦煌，今甘肃敦煌市西)、张掖（郡治觻得，今甘肃张掖西北）两郡，并徙民实边，巩固河西地区，同时从朔方郡向西修筑防线，阻止匈奴向河西渗透。