于是漢朝就占領了河套以南地區，修築了朔方城，又修複了以前秦朝時蒙恬所建造的關塞，憑借黃河天險來鞏固防守。

漢朝也放棄了上谷郡偏僻險絕的縣如造陽一帶，并讓給了匈奴。

這一年，是漢朝的元朔二年（前127年）。

此後一年的冬天，匈奴的軍臣單于去世。

軍臣單于的弟弟左谷蠡王伊稚斜自立為單于，打敗了軍臣單于的太子於單。

於單逃走投降了漢朝，漢朝封於單為涉安侯，幾個月就死了。

伊稚斜單于即位以後，在那年夏天，匈奴幾萬騎兵進犯并殺死代郡太守恭友，劫掠了一千多人。

當年秋天，匈奴又進犯雁門，殺害和劫掠了一千多人。第二年，匈奴又再次進犯代郡、定襄縣、上郡，各派出三萬名騎兵，殺害和劫掠了幾千人。

匈奴右賢王怨恨漢朝奪走了河套以南的土地并修築朔方城，就多次進犯，在邊境劫掠，一直打到河套以南，侵擾朔方，殺死和劫掠了許多官員和民衆。

第二年春天，漢朝任命衛青為大将軍，率領六名将軍，十多萬士兵，從朔方、高阙出發攻打胡人。

右賢王認為漢軍不能到來，就喝醉了酒，漢軍出塞六七百裡，趁着夜色包圍了右賢王。

右賢王非常吃驚，脫身逃跑了，各精銳騎兵也紛紛跟着跑了。

漢朝俘獲了右賢王的部衆男女一萬五千人，其中位居裨小王的有十多人。

當年秋天，匈奴一萬名騎兵進犯代郡并殺死都尉朱英，劫掠了一千多人。

第二年春天，漢朝又派大将軍衛青率領六名将軍，十多萬騎兵，再次從定襄出發行進幾百裡去攻打匈奴，前後共斬殺和俘獲了一萬九千多人，而漢朝也損失了兩名将軍、三千多名騎兵。

右将軍蘇建得以隻身逃脫，然而前将軍翕侯趙信作戰不利，投降了匈奴。

趙信，原來匈奴的小王，投降了漢朝，漢朝封他為翕侯，由于前将軍和右将軍的部隊合并而與大部隊分頭行動，獨自遇到了單于的軍隊，因此全軍覆沒。

單于得到翕侯之後，把他封為僅次于自己的王，并将自己的姐姐嫁給他做妻子，和他謀劃侵擾漢朝。

趙信讓單于穿過沙漠向更北的地方遷移，來引誘漢軍，伺其疲困而攔截他們，卻不靠近漢朝的邊塞。單于聽從了他的策略。

第二年，胡人的騎兵一萬人進犯上谷，殺害了幾百人。

第二年春天，漢朝派骠騎将軍霍去病率領一萬名騎兵從隴西出發，越過焉支山行進一千多裡，進攻匈奴，斬殺和俘虜了一萬八千多胡人，擊破休屠王的軍隊并繳獲他用來祭天的金人。

當年夏天，骠騎将軍霍去病又與合騎侯公孫敖的幾萬名騎兵從隴西、北地出發行進二千裡，進攻匈奴。經過居延海，攻打祁連山，斬殺和俘虜了三萬多人，其中官職在裨小王以下的有七十多人。

這個時候匈奴也來進犯代郡、雁門郡，殺害和劫掠了幾百人。

漢朝派博望侯張骞和将軍李廣從右北平出發，攻打匈奴左賢王。

左賢王包圍了李将軍，士兵大約四千人，将要被殺光了，漢軍殺死敵人的數目也超過了己方損失的數目。

正趕上博望侯張骞的軍隊來援救，李将軍得以解脫。

漢軍損失了幾千人，合騎侯公孫敖延誤了骠騎将軍約定的日期，所以和博望侯張骞都應當被處死，後來出錢贖罪貶為庶民。