一直到了公元前85年，匈奴的單于死了，匈奴發生內亂，分成了三個國家。新單于沒有力量再跟漢朝打仗，又打發使者來求和。那時候，漢武帝已死去，他的兒子漢昭帝即位。漢昭帝派使者到匈奴去，要單于放回蘇武，匈奴謊說蘇武已經死了。使者信以為真，就沒有再提。
第二次，漢使者又到匈奴去，蘇武的隨從常惠還在匈奴。他買通匈奴人，私下和漢使者見面，把蘇武在北海牧羊的情況告訴了使者。使者見了單于，嚴厲責備他說：“匈奴既然存心同漢朝和好，不應該欺騙漢朝。我們皇上在御花園射下一隻大雁，雁腳上拴著一條綢子，上面寫著蘇武還活著，你怎麼說他死了呢？”
單于聽了，嚇了一大跳。他還以為真的是蘇武的忠義感動了飛鳥，連大雁也替他送訊息呢。他向使者道歉說：“蘇武確實是活著，我們把他放回去就是了。”
蘇武出使的時候，才四十歲。在匈奴受了十九年的折磨，鬍鬚、頭髮全白了。回到長安的那天，長安的人民都出來迎接他。他們瞧見白鬍須、白頭髮的蘇武手裡拿著光桿子的旌節，沒有一個不受感動的，說他真是個有氣節的大丈夫。
司馬遷寫《史記》
蘇武出使匈奴的第二年，漢武帝派貳師將軍李廣利帶兵三萬，攻打匈奴，打了個大敗仗，幾乎全軍覆沒，李廣利逃了回來。李廣的孫子李陵當時擔任騎都尉，帶著五千名步兵跟匈奴作戰。單于親自率領三萬騎兵把李陵的步兵團團圍困住。儘管李陵的箭法十分好，兵士也十分勇敢，五千步兵殺了五六千名匈奴騎兵，但是匈奴兵越來越多，漢軍寡不敵眾，後面又沒救兵，最後只剩了四百多漢兵突圍出來。李陵被匈奴逮住，投降了。
李陵投降匈奴的訊息震動了朝廷。漢武帝把李陵的母親和妻兒都�