汉昭帝登位，几年后，匈奴和汉达成和议。汉廷寻求苏武等人，匈奴撒谎说苏武已死。后来汉使者又到匈奴，常惠请求看守他的人同他一起去，在夜晚见到了汉使，原原本本地述说了几年来在匈奴的情况。告诉汉使者要他对单于说：“天子在上林苑中射猎，射得一只大雁，脚上系着帛书，上面说苏武等人在北海。”汉使者万分高兴，按照常惠所教的话去责问单于。单于看着身边的人十分惊讶，向汉使道歉说：“苏武等人的确还活着。”于是李陵安排酒筵向苏武祝贺，说：“今天你还归，在匈奴中扬名，在汉皇族中功绩显赫。即使古代史书所记载的事迹，图画所绘的人物，怎能超过你！我李陵虽然无能和胆怯，假如汉廷姑且宽恕我的罪过，不杀我的老母，使我能实现在奇耻大辱下积蓄已久的志愿，这就同曹沫在柯邑订盟可能差不多，这是以前所一直不能忘记的！逮捕杀戮我的全家，成为当世的奇耻大辱，我还再顾念什么呢？算了吧，让你了解我的心罢了！我已成异国之人，这一别就永远隔绝了！”李陵起舞，唱道：“走过万里行程啊穿过了沙漠，为君王带兵啊奋战匈奴。归路断绝啊刀箭毁坏，兵士们全部死亡啊我的名声已败坏。老母已死，虽想报恩何处归！”李陵泪下纵横，于是同苏武永别。

单于召集苏武的部下，除了以前已经投降和死亡的，总共跟随苏武回来的有九人。

苏武于汉昭帝始元六年（前81年）春回到长安。昭帝下令叫苏武带一份祭品去拜谒武帝的陵墓和祠庙。任命苏武做典属国，俸禄中二千石；赐钱二百万，官田二顷，住宅一处。常惠、徐圣、赵终根都任命为皇帝的侍卫官，赐给丝绸各二百匹。其余六人，年纪大了，回家，赐钱每人十万，终身免除徭役。常惠后来做到右将军，封为列侯，他自己也有传记。苏武被扣在匈奴共十九年，当初壮年出使，等到回来，胡须头发全都白了。