汉武帝派卫青、霍去病打败了匈奴，又派张骞通西域，都还顺利。匈奴逃到漠北，休息了好几年，表面上又要跟汉朝和好了。单于把被扣留的使者放了回来。汉武帝就派中郎将苏武送匈奴的使者回去。
但是，苏武到了匈奴，单于对苏武不讲礼貌。苏武没想到，以前有个汉朝的使者叫卫律，投降了匈奴，匈奴封他为王。卫律有个副手叫虞常，见卫律替匈奴出主意侵犯中原，老想杀了卫律，逃回去。他跟苏武的副手张胜本来是朋友，就暗地里对张胜说，准备把卫律杀死。
张胜愿意帮他暗杀卫律。谁知道泄漏了消息，单于叫卫律审问虞常，张胜害怕，把虞常跟他说的话告诉了苏武。苏武着急了，堂堂使者，如果像犯人一样被匈奴审问，会给朝廷丢脸，他就拔出刀来向脖子上抹去。张胜和另一个副手常惠连忙夺下刀，没让他死。单于叫卫律劝苏武他们投降。
苏武一见卫律来叫他投降，又拔出刀来向脖子上抹去。卫律慌忙把他抱住，苏武已经倒在地上，浑身是血。卫律叫人去请医生。常惠他们哭得不成样子。医生给苏武灌了药，让他醒过来，然后给他涂上药膏，扎住伤口，把他抬到营房里去。张胜就被关到监狱里去了。
单于觉得苏武是个有气节的好汉，十分钦佩他。等苏武伤痊愈了，单于又想逼苏武投降。
单于早早晚晚派人去问候苏武，还是叫卫律想办法劝他投降。卫律想，软劝不成来硬的。他先举起刀来吓张胜。张胜贪生怕死，投降了。卫律又拿起刀来要砍苏武。苏武脖子一挺，不动声色地等着。这一挺，反倒叫卫律的手缩回去了。
卫律又软下来对苏武说自己投降了匈奴，单于封他为王，给了几万名手下人和满山的马群。苏武今天投降，明天就跟他一样，要不然，恐怕不能再见面了。
苏武指着卫律的鼻子，骂道：“卫律!你忘恩负义，背叛朝廷，厚颜无耻地投降敌人做了汉奸，我为什么要跟你见面?我决不会投降，要杀要剐（ｇｕǎ）都由你!”
卫律无耻地去向单于报告，单于更要想办法叫苏武投降了。他想折磨苏武，叫他屈服，就把他下了地窖（ｊｉàｏ），不给他吃的、喝的。
卫律知道苏武终究不可胁迫投降，报告了单于。单于越发想要使他投降，就把苏武囚禁起来，放在大地窖里面，不给他喝的吃的。天下雪，苏武卧着嚼雪，同毡毛一起吞下充饥，几天不死。匈奴以为神奇，就把苏武迁移到北海边没有人的地方，让他放牧公羊，说等到公羊生了小羊才得归汉。同时把他的部下及其随从人员常惠等分别安置到别的地方。苏武迁移到北海后，粮食运不到，只能掘取野鼠所储藏的野生果实来吃。他拄着汉廷的符节牧羊，睡觉、起来都拿着，以致系在节上的牦牛尾毛全部脱尽。