苏武字子卿，汉杜陵(今西安市南十余里)人。他的父亲苏建，曾跟随大将军卫青击匈奴封平陵(即平陵，今河北省大城县东北一百一十里)侯。苏武兄弟三人，都藉父亲关系作了郎官。当苏武升迁为 中廊马监(官名)时，汉武帝连年攻打匈奴，汉与匈奴双方都派使者互相往来，目的在于侦察对方情况。匈奴扣留汉使者郭吉、路充国等前后有十余人，而汉朝亦扣留匈奴人与其相当。但匈奴差不多每年都来侵略边境，抢夺牛羊，杀害无辜的老百姓。
到天汉元年(前100)，即就是汉武帝即位41年，正准备出兵攻打匈奴。原来匈奴乌维单于曾扣留汉使者郭吉、路充国等，乌维单于死，儿单于立，也曾扣留汉使者数人，儿单于死，句黎单于立一年死。到且鞮侯单于初立，汉朝已经打败大宛，威震外国，消息传到匈奴，他怕汉朝袭击，就派使者把过去扣留在匈奴的使者都送回归汉，还说：“汉天子是我们匈奴人的长辈，我做儿子的晚辈怎么敢得罪长辈的汉天子呢?”
汉武帝见到路充国等都回来，又听到且鞮侯单于所说谦虚的话，不能不信。为了回答匈奴王的好意，也采取相互谅情而宽赦其罪的办法，特派中郎将苏武持节送匈奴使者和以前扣留匈奴的使者都回去。还带有许多值钱的礼物赐送单于。苏武奉命与副中郎将张胜、使者常惠，随从还带着一百多个士兵到匈奴去。
苏武到匈奴，归还匈奴使者，送过礼物。且鞮侯单于应当满意的，哪知道单于的野蛮性子，并不愿真心要跟汉朝和好，送回汉使者，是个缓兵之计。见汉朝归还他们使者，又送来礼物，认为是中了计策，更加傲慢，对待苏武也不讲礼貌。苏武大失所望，为了两国和好，不便多说话。只得等着单于写好回信，立即动身回去。想不到就在这个时候，发生了倒霉的事，害得他吃尽苦头。
苏武未到匈奴以前，有个汉朝使者名叫卫律，投降匈奴，匈奴正需要汉人替他们出谋定计，就格外优待卫律，封为丁灵王。卫律的副手虞常虽然跟卫律投降匈奴，可是心中很不乐意，老想暗杀卫律后，逃回中原，因无帮手，不敢莽撞行动。他跟苏武的副手张胜原先是朋友。这次见了面，暗地里对张胜说：“听说咱们皇上恨透卫律，我准备替朝廷把他射死，我母亲和兄弟都在中原，我不希望别的，只希望立功，皇上能照顾照顾母亲就满足了”，张胜很表同情，愿意帮助。谁知道虞常没射死卫律，自己反倒给逮住。单于叫卫律审问案子。到此时，张胜很害怕，把虞常和他说的话，全告诉苏武。苏武非常恐惧，他说：“要是虞常供出跟你同谋，咱们还得去上公堂。堂堂大国使臣，像犯人一样给人家审问，不是给朝廷丢脸吗?还不如早点自杀。”说着，就拔出刀向脖项抹去。张胜和常惠连忙拉住，夺去手中刀，才没让他死。
苏武心里只希望虞常不把张胜供出就够造化的。而虞常受了各种残酷的刑罚，仅仅承认他和张胜是朋友，彼此曾经说过话。卫律把供词交给单于，单于召集大臣商议，要治死汉朝使者。一个大臣劝阻说：“如果他们要谋杀大王，也不过定个死罪，现在还没有这么严重，不如免罪，叫他们投降。”单于叫卫律召苏武他们进去。
苏武听到卫律叫他投降，就对常惠等人说：“丧失气节，污辱使命，就算活着，还有什么脸见人呢?”一面说，一面拔出刀，向脖子上抹，卫律慌忙把苏武抱住，而脖项已经受了重伤，倒在地下，浑身是血。卫律派人去请医生。常惠他们哭得成了泪人儿了。医生来到，苏武还没醒过来。
匈奴医生使人刨个地坑，地坑里烧着文火(微微的，没有焰的火;也叫做温火)，铺上木板，把苏武覆在上面。医生用脚踩着脊梁，让伤口出血，踩了半天，苏武才缓缓醒来。然后涂上药膏，扎紧伤口，抬到营房，而帮助虞常的张胜，被关进监狱。
单于十分饮佩苏武有气节，早晚派人问候，一直等到伤口痊愈，才叫卫律设法劝他投降。卫律奉命请苏武到公堂坐下，好像旁听似地听他审问虞常和张胜。虞常态度很强硬，对卫律说：“要杀就杀，要剐就剐，我可不愿意和你这汉奸多说。”卫律宣告虞常死罪，当时就杀了。
卫律对张胜说：“你是汉朝的使臣，不应该跟虞常同谋，暗杀单于的大臣。你也有死罪。但是，单于有命令，投降可以免罪，若说个‘不’我就砍掉你的脑袋!”说着就举起刀，张胜贪生怕死，就投降。
卫律回头对苏武说：“你的副手有死罪，也得连坐。”苏武说：“我既不是同谋，又非他的亲属，为什么要连坐?”卫律又举起刀，还没砍过去，苏武脖子一挺，声色不动地等着。这一挺，卫律反倒把手缩回去。并说：“苏先生，听我说，我也是不得已才投降匈奴，多蒙单于大恩封为王，给我几万手人下和满山的马群，你瞧多么宝贵。苏先生今天投降，明天就跟我一样。何必固执，白白地丧了命?尸首扔在草野，有谁知道呢?”
苏武不回答，卫律又说：“先生听我劝告，我就和先生结为兄弟，要不然，恐怕您不能再跟我见面了。”
苏武再也忍不住，站起来用手指卫律，骂着说：“卫律，你是汉人的儿子，做汉朝的臣下，忘恩负义地背叛朝廷，背叛父母，厚颜无耻地投降敌人，甘心情愿做汉奸，亏你还有脸跟我讲这些下流话!再说，单于信任你，叫你审问案子，决定生死，而不能平心静气地主持公道，反倒挑拨离间，欲引起两国争端，坐观祸败，你安的是什么心!你也不想想：南越王杀了汉朝使者，被汉朝灭亡，设置九郡;大宛王杀汉朝使者，他的头给送到长安，悬挂北门;朝鲜杀汉使者，立即诛灭。难道你也叫单于学他们的样子?你明明知道我坚决不投降，怎么逼迫也无用。我并不怕死，但匈奴要是闯下祸，我看你也逃脱不了。”
苏武理直气壮地责备卫律，连这种人听了脸也发红，只好去向单于报告。单于不得不称赞苏武是个有骨气的硬汉子，内心更加羡慕，要想尽办法叫苏武投降，想用折磨身体来屈服他，使出最毒辣的手段，把苏武下在地窖里，不给吃喝。两三天饿得叫苏武受不住。没有吃的已经够难受，没有水喝，简直连气都喘不过来。苏武不怕死，但事情已经到了这步田地，他要争取活着坚持正义。正好天下大雪，破破烂烂的地窖里全是雪，就大口地吃，嘴倒是不渴了，肚子还饿着。在没法当中，把扔在地窖里的破旧皮带和羊皮，连毛啃着吃下去，这样过了几天。
匈奴见苏武还活着，很奇怪，迷信他为神人。只得放出来，单于要封他为王，苏武不接受。最后押送到北海(今俄国贝加尔湖)去放羊，羊全是公羊，还用绝望的话告说：“公羊产奶，即送你归汉。”他的副使常惠也不肯投降，单于罚他做苦工，故意把他跟苏武隔开。
苏武到北海，口粮缺少，就挖野菜，逮野鼠，维持生命。处此困苦情况下，吃的、喝的，是冷是热，都不在乎，念念不忘的是没完成使者的使命，始终拿着汉朝的使节，保持永远是汉朝使者。当时什么都没有了，伴着他同生同死的就剩下这根使节。从这根使节上得到了安慰，从每一节穗子上瞧见白发的老母亲，瞧见长着长胡子的皇上，瞧见中原麦穗，瞧见他所热爱的整个国家等等。使节就是他的生命，白天手持使节放羊，晚间抱着使节睡觉，想着总有一天能够拿着使节回去。
苏武被匈奴扣留十九年，到汉昭帝始元六年，才回长安，须发皆白。
