西汉天汉元年，苏武奉皇帝之命，手持汉朝的符节出使匈奴。匈奴贵族扣留了他，为了让他投降，威逼利诱，用尽各种办法，苏武都不为所动。匈奴一怒之下，将他放逐北海边去牧羊，并声称什么时候公羊下崽了，才让他回国。
苏武被放逐到北海边以后，没有粮食供应，饿了，就挖野鼠洞，吃鼠洞里的草籽。汉朝的符节他从不离手，晚上睡觉时，他就抱在怀里；白天，他就拿在手里放羊，由于长时间的风吹日晒，节杖上的毛缨都脱落了。
李陵是苏武在汉朝时的同僚，两人同为侍中。后来，李陵投降了匈奴，自惭形秽，不敢去见苏武。苏武来北海牧羊已经很长时间了，单于派李陵来北海边劝降。当晚，以乐队助兴，设宴招待苏武。
李陵对苏武说：“我们两个同朝为官，单于听说我与你一向情谊深厚，所以让我来劝你归顺他，单于愿意虚心地听从你的指教。无论如何，汉朝你是回不去来了，何苦在这荒无人烟的地方，自己忍受煎熬。你的坚贞不屈，只有天地可鉴，人又有谁看到呢！你的两个兄弟，都已因罪自杀；我来北海时听说，你母亲也已不幸辞世；你的夫人还年轻，已经改嫁了；只剩下两个妹妹、两个女儿、一个儿子，况且已经过了十几年，不知道他们是否还在人世。人的一生，短暂的就好像是早晨的露水一般，你又何必花这么多时间让自己受苦！当初，我刚投降匈奴时，精神委靡不振，觉得快要发疯了，想道自己辜负汉朝就不能原谅，老母也被我连累，遭受牢狱之苦。这种不愿归降匈奴的心情，我的体会比你更深！况且这么多年过去，皇上也已经年迈，常常是朝令夕改，变化无常。无罪的大臣都有数十家被抄杀满门，你就算回去，也不知道能不能安然无事，何苦还要坚持呢！”
苏武说：“我父子本都是平庸之辈，全仰仗皇上的栽培，才能够位列公卿，身居高位，与列侯、将军同朝议事，使我们兄弟有机会亲近皇上。所以我立志就算是肝脑涂地，也要报答皇上的恩德。如今有机会以死来回报皇上，哪怕是身首异处，放到汤锅里烹煮，也是我心甘情愿的！作为一个臣子侍奉君王，就好像儿子孝顺父亲一般，儿子为父亲而死，死而无憾。你还是不要劝我了。”李陵见苏武坚持，没再说什么，两人欢饮数日，李陵还想再试一试，又劝道：“子卿你再听我一句劝吧。”苏武拦下他，说：“早就料到，这次必死无疑了，心中并没有什么畏惧。如果大王你硬要我苏武投降，那我们两人的欢聚就到此为止，索性让我死在你的面前！”苏武的一片赤诚，让李陵非常感慨，长叹道：“唉！你是真正的义士！我与卫律辜负朝廷，罪过上通于天！”不觉落下泪来。于是李陵无功而返，告别苏武离去时，送了数十头牛羊给苏武。
后来，汉武帝去世，李陵又来到北海边告诉苏武。一连数月，苏武每天早晚面向南方失声痛哭，甚至吐血。又过了一段时间，壶衍单于即位，他的其母阏氏行为不正，使得国内分崩离析，他便常常担心，汉军会趁他们国内混乱时，前来袭击，卫律给单于出主意，与汉朝和亲。汉朝派人出使匈奴，要求放苏武等人回国，匈奴不想放人，便称苏武已死。后来又有汉使来到匈奴，常惠偷偷来找汉使，教他对单于说：“汉天子在上林苑打猎时，射下一只大雁，谁知这只雁脚上系着一块绸缎，上面写着，苏武等人还活着，现在在某湖泽之地。”汉使得知苏武等尚在人世，大喜，并按常惠教的去责问单于。单于大吃一惊，四下环顾，没料到竟有这样的事情，不得不向汉使道歉说：“苏武确实还没有死。”匈奴要向汉朝求和，这才把苏武、马宏等人放了。汉朝先前曾派光禄大夫王忠出使西域各国，马宏是王忠的副使。出使途中，遭到匈奴军队的拦截，王忠战死，马宏被俘。他也誓死不肯投降匈奴。借着这次机会，匈奴将苏武、马宏二人放回，是想向汉朝表达他们的诚心和善意。
苏武终于得以回归汉朝，李陵也很替他高兴，于是，摆设酒筵替他祝贺。李陵对他说：“你不辱使命，如今终于能够返回祖国。现在匈奴人人称赞你持戒不屈的气节，等你回到汉朝更是劳苦功高，即使是史书上记载，被人画了画像留传的人，也比不了你的功绩。想当初，我虽然并不聪明又胆小，但是，春秋时期，曹刿劫持齐桓公，迫使他归还土地的壮举，也是我一直崇尚的，假如汉朝当年能宽恕我的罪过，放过我的老母，我也愿意忍辱负重，效仿曹刿伺机而动。谁知我全家竟惨遭灭门，使我承受了当世最残酷的杀戮，汉朝如此待我，我还有什么好顾念的呢！如今已时过境迁，我还和你说这些，也不过是想让你知道我的心罢了！”说得动情，李陵已是泪流满面，苏武与他就此别过。
当年跟随苏武出使匈奴的汉朝官员和随从，除去已经投降的和去世的，现在还剩九个人。单于将他们召集到一起，让他们和苏武一同回汉朝。苏武一行人回到了长安，汉昭帝封苏武为典属国，享受中二千石的品秩，同时赏给他钱二百万、公田二顷 、住宅一所，以示嘉奖。苏武还享有用牛、羊、猪各一头，以最隆重的仪式祭拜汉武帝陵庙的特殊待遇。苏武出使匈奴，被扣留了十九年，去的时侯，正值意气风发的壮年；回来时，头发、胡须已经全都白了。霍光、上官桀和李陵是很好的朋友。他们见苏武回来了，就想劝李陵也回来，所以特派李陵的旧友陇西人任立政等三人前往匈奴。李陵对他们说：“要回去很容易，但我已投降匈奴，屈辱过一次了，现在回去，只是再次自取其辱！”于是终老于匈奴。