作为史官，司马谈非常清楚地知道，从汉朝建立以来，朝廷对关西人采取歧视的态度，认为关西人是原来秦朝的后裔，这些人身为亡国奴，对汉朝不会忠心耿耿，因而不能委以重任，更不能高官厚禄。司马谈曾对名将李广的事迹进行过记录和研究，这是一个不被朝廷重用的最典型的例子。在司马谈看来，凭功勋和资历，李广是完全够资格封侯的，但是汉朝的三代皇帝就是不给李广以封侯的待遇。李广将一生都奉献给了汉朝，他多次大败汉朝的敌人匈奴的侵犯，稳固了汉朝的北部边关，为汉朝的繁荣做出了巨大的贡献。然而，仅仅因为一次败仗，就将他弃之不用，等到发现朝廷不用他的时候，匈奴兵又开始频繁进犯，于是又将他召回，派他镇守北部边关。但是就是不给他封侯，这让很多人都百思不得其解。司马谈反复思考，寻找原因，从朝廷其他官员那里得知，并依据自己多年在朝廷做事的经验，最后才得出上面的结论。
因此，在司马谈心中一直就有这样的顾虑：他认为朝廷是不会重用司马迁的，现在只是暂时为官，一旦不能被重用，儿子的前途就会受到极大的影响。
尽管司马谈有这样的顾虑，但是眼下皇帝已经做出了决定，司马迁到宫中为官已成定局。本来能成为皇帝身边的人，是很多人求之不得的好事情，是应该感到高兴的事情，但对司马谈来说，他高兴不起来。连日来，他辗转反侧，甚至有些心事重重。因为是皇帝的亲自任命，司马谈最后也只得从命，等待时局的变化。
不久，司马迁开始进入朝廷担任郎中，作为父亲的司马谈对司马迁说道：“从我担任太史时起，我就有很多机会翻阅许多一般人看不到的典籍，研究各家各派的学问，如今算来，已经二十多年了。你现在才刚刚开始自己新的人生，应该是需要一些良好的人生指导的，我已将我这些年的人生感悟和心得写成一本书，现在将它送给你，或许对你有些帮助，希望你能随时带在身边并研习书中的内容。”
司马迁一下子愣住了，因为从来没有听父亲说过有这本书的。面对父亲双手递过来的一册书，司马迁十分惊奇，连忙跪下来，眼含热泪，用双手接了过来。他深知，这本书的分量，里面的一字一句都满含着父亲的心血和对自己的殷殷期望。
原来，司马谈送给儿子司马迁的那本书，书名叫作《六家要旨》。书中主要是对秦朝以前中国历史上影响巨大且很重要的六种不同的学派即阴阳家、儒家、道家、法家、墨家和名家的学问，进行了详细而系统的比较研究和总结。在后人看来，这本书对六家思想做出了最简洁最恰当的评价，达到了很高的学术境界，为后来的许多学者提供了很好的借鉴。
司马谈之所以在这个时候送给儿子这本书，是因为在他看来，将自己多年研究学问的心得传承给儿子，是对儿子司马迁的一个很好的教育和帮助，让他在研读这本书的时候明白一个道理：各种学说各有所长，也各有所短，在研究和做学问的时候，必须博采众家之长，灵活运用，触类旁通，才能掌握完整的真正的属于自己的学问。司马谈认为。司马迁还很年轻，应该不断学习和研究前人的典籍和学问，才能在未来的为官道路上不被困难和挫折所左右，在官场上有不可逾越的挫折时，不要钻死胡同，并能顺利地回到跟祖业一致的史官道路上来，也可以做出一番大事业。
然而，司马迁并不知道父亲的一番良苦用心，因为他还太年轻。他只是在阅读父亲送给他的那本书的时候，对父亲的学问和思想产生无限的钦佩和敬意。
三、初入仕途
怀着欣喜和憧憬，司马迁来到宫中，开始了自己的为官生活。然而，他很快就发现，自己并没有什么具体的事务可做。
一天，皇帝要到上林苑打猎，命令派上一些宫中的官员陪同前往。司马迁被选中作为陪同人员之一前往上林苑。
年轻的汉武帝是一个好大喜功和爱好玩乐的皇帝，他刚登基的时候，特立独行，喜欢做出一些微服私访的举动，也非常喜欢在皇家上林苑游猎娱乐。他每次外出巡游猎时，还喜欢命令随从人员带上很多佳酿美酒，邀约一大群喜欢骑马游猎的少年，在皇家猎场痛痛快快地玩乐一段时日。
汉武帝有时玩得天昏地暗，有时也弄出一些事端来。有一次，汉武帝在一班人马的陪同下游猎时，由于玩得尽兴，没有注意到已经将农民种的作物踩踏得很厉害，农民大声叫骂，并将他们告到当地县衙。那县令接到报案后，立即派了一帮兵士将汉武帝一行人拦住。由于那县令也没有认出来是皇帝，就命人将他们拿下，直到汉武帝拿出皇室凭证，在被扣留好一阵子后才被放行。
还有一次，汉武帝因游乐而忘返，天黑后，想在一家店子里借宿，但遭到店主人的戏弄。当汉武帝等人走进这家店后，那店主就对汉武帝说道：“看你这人长得一表人才，怎么就喜欢聚众闹事，而不愿意好好劳动呢？看来你们一定是行为不端的一群人。”
等到吃饭的时候，汉武帝叫那店主上一壶好酒。那店主立即回答说，酒是没有的，尿还有一壶。坐了一会，汉武帝觉得有些不对劲，就派人侦查，发现那店主已经聚拢一帮人，各人拿着一些刀剑棍棒之类的武器，将店子围了起来。汉武帝被吓了一跳，赶紧带着随从逃跑。
经过几次类似的危险后，大臣们认为，为了保证汉武帝的安全，在他出巡游猎时，一定要多带些警卫和侍从，并在沿途设置一些更衣房和观礼台。这样既方便游猎，又能让皇帝在观礼台上观看别人打猎，同时也能很好地保障皇帝的人身安全。这真是一举多得的好办法！
有一天，汉武帝又出游打猎了。司马迁也是随从人员之一。当皇帝的游猎队伍浩浩荡荡地开进皇家游猎场时，司马迁和一大群郎中已经提前到达那里，正静静地等候着，他们已经等候差不多一个多时辰了，但仍然不见皇帝的身影，这些郎中们开始有些焦急起来。他们每个人手执长矛，精神抖擞，神情专注地看着这壮观的皇家猎场，期盼着皇帝的身影尽快出现在猎场的观礼台上。
又过了一会儿，汉武帝在一帮随从的陪同下走进猎场。只见他身着黄色短装，蹬着一双黄色牛皮靴，简直是一身猎人的打扮。司马迁和在场的所有随从都目不转睛地看着，汉武帝昂首挺胸，迈着矫健的步子登上了高高的观礼台，汉武帝直接走到中央，向下俯瞰着猎场，真龙天子的威严得到了尽情的展示。当扫视完周围的一圈后，汉武帝宣布围猎开始。随从们纷纷各行其是，打猎的场面很快变得热闹起来。
司马迁第一次亲临现场，看到这壮观的场面，心里感到新奇和愉快。但是随着次数的增多和见到的场面总是一样的，他开始有些见怪不怪了，新奇的感觉也变淡，甚至感到索然无味。特别是在这样的场合下，司马迁感到自己一点也派不上用场，每次都是除了早早来到猎场静静等候外，剩下的就是无所事事。他的心情开始变得有些郁闷起来。
他一直没弄明白郎中的真正职责是干什么，郎中在宫中的地位是怎样的。经历多了，司马迁开始思索起来。经过几个月的亲身实践，司马迁总算明白了郎中所扮演的角色以及在皇宫中的地位。在司马迁看来，郎中只不过是皇帝家中的奴仆，一切听从皇帝的安排，哪怕是发表一下自己的建议或说一句话，都要得到皇帝的允许；没有皇帝的命令，连话也不要讲。当皇帝需要的时候，郎中才能有机会得到派遣，去执行安排好的任务，这可以说是郎中在宫中能做事的最好机会。如果遇到哪个郎中的运气不好，那就只有长期为皇帝看守宫殿大小门户的份儿。
时间一长，加上这让人感到无聊透顶的闲差事，司马迁的心情极度郁闷，情绪几乎低落到极点。
然而，一件事情往往有坏的一面，又有好的一面。在皇宫中担任郎中一职，也能带来一些别的官职没有的方便：那就是可以随时在皇帝的身边，对皇帝的许多生活细节随时了解和掌握，也就是说可以看到或听到许多大臣都无法知晓的秘闻。作为皇帝身边的小官，可以看到皇帝在朝堂上威严的一面，也可以看到皇帝在家庭生活中闲散的一面。这是一般官宦所无法知道的。
作为世代为史官的后人，司马迁早期受益于家族影响，他开始用心地去观察自己周围的一切，对皇宫包括皇帝在内的所有人和期间发生的大大小小的事情开始留意起来，并随时记录每个人的一言一行，随时对记录进行整理和归类，也加入一些自己的个人想法和评注。日积月累，养成了一个习惯，这为他后来写《史记》提供了很好的资料和基础。
同时，在宫中担任郎中的任期内，司马迁还结识了一些很好的朋友，这是非常快乐的事情。他在担任郎中不久，就认识了同为郎中的任安和壶遂，后来与他们二人成为很要好的朋友。任安为人坦荡诚实，对人热情，而壶遂做事能干，有头脑，是一个能有所成就的人。他们二人都对司马迁的为人品行和文章学识很欣赏。他们三人时常聚在一起，品评古今人物，共赏天下文章。任安和壶遂经常称赞司马迁的文章和学识，说他的文章自然质朴，文辞简洁，有张力，情节生动，很精彩，继承和发扬了古代先贤的文风。司马迁听后很受鼓舞。