军旅生涯，是李敖人生的重大转折点。他上大学时，就决心“自炼钢铁”，真正把李敖炼得像钢铁一样坚韧，一样锐不可挡还是他的一段军旅生涯。离开军队之后，他来到文献社工作，开始他的文化论战。他的文章如匕首、投枪，直接点出了现代文人的老毛病。他成为了敢说敢做的斗士。
一、坚决不加入国民党
1959年，李敖决定到部队上服役，不再考研究所了。他希望当兵能把他锻炼得像钢铁一样坚强，一样锐不可挡。
到军中以后，李敖一直过得积极愉快。他最心折的人是海明威。他买了一本何欣写的《海明威创作论》，很有兴味地读下去。他喜欢海明威那几次参加战斗所表现出的勇敢和顽强。他希望像海明威那样做人。因此他的态度与看法迥异于一般人。他觉得这不是虚度日月，这是最好的一种磨练与生活。他从军人生活中发现了一种诗意。他有《风山杂诗》写军中情况：“白天世仇为烈日，晚上情人乃草席。整日耳边闻何事？立正稍息与看齐。”又写道：“队前吆喝人生畏，台上颐指群俯首，羔羊圈里是大虫，长官到来变走狗。”1960年4月6日，作《题二十五岁造像》：“势如江海气如山，妙语如花现一斑，口里谈兵君莫笑，土头土脑李教官。”
同学中有很多人是国民党党员。队中第四号，是台大中文系毕业的，负责监视李敖的行动，并给上级组织打小报告，李敖以玩世之态对之。有一次，李敖写诗给那人，说：“见了二娘呼婶婶，见了悟空喊大爷，退役以后饿不死，衡阳街口擦皮鞋。”退伍时得知，那人在小报告上并没有写李敖的坏话，也没有写别的同学的坏话，表现出了东北人的忠厚。
在半年受训期间，国民党千方百计拉同学入党。最后使出杀手锏，说不人党的会被分配到金门前线，而那时的金门是八二三炮战的极危险地带。在这种杀手锏的威胁利诱下，仅有的少数非党员同学大都入党了。李敖也被动员加入国民党，但他不为所动，坚持不入。某长官说：“李敖你不怕去金门？”李敖说：“我不怕。”某长官说：“你很优秀，我们国民党没拉到你，很可惜。”李敖说：“你们拉到一个贪生怕死、为了怕去金门而入党的李敖，才真可惜呢！”某长官说：“你不入党，你在台湾活下去会永远不方便。”李敖说：“我准备死在金门，没什么不方便的。”某长官听了，摇头而去。有趣的是，李敖后来并没有分到金门，反倒是人国民党的同学给分发到金门去了。那些人知道后，跑去质问某长官，某长官说：“前线需要忠贞的人，把李敖送到前线，他会影响民心士气，所以还是你们去好一点。”气得有些人把党证都给撕了。李敖一生以不是国民党员为荣，他对为了不做国民党而必须付出的任何代价，都从不逃避。
国民党这种拉人入党的做法并不鲜见。某长官说的“你不入党，你在台湾活下去会永远不方便”，则更说明了党票具有极端的重要性。党票，是路条，是介绍信，也是做官的敲门砖。“入党做官”，在台湾是一个人人都知道的秘密。
1960年3月3日，李敖的半年训期满，出发到师四十九团四二炮连做副排长，当时他的思想考核资料上写着“思想游移。媚外思想甚重”的评语。
李敖带兵。颇有一股悍气。他利用闲余时间写日记，来展示他独特的艺术才能。
事实上。这个时候李敖已在利用业余时间，进行文学创作了，其成果便是后来收在《传统下的独白》里的《妈妈的梦幻》。
《妈妈的梦幻》是1959年写的，发表于1960年11月20日台北《联合报》副刊上，马宏样（即马戈）寄给李敖五份报纸，并在信中极力称赞，说此篇“隽永可喜，亦颇有古诗人轻怨薄怒温柔敦厚意，大手笔固善写各体文章，无怪向日足下视此为小道也”。又说：“苟有得于心，则其表述可以论述、可以史著、可以小说，皆无伤也。而克罗齐之美学，其重点既在此。”
这篇《妈妈的梦幻》，看似散文，其实把它当做小说要更好一些。文中写父亲去世以后。“妈妈把六位千金叫进房里，叽叽咕咕地开了半天妇女会”一节，就不是真实的，因为大、二两位千金留在大陆，不可能参加妈妈召开的“妇女会”，显然它是虚构的，符合小说的特点。整篇文字，结构紧凑，言简意赅，情节推进很快。作者集中笔力塑造母亲的形象，开篇第一句“妈妈从小有一个梦幻，就是当她长大结婚以后她要做一家之主，每个人都要服从她”，是全文的主眼。但是妈妈的这个理想总是不能实现。先是有“妈妈的妈妈”这位“太上皇后”在，而“太上皇后”又是大权独揽的，容不得妈妈插手。“太上皇后”归天以后，妈妈本可以行使她的主权——“主”妇之“权”了，可是又有爸爸跑出来，跟她相争；她靠的是祖传之法，也是妇人。三从四德”之道。爸爸去世以后，按照“传统道德”，妈妈仍旧不能掌权，因为“夫死从子”，只是由于发动了一场政变，妈妈要“做一家之主”的理想才得以变成现实。这个理想与现实的矛盾，也是传统道德与现代文化的矛盾，小说在瘦小的躯体上，蕴涵着重大的主题意义。
我们又可以看到这篇小说是具有某种象征意义的。家，犹国也，这在我们中国，尤其如此，“家”、“国”二字连用，组成“国家”，便是有力的说明。一个国家。是实行专制，还是实行民主，不仅仅是个政体选择问题，而是运用什么文化的问题。按照中国的传统文化，无论是“妈妈的妈妈”掌权，还是爸爸掌权，拟还是妈妈表面上的“民主”掌权，实际上都属于专制。妈妈掌权，实行性别歧视，依靠六个“千金”的多数，剥夺两个男性的自由权利，所以并不是真正的“民主”。鲁迅在《文化偏至论》中说：“同是者是，独是者非，以多数临天下而暴独特者，实十九世纪大潮之一派，且曼衍人今而未有既者也。”妈妈就是“以多数临天下而暴独特者”，只是她多一层遮羞布罢了。当我们这样理解的时候，“妈妈”就是一个符号，不具有客观实在性的意义。这样，她那小得不能再小的“伟大”理想，也就不值得我们去嘲笑了。
这篇文字的艺术性，前引马宏祥的信说得好，它“隽永可喜，亦颇有古诗人轻怨薄怒温柔敦厚意”。我特别喜欢它那种轻松幽默、嘻笑怒骂皆成文章的格调。全文只有两千多字，但却包含了极其丰富的内容，让人玩味不尽。这是一篇十分精彩的短篇小说，思想性和艺术性都达到一定高度。这当然不是作者的处女作，但不能不说是一个美好的开头。搁在一般作者身上，有了这样的开头，不用多久，就会成为一位杰出的小说家。李敖自是不以写小说为满足的，这在他只不过是一幢建筑物上的一个饰物而已。
在这篇文章的后记里，李敖还写了如下几句：“发表后，妈妈终于找到了我。向我警告说：‘大少爷！你要是再把我写得又贪财又好吃，我可要跟你算账了！’”且不论事实如何，只就此文所具有的无可辩驳的真实性而言，“妈妈”自动“对号入座”，是可以理解的，而这恰好表现了李敖写作的一大特点，是无论何人他批评起来都不留情面。
《独身者的独白》写到部队服役的情形：“真是爬，‘匍匐前进’、‘夜间战斗’……多少个爬的课目在等着我。人伍训练六个月，野战部队近一年，我不知道爬了多少次，在深山、在外岛、在风沙里、在太阳底下，我用全是泥土的手擦着汗，喘着气，偶尔抬起头来，望着天边的几只鸟儿，我叫不出它们的名字，只知道它们全在飞。”
李敖在服役期间，生活是艰苦的；他好“请客”，那是他的一种侠义心肠，经济并不富裕。同时还有一个服役期满何去何从的问题。这些他自己似乎没有多想，可是他的老师、他的朋友想到了。如马宏祥，就给过经济资助。马在一封信中说：“至于那‘戋戋’五十，你何必挂在心上，你有老毛病我何尝没有，有的人我不愿借一元钱给他，‘朋友’我愿意将我能分出的分出，我们做不到孔子的‘老者安之，少者怀之……’至少可以做到子路的‘车马轻裘与朋友共……’，我希望你不要再谈钱，如果谈就告诉我你需要多少，只要不太多。”生于同年后来成为著名哲学家的陈鼓应，在李敖服役期间，也多有交往，书信不断，见面后则互相请吃。1960年5月5日，“鼓应寄来《中国小姐》第一辑”和信一封。信中说：“找了好几天，下午三点钟才找到她，我将信交出的时候，她似乎很紧张，最后向我说了声谢谢，就走进教室拆你的信了。”为李敖跟一位女士（她当姓张吧）穿针引线，其关系之密切，不难想到。陈考取研究所以后，李敖“作书给‘鼓应准硕士’劝其暂勿念研究所”，应该“先把自己置于另一个完全不同的阶层与环境里头‘磨’它一年”。又“嘱勿告友朋我闹穷，而命他先寄五十元”。一同在部队服役的潘毓刚等人，对李敖的生活和未来的事业，也都多所关心。
同时，关心他还有姚从吾老师及马宏祥、萧启庆。
1961年1月26日，全团开往澎湖。2月6日，李敖退伍了。
1960年8月1日，还在军中服役的时候李敖在日记中写道：“在众人午睡时躺在床上想：我还这么年轻，我有过许多经验，又具有着俗人所不及的许多本钱，军中的磨练——很好的磨练——更使我在刻苦与意志上面有了极大的进步，我现在在镜子前面看我自己，我明显的感到我从来没有如此成熟有力，他们都是昏睡的人群，他们是真正的弱者，他们只有些原始的力量、专科知识的力量，而我呢，既非粗犷的男人、亦非坐井的学人，我是真正的一个万千人中的有大办法大抱负的人，以我的年龄才具与性格，我决心放弃了在我里面那些无为的、缩头的、重视爱情的‘陈彦增的毒素’，我决心只给我自己一条路走，就是要好好把我锻炼成新时代的英雄人物，锤成一条‘坚强得可怕’的铁汉……”又说：“霸气与野心是我指给自己的一条新道路—一条惟一的新道路，这是我在军中的一个大转变——放弃了‘陈彦增式的老路’，在外表上也做了一个汲汲求名勃勃好功的人物了。”
后来在回顾这一段军中生活时，李敖说：“一年半前，带着失望的心情我走出大学，进入军队；一年半后，带着解脱的心情我退伍归来，重返文明。回首前尘，深感军队生活更凝固了我的思想与悍气，因为不是国民党党员，我在野战部队中吃过一般预备军官不太容易吃到的苦，可是我很坚强。一年半从戎投笔的生涯在我的生命里掺进新的酵素，它使我在突然间远离了学院、远离了书卷、远离了跟民间脱节的一群。在军队生活里，我接触到中国民间质朴纯真的一面，而这些质朴与纯真，在我出身的‘高等学府’里，早已是教科书上的名词。这段经验使我愈来愈感到大学教育的失败，在退伍归来，我写着：‘教育好像是一架冷冻机，接近它的时间愈久，人就变得愈冷淡。太多的理智恰像泰戈尔形容的无柄刀子，也许很实际很有用，可是太不可爱了！’虽然如此。我还是得回来，待从头收拾‘冷冻机’，不退却。”
二、从“四席小屋”到“碧潭山楼”
李敖决心找一个清静的所在，给自己独居。多年里，从来没有这么一间房，他多么想要这么一间房。他一定要达成这一心愿。两天后，李敖找到了，在新生南路三段六十巷一号，是一长行对排木屋的一间，只有四个榻榻米大，矮得双手不能向上举，他名之日“四席小屋”。隔壁住着李善培，两人合买了一台收音机，又弄来唱机，把木板隔间挖一个洞，置收音机和唱机于洞口，两人谁都可以使用它。小屋月租二百二十元，不算贵。
第二天，李敖在日记中写道“入夜在小屋中边整理边读写，伏大桌上，点一百支灯，听外面小雨声，想到多年奔渡。今夜起聊得小休，兴奋得连撒三尿。”
“四席小屋”开门就是陋巷，出巷即是台大。正当春暖花开的季节，李敖来到台大，大有物是人非之感。过去的老朋友、老情人都已高飞远走。晚上从姚从吾老师的研究室走出来，整个的文学院大楼一片漆黑，李敖想到自己的身世和抱负，忍不住叹一口气，有时候，陈宝琛那两句诗不由从嘴边冒出来，正是：
委蜕大难求净土，
伤心最是近高楼！
李敖在“四席小屋”时代，留有完整的日记，有一些与姚从吾老师周旋的片断，集中起来，倒颇有趣。
2月17日，“夜与姚先生谈”。“胡适之初有揽我之意。询我地址，姚知我写东西给胡之事，姚以我在军中，接胡信殊不便。”“目前四、五月内姚只想给晋生工作，似不想给我工作。”“为不领干薪，姚拒绝了去年八月起给我薪水，结果六千元失掉了，姚老此作风甚令人佩服。”“胡问我老子名字，姚答不出。”
2月21日，“启庆早来，同赴校，借五百金，姚老头竟要我开借单，真是可恼可笑，思将珂手中之一百美金转借，乃去第九宿舍。见到黄小萍，还是很艳，——她们的外表何等有生的兴致！”
2月25日，“去姚家还钱，老头儿吃喜酒去了。”
2月27甘，“午与善培合宴启庆于寿尔康，归与启庆品茗谈，再赴校找姚老头，还钱他不受，他言对我之信任与能力之期许与赞扬，又写名片介绍蒋复璁，翻看东方杂志后归。”
3月1日，“午前与晋生同骂老头儿，老头儿们唯恐青年人有钱。”……
“四席小屋”虽好，无奈每晚有老鼠在天花板上奔驰，未免美中不足。又因地处要津，白天客人不断，最多时一天来客人十四人。附近环境又太吵，老太婆、少奶奶、小孩子一大堆。虽在陋巷，自己却先“不堪其扰”起来。熬了四个月，李敖决定下乡。选来选去，在新店选到了一间小房，背山面水，每月两百元。于是装了一卡车的书。在6月15日搬到新家。那是在新店狮头路十七号，李敖名之日“碧潭山楼”。
新店地方不大，居所附近就有臭菜场和臭河沟，环境并不理想。可它是钢筋水泥的。绝无鼠辈在头上骚扰，也算一快。
在这里，李敖写了《生活小偈》：“夜凉似水，几净灯明，小室独处，抽烟品茗，一念不起，心定神凝，静中读书，浩（改‘悠’字亦佳）然忘情。”
7月12日，李敖写了《女坏蛋的第一次试炼》：“下午研究所报告毕，将上车，鲍家麟等五个丫头忽莫名其妙地邀我，说请我吃冰，七嘴八舌，述我的‘影子’，诸如平光眼镜、军中放言、帽中女人、信骂‘莎岗’、遮日记给人看……不可胜数，我纵言反击之，极得豪迈之乐，我以凤梨酥、坏蛋论、狗眼看人低等论揄之，了无所忌。又言偷看老姚日记等事，使小鲍家麟以手帕遮小口大笑多次，真是开心。”
7月29日作《病后小记》，31日作《人间俗气一点无》：
留学考放榜，引起我许多感触。我觉得在默察人生上面更向前迈了一步，好像我走的路，愈来愈跟他们隔得远了。我的思想现在显然是相当出世的，出世得觉得‘许多事是盲动，许多话不值得说’，因此我显然选择了喜欢独处与不爱多说的路，我打不起劲儿去热中人事，我毕竟是反派的人物，我不再能肯定世俗的荣耀与腾达，一个走到我这种境界的人，不会再有寂寞的感觉，我不怕孤独，我不怕孤立。