胡适回国后，因返乡探亲，故于1917年9月中旬才到北大任职。当时北京大学校长是蔡元培。蔡刚上任不到一年，决心整顿北大，拟将工科归并到北洋大学，集中力量要办好文理科。文科以陈独秀为学长；理科由夏元瑮兼代。成立大学评议会（即后来之校务委员会），施行兼容并包的办学方针。不料那年7月驻徐州的军阀张勋，回北京拥戴溥仪搞恢复帝制的政变，于是北京大乱。好在“复辟”不长，十来天就结束了，但对社会的影响很大。当时北大校内竟有两个多月无人办事。胡适9月30日写信给他母亲说，到京已近20日，而大学尚未上课。各事至今尚乱七八糟，一无头绪。这年北大新学年开学是9月21日，胡适在会上作了《大学与中国高等学问之关系》的讲演，阐述了他过去要办高等教育的主张和理想。上课原定在26日，后因来不及，又改到10月1日上课。这学期胡适所任的课程共有三门：英文学、英文修词学及中国古代哲学。一星期共有12个钟头的课。他说，事体本不甚繁，本可兼任外校功课，但此番来京已迟了，各校都已聘定教员，且新任课，亦不愿太忙。
胡适初进北大，当时是小心翼翼的，工作很勤奋，对人和蔼恭敬，因此得到各方面好评。同年12月，他倡议在哲学门（系），开办研究所，为大学本科毕业生提供继续读书的场所。后来校方采纳了他的意见，遂聘他为该研究所的主任。此所因属初创，事务比较繁忙，因此他的工作也就多起来了。次年4月又增加了一项职务，任英文部主任，管理校中的英文教学，而且有些学术交流活动也少不了他。就在这年春天，北大请一位美国学者讲“欧洲文学”，他被请去任翻译。这是他回国后第一次为人作口译，之后便成为经常性的工作了。后来有人向他求教，如何做好翻译，他介绍经验说：“翻译原则只有一条：‘细心体会作者的意思，而委曲传达它’。换言之，‘假使作者是中国人，他要说这句话，应当怎样说法？’依此标准，则无所谓‘直译’与‘意译’之区别；亦无‘信、达、雅’三种区别。此三种区别皆是历史的遗痕。在初创翻译之时代，不能兼顾到‘达意’与‘保存风格’两种条件，所以译者往往删除细碎的枝叶，只留原意的大旨。如今时代不同，应该保存原文的细腻语句，应该充分显出原文的风格。具体有五条：（一）直译可通则直译。（二）直译而不可解，则意译。（三）有时意译，与原文字句形式相去太远者，则注原文于下。（四）译者于原意范围之内有增减之余地。（五）译者宜时时为读者设想，有时不便改动原文，可加注解。”这些便是他多年来的心得体会。刘海粟是他的老朋友，在《闲话胡适》一书中，说胡适英文很好，却没有译出一本可以传诵千古的英国文学杰作，为他感到惋惜。
除了在英文方面的工作，中文科的事也不少，时常应邀到校外去讲演。1918年4月14日他在一封家信里说：“今天7点起，吃了4个鸡子，一碗豆腐浆，坐车到教育部会场讲‘墨子哲学’的第四次，足足讲了两点钟。我本只有三次讲演，因章秋桐（士钊）先生不在北京，故延长一次，其四次讲毕。此项星期讲演，专为普通人士设的，颇有功效。我的讲演，不但有许多少年男女来听，居然有一些老先生来听，所以我虽辛苦，却很高兴”。胡适这一席话，不但他自己高兴，他妈妈听了也是会高兴的。当时他讲《墨子》，确有独到的见解。比如：他考证《史记》中何以没有墨子列传？而韩非又说，“世之显学，儒墨也”。这样大的学派，为什么消灭得如此神速？这些他都有精辟的论述。难怪梁启超读了他的论墨文章，说好极了！我除了赞叹之外，几乎没有别的说。后来，梁出版《墨经校译》请胡作序，可见其对胡之器重。不过他把自己的文章放在前，而把胡的放在后，这点胡不太高兴。
这年暑假，胡适忙得顾不上回家乡探望老母和新婚的夫人，在校中除料理一些教学事务外，便是集中在写他的《中国哲学史大纲》。休息时也常到公园散步，或是做些应酬。一天，他在中央公园请蒋梦麟吃饭，蒋带来一位上海客人黄炎培，他是江苏教育总会会长。彼此初次见面，都很欢喜！后来谈起家事，原来父辈是相知的，当年都曾在东北吴大澂的幕府里共过事。因此，一见如故，免不了要客气一番。黄比胡大12岁，他夸奖胡适说：铁花老伯应该有适之兄这样的后人。胡适听了这话，心里十分欢喜。事后他写信把这话告诉他母亲说，我在外边，人家只知道我是胡适，没有人知道我是某人的儿子。今次忽闻此语，觉得我还不致玷辱先人的名誉，故心里颇欢喜。可见胡适的性格，是很喜欢人家捧他。陈翰笙与他是北大老同事，一直有交情。而今谈到胡适时说，胡适欢喜人家捧他，他也喜欢捧人家。这话一点不错。
胡适教学忙了一年，其效果如何呢？据学生们反映是很不错的。他进北大时年仅27岁，翩翩年少，人称胡博士，学贯中西，口才又好，这在当时本科教授行列里，可谓佼佼者也（沈尹默、马裕藻、刘复、刘文典、沈兼士等，时为预科教授），因此，蔡元培竭力辅持，并引为得力助手。1919年秋蔡便任他为代理教务长了。后来，胡适在纪念蔡元培的文章里说：他青年时期如果没有蔡元培先生的着意提挈，他的一生可能就在二三流报刊编辑之生涯中度过，因此他对蔡元培非常恭敬。
当时，胡适所开的课，以讲中国哲学史最为有名。先前讲这个课的教师是阵汉章（伯弢），人称两脚书柜，可见读书之多。据说，《十三经注疏》中“三礼”的白文和注疏，他都能字字背出。他哲学史讲了一年，只讲了个三皇五帝。第二年改由胡适来教，他另起炉灶，先发讲义，按照自己研究的体系，从《诗经》讲起。他认为《诗经》里写训世诗的诗人们，都是真正的思想家。这样一个变动，可引起北大师生的震惊和议论。有位先生拿着胡适的讲义《中国哲学史大纲》讥笑地说：哲学史本来就是哲学大纲，说中国哲学史大纲，岂不成了大纲的大纲了吗？同学中的反应却很好。当时顾颉刚是这个班上的学生，后来他在《古史辨》序言里说：“这一改把我们一班人充满着三皇五帝的脑筋骤然作一个重大的打击，骇得一堂中舌挢不能下。”又说：“我听了几堂，听出一个道理来了，对同学说，他虽没有伯弢先生读书多，但在裁断上是足以自立的。”后来他约外系同学傅斯年（孟真）去听课，也很满意。顾说：“从此以后，我们对于适之先生非常信服。”这段故事，后来胡适有回忆。他说：当时学生说他是学术造反，想把他赶走。因为傅斯年那时在校中已经是一个力量，班上的同学就请他去听听我的课，看看是不是应该赶走。他听了几天之后，就告诉同学们说：这个人，书虽然读得不多，但他走的这一条路是对的。你们不能闹。经他这么一说，这场风波才没有闹起来。说到这里，胡适很有感慨地说：“过了十几年以后，才晓得是孟真暗地里做了我的保护人”。
1919年2月，胡适将此讲义整理成《中国哲学史大纲》（上卷）出版。是书一出，颇受学界之欢迎，不到两个月又再版一次，但仍不能满足读者的需要。他的老同学熊克武由四川来信说：“大著《中国上古哲学史》来川，购者争先，瞬息而罄。”胡适的这部书，到1930年已出第15版了，可见其影响之深远。
这部著作是以他留学美国时的博士论文《中国古代哲学方法之进化史》为基础，加工增补而成的。主要特征是以进化论为指导思想，运用实验主义的方法，打破“经学”与“子学”的界限，对各家思想，一视同仁。比如将墨子与孔子并列，这对当时独尊儒家的学术状况，无疑是一个突破。其中又说老子比孔子早等等。这些论述在当时都是比较新颖的观点，所以学术界影响很大。蔡元培在《五十年中国之哲学》一文里评论说：“距今四年前，绩溪胡适把他在北京大学所讲的《中国哲学史大纲》上卷，刊布出来，算是第一部新的哲学史。胡氏以实验哲学的眼光，来叙述批评秦以前的哲学家，最注重的是各家的辩证法（即逻辑学），这正是从前读先秦哲学书者，所不注意的。而且他那全卷有系统的叙述，也是从没有的。”这个评价代表了当时学术界的看法。冯友兰在其《三松堂自序》里也说：“蔡元培给这部书以这样高的评价，就当时学术界的水平说，并非溢美”，并称此书有“划时代意义”。再从形式上来说：是书除引文外，都是用白话文来写，而且用了新式标点符号，这在当时也算是一个革新。
书出版后，胡适送了一本给章太炎（炳麟）向他请教。章看过后，回了一信，对他的书虽有所肯定，但也提出一些批评，要他注意。信是这样写的：
适之你看。接到中国哲学史大纲。尽有见解。但诸子学术。本不容易了然。总要看他宗旨所在。才得不错。如但看一句两句好处。这都是断章取义的所为。不尽关系他的本意。仍望百尺竿头再进一步。