胡适在北大除教课外，仍积极从事于文学革命的活动。那时，陈独秀主编的《新青年》是宣传新文化的主要阵地，而胡适在回国前，早已与它发生联系了。1916年9月他第一次在《新青年》2卷1期上，发表翻译小说《决斗》一文，后来又连载了他的《藏晖室日记》。1917年1月发表的《文学改良刍议》，曾轰动一时。之后，他的白话诗，接踵而出，令人耳目一新。所以胡适还未回国，他的名声也就很响亮了。后来回国到北大，很快与蔡元培、***、章士钊、钱玄同、刘半农、高一涵、刘文典、陶孟和、朱希祖、周作人、沈尹默等人熟习起来。由于他的性情比较平和，又善于交际，因此，虽是初来乍到，人缘还是很好的。林语堂曾把他比做一块肉，而把梁漱溟比做骨头，可以想见胡适为人处事比较柔和有弹性。胡适进北大初期，生活上与高一涵、陶孟和较为接近，有时也常到章士钊家去玩。至于说到文学革命的朋友们，那就要数“卯字号”的人物了。所谓“卯字号”，是指当时景山东街北大文理科的教员预备室，一个人一间。那时，许多教授都聚集在这里，如钱玄同、朱希祖、刘文典、沈尹默、马裕藻等人，其他常到的有陈独秀、刘半农；胡适当然算一个。因为陈独秀与朱希祖是己卯年生的，而胡适与刘半农、刘文典则是辛卯年所生。这就是北大“两个老兔子、三个小兔子”的来历。他们常在此议事，故称此地为“卯字号”。胡适与陈独秀是这里面的中坚人物。
1918年1月他正式加入《新青年》的编辑工作，与陈独秀、钱玄同、高一涵、***、沈尹默等人，轮流负责编辑，从此《新青年》完全改用白话文刊出。在第一期里胡适发表了《归国杂感》，谈他回国后的见闻和感想，结论是：“7年没见面的中国还是7年前的老相！”所见的怪现象，最普遍的是“时间不值钱”。最后还是肯定了一点说；“我以为这20年来中国并不是完全没有进步，不过惰性太大，向前三步又退回两步，所以到如今还是这个样子。”这篇文章很重要，后来他的文化思想发展，其根苗都是在这里面，尤其是这个“惰”字。从第二期开始，每期都登载着胡适、沈尹默、刘半农等人的白话诗，风气大开，很受时人的注意。后来胡适将回国前后所作的白话诗集中起来，于1920年春出版，题为《尝试集》。钱玄同为之作序。钱原是章太炎的学生，讲古文字学的专家，与黄侃同为章门弟子。不过后来分道扬镳，黄攻击新文学不遗余力，而钱则竭力维护、鼓吹之，此时胡适请钱作序很有意义。钱在序中说：“适之是中国现代第一个提白话文学——新文学——的人。我以前看见适之作的一篇《文学改良刍议》，主张作诗作文不避俗字；现在又看见这本《尝试集》，居然就实行白话来作诗，我对于适之这样‘知’了就‘行’的举动是非常佩服的。”又说：“适之这本《尝试集》第一集里的白话诗，就是用现代的白话达适之自己的思想和感情，不用古语，不抄袭前人诗里说过的话。我以为的确当得起‘新文学’这个名词。”其中他特别提到《人力车夫》等篇，写得极其自然。现将此诗录之于下：
警察法令，18岁以下，50岁以上，皆不得为人力车夫。
“车子！车子”车来如飞。
客看车夫，忽然心中酸悲。
客问车夫，“你今年几岁
拉车拉了多少时？”
车夫答客，
“今年十六，
拉过三年车了，
你老别多疑。”
客告车夫，“你年纪太小，
我不坐你车。
我坐你车，
我心惨凄。”
车夫告客，
“我半日没有生意，
我又寒又饥。
你老的好心肠，
饱不了我的饿肚皮，
我年纪小拉车，
警察还不管，
你老又是谁？”
……
这是一首记事诗。真实的感情，淳朴的语言，对当时军阀统治下的黑暗社会，作了有力的控诉，诗很有感染力。可见胡适经过几年的亲身尝试，与沈尹默、刘半农等合作，终于开拓了一条新诗的道路，为现代文学新诗的创作，奠定了基础。
胡适还积极参与了文字改革工作。他回国后不久即被教育部下属的“国语研究会”聘为该会的会员。当时国语会以蔡元培为会长，成员有钱玄同、黎锦熙、陈懋治、彭清鹏等人。他们提出“国语统一”（即规定标准语）、“言文一致（即普及白话文）”的主张，但却没有找到一种“标准的国语”来进行统一，因此感到苦闷。这时胡适提出一个意见，他认为要有“标准国语”必须先有用这种语言所写的第一流小说。因为人们写作不是先去查字典，然后才来写作的，所以他说：标准不是从字典里找出来的，而是从一些不朽的小说里面自然形成的。不可能先有“标准”，然后才有“国语”，相反的是先有“国语（白话）文学”，其后才会产生“标准国语”的。根据这一认识，他于1918年春写了《建设的文学革命》一文，登在《新青年》（1918年4月）上。在这篇文章里，他说：“我的《建设新文学论》的唯一宗旨只有十个大字：‘国语的文学，文学的国语’。我们所提倡的文学革命，只是要替中国创造一种国语的文学（即白话文学）。有了国语文学，方才可有文学的国语。有了文学的国语，我们的国语才可算得真正国语。”胡适的意思是要先创作国语的小说、诗歌、戏曲；这些就是普通话的好教师了。因此当社会有了国语文学，我们自然就有了文学的国语了。他又举例说：自从施耐庵以来，很有了一些极风行的白话文学，何以至今还没有一种标准的国语呢？原因是没有一个人出来大胆地主张用白话为中国的“文学的国语”。所以我们今日提倡国语文学，是有意的主张，要使国语成为“文学的国语”，有了文学的国语，才有标准的国语。是文发表后，很受国语会的同人们的欢迎。一些好学的青年也不再以没有“标准的国语”而发愁了。他们就用白话小说及民众的语言来作诗作文。这年北大学生傅斯年、罗家伦等，在《新潮》杂志出版时，完全采用白话文，这批新生力量的加入，对文字改革工作，是一个有力的支持和推动。胡适一直很热情地参与了这项工作。后来教育部举办“国语讲习所”，每届他都应邀去作学术讲演。1921年夏，他在8星期之内编了15篇讲义，到第三届“国语讲习所”去讲演。当时讲的课程是国语文学史。第一讲是我为什么要讲国语文学史？第二讲古文是何时死的，三讲是汉朝的平民文学……最后一讲是南宋的白话文。之后他曾修改过，也到其他地方讲过。1928年他整理成册，并定名为《白话文学史》上卷，在上海新月书店出版。他在序言中说：“白话文学史就是中国文学史的中心部分。中国文学史若去掉了白话文学史的进化史，就不成中国文学史了。”可见其对白话文之重视，又如他说：一切新文学的来源都在民间。这些观念之新颖，在当时是出类拔萃的。
1918年3月胡适被邀在北师大讲《论短篇小说》。他说：“中国今日文人大概不懂‘短篇小说’是什么东西。”接着介绍了法国都德的短篇小说《最后一课》，并作了具体分析，说明短篇小说是“用最经济的文学手段，描写事实中最精彩的一段或一方面，而能使人充分满意的文章”。同时也举了中国古代的一些短篇小说，如《列子》、《庄子》等书中的例子，来加以论证。最后他说：世界文学的趋势是由长到短、由繁多趋向简要，而我国今日文学最不讲经济，只会写“某时、某地、遇某人，毫不懂状物写情”。为救此病，不可不提倡真正的“短篇小说”。他这篇讲话，后来登在《北京大学日刊》上，对“五四”前后短篇小说的繁荣与创作，有促进作用。后来，他亲自尝试写了一篇《差不多先生传》，于1919年2月在《新生活》第二期上发表。文章开头说：
你知道中国最有名的人是谁？提起此人，人人皆晓，处处闻名；他姓差，名不多，是各省各县各村人氏。你一定见过他，一定听过别人谈他。差不多先生的名字，天天挂在大家的口头，因为他是中国全国人的代表。
差不多先生的相貌，和你和我都差不多。他有一双眼睛，但看得不很清楚；有两耳朵，但听得不很分明；有鼻子和嘴，但他对于气味和口味都不很讲究；他的脑子也不小，但他的记性却不很精明，他的思想也不细密。
他常常说：“凡事只要差不多就好了，何必太精明呢？”
他小的时候，他妈妈叫他买红糖，他买了白糖回来。他妈妈骂他，他摇摇头说：“红糖、白糖，不是差不多吗？”
他在学堂的时候，先生问他：“直隶省的西边是那一省？”他说是陕西。先生说：“错了。是山西，不是陕西。”他说：“陕西同山西，不是差不多吗？”
后来他在一个钱铺里做伙计。他也会写，也会算，只是总不会精细；十字常写成千字，千字常写成十字。掌柜的生气了，常常骂他。他只笑嘻嘻地赔小心（道歉）道：“千字比十字只多一小撇，不是差不多吗？”
有一天，他为了一件要紧的事，要搭火车到上海去：他从从容容地走到火车站，迟了两分钟，火车已经开走了。他白瞪着眼，望着远远的火车上的煤烟，摇摇头道：“只好明天再走了，今天走同明天走也差不多；可是火车公司未免太认真了，八点三十分开，同八点三十二分开，不是差不多吗？”他一面说，一面慢慢地走回家；心里总不很明白，为什么火车不肯等他两分钟。……
差不多先生差不多要死的时候，一口气断断续续地说道：“活人同死人也差……差……差……不多，凡事只要……差……差……不多……就好了，何……必……太……太认真呢？”他说完了这句“格言”，就断了气。
他死后，大家都很称赞差不多先生，样样事情看得破，想得通，大家都说他一生不肯认真，不肯算账，不肯计较，真是一位有德行的人。于是大家给他取个死后法号，叫他做圆通大师。
他的名誉越传越远，越久越大，无数无数的人，都学他的榜样。于是人人都成了一个差不多先生。——然而中国从此就成了一个懒人国了。
胡适在这篇小说里，塑造了一个办事马马虎虎，毫不认真的艺术形象。这位“差不多先生”很可笑，似曾相识，但又未见过面。文章对当时社会上普遍存在“惰性太大”的不良现象，进行了批判，希望唤起人们的觉悟，这是值得深思的。是文在解放前曾广为流传，有历史意义，是胡适的一篇代表作。