在蔡元培任职期间，北大真正确立了现代意义上的管理体制和教学体制。蔡元培很欣赏胡适的学识，对他的改革建议言听计从，并对胡适委以重任，让他施展才华。1918年，胡适要出版新书《中国哲学史大纲》，请蔡元培作序。蔡元培欣然同意，他在序中说：我们今日要编中国古代哲学史，有两层难处。第一是材料问题：周秦的书，真的同伪的混在一处。就是真的，其中错简错字又是很多。若没有做过清朝人叫做“汉学”的一步工夫。所搜的材料必多错误。第二是形式问题：中国古代学术从没有编成系统的纪载。我只盼望适之先生努力进行，由上古而中古，而近世，编成一部完全的《中国哲学史大约》，把我们三千年来一半断烂、一半庞杂的哲学界，理出一个头绪来，给我们一种研究本国哲学史的门径，那真是我们的幸福了！
在序言中，蔡元培声称胡适是绩溪三胡之后，有汉学正宗的遗传，“禀有‘汉学’的遗传性”。胡适并不是汉学家绩溪三胡的后人，蔡元培明显犯有常识性的错误，但也有可能是蔡元培受到了胡适的误导。胡适自己不敢以三胡之后自居，但他可以用各种方法向蔡元培等人暗示自己是徽州三胡之后，因为谁也不会去查证这件事的真假。后来蔡元培这个绩溪三胡之后的说法，又被梁启超等很多人接受。所以，梁启超在《清代学术概论》中也说胡适“用清儒方法治学，有正统派遗风”。胡适不主动纠正这个错误，说明了胡适在北大不自信，也说明了胡适好名，他想给人们留下中西兼通和新旧融合一炉的形象。
1917年12月，北大成立哲学研究所，胡适被任命为主任。1922年4月19日，胡适当选为北大教务和英文学系的主任。从1918年10月下旬开始，胡适当选为北大评议会评议员，这是校内的最高立法机构和权力机构，参与学校的管理。胡适没有辜负蔡先生的期望，在参与学校的各种机构和事务中，出谋划策，独当一面。
1919年10月，胡适发表《大学开女禁的问题》，主张在北大收女生旁听，作为正式招收女生的过渡，并呼吁社会改革女子的教育。
胡适说：我是主张大学开女禁的。我理想中的进行次序，大略如下：第一步大学当延聘有学问的女教授，不论是中国女子是外国女子，这是养成男女同校大学生活的最容易的第一步。第二步，大学当先收女子旁听生。第三步，女学界的人应该研究现行的女子学制……我虽是主张大学开女禁的，但我现在不能热心提倡这事。我的希望是要先有许多能直接入大学的女子。现在空谈大学开女禁，是最没有用的。
蔡元培一向主张男女平等，他对胡适的提议非常赞同。1920年1月，蔡元培宣布：“如北京大学明年招生时，倘有程度相合之女学生，尽可投考。如程度及格，亦可录取也。”
很快，北京女子师范生王兰请她的哥哥北大学生王昆仑、恳请蔡校长准许她到北大听课。2月，三名女学生王兰、奚浈和查晓园被录取为旁听生。此后其他六名女学生也被录取了。据顾颉刚说，在宣布录取最早的三名女学生那天，同学把载有女生姓名的《北京大学日刊》一抢而空，连他自己的都被强买了去。
北大录取三名女旁听生的事情在全中国引起了轰动，这从当时两部重要的小说——茅盾的《虹》和巴金的《家》中就可以看出。各地的报刊都报导了这件事。1920年7月，《少年中国》上发表了一篇北大学生徐彦之的长文。他不仅探讨了导致北大最终决定招收女生的运动，还采访了几位最早被录取的女旁听生，请她们讲讲自己的故事。
她们说自己此前上的学校所能提供的教育非常有限，而当听说北京大学开始招收女学生时都感到无比激动。其中一些人甚至以女界先锋自居。查晓园说：“这回北京大学收了我们这九个女生，可算为中国的男女同校开辟了一条大道的起点。”
除此之外，胡适还积极的帮助北大招收人才，增强北大的师资。蔡元培说胡适：“整顿英文系，因得胡君之介绍而请到的好教员颇不少。”1920年的夏天，陈衡哲回到国内，胡适推荐她到北大任教，陈衡哲也因此成了北大的第一位女教授。
1914年，陈衡哲留美学习，就读于芝加哥大学历史系，研究领域为西洋史，获硕士学位。毕业后，陈衡哲回到祖国，受聘于北京大学，主要讲授西洋史，后则任职于商务印书馆、东南大学、四川大学。陈衡哲学术研究成果颇为丰富，写成《文艺复兴史》、《西洋史》等论著，至今仍是许多高校学生学习西洋史之重要读物。
后来，胡适在促进北大英语教学和对外学术交流方面，也发挥了重要的作用。胡适在给母亲的信中说过：“哥伦比亚大学哲学教师杜威先生在此邦，乃哲学泰斗，故儿欲往游其门下也。”1919年2月，杜威在日本游历讲学，陶行知给胡适写信，告诉他：如能借此将先生请到中国，就再好不过了，胡适接到信后立即着手操办此事。1919年4月30日，在陶行知和胡适的建议下，北大等单位邀请美国著名的学者杜威来华讲学。杜威来到中国后的第四天，“五四”运动爆发了。杜威充分肯定学生运动，他在《教育哲学》中明确指出：“学生运动可以表示一种新觉悟：就是学校教育是社会的，他的贡献不但对于本地、对于小群，还能对于大群、对于国家。”
杜威到达中国后，胡适等人陪同他到北京、天津、济南等地讲学。多次陪同他进行翻译。在杜威回美国之后，胡适一直和他保持联系。
1919-1922年期间，胡适在多篇文章中比较系统地介绍了杜威教育思想的哲学基础。他翻译了杜威的主要著作，胡适的翻译非常好，使得杜威的思想能被更多的人理解接受。
1921年10月27日，胡适校内开设《杜威著作选读》课，原计划有三十人听课，上课时竟然来了六十多人。胡适在杜威思想的基础上，提出了“大胆地假设，小心地求证”的研究方法。后来，北大请外人来校讲演或讲学，也是由胡适亲自担任翻译。胡适的口译，语言流畅准确，效果非常好。