胡适等人没有去参加上海道衙门的考试，也没有拿到梅溪学堂的毕业证书，就回到了二哥的店里帮忙打杂。二哥经商，朋友很多，胡适在二哥的店里经常遇到他的朋友。1905年初的一天，澄衷学堂的老师白振民到二哥开的瑞兴泰茶叶店来玩。
白振民，名作霖，江苏南通人，上海南洋公学的首批师范生，他在澄衷学堂担任副教、总教、校长。白振民是胡适二哥的同学，两个人来往密切，胡适也认识他。见到同学过来，二哥非常高兴，他叫伙计泡上茶，两个人聊起天来，看到白振民的兴致很高，二哥看似随口地说：“洪骍读了梅溪学堂，想到你们澄衷学堂接着读书，你看行吗？”（洪骍是胡适的学名）。
“没问题，欢迎到我们学校学习。”白振民一口答应下来。
“不过……”二哥有些为难，他说，“洪骍没有拿到毕业证书，还能过去学习吗？”
听了这话，白振民吃惊地问：“为什么？”
二哥将胡适没有参加衙门考试的事说了出来。听了这话，白振民沉默半天，他想了想，对胡适说：“把你写的作文拿来给我看看。”胡适找出自己的作文递了过去。
白振民看完了胡适在梅溪学堂写的作文，笑了起来，他说：“你的文章写得不错，是个好苗子，你到澄衷学堂来读书吧！”
白振民告诉胡适和他的二哥，在教材的编写，考试制度和教师队伍等方面，澄衷学堂的优势非常明显。梅溪学堂的课程只有国文、算学、英文三科，教学是不完备的。澄衷学堂设置的课程比梅溪学堂多，除了国文、英文、数学以外，还有物理、化学、图画等功课。很多课程胡适都没有学过，听完后，胡适的眼睛亮了起来，他整天在二哥的店里呆着，无事可做，正在为前途发愁，听道到能在学澄衷学堂学到这么多功课，非常高兴。但很快胡适又开始犹豫了：“我的英文和数学的水平太低了，怕跟不上班里的功课。”
白振民鼓励胡适，没关系，跟不上高年级，跟着低年级学就行。你的国文功底很好，只要有兴趣，肯下功夫学习，数学并不难学。白振民打消了胡适的顾虑，他决定到澄衷学堂学习。从此，胡适的学习生活迎来了新的起点。
1905年2月，胡适来到上海的澄衷学堂就读。澄衷学堂建于1900年，这所学校是由清末著名实业家，宁波富商叶澄衷先生自掏腰包，捐款捐地创办的一所新式学堂。从1905年的春天到1906年的秋天，胡适在澄衷学堂学习了大约一年半的时间。多年以后，胡适写了一篇《敬贺母校卅五周年纪念》，他说：“我离开澄衷整整30年了，但我现在回忆起那一年半的光阴，还觉得那是我幼年最得益的时期。”来到学校后，胡适被编在东三斋第五班，相当于中学一年级上学期。
胡适在这里遇到了很多同学，例如竺可桢、张美品、锦城、郭虞裳、俞颂华等，那时的他们都非常优秀，后来也都学有所成，是不同行业的骨干力量。
澄衷学堂的管理非常严格，每月都有月考，每年都有大考。第一次参加月考的时候，胡适的压力很大，他知道自己的实力不行，便想着奋起直追，经常在宿舍熄灯后，偷偷地从**爬起来，点上蜡烛。蜡烛的光线昏暗，灯心摇摇晃晃的，胡适就借助这微弱的亮光开始做数学题。半夜三更，同宿舍的锦城一觉醒来，看见胡适还没有睡觉，连忙催他快点睡觉，胡适害怕影响到他的休息，连忙答应马上就睡觉。胡适嘴里说着，但他依旧拼命地在做数学题，没有停下来的意思。正是由于这样的努力，胡适进步的很快，名次也在不断地上升，月考的成绩张榜公布，胡适的名字排在第一位。大考的时候，胡适的名字依旧排在第一位。
三哥的死，对胡适的刺激很大，在乡下的母亲经常托人给胡适带信，嘱咐他一定要多注意身体。所以胡适除了努力学习之外，还非常注意锻炼身体，很重视体育课。
1905年的下半年，胡适升入了东二斋的第三班。
胡适认为，澄衷学堂的老师对他的人生产生了很大的影响，其中影响最大的老师是杨千里先生。杨千里，名天骥，江苏吴县人，清光绪二十八壬寅优贡。他的思想先进，参与了营救章太炎等人的行动。杨千里积极倡导舆论自由，曾经和他的父亲杨粹卿一起写了《满夷猾夏始末记》这本书，对清廷残民的罪行进行了控诉。还曾经和几个朋友一起资助革命宣传家邹容出版《革命军》这本书，参与营救进步青年等行动。1904年，杨千里到澄衷学堂担任了国文教员。
杨千里思想新锐，看问题的目光长远，是学堂中非常受欢迎的一位老师。胡适的国文底子好，所以他最喜欢上的就是国文课。杨千里是个新派的教师，他不仅在教学和阅读中拓展学生的新知识，新视野，还在作文训练中锻炼学生的分析能力和创新思维。第一天上新课，杨老师说起了《天演论》，他对学生说，你们下课后，读一下《天演论》，写一篇作文，题目是“物竞天择，适者生存，试申其义。”以前胡适就经常听二哥和别人提起这本书，现在找到这本书后，感觉很亲切，于是，就认真地读了起来。
因为年龄小，阅历尚浅，大家的能力有限，写这样具有富有哲理的文章很吃力。但胡适写的非常投入，很快就写完交上卷子。他在不到800字的作文里，针砭时弊，慷慨陈词，呈现出了开阔雄浑的言辞和严丝合缝的推理，表现出了强烈的家国情怀和忧患意识。读了胡适的作文，杨千里很吃惊，他非常赏识胡适的思想和才情，给了胡适作文很高的评价，说胡适的作文“富于思考力，善为演绎文，故能推阐无遗”，还赏给胡适一些钱，表示对他的奖励。
一个周日的早上，胡适住在店里，他对二哥说，想取一个表字，想了很多字，都不太满意，你帮我想一个字。正在洗脸的二哥，听了胡适的话，想了想说，你是该取个表字了，现在都在讲物竞天择，适者生存，你就用适字吧。听了二哥的话，胡适想着自己正在读《天演论》，他很赞成“物竞天择，适者生存”这句话，另外，二哥的字是绍之，三哥的字是振之，自己的字是适之，非常合适。想到这里，胡适立刻就高兴地答应了。
杨千里因材施教，他了解每个学生，因为澄衷学堂是根据学生的英文水平进行分班的，所以班里学生的国文程度差别很大。杨千里在教学中，又根据学生的国文水平，把他们分成三组：甲组读饮冰室文；乙组读粹化新编；丙组读春风馆国文教科书。学生当中，乙组和丙组的人数最多，只有胡适和另外的三个人分在了最高级别的甲组。胡适在甲组读的是饮冰室文，也就是梁启超的著作。胡适对梁启超的文字非常入迷，他读了梁启超在1902年和1903年写的书，转眼就成了梁启超的信徒。
胡适说“梁先生的文章明白晓畅之中，带着浓挚的热情，使读的人不能不跟着他走，不能不跟着他想……他引起了我们的好奇心，指着一个未知的世界叫我们自己去探寻，我们更得感谢他”。
梁启超“新民说”中的文章，打开了胡适的眼界。他知道了在中国之外，也有其他的民族和文化。以前，胡适只知道四书五经这类的学术思想，读了梁启超《中国学术思想变迁之大势》之后，胡适才知道中国还有其他的学术思想。梁启超的学术著作对胡适产生了直接启迪，也产生了深远的影响。后来胡适对张美品说，在梁先生的计划中，这本书还有三个紧要的部分，可惜他没有写完。
张美品笑着问他，是不是想狗尾续貂？胡适不好意思地说，确实有想为其补全的念头。自从有了这个想法后，胡适的枕头旁边就放了很多周秦诸子的书。在杨千里的帮助下，胡适阅读了大量梁启超的作品，这些作品对胡适的思想启蒙产生了很大的影响。胡适说：“予幼嗜小说，惟家居未得新小说，惟看中国旧小说，故受害滋深，今日脑神经中种种劣根性皆此之由”。